😨 o hai, is het een robot waar ik mee spreek? Google toonde onlangs een demo van een nieuw product, Google Duplex. Het is volgens geek.com eindelijk een nuttig gebruik van AI. Het wordt een assistent die namens jou telefoontjes kan plegen om bijvoorbeeld een restaurantafspraak te maken. Ofwel een robot die een natuurlijk gesprek kan voeren met een echt mens via de telefoon. En getuige het gelikte demofilmpje lijken de conversaties daadwerkelijk door twee humans gevoerd te worden. De zaal vol met van het Google evangelie overtuigde developers barst dan ook ten overstaan van een breed lachende CEO Sundar Pichai uit in gejuich na de geslaagde kappersafspraak. En kijk verder naar de tweede afspraak die “niet helemaal gaat zoals verwacht”. Ook netjes afgehandels. Applaus. Ik zat eerlijk gezegd nogal te schuiven op m’n stoel: zeer ongemakkelijk dat tech al zo ver is gekomen. En dat vrijwel iedereen lyrisch is. Maar intussen zit er een robot, die ‘ehm’ en ‘hm-hm’ in het gesprek stopt om maar menselijk over te komen, een echt mens te bedriegen. Want wat is deze conversatie anders. Zou jij het leuk vinden wanneer je bij de kapsalon werkte en niet weet of je met een robot praat? De altijd scherpe Zeynep Tufekci gaat er in dit twitter draadje dieper op in.
Ook kwam een recent interview met Yuval Harari in gedachte. Daar geeft hij aan dat we met technologie weliswaar heel veel kunnen, maar niet alles doen. We zouden zomaar een goed werkend systeem van menselijke orgaanfabrieken in arme landen kunnen opzetten. Nooit meer een organentekort en de donorwet kan meteen in de prul. Maar goed, we doen het niet want ethiek. Naar mijn bescheiden mening vergeten alle enthousiastelingen bij Google Duplex ook de ethiekcomponent. Je zou zoveel foute dingen kunnen doen met het massaal kunnen bellen en beïnvloeden van mensen via de telefoon dat je over zoiets als dit niet eens na zou moeten denken. Helaas is het tech-utopisme zo sterk dat bijna iedereen een tech als deze vooral erg interessant vindt. Ik vind het vooral slim van Google hoe ze zoiets aankondigen, met een gelikte en neem ik aan tevoren gescript en voorbereid gesprek. Natuurlijk is het handig, maar op deze manier halen we nog meer conversatie uit ons leven. Praten is niet meer nodig, onze robot regelt alles. The Matrix is letterlijk niet ver meer op deze manier. Onze bot gaat natuurlijk niet meer met een echte restaurantmedewerker spreken, die is namelijk zojuist ontslagen, want Duplex.
Ofwel dit is wat er werkelijk gebeurt:
- een robot belt onaangekondigd met een mens (bedrog)
- neemt ongemak weg bij de beller (maar ontmenselijkt daarmee feitelijk de gebelde)
- het gesprek wordt verwerkt door Google, die er eigenaar van zal worden
- Google’s eigen algoritmes kunnen hierdoor nog beter worden
- ofwel Duplex is ronduit creepy technologie die je niet zou moeten willen
Dit is dus waar tech ons heenvoert: een assistent om lastige telefoongesprekken te vermijden. Zo halen we langzaam alle irritaties en ongemakken uit ons leven weg en hoeven we alleen nog maar met de (bekogelde!) Google bus naar ons werk, om ’s avonds naar het telescherm te staren. Voor mij hoeft dat niet. Mijn streven is niet om ongemakken uit de weg te ruimen, maar om werkelijk mens te zijn. Ik raadpleeg nog maar eens een oude denker over doorgeschoten technologiefantasieën. Kierkegaard en de Tocqueville blijken vaak verrassend heldere inzichten te hebben die vandaag de dag nog even relevant zijn als bijna tweehonderd jaar geleden. Een samenleving gebaseerd op individuen die hun eigen ding doen is geen samen-leving, maar is eenzaam leven.