MIT-professor waarschuwt in nieuw boek: wat we worden wanneer we met machines praten

Een LLM kan een zin genereren als: “Dat klinkt echt heel moeilijk. Ik begrijp waarom dat je pijn heeft gedaan.” Mensen ervaren deze zin als empathisch. Maar LLM's zijn niet meelevend, ze ervaren geen emoties, ze voelen niet met ons mee — ze simuleren simpelweg empathie.

Toch zijn LLM's voor veel mensen al gesprekspartners als het gaat om menselijke en emotionele kwesties en situaties. Ze worden gebruikt als raadgever bij liefdesverdriet, om kinderen bezig te houden of zelfs om het gat op te vullen wanneer therapeutische hulp niet beschikbaar is.

In haar nieuwe boek “Artificial Intimacy: Who we become when we talk to machines” (Amazon) waarschuwt MIT-professor en socioloog/psycholoog Sherry Turkle voor de gevolgen voor de samenleving. Ze baseert haar kritiek op haar observaties en onderzoeksresultaten:

LLM's lijken geduldig te luisteren en spreken zelden tegen, terwijl ze lof en complimenten geven. Echte mensen kunnen veel veeleisender zijn, vooral als het gaat om het oplossen van emotionele conflicten; omgaan met anderen vereist vaak hard werken, net als relaties onderhouden en contact houden. Naarmate mensen hun zorgen en conflicten steeds vaker met chatbots delen en gesprekken met echte mensen vermijden, oefenen ze steeds minder met sociaal gedrag in de echte wereld en kunnen ze zelfs het vermogen verliezen om zichzelf te zien als “relationele” wezens in een diverse samenleving. Chatbots simuleren alleen empathie; ze voelen niets en zijn niet oprecht geïnteresseerd in het welzijn van degene met wie ze praten. Dat kan heel gevaarlijk zijn.

Kinderen en tieners zijn daardoor bijzonder kwetsbaar. Kinderen moeten nog leren onderscheid te maken tussen dingen en mensen, leren hoe ze sociaal met anderen omgaan, vertrouwen opbouwen en zich prettig voelen als ze alleen zijn, zodat hun eigen verbeeldingskracht zich kan ontwikkelen. Toch ervaren kinderen chatbots vaak als een echte “persoon aan de telefoon”.

Uiteindelijk gaat Turkles betoog niet alleen over AI, maar ook over onze relatie met gemak. Hoe meer technologie ons bevrijdt van ongemakkelijke situaties, hoe minder we misschien oefenen met het omgaan met die situaties. Dit geldt net zo goed voor sociale situaties als voor informatie vinden of onze eigen kennis opbouwen. Door het intensieve gebruik van LLM's zou de samenleving beide vaardigheden steeds meer kunnen verliezen. Of, zoals de auteur het verwoordt:

“We verliezen vaardigheden als relationele wezens. We verliezen ook vaardigheden op het werk. We verliezen vaardigheden in persoonlijke relaties. Dat geldt over de hele linie.”

En haar aanbeveling: wat moeten we doen? Accepteer om te beginnen dat het leven wrijving met zich meebrengt. We leren ervan, ook — of juist — omdat het moeilijk is en inspanning vereist. Wrijving is niet slecht; integendeel. We moeten het vermogen ontwikkelen om moeilijkheden te doorstaan en eraan te groeien. Als we moeilijkheden simpelweg vermijden, levert dat niets op; technologie verzwakt ons als individuen. We moeten de krachten bundelen met anderen, een tegenbeweging opzetten en de sociale aspecten van ons eigen leven versterken. Ga de wrijving van het leven aan, want het leven is wrijving!