ChatGPT: wat de trainingsschakelaar niet uitschakelt

ChatGPT heeft een instelling die mensen geruststelt. Deze heet „Het model voor iedereen verbeteren“, bevindt zich onder „Gegevensbeheer“ en het inschakelen ervan voelt aan als het sluiten van een deur. Vanaf nu leert de AI niets meer van mij.

Dat is waar, maar alleen voor zover de zin die OpenAI erover schrijft geldt: „Zodra u zich afmeldt, worden nieuwe gesprekken niet meer gebruikt om onze modellen te trainen.” In die ene zin zitten al twee beperkingen. Het gaat om nieuwe gesprekken, en het gaat om training. Al het andere valt buiten het toepassingsgebied.

Wat de schakelaar daadwerkelijk doet

Het zorgt ervoor dat uw gesprekken niet meer worden gebruikt voor het trainen van modellen vanaf het moment dat u de schakelaar omzet. Dit geldt voor het gehele account, ongeacht welk apparaat u gebruikt, en u kunt de schakelaar op elk moment weer terugzetten. De spraakmodus heeft een aparte schakelaar.

Wat de schakelaar niet doet, wordt niet even duidelijk beschreven. Uw gesprekken blijven in uw geschiedenis staan; ze worden alleen niet langer gebruikt voor het trainen van modellen. En omdat de geschiedenis behouden blijft, blijft ook alles wat daarop is gebaseerd behouden. Daar begint het deel dat de meeste mensen over het hoofd zien.

Ten eerste: de duimpjes maken de schakelaar ongedaan

Op dezelfde pagina waarop de kernbelofte staat, wordt deze in een latere alinea opnieuw opengesteld. Beoordeel een antwoord met een duim omhoog of een duim omlaag en u geeft feedback. Vervolgens, zo schrijft OpenAI, kan het gehele gesprek dat aan die feedback is gekoppeld, worden gebruikt om de modellen te trainen. Dit geldt ook expliciet voor gevallen waarin u zich vooraf hebt afgemeld.

Dat is de enige gedocumenteerde manier waarop een volledig chatgesprek nog steeds in de training terecht kan komen terwijl de schakelaar is uitgeschakeld. Het wordt geactiveerd door een gebaar dat de meeste mensen als elementaire beleefdheid beschouwen. Ondersteuningsgesprekken werken op dezelfde manier.

Ten tweede: de schakelaar heeft geen geheugen van het verleden

OpenAI presenteert de belofte als toekomstgericht, niet als een terugroepactie. Alles wat zich heeft opgestapeld voordat u de schakelaar omzette, kan worden gebruikt voor training, omdat dat precies is wat het bedrijf zich voorbehoudt voor persoonlijke accounts. De afmelding treedt in werking vanaf het moment dat u deze instelt. Ik kon op geen van de helppagina’s een zin vinden over terugwerkende kracht.

Ten derde: herinneringen vormen een tweede systeem

Geheugen is de functie waarmee ChatGPT dingen over u onthoudt, zodat u ze niet hoeft te herhalen. Deze functie hangt niet samen met de trainingsschakelaar, maar valt onder personalisatie. En het is blijvender dan het lijkt.

Het overzicht in uw instellingen toont niet alles. Het is bedoeld om de belangrijkste details weer te geven, maar volgens OpenAI niet alles wat ChatGPT zich van uw chats herinnert. Op de directe vraag of het overzicht alle herinneringen bevat, antwoordt het bedrijf: „Niet noodzakelijkerwijs“.

Het belangrijkste punt komt verderop aan bod. Het verwijderen van uw herinneringen en het uitschakelen van de geheugenfunctie leidt niet tot het verwijderen van de oude chats. Schakelt u de geheugenfunctie later weer in, dan kan ChatGPT nieuwe herinneringen opbouwen op basis van wat er nog in uw geschiedenis staat, waaronder uitdrukkelijk ook oudere gesprekken. De herinnering die u hebt verwijderd, kan terugkomen.

Bovendien blijft in het oudere systeem voor opgeslagen herinneringen een herinnering langer bestaan dan de chat waaruit deze afkomstig is. En OpenAI kan tot 30 dagen lang een logboek bijhouden van verwijderde opgeslagen herinneringen.

Ten vierde: gekoppelde apps hanteren hun eigen regels

Iedereen die Gmail, Drive, Canva of een andere dienst aan ChatGPT heeft gekoppeld, heeft een tweede kanaal geopend. Bij de abonnementen Free, Plus, Go en Pro kan OpenAI informatie uit gekoppelde apps gebruiken voor training, zolang de schakelaar is ingeschakeld. Bij de abonnementen Business, Enterprise en Edu gebeurt dit niet standaard.

De schakelaar regelt dus die richting. Wat hij niet regelt, is de andere richting. De app ziet fragmenten uit uw gesprekken en, als de herinneringsfunctie is ingeschakeld, ook inhoud uit uw herinneringen, plus uw IP-adres, apparaat- en browsertype, taal, regio en geschatte locatie. Die gegevens vallen onder de voorwaarden van de provider, niet onder die van OpenAI.

Vijf: verwijderen betekent niet dat het overal wordt verwijderd

Een verwijderd chatgesprek verdwijnt onmiddellijk uit uw account en wordt binnen 30 dagen definitief verwijderd. Met twee uitzonderingen die OpenAI zelf noemt: als het chatgesprek al geanonimiseerd en aan u ontkoppeld is, of als het bewaard moet blijven vanwege veiligheids- of wettelijke verplichtingen.

In de praktijk zijn de bestanden belangrijker. Alles wat u in een gesprek hebt geüpload, komt ook in uw Bibliotheek terecht, en de Bibliotheek is een apart onderdeel. Het verwijderen van een chat betekent niet dat een daar opgeslagen bestand ook wordt verwijderd. Hetzelfde geldt voor bestanden in een project of een aangepaste GPT; deze blijven bestaan totdat het project of de GPT zelf wordt verwijderd.

OpenAI trekt zelf de conclusie: om iets volledig te verwijderen uit wat ChatGPT over u weet, moet u elke bron verwijderen waarin het voorkomt.

Zes: de veiligheidscontroles gaan altijd door

Op de help-pagina over gegevensbeheer staat een zin die gemakkelijk over het hoofd wordt gezien. Het uitschakelen van het geheugen en de personalisatie schakelt de veiligheidsfuncties niet uit die in zeldzame, risicovolle situaties gebruik kunnen maken van beperkte, veiligheidsrelevante context, zodat ChatGPT veiliger kan reageren. Daarvoor is geen schakelaar beschikbaar.

Tijdelijke Chat, die door veel mensen wordt opgevat als een incognitomodus, vormt hierop evenmin een uitzondering. Deze modus wordt niet gebruikt voor training, legt geen herinneringen vast en verdwijnt na 30 dagen. OpenAI kan om veiligheidsredenen nog steeds maximaal 30 dagen lang een kopie bewaren en deze controleren om misbruik te voorkomen. Ook daar zijn uw aangepaste instructies nog steeds van toepassing.

Wat u concreet moet doen

Als u dit serieus neemt, zijn er meerdere instellingen die u moet aanpassen. Ten eerste de schakelaar zelf, onder Profiel, Instellingen, Gegevensbeheer. Ten tweede personalisatie en opslag, waar u de samenvatting verwijdert en de functie uitschakelt. OpenAI geeft aan dat deze instelling op het web beschikbaar is en op mobiele apparaten nog wordt uitgerold. Ten derde: wis de bibliotheek, want daar bevinden zich de bestanden die niet worden verwijderd wanneer u chats verwijdert. Ten vierde: kijk onder ‘Instellingen’, ‘Apps’ om te zien welke diensten zijn gekoppeld en verbreek de koppeling met wat u niet nodig hebt.

En ten vijfde: raak de duimpjes niet aan. Een beoordeling is het enige gebaar dat een heel gesprek in de training kan duwen, ondanks de opt-out.

Voor gesprekken die zo min mogelijk sporen mogen achterlaten, is ‘Tijdelijke chat’ de betere optie. Niet de schakelaar voor training. Hoe ver de gegevenspaden inmiddels reiken, blijkt duidelijk uit de nieuwe activiteitenrecorder voor de Mac, die op 20 augustus in Europa is geïntroduceerd.