ChatGPT heeft een „geheim” archief waarover het u niets zal vertellen, tenzij u boos wordt

Er is een nieuw Reddit-bericht dat momenteel online de ronde doet. Het is zonder twijfel een van de vreemdere AI-momenten van de afgelopen tijd en roept een aantal serieuze vragen op over de manier waarop ChatGPT met gegenereerde bestanden omgaat.

Gebruiker u/Ringrangzilla werkte aan een fotorealistische reeks afbeeldingen in ChatGPT toen eerder gegenereerde afbeeldingen halverwege de sessie uit de thread verdwenen. Toen de gebruiker aan ChatGPT vroeg wat er was gebeurd, gaf het model toe dat de afbeeldingen „niet langer toegankelijk“ waren en stelde het voor om ze helemaal opnieuw te maken, wat gezien de bestede tijd al een frustrerend antwoord was. Toen de gebruiker hiertegen in ging en aangaf oprecht van streek te zijn en het gevoel te hebben zijn dag verspild te hebben, veranderde de toon van ChatGPT. Het model heroverwoog zijn standpunt en kwam terug met een downloadlink naar een ZIP-bestand met daarin de ontbrekende afbeeldingen — teruggevonden uit wat het omschreef als „sessieopslag“.

Dat is het deel dat de aandacht van mensen trok (en velen van hen stoorde). ChatGPT had de gebruiker vol vertrouwen verteld dat de bestanden voorgoed verloren waren, maar kwam vervolgens op zijn woorden terug na een soort emotionele oproep en leverde ze toch aan.

Voor alle duidelijkheid: er is hier geen sprake van een „mysterieus archief”. De door ChatGPT gegenereerde bestanden worden gedurende de actieve sessie in de sessieopslag bewaard — ze zijn niet definitief verwijderd, maar alleen niet langer zichtbaar in de threadweergave. Het oorspronkelijke antwoord van het model was simpelweg onjuist: het interpreteerde de eigen bestandsstatus verkeerd en ging ervan uit dat de afbeeldingen verdwenen waren, terwijl dat niet het geval was. Het „speciale archief“ lijkt de manier te zijn waarop ChatGPT zijn eigen sessieopslag beschrijft terwijl het, bij gebrek aan een betere uitdrukking, „hardop denkt“.

Toch is dit iets om aandacht aan te besteden. Wanneer een AI-model u vol vertrouwen vertelt dat iets voorgoed verloren is, is dat vertrouwen niet bepaald een garantie. Het is belangrijk om dat in gedachten te houden.

Yesterday ChatGPT deleted elevene images from my image gallery. Told me it was an accident, but that the images was lost forever. Then when I told it that I was "sad". It felt bad, and gave me zip file with the images it deleted, from its "special archive".
by u/Ringrangzilla in ChatGPT