ChatGPT: Professor verliest twee jaar werk
De mogelijkheden van grote taalmodellen zoals ChatGPT hebben de manier waarop veel mensen werken veranderd. Een recent incident toont echter aan dat het gebruik van deze tools risico's met zich mee kan brengen. Professor Marcel Bucher van de Universiteit van Keulen verklaart dat hij twee jaar academisch werk is kwijtgeraakt door een eenvoudige wijziging in de instellingen - subsidieaanvragen, lesmateriaal en concepten voor publicaties waren plotseling verdwenen.
Bucher was blijkbaar van plan om de optie uit te schakelen die het mogelijk maakt om gegevens te gebruiken voor modeltraining. Volgens zijn verklaringresulteerde deze actie in het wissen van zijn hele chatgeschiedenis. In een artikel gepubliceerd in Naturebeschrijft hij hoe hij verschillende methoden heeft geprobeerd om weer toegang te krijgen tot de gegevens en chats. Pogingen om contact op te nemen met OpenAI bleken al even zinloos voor de professor. Volgens de verklaringen van de professor waren de gegevens permanent verwijderd en konden ze niet hersteld worden. OpenAI beriep zich op het principe van "Privacy by Design," wat betekent dat de gegevens spoorloos verwijderd worden. Voor Bucher is de conclusie duidelijk: "Als één enkele klik jaren werk onherroepelijk kan wissen, kan ChatGPT naar mijn mening en op basis van mijn ervaring niet als volledig veilig worden beschouwd voor professioneel gebruik."
ChatGPT heeft echter wel een back-upfunctie. De AI biedt een eenvoudige methode om alle chats en gegevens te downloaden. De optie "Gegevens exporteren" vindt u in de instellingen onder "Gegevensbeheer" Na enkele ogenblikken of uren wordt via e-mail een downloadlink naar een ZIP-bestand met alle opgeslagen informatie verzonden. Afhankelijk van het volume van de gegevens die in ChatGPT zijn opgeslagen, kan het compileren van het archief enige tijd duren. Zodra de e-mail is verzonden, blijft de downloadlink 24 uur geldig. Back-ups zijn een integraal onderdeel van het werken met computers en mogen waarschijnlijk ook niet worden verwaarloosd bij het gebruik van AI-tools.
Het beschreven scenario kon niet worden gerepliceerd in een recente zelftest. Bij het deactiveren van gegevensdeling voor trainingsdoeleinden bleven bestaande chats onaangeroerd en toegankelijk. Bij het selecteren van de optie om alle chats te verwijderen, kwam er een expliciete waarschuwing die om bevestiging vroeg. Aangezien het gegevensverlies , beschreven in Nature in augustus plaatsvond, kan OpenAI sindsdien aanpassingen aan de gebruikersinterface en beveiligingsmechanismen hebben doorgevoerd om onbedoeld wissen te voorkomen.
