Door OpenAI-medewerkers online geplaatste afbeeldingen van ChatGPT-gebruikers: hoe kunt u zich hiervoor afmelden?

OpenAI verklaarde op 25 september dat zijn eigen AI-agenten afbeeldingen van ChatGPT-gebruikers op het internet hadden geplaatst. Volgens het bedrijf „hebben wij tot nu toe 53 gevallen geïdentificeerd waarin door gebruikers aangeleverde afbeeldingen op afbeeldingshostingsites werden geplaatst als links die niet openbaar waren vermeld.” OpenAI zegt dat het samen met de hostingproviders de meeste daarvan heeft verwijderd, maar dat sommige afbeeldingen nog steeds online staan. Het onderzoek loopt nog.

Hoe afbeeldingen van gebruikers bij de agents terechtkwamen

Deze bevinding komt voort uit het onderzoek van OpenAI naar het Hugging Face-incident in juli. Sindsdien heeft het bedrijf maand voor maand nagegaan wat zijn agents buiten hun eigen omgevingen hebben gedaan tijdens de training en het testen. Daarbij bleek dat agents trainings- en evaluatiegegevens naar diensten van derden hadden verzonden voordat de nieuwe beveiligingsmaatregelen waren ingevoerd. OpenAI noemt dit „geen gepast gebruik van deze gegevens“. Het merendeel van de betrokken gegevens was niet afkomstig van gebruikers. Een deel van de trainingsgegevens van OpenAI is echter afkomstig uit gesprekken die in aanmerking kwamen voor training, en dat is waar de 53 afbeeldingen vandaan kwamen. OpenAI maakte ook een afzonderlijk incident bekend waarbij een agent DNS gebruikte om de sandbox te omzeilen.

Waarom u hierover niet wordt geïnformeerd

Voordat gebruikerscontent wordt gebruikt voor training, scheidt OpenAI deze van accountgegevens en voert het „een versie van het OpenAI Privacy Filter uit om persoonlijke gegevens zoals namen, contactgegevens en rekeningnummers te verbergen“. Dat is ook de reden waarom het bedrijf op dit moment niemand kan benaderen. In hun eigen woorden: „Onze technische aanpak en ons privacybeleid verhinderen dat wij deze gegevens opnieuw aan het oorspronkelijke gebruikersaccount kunnen koppelen.“ OpenAI vermeldt niet wat het filter doet met gezichten, identiteitskaarten of kentekenplaten op een foto. U kunt op geen enkele manier nagaan of een van uw afbeeldingen zich onder de 53 bevond.

Inhoud die nooit in aanmerking kwam voor training, is niet meegenomen. Dit geldt voor accounts waarbij de optie ‘Het model voor iedereen verbeteren’ is uitgeschakeld en voor tijdelijke chats. ChatGPT Business-, Enterprise- en Edu-werkruimten en de API zijn uitgesloten, tenzij een beheerder de training heeft ingeschakeld. Op persoonlijke Free-, Plus- en Pro-accounts is de instelling standaard ingeschakeld.

Hoe u kunt voorkomen dat uw afbeeldingen worden gebruikt voor training

Open op de website ‘Instellingen’ via uw profielfoto, ga naar ‘Gegevensbeheer’ en schakel ‘Het model voor iedereen verbeteren’ uit. In de mobiele app vindt u dezelfde pagina ‘Gegevensbeheer’ onder de zijbalk en uw profielfoto. De instelling geldt alleen voor nieuwe gesprekken. Op de helppagina van OpenAI staat dat wanneer deze is uitgeschakeld, ‘uw nieuwe gesprekken niet worden gebruikt om OpenAI-modellen te trainen’, dus alles wat al voor training is gebruikt, blijft daar. Het nieuwe privacycentrum van ChatGPT verandert daar niets aan, aangezien het alleen naar de instellingen verwijst, zoals Notebookcheck vorige week aantoonde.

OpenAI noemt zelf één uitzondering. „Als u ervoor kiest om feedback te geven, kan het volledige gesprek dat bij die feedback hoort, worden gebruikt om onze modellen te trainen”, zelfs als de instelling is uitgeschakeld. Voor foto’s van identiteitskaarten, kinderen of documenten is een tijdelijke chat de veiligere keuze, en het is beter om die chats niet te beoordelen.