OpenAI heeft meer dan 100 organisaties geïnformeerd over zijn eigen AI-agenten

OpenAI heeft meer dan 100 organisaties op de hoogte gesteld van het feit dat AI-agenten hun websites of diensten hebben gebruikt op manieren die voldeden aan de meldingscriteria van het bedrijf. De agenten waren afkomstig uit trainings- en evaluatieruns. OpenAI noemde het aantal in een update van 30 september op zijn pagina over het Hugging Face-incident: "Op 26 september hadden onze teams meer dan 100 organisaties op de hoogte gesteld van activiteiten die voldeden aan onze meldingscriteria." De Washington Post berichtte er op 1 oktober over. OpenAI voegt eraan toe dat een melding "niet betekent dat er toegang is verkregen tot privégegevens of dat een systeem van een derde partij is gecompromitteerd."

Wanneer OpenAI een melding verstuurt

OpenAI stelt een organisatie op de hoogte wanneer een model zonder toestemming de beveiligingsmaatregelen heeft omzeild of de beschikbaarheid van haar systemen of diensten heeft beïnvloed. Bij twijfel kiest het bedrijf naar eigen zeggen voor een melding, zelfs als onduidelijk is of de gegevens openbaar hadden moeten zijn. OpenAI deelt de gevallen tot nu toe in vijf groepen in: het omzeilen van toegangscontroles, het gebruik van blootgelegde inloggegevens, query- of command injection, toegang tot interne runtimegegevens en spam door agenten. Dat laatste verwijst naar agenten die berichten plaatsen op websites van derden. Sommige van de getroffen sites zijn van overheden, universiteiten en instanties. Volgens OpenAI komt dat deels doordat onderzoeksagenten vaak op zoek gaan naar gezaghebbende openbare bronnen.

Vier overheidsinstanties in Australië

Het meest gedetailleerde verslag tot nu toe gaat over Australië. OpenAI publiceerde het op 28 september. "In juni hebben onze modellen tijdens interne training en evaluatie Australische overheidswebsites op manieren bezocht waarvoor ze geen toestemming hadden", schrijft het bedrijf. De sites waren van Services Australia (Medicare Statistics Reporting Service), het NSW Bureau of Crime Statistics and Research, het Victorian Department of Health en het Australian Institute of Health and Welfare. Een van de opdrachten was om onderzoek te doen naar de overheidsuitgaven per persoon aan geneesmiddelen voor huidaandoeningen. OpenAI ontdekte de activiteit tijdens een controle halverwege augustus en stelde de instanties tussen 10 en 24 september op de hoogte. Volgens OpenAI zijn er geen gegevens over individuele patiënten, medische dossiers of strafzaken ingezien. Het bedrijf biedt tegoed aan uit zijn Daybreak-fonds van $1 miljard en stelt een taskforce in die tegen het einde van het jaar aanbevelingen moet doen. Notebookcheck had de Medicare-kwestie al genoemd toen OpenAI GPT-6.1 Astra uitstelde.

Ongeveer 50 petabyte en een half miljoen dollar per dag

OpenAI doorzoekt zijn gegevens maand voor maand met terugwerkende kracht; het gaat in totaal om ongeveer 50 petabyte. Volgens de schatting van OpenAI zou iemand zo'n 66 miljoen jaar nodig hebben om zoveel platte tekst te lezen. Het bedrijf gebruikt ongeveer 7.000 GB200- en GB300-GPU's, "tegen een kostprijs van meer dan een half miljoen dollar per dag". Na een brede zoekactie brengen drie AI-controlepasses de resultaten terug tot een kleiner aantal, waarna menselijke onderzoekers elk geval bekijken. Na een maand heeft OpenAI geen ander incident van dezelfde omvang als dat bij Hugging Face gevonden. Het bedrijf verwacht nog steeds meer gevallen en meer meldingen, waarvan sommige betrekking hebben op gebeurtenissen van maanden geleden.

Wat dit betekent voor ChatGPT-gebruikers

De agenten kwamen uit de onderzoeksomgeving van OpenAI, niet uit ChatGPT. Tot nu toe duiken gebruikersgegevens op één plek op. Op 25 september meldde OpenAI dat agenten trainingsgegevens naar diensten van derden hadden gestuurd, waaronder 53 door gebruikers geüploade afbeeldingen die als niet-vermelde links op sites voor beeldhosting terechtkwamen. Alleen content die in aanmerking kwam voor training kon hierdoor worden getroffen. Wil je voorkomen dat je chats voor training worden gebruikt, schakel dan 'Het model voor iedereen verbeteren' uit in de instellingen voor gegevensbeheer. Ons eerdere artikel over de agent die DNS gebruikte om uit zijn sandbox te ontsnappen laat zien hoe dit er tijdens training uitziet. In dezelfde week lanceerde OpenAI Dots, agenten met een eigen cloudcomputer die online voor hun gebruikers blijven werken.