"Ronduit oneerlijk": wiskundige beweert dat OpenAI tegen hem heeft gelogen over het gebruik van zijn privé-chats voor trainingsdoeleinden

Andreas Thom, groepentheoreticus aan de TU Dresden, heeft publiekelijk de vraag gesteld of zijn privé-sessies met ChatGPT hebben bijgedragen aan het OpenAI-resultaat dat de eerste bekende niet-sofische groep opleverde — een van de tien problemen die volgens OpenAI op 1 augustus door Astra werden opgelost.

In een uitgebreide driedelige post op Mathstodon schreef Thom dat hij kort na die aankondiging een e-mail had gestuurd aan de OpenAI-onderzoekers Mark Sellke en Sebastien Bubeck. Hij en een collega uit Dresden hadden maandenlang gewerkt aan het ‘expander matching’-probleem en uitbreidingen van zijn werk met Gabor Kun binnen ChatGPT, en stelden twee vragen: of die uitwisselingen in de trainingsgegevens waren opgenomen, en of het systeem daar toegang toe had tijdens het werken aan het bewijs. Het antwoord van Sellke, zoals Thom het citeert, bestond uit één enkele regel: dat was niet gebeurd. Thom stelt dat het antwoord alleen betrekking had op het onderdeel ‘directe toegang’. Hij omschrijft het nu als ongerechtvaardigd ruim en, achteraf gezien, oneerlijk.

Post by @[email protected]

View on Mastodon

De discussie kwam deze week opnieuw aan de orde in verband met de aankondiging van OpenAI over Navier-Stokes. Daarin verklaarde OpenAI dat noch haar onderzoekers, noch haar medewerkers het werk van het duo vóór publicatie hadden ingezien en dat er geen toegang was verkregen tot specifieke gebruikersgegevens. Het bedrijf voegde er tevens aan toe dat het niet kon uitsluiten dat geanonimiseerde gegevens, afkomstig uit het gebruik van haar producten door het duo, hadden bijgedragen aan de verbetering van haar modellen. 

Twee andere punten ondersteunen zijn argument eveneens. Hij heeft de modeltraining op 29 juni uitgeschakeld. Modeltraining is een instelling die gebruikers niet kunnen controleren — deze zegt niets over eerdere chats. De meeste onderzoekers gaven de voorkeur aan quantum-games-methoden boven de aanpak die hij samen met Kun hanteerde, dus hij was verbaasd dat Astra dezelfde route koos als hij.

Op het moment van schrijven heeft Thom nog geen bewijs aangevoerd. In plaats daarvan heeft hij OpenAI verzocht de grondslag voor zijn ontkenning openbaar te maken.

OpenAI heeft nog niet publiekelijk gereageerd op zijn berichten.