ChatGPT zal ouderlijk toezicht en andere beveiligingen introduceren na rechtszaak

OpenAI heeft laten weten dat haar kunstmatige intelligentie chatbot ChatGPT arental controls voor minderjarigen zal krijgen na de dood van de 16-jarige Adam Raine, die gedachten over zelfbeschadiging had geuit aan de chatbot. De familie van de tiener spande een rechtszaak aan tegen OpenAI en haar CEO, Sam Altman, met als argument dat ChatGPT Adam instructies gaf om zelfmoord te plegen.

Het bedrijf liet weten dat het eraan werkt om "binnenkort" ouderlijk toezicht in te voeren en extra beveiligingen te creëren. In een blogpost zei het bedrijf dat de huidige modellen mensen aanmoedigen om hulp te zoeken wanneer ze voor het eerst schadelijke gedachten uiten; het erkent echter dat in lange gesprekken de veiligheidsreactie afneemt. Het bedrijf merkte op dat het eraan werkt om de betrouwbaarheid van de veiligheidsmechanismen in lange gesprekken te handhaven.

OpenAI zei dat het bezig is met het onderzoeken van eerdere interventie, door mensen in contact te brengen met therapeuten. Tot nu toe werkt het bedrijf samen met meer dan 90 artsen in 30 landen, maar het "lokaliseert bronnen" in de VS en Europa om professionele hulp te bieden, en het is van plan om uit te breiden naar andere wereldwijde markten.

Bovendien zou de chatbot "berichten of oproepen met één klik naar opgeslagen contactpersonen in noodgevallen, vrienden of familieleden kunnen bevatten met voorgestelde taal om het gesprek minder ontmoedigend te maken"

Volgens de rechtszaken werd Adam aangezet tot schadelijke en zelfdestructieve gedachten, en in sommige gevallen werd isolatie bevorderd en werd voorkomen dat de tiener contact opnam met familieleden.

Het ouderlijk toezicht zou een aangewezen contactpersoon voor noodgevallen omvatten, met wie in "momenten van acute nood" rechtstreeks contact kon worden opgenomen door ChatGPT. Met de onthulling van GPT-5verklaarde het bedrijf dat het model verbeteringen heeft laten zien op gebieden zoals het vermijden van ongezonde niveaus van emotionele afhankelijkheid, het verminderen van sycofantie en het verminderen van de prevalentie van niet-ideale modelreacties in psychische noodsituaties met meer dan 25% in vergelijking met GPT-4o.

OpenAI werkt echter nog aan verdere updates van het model in dit opzicht, waardoor het model situaties van nood kan "de-escaleren" door de gebruiker in de realiteit te gronden.

Het is onduidelijk wanneer deze veranderingen kunnen worden uitgerold.