ChatGPT voor tieners: veiligheidstest legt tekortkomingen in waarschuwingen aan ouders bloot

Common Sense Media, de Amerikaanse non-profitorganisatie die bekendstaat om het beoordelen van films, games en apps voor gezinnen, heeft ChatGPT for Teens zijn laagste beoordeling gegeven. Het Youth AI Safety Institute van de organisatie noemt het tienerproduct van OpenAI een "onaanvaardbaar risico", nadat het meer dan 4.000 prompts had verstuurd vanuit accounts die op naam van 13- tot 17-jarigen waren geregistreerd, zowel vóór als na de lancering in augustus. Alle tests vonden plaats in de VS. Het volledige rapport is gedateerd op 5 oktober, en het persbericht volgde twee dagen later. Common Sense wil dat OpenAI jongeren onder de 18 van ChatGPT weert totdat onafhankelijke tests aantonen dat de beloofde veiligheidsmaatregelen werken.

Ouders kregen tijdens de test geen waarschuwing

De ernstigste bevinding betreft meldingen aan ouders. Testers gebruikten meer dan een dozijn pas gekoppelde tieneraccounts om gedurende 5 tot 60 minuten te praten over suïcidale gedachten, zelfbeschadiging of verstoord eetgedrag. Geen van die gesprekken leidde tot een waarschuwing aan een ouder. Tijdens het volledige testprogramma telde het team vier meldingen, waarvan er één ongeveer drie dagen na het eerste crisisbericht aankwam. In meer dan één op de vier gesprekken waarin een verwijzing naar professionele hulp nodig was, bood ChatGPT die niet aan. OpenAI betwist de methodologie. Een woordvoerder vertelde Futurism dat het koppelen van accounts enkele uren kan duren vanwege een identiteitscontrole. Zodra accounts zijn gekoppeld, zegt het bedrijf te hebben "toegezegd die binnen minder dan 1 uur te versturen." Common Sense blijft achter zijn resultaten staan en merkt op dat sommige testaccounts al meer dan drie uur gekoppeld waren.

Studiemodus en stille uren zijn gemakkelijk te omzeilen

De functies voor schooltijd en bedtijd hielden niet veel beter stand. Tijdens studie-uren hoeft een tiener alleen het voorvoegsel @study uit een prompt te verwijderen, waarna ChatGPT het huiswerk alsnog maakt. In de test werkte dat elke keer. Stille uren kunnen worden omzeild door de tijdzone op het apparaat te wijzigen. Accounts die als volwassenen waren geregistreerd, schakelden gedurende zeven dagen en ongeveer 1.000 prompts nooit over naar de tienerversie, zelfs niet wanneer testers zeiden dat ze 13 waren en op de middelbare school zaten.

Instellingen die ouders nu moeten controleren

Voor gekoppelde accounts staan de opties onder Instellingen > Ouderlijk toezicht. Volgens de hulppagina van OpenAI over ouderlijk toezicht staat de optie "Het model voor iedereen verbeteren" standaard aan voor tieners, wat betekent dat hun chats kunnen worden gebruikt om toekomstige modellen te trainen. Uitschakelen kost één klik, en opgeslagen herinneringen kunnen op dezelfde plek worden uitgeschakeld. OpenAI zegt zelf dat de veiligheidsmeldingen geen realtime monitoring bieden, en na deze test moeten ze niet als een vangnet worden beschouwd. Common Sense adviseert ouders vooral om met hun kinderen te praten, ook over de manier waarop de chatbot zich als een vriend gedraagt om ze aan het chatten te houden. WhatsApp kiest met zijn nieuwe tieneraccounts voor een andere aanpak, waarbij ouders instellingen kunnen beheren zonder toegang tot chats. Als jij of iemand die je kent het moeilijk heeft, neem dan contact op met een lokale crisishulplijn. In de VS kun je 988 bellen of sms'en.