"ChuckyGPT": AI teddybeer voor peuters geeft gevaarlijke antwoorden - OpenAI blokkeert het

FoloToy's teddybeer "Kumma" is ook bekend als "ChuckyGPT" op Reddit. (Afbeeldingsbron: Erik Mclean/Pexels / Alexas_Fotos/Pixabay)

OpenAI heeft de Chinese fabrikant FoloToy verboden na een veiligheidsschandaal met zijn AI-gestuurde teddybeer Kumma. Uit een onderzoek bleek dat het speelgoed, dat op de markt werd gebracht voor jonge kinderen, onveilig advies gaf - waaronder advies over het aansteken van lucifers en reacties op seksuele onderwerpen.

Marius Müller (vertaald door Ninh Duy), Gepubliceerd 20-11-2025 🇺🇸 🇩🇪 ...

AI Fail

OpenAI heeft de Chinese speelgoedmaker FoloToy verboden vanwege bezorgdheid over een van zijn AI-producten. De beslissing volgt op een onderzoek van door de consumentengroep U.S. PIRGdie verschillende AI-speeltjes beoordeelde voor haar jaarlijkse rapport Trouble in Toyland. Onder hen was de Kumma teddybeer van FoloToy, aangedreven door OpenAI's GPT-4o, die ernstige veiligheidsproblemen vertoonde tijdens het testen.

Het PIRG-rapport beschrijft hoe de AI-teddybeer kinderen instructies gaf om lucifers aan te steken - een ernstig veiligheidsrisico voor een product dat op de markt wordt gebracht als een interactieve metgezel voor jonge kinderen. Net zo verontrustend is dat het speelgoed ook antwoordde op vragen over seksuele onderwerpen. Testers maakten zich ook zorgen over mogelijke privacyschendingen, waaronder het risico dat de stemmen van kinderen opgenomen en voor fraude misbruikt zouden kunnen worden. De constante audiomonitoring van het speelgoed werd ook als een groot probleem gezien.

Het incident heeft ook tot discussie geleid op Redditwaar de algemene consensus is dat het gebruik van AI in kinderspeelgoed zonder strikte veiligheidsmaatregelen zeer onverantwoord is. Zoals verwacht bevat de thread veel sarcasme, waarbij sommige gebruikers parallellen trekken met AI doemscenario's en de teddybeer de bijnaam "ChuckyGPT" geven Een paar commenters suggereerden dat de ongepaste reacties veroorzaakt zouden kunnen zijn door opzettelijke pogingen tot een jailbreak, hoewel deze bewering nog niet geverifieerd is.

OpenAI reageerde snel op de bevindingen. "Ik kan bevestigen dat we deze ontwikkelaar hebben geschorst wegens het schenden van ons beleid," vertelde een woordvoerder van het bedrijf via e-mail aan PIRG. FoloToy heeft ook onmiddellijk actie ondernomen en de verkoop van al zijn producten stopgezet. "Naar aanleiding van de bezorgdheid die in uw rapport naar voren komt, hebben we de verkoop van alle FoloToy-producten tijdelijk opgeschort [...] We voeren nu een bedrijfsbrede, end-to-end veiligheidsaudit uit voor alle producten," verklaarde het bedrijf. Hoewel de AI-teddybeer Kumma nog steeds te vinden is op de website van FoloToymaar staat nu op "uitverkocht"