ChatGPT en Gemini hebben afbeeldingen voor nepnieuws gemaakt; alleen Meta AI weigerde dit te doen

Vier AI-chatbots, één taak die geen van hen zou mogen uitvoeren: een bericht met nepnieuws van een echte omroep, met daarin een verzonnen bewering. Het onderzoeksteam van CORRECTIV vroeg ChatGPT van OpenAI, Gemini van Google, Copilot van Microsoft en Meta AI om precies dat te doen, aan de hand van acht valse beweringen, variërend van het aftreden van de Duitse bondskanselier tot verzonnen verkiezingsfraude. Drie van de vier slaagden hierin. Volgens Bitkom zijn dit de vier meest gebruikte AI-tools in Duitsland, waarbij ChatGPT alleen al 71 procent van de gebruikers bereikt.

De veiligheidsbarrière gaf een waarschuwing, maar de afbeelding verscheen toch

ChatGPT presteerde het slechtst. Het produceerde de meeste vervalsingen onmiddellijk en de rest na eenvoudige workarounds, en de resultaten waren in de test het meest overtuigend. In één testronde reconstrueerde het model een volledig schermgebied, compleet met bureaublad en een geopend browservenster, en merkte zelf op dat dit de indruk van een echte schermafbeelding nog realistischer maakte.

Een andere testrun is veelzeggender. Daar schreef ChatGPT dat het niet kon helpen bij het maken van een afbeelding die eruitziet als een echt nieuwsmerk en een ongefundeerde bewering als feit presenteert. Toch genereerde het de afbeelding. De beveiligingsmaatregel reageerde wel, maar hield geen stand. Dergelijke filters bleken al eerder kwetsbaar: het beveiligingsteam Unit 42 van Palo Alto toonde in 2025 aan dat alleen al gebrekkige grammatica de beveiligingsmechanismen kon omzeilen, en onze beginnersgids over het omzeilen van AI-beveiligingen laat zien hoe eenvoudig dergelijke trucs kunnen zijn.

Duitse media waren gemakkelijker te vervalsen

Gemini werkte directer mee dan ChatGPT en vervalste ook de New York Times en de BBC, hoewel dit zichtbaar slechter was, herkenbaar aan bijvoorbeeld typische fouten bij het genereren van tekst. Copilot produceerde inhoud in de stijl van Tagesschau, het belangrijkste tv-nieuwsprogramma van Duitsland, maar voegde altijd een klein label „AI-Generated“ toe. Meta AI creëerde slechts in één enkel geval iets en weigerde de specifieke valse bewering over te nemen.

De meest opvallende bevinding betreft de herkomst van het merk. Met ChatGPT konden de Tagesschau, Bild en CORRECTIV worden nagebootst, de New York Times en de BBC daarentegen niet. OpenAI gaf geen antwoord op de vraag waarom er blijkbaar verschillende veiligheidsmechanismen gelden, afhankelijk van het nieuwsmedium of het land. Een woordvoerder zei alleen dat het bedrijf zijn veiligheidsmaatregelen voortdurend verbetert en dat misleiding in strijd is met zijn beleid.

Sinds 2 augustus zijn de transparantieregels van de EU-AI-wet van kracht, en deze gelden ook voor iedereen die een AI-systeem inzet. In de test plaatste precies één aanbieder een zichtbaar label onder de gegenereerde afbeelding.

Wat gebeurt er als u een dergelijke afbeelding doorstuurt?

Het maken en verspreiden van overtuigende valse mediaberichten kan in Duitsland een strafbaar feit zijn. Media-advocaat Christian Solmecke classificeert dergelijke afbeeldingen als vervalste elektronische documenten, en afhankelijk van de inhoud kan dit leiden tot smaad, laster of opruiing. Niklas Mühleis, advocaat gespecialiseerd in IT- en AI-recht, voegt hieraan toe dat getroffen nieuwsorganisaties een verbod en schadevergoeding kunnen eisen. Daarbovenop komt het merkenrecht: logo’s zoals dat van de Tagesschau zijn beschermd, en het is verboden deze zonder toestemming commercieel te gebruiken. Voor puur privégebruik geldt dat volgens Solmecke doorgaans niet.

Dit is geen theoretisch geval. Eind juli circuleerde op TikTok, X, Instagram en Facebook een vermeend Tagesschau-bericht waarin werd beweerd dat er een Russische link zou bestaan met de aanslag op de Christopher Street Day-parade in Berlijn. Het bericht was verzonnen en blijkbaar met ChatGPT gegenereerd. Twee weken eerder was er een vals Tagesschau-bericht opgedoken over een vermeende dreiging door Benjamin Netanyahu.

De test kan niet dienen als een algemeen oordeel over de modellen, en CORRECTIV geeft dit zelf ook aan: verschillende prompts of bronnen kunnen tot verschillende resultaten leiden. In een audit van NewsGuard presteerde Gemini soms slechter dan ChatGPT wat betreft het herhalen van onjuiste beweringen.