Claude kan nu een onzichtbaar merkteken achterlaten in uw tekst, zelfs als u deze zelf hebt geschreven

Anthropic heeft een nieuw systeem geïntroduceerd dat onzichtbare watermerken rechtstreeks in door Claude gegenereerde tekst inbedt. In tegenstelling tot metagegevens die aan een document of afbeelding worden toegevoegd, is het nieuwe markeringssysteem zo ontworpen dat het de gegenereerde tekst volgt wanneer deze elders wordt gekopieerd en geplakt, en zelfs bij bepaalde latere bewerkingen behouden blijft.

De Europese Unie kan in ieder geval een deel van de eer – of de schuld – voor deze ontwikkeling op zich nemen. Anthropic verklaart dat het, als aanbieder van zowel generatieve AI-modellen als -systemen, de Gedragscode inzake transparantie van door AI gegenereerde inhoud uit artikel 50, lid 2, van de EU-AI-wet heeft ondertekend. Met dit nieuwe markeringssysteem wil het bedrijf deze toezeggingen momenteel in de praktijk brengen, hoewel het systeem wereldwijd wordt ingezet en niet beperkt blijft tot de regio die verantwoordelijk is voor de regelgevende impuls.

Het bedrijf geeft aan dat alle Claude-modellen die op of na 2 augustus 2026 worden gelanceerd, deze technologie vanaf de lancering ondersteunen. Anthropic is tevens van plan om het systeem in de loop van de tijd uit te breiden naar oudere modellen. Het systeem blijft evenmin beperkt tot markten waar vereisten inzake de etikettering van AI-inhoud dergelijke maatregelen noodzakelijk zouden kunnen maken, aangezien het bedrijf het wereldwijd implementeert.

Anthropic maakt niet bekend hoe het watermerk werkt

Volgens Anthropic wordt het watermerk rechtstreeks in de tekstuitvoer van Claude verweven, zonder dat het resulterende antwoord zichtbaar wordt gewijzigd. Dit maakt het fundamenteel anders dan conventionele herkomstmetadata, die eenvoudigweg kunnen verdwijnen op het moment dat de inhoud wordt losgekoppeld van het oorspronkelijke bestand.

Hoe Anthropic dit precies voor elkaar krijgt, blijft enigszins een raadsel. Het bedrijf heeft tot nu toe geweigerd gedetailleerde technische documentatie te publiceren waarin wordt uitgelegd hoe het tekstwatermerk wordt ingebed of gedetecteerd. Het houdt niettemin vol dat de markering geen invloed heeft op de „betekenis, kwaliteit of stijl“ van de antwoorden van Claude.

Het systeem reikt bovendien aanzienlijk verder dan de voor consumenten bestemde Claude-chatbot. Anthropic stelt dat ondersteunde modellen gemarkeerde tekst produceren wanneer deze worden benaderd via Claude, Claude Code, Cowork, de API en cloudplatforms van derden. Ontwikkelaars die Claude-modellen via niet-native middelen gebruiken, zijn derhalve niet vrijgesteld van de nieuwe herkomstregeling.

Anthropic is uiteindelijk van plan detectiemechanismen beschikbaar te stellen aan derden, hoewel het nog niet heeft bekendgemaakt hoe deze tools zullen werken of, sterker nog, wie ze mag gebruiken.

Ironisch genoeg bewijst een Claude-watermerk niet dat Claude het heeft geschreven

Er is echter een vrij belangrijk voorbehoud. Het detecteren van het watermerk van Claude betekent niet noodzakelijkerwijs dat Claude het onderliggende materiaal daadwerkelijk heeft geschreven. Alles wat via Claude wordt verwerkt, kan in potentie het watermerk krijgen, waardoor de aanwezigheid ervan eerder een aanwijzing is voor de betrokkenheid van Claude dan een bewijs van auteurschap door AI.

Anthropic erkent zelf dat tekst die volledig door mensen is geschreven, een watermerk kan krijgen nadat deze door Claude is verwerkt. Een auteur zou bijvoorbeeld zelf een volledig artikel kunnen schrijven en Claude louter gebruiken om het te proeflezen, te vertalen of te redigeren. De uiteindelijke tekst kan niettemin verschijnen met het onzichtbare merkteken van Claude.

Wie vastbesloten is om zich van dit watermerk te ontdoen, zal zijn toevlucht moeten nemen tot uitgebreide bewerking, parafrasering, vertaling of het combineren van de output van Claude met ander materiaal, waardoor het oorspronkelijke doel ervan in feite wordt ondermijnd. Het lijkt ook onvermijdelijk dat de technologie een overvloed aan kleine bedrijven zal voortbrengen die zich toeleggen op het verwijderen van het gevreesde watermerk uit door Claude gegenereerde tekst.

De situatie die hieruit voortvloeit, is dan ook enigszins merkwaardig. Een positief resultaat kan erop wijzen dat Claude op een bepaald moment een stuk tekst heeft verwerkt, maar het kan niet onomstotelijk aantonen dat Claude het heeft geschreven. Omgekeerd bewijst de afwezigheid van een detecteerbaar watermerk niet noodzakelijkerwijs dat Claude er nooit bij betrokken is geweest. 

Zal dit de AI-rommel daadwerkelijk verminderen? Waarschijnlijk niet

Dat brengt ons in wezen weer terug bij af, omdat de aanwezigheid – of het ontbreken daarvan – van het Claude-watermerk niets bewijst. De toename van AI-slop lijkt ongehinderd door te gaan, in ieder geval voor de nabije toekomst. 

Het schept echter wel een zorgwekkend precedent voor andere AI-bedrijven, die ongetwijfeld het voorbeeld van Anthropic zullen volgen en zullen proberen herkomstmechanismen in hun AI-output in te bouwen. „Wij besmetten onze output niet met onzichtbare markeringen“ zal daarom in de nabije toekomst een legitieme marketingslogan voor AI-bedrijven worden. 

Afbeeldingen en bepaalde andere bestanden die met Claude worden gegenereerd, worden anders behandeld. Anthropic maakt gebruik van C2PA Content Credentials voor ondersteunde niet-tekstuele output, waarbij cryptografisch ondertekende herkomstinformatie aan de gegenereerde bestanden wordt toegevoegd in plaats van deze aan dezelfde tekstwatermerktechniek te onderwerpen.

Voorlopig is de wellicht grootste onbeantwoorde vraag waaruit de onzichtbare tekstmarkering van Claude eigenlijk bestaat. Mocht het systeem de tokenkeuze tijdens het genereren beïnvloeden, dan zouden de implementatie ervan en het potentiële effect op de modeloutput aanzienlijk interessanter kunnen blijken dan conventionele, op metagegevens gebaseerde herkomstinformatie.

Anthropic geeft aan dat er in de toekomst aanvullende technische documentatie over zijn watermerkaanpak zal worden gepubliceerd. Tot die tijd blijft het onbekend wat Claude precies achter de schermen doet.