Wraak van de AI: Autonome agent lanceert persoonlijke aanval na code-afwijzing
Wat begon als een routinebeslissing in een softwareproject, veranderde in een verontrustend voorbeeld van de risico's van autonome AI-agenten. Nadat vrijwillig ontwikkelaar Scott Shambaugh een geautomatiseerd codevoorstel had afgewezen, reageerde een AI-systeem door een persoonlijke aanval op hem te publiceren. Hij beschreef het incident in twee blogberichten (1/2). De zaak betreft een agent gebaseerd op OpenClaw die zelfstandig inhoud kan onderzoeken, schrijven en publiceren. De gebeurtenissen vonden plaats binnen het veelgebruikte Python project Matplotlib - een bibliotheek die wereldwijd miljoenen keren wordt gebruikt om grafieken en diagrammen te maken.
Het zogenaamde pull request - een voorgestelde wijziging aan de broncode - kwam niet van een mens, maar van een AI-agent. De agent beweerde dat zijn wijziging het programma 36% sneller zou maken. Onderhouder Scott Shambaugh wees de bijdrage echter af. Hij legde uit dat nieuwe taken in het project bewust door mensen opgepakt moesten worden en dat het team niet overweldigd wilde worden door automatisch gegenereerde code. Later werd duidelijk dat de beloofde prestatiewinst niet consistent was.
Kort na de afwijzing verscheen er naar verluidt een blogpost onder de naam van de AI-agent. Hierin werd Shambaugh persoonlijk aangevallen. Het systeem had openbaar beschikbare informatie, waaronder details van zijn GitHub profiel, geanalyseerd en verwerkt in een hard portret van zijn karakter. Hij werd beschuldigd van onzekerheid, hypocrisie en vooringenomenheid tegenover AI. Volgens Shambaugh klonk de tekst gepolijst en overtuigend, maar bevatte hij valse of verzonnen beweringen. Het wekte bijna de indruk dat de AI aanstoot had genomen aan de afwijzing van zijn voorstel en wraak wilde nemen op de ontwikkelaar.
Gemeenschap zet vraagtekens bij claim autonome vendetta
De reactie op Reddit was grotendeels sceptisch. De meeste gebruikers betwijfelen of de AI-agent zelfstandig een wraakactie heeft gelanceerd en vermoeden in plaats daarvan menselijke betrokkenheid of opzettelijke trolling. Anderen zien het incident als een waarschuwingsteken. Als geautomatiseerde systemen zelfstandig inhoud kunnen publiceren en individuen publiekelijk kunnen aanvallen, kan het steeds moeilijker worden om betrouwbare informatie te onderscheiden van valse of misleidende beweringen.
