Instagram pakt AI-influencers aan die niet toegeven dat ze nep zijn

Instagram hernoemt zijn label „AI-maker“ naar „door AI gegenereerd profiel“ en gaat beperkingen opleggen aan de reikwijdte waarmee niet-gelabelde AI-personages zich kunnen verspreiden, indien de accounts erachter niet vermelden dat de afgebeelde persoon niet echt is.

Het oorspronkelijke label, dat in mei werd geïntroduceerd, was opt-in en enigszins vaag; het gold voor elk account dat regelmatig gebruikmaakte van AI-tools, ongeacht of er een echte persoon achter zat. Het nieuwe label is specifiek bedoeld om profielen te markeren waarbij de afgebeelde persoon volledig door AI is gegenereerd in plaats van slechts door AI te zijn ondersteund. Hiermee wordt een lacune gedicht waardoor volledig synthetische influencercontenten zich konden mengen onder echte makers die AI slechts als onderdeel van hun workflow gebruikten.

Beperkt bereik voor degenen die zich niet aan de regels houden

Onder het nieuwe systeem wordt het bereik van accounts die door Instagram worden geïdentificeerd als niet-gelabelde, door AI gegenereerde persona’s beperkt, wat betekent dat niet-volgers hun berichten niet te zien krijgen in Explore, Reels of andere aanbevelingspagina’s. Creators kunnen dat bereik op twee manieren herstellen: door zelf proactief het label ‘door AI gegenereerd profiel’ toe te passen, of door bezwaar aan te tekenen tegen de beperking als zij van mening zijn dat de detectie door Instagram onjuist was – iets waarvan het bedrijf zelf toegeeft dat zijn systemen dit niet altijd correct zullen herkennen.

Het nieuwe label functioneert los van het bestaande „AI-info”-systeem van Meta, dat individuele berichten op Instagram, Facebook en Threads markeert wanneer technische kenmerken, zoals C2PA-metadata of het SynthID-watermerk van Google, wijzen op betrokkenheid van AI, of wanneer een maker dit zelf bekendmaakt. Het label op profielniveau heeft specifiek betrekking op de vraag of de persoon die in de berichten, reacties en berichten van een account wordt getoond, echt is of door AI is gegenereerd.

Inspelen op gefrustreerde gebruikers

Instagram heeft de wijziging ingekaderd vanuit een eenvoudige frustratie: gebruikers vinden het vervelend om achteraf te ontdekken dat een profiel dat menselijk leek, de hele tijd door AI was gegenereerd. Tot nu toe is het beleid alleen gericht op accounts die zich voordoen als een specifieke fictieve persoon, en niet op het veel grotere aantal accounts dat door AI gegenereerde inhoud plaatst zonder zich voor te doen als een menselijke influencer.

Volledig door AI gegenereerde personages zijn gemeengoed geworden als onofficiële merkinfluencers; bedrijven maken steeds vaker gebruik van synthetische personages om producten te promoten in plaats van echte mensen te betalen, en er zijn momenteel geen specifieke regels die adverteerders verplichten om dit te vermelden wanneer dat het geval is (via The Guardian). Of het nieuwe label deze praktijk wezenlijk zal veranderen, hangt af van de mate waarin de detectiesystemen van Instagram consequent accounts opsporen die er alle belang bij hebben het label volledig te vermijden.