Makers van de Xiaomi-crashvideo krijgen gevangenisstraffen nu China hard optreedt tegen deepfakes over elektrische auto’s

China treedt hard op tegen influencers op sociale media die valse beelden van ongevallen maken of kwaadwillige geruchten over elektrische voertuigen verspreiden. Gebruikers in China proberen hun dronken of gevaarlijke rijgedrag te rechtvaardigen met verwijzingen naar autonome rijsystemen of valse beweringen over remmen en zelfstandige versnelling. Met name de EV-divisie van Xiaomi lijkt geen rust te krijgen van contentmakers, net nu de Skynomad EREV-serie van het bedrijf klaar is voor lancering.

De afgelopen maanden heeft Xiaomi herhaaldelijk melding gemaakt van door AI gegenereerde lastercampagnes gericht tegen zijn auto’s en leidinggevenden. Het meest recente geval betrof twee gebruikers die beelden van crashtests verzonnen om de indruk te wekken dat Xiaomi-voertuigen bij een botsing hadden gefaald. De Chinese politie reageerde met administratieve hechtenis en boetes, en Xiaomi meldt dat de betreffende berichten inmiddels zijn verwijderd.

Dit was geen op zichzelf staand incident, aangezien de autoriteiten in Xi’an al in juni een grotere operatie hebben ontmanteld. Drie MCN-contentbureaus en meer dan een dozijn personen werden ervan beschuldigd op grote schaal door AI gegenereerde video’s en berichten te hebben vervaardigd die gericht waren tegen Xiaomi; daarbij werden verschillende verdachten formeel in hechtenis genomen en apparatuur in beslag genomen. Xiaomi waarschuwde dat misbruik van AI voor het verspreiden van desinformatie „gevolgen zal hebben“, een boodschap die duidelijk zowel bedoeld is om navolgers af te schrikken als om eerdere overtreders te straffen.

Xiaomi staat niet alleen in deze strijd, aangezien NIO te maken heeft gehad met een vrijwel identieke tactiek. De innovatieve autofabrikant maakte onlangs bekend dat de politie een verdachte heeft gearresteerd die naar verluidt AI-tools zou hebben gebruikt om verzonnen inhoud over het bedrijf via duizenden sociale-media-accounts te verspreiden, waarmee tienduizenden views werden gegenereerd. NIO heeft het afgelopen jaar ook meerdere civiele rechtszaken wegens smaad aangespannen tegen bloggers, en heeft gewezen op een afzonderlijke golf van aanvallen gericht op zijn merk Onvo en zijn batterijwisselnetwerk, die verdacht dicht in de buurt van de lanceringen van zijn eigen nieuwe modellen plaatsvonden.

Het is een bekend probleem in de Chinese EV-sector in het algemeen, waar de autoriteiten harder zijn opgetreden tegen verzonnen beelden van ongevallen en in scène gezette veiligheidsfouten – deels met behulp van AI – die bedoeld zijn om de reputatie van concurrerende autofabrikanten te schaden in een steeds moordender wordende markt. BYD heeft eveneens dezelfde juridische weg ingeslagen en heeft onlangs een rechterlijke uitspraak in zijn voordeel behaald tegen een blogger wegens verzonnen beweringen over zijn onderdelen.

Voor Xiaomi in het bijzonder staat er meer op het spel, aangezien de Skynomad EREV’s de eerste stap van het bedrijf betekenen op het gebied van voertuigen met een vergroot bereik – een steeds populairder wordende categorie in China die nu een puur elektrisch bereik van meer dan 300 mijl biedt voordat de gasgenerator in werking treedt. Aangezien het hier voornamelijk om gezinsauto’s gaat, kan het vertrouwen in veiligheidsclaims bepalend zijn voor het vroege verkoopmomentum.

Of deze desinformatiecampagnes opportunistische trolling zijn of iets meer gecoördineerds, blijft onduidelijk, maar Xiaomi lijkt vastbesloten om iedereen die betrapt wordt op het vervalsen van beeldmateriaal, tot voorbeeld te stellen. De parallelle strijd van NIO suggereert dat dit geen specifiek probleem is voor Xiaomi, maar een structureel probleem voor elk Chinees EV-merk dat op het punt staat een grote lancering te doen.