Sony-patent kan AI-censuurhulpmiddelen naar alle spelconsoles brengen, maar introduceert risico's

De rol die generatieve AI zou moeten spelen in de ontwikkeling van games is voortdurend onderwerp van discussie geweest. Sony gelooft dat AI gamers ook in staat zou kunnen stellen om aanstootgevende inhoud gemakkelijk te filteren of te vervangen. Een nieuw patentontdekt door Clawseomegamerbeschrijft een zeer aanpasbare vorm van censuur. Omdat de technologie echter niet beperkt is tot PS5-consoles, kunnen critici beweren dat het rijp is voor misbruik.

Het Sony patent heet "Automatic Bespoke Edits of Video Content Using AI" en heeft een publicatiedatum van 4 december. Een processor zou scènes identificeren die een gebruiker wil vermijden. Een tweede processor zou dan delen van video of audio wissen of wijzigen volgens vooraf gedefinieerde regels. Het document noemt "inhoud van videogames" als mogelijke toepassing.

In het dossier wordt uitgelegd hoe de normen voor classificatie van games, films of muziek in de loop van de tijd evolueren. AI-tools zouden het hedendaagse publiek in staat kunnen stellen om inhoud aan te passen aan veranderende normen. Deze aanpak zou duidelijke voordelen hebben voor ouders. Voogden kunnen verschillende opvattingen hebben over wat expliciet is. Niettemin, niet vermeld in het octrooi, zou het ook censuur op basis van politieke overtuigingen mogelijk kunnen maken.

Sony's AI-censuur zou een industriestandaard kunnen worden

In het document vinden lezers verwijzingen naar Nintendo en Microsoft, die concurreren met PlayStation consoles. Hoewel de technologie zich zou richten op "computerecosystemen", zou het van toepassing kunnen zijn op alle consumentenelektronica.

Het Sony Patent benadrukt dat gebruikers controle zouden hebben over wat de AI-technologie blokkeert. Tijdens het afspelen zouden meldingen op het scherm de kijkers kunnen waarschuwen voor aanstootgevend materiaal. Ze zouden dan opties hebben, waaronder het veranderen van de audio of video of zelfs "het invoegen van deepfake vervangende inhoud." Er zou een nieuwe gecensureerde versie van het werk gegenereerd kunnen worden.

Natuurlijk is er met alle AI-tools de mogelijkheid voor slechte actoren om hun mogelijkheden uit te buiten. Het meest verontrustend is dat deepfakes het vaak moeilijk maken om bewerkte inhoud te detecteren. Het is ook onduidelijk of machine learning al zover gevorderd is dat ouders erop kunnen vertrouwen dat kinderen veilig zijn. Hoe dan ook, net als bij een recent Voorstel van Sony om haptische feedback te verbeterenkan het nog jaren duren voordat gamers deze adaptieve censuur op consoles zien.