Rechter in Washington verwerpt AI-video vanwege onnauwkeurige beeldmodificaties in drievoudige moordzaak

Rechter Leroy McCullogh van het Superior Court heeft het gebruik van een AI-verrijkte video als bewijs in een drievoudige moordzaak in King County, Washington, verworpen. Er zijn twee belangrijke problemen met het gebruik van dergelijke video's om een strafzaak te vervolgen. Ten eerste creëert en verwijdert AI beeldverbetering zowel details van het origineel. Ten tweede bestaat er geen methode om te bewijzen dat de AI-aanpassingen resulteren in een video die de werkelijke scène nauwkeurig weergeeft.

AI-technologie heeft zich snel ontwikkeld tot het punt waarop het gebruikt kan worden om beschadigde foto's te herstellen en foto's van slechte kwaliteit te verbeteren. AI kan dit doen door details te genereren op basis van training in miljoenen bestaande afbeeldingen. Simpelweg, wanneer AI een gedeelte ziet dat lijkt op een grasveld in een afbeelding van slechte kwaliteit, neemt het de meest waarschijnlijke grasveldafbeeldingen die het eerder heeft gezien en probeert het een vervanging van hogere kwaliteit te maken. Belangrijk is dat generatieve AI niet weet wat echt is, dus de verbeterde video's kunnen details bevatten die in het echt niet bestaan of zelfs ontdaan zijn van kritieke details.

Generatieve AI gebruikt de input van miljoenen afbeeldingen in combinatie met algoritmes om een enorme reeks getallen te creëren die deze afbeeldingen vertegenwoordigen. De AI bewaart de originele afbeeldingen niet, dus hoe AI een afbeelding precies verbetert met details die het gezien heeft, maakt gebruik van "ondoorzichtige methoden om weer te geven wat de AI 'denkt' dat getoond moet worden", aldus rechter McCullogh.

Lezers die erover denken om advocaat te worden, moeten even de tijd nemen om te lezen hoe generatieve AI werkt om te voorkomen dat ze fouten maken zoals het indienen van dossiers op basis van nepzaken.