AI identificeert Doritos-zakje verkeerd als pistool - politie richt wapens op 17-jarige student

Kenwood High School in Maryland gebruikt een AI-beveiligingssysteem genaamd Omnilert, dat gebruik maakt van bestaande bewakingscamera's om continu te scannen op mogelijke wapens. Maar het systeem heeft het niet altijd bij het juiste eind. Op de avond van 20 oktober markeerde het per ongeluk een zak Doritos - een populaire snack in de VS - als vuurwapen.

De chips waren van Taki Allen, een 17-jarige student die rond 19.00 uur op een lift wachtte na de voetbaltraining, toen er plotseling politiesirenes loeiden en er acht patrouillewagens aan kwamen rijden. Agenten sprongen eruit en richtten hun geweren op hem. "Ik dacht dat ik doodging... ze hadden geweren op me gericht, " vertelde Allen aan CNN. Hij werd op zijn knieën gedwongen, geboeid en gefouilleerd - maar de agenten vonden niets anders dan een lege zak chips op de grond.

Volgens directeur Kate Smith was het AI-alarm al geannuleerd voordat de politie arriveerde. De update werd echter niet op tijd doorgegeven, vertelde een woordvoerder van het schooldistrict aan WBAL-TV 11. Hoofdinspecteur Myriam Rogers noemde het incident "ongelukkig" en kondigde een volledig onderzoek aan. De betrokken leerlingen zullen psychologische ondersteuning krijgen.

Oproepen tot hervorming na vals alarm

Na het incident riep Allen's grootvader, Lamont Davis, op tot verantwoording en hervormingen in het gebruik van AI-bewaking. De gebeurtenis leidde ook tot heftige discussies op sociale media. Op Reddituitten gebruikers felle kritiek op de politie, de schoolfunctionarissen en de betrokken technologie. Velen beweerden dat het echte probleem niet de AI zelf was, maar de manier waarop mensen reageerden na het alarm. "Menselijke fout, geen AI-falen," luidde een van de topcommentaren.

Een systeem dat ontworpen is om wapens in een vroeg stadium te detecteren is zinvol - vooral in de VS, waar schietpartijen op scholen een ernstig probleem blijven. Maar het is cruciaal om ervoor te zorgen dat deze hulpmiddelen zelf geen risico worden. Dat betekent dat vals alarm tot een minimum beperkt moet worden en dat er duidelijke communicatie moet zijn tussen beveiligingspersoneel en wetshandhavers.