„Ik vind niet dat dit mijn taak is”: CEO van Flock reageert op zorgen over misbruik van camera’s
Flock-camera’s staan steeds meer onder de loep, nu steeds meer mensen het slachtoffer worden van persoonsverwisseling en worden vervolgd voor misdrijven die zij niet hebben begaan. Door een combinatie van indirect bewijs, twijfelachtige camerabeelden en een flinke dosis AI vertrouwen politiekorpsen in de hele VS steeds meer op dit zeven jaar oude particuliere bedrijf voor het uitvoeren van politietaken, zelfs wanneer het systeem mogelijk fouten maakt.
Voor alle duidelijkheid: het is niet alleen Flock dat deze onterechte vervolging veroorzaakt. Zoals YouTuber Mental Outlaw in een recente video uiteenzette, wordt het toenemende gebruik van AI-gezichtsherkenningssoftware, geautomatiseerde kentekenplaatlezers, microfoons voor het detecteren van geweerschoten en soortgelijke systemen ingezet zonder de nodige training of operationele veiligheidsmaatregelen om te waarborgen dat de verzamelde gegevens op verantwoorde of zelfs wettige wijze worden beheerd en gebruikt, zoals uit enkele recente situaties is gebleken. Een van de ernstigere gevallen was die van Michael Williams, afkomstig uit Chicago, die bijna een jaar lang gevangen zat op verdenking van moord, op basis van bewijs afkomstig van een microfoon voor het detecteren van schoten, bekend als ShotSpotter. Wat nog erger is, is dat ShotSpotter het geluid aanvankelijk als vuurwerk had aangemerkt en het zelfs niet in de omgeving van Williams had gedetecteerd. Toch was het voor de politie voldoende bewijs om hem aan te houden, ondanks het feit dat er bij zijn fouillering geen fysiek bewijs bij hem werd aangetroffen. Hoewel dit op zich al alarmerend is, wordt deze mate van afhankelijkheid van AI-bewijs in hoog tempo de norm. Systemen zoals Flock dragen bij aan deze standaardisatie, hetzij door hun alomtegenwoordige inzet bij het lezen van kentekenplaten en het vaststellen van verkeersovertredingen, hetzij doordat Flock externe PR-bureaus inschakelt om hun product af te stemmen op politiekorpsen in het hele land.
Met name wat betreft kentekenplaatlezers bespreekt Mental Outlaw hoe de bewijslast is verschoven van de politiediensten naar de automobilisten, aangezien fotografisch bewijs uit deze systemen schijnbaar onfeilbaar is geworden. Van onfeilbaarheid is echter zeker geen sprake, zoals blijkt uit het geval van een andere man uit Florida, Jacob Rockwell, onlangs viraal ging toen hij op een gemeenteraadsvergadering verscheen om de raadsleden voor te lichten over de fijne kneepjes van het omgaan met particuliere bedrijven om een eerlijke kans te krijgen bij het aanvechten van zijn bekeuring voor het door rood rijden – terwijl hij zich op dat moment niet eens in de staat bevond – terwijl het betalen van de boete net zo eenvoudig was als het bezoeken van een online portaal. Neem nu Flock: of het nu gaat om het volgen van immigranten, toezicht op abortussen, schendingen van de privacy buiten de staat, zorgen over hacking of flagrant misbruik van gegevens door politieagenten, Flock heeft zich grotendeels van elke verantwoordelijkheid gedistantieerd en richt zich op het verzamelen van meer gegevens en het binnenhalen van meer klanten, zoals CEO Garrett Langley uitlegde in een „ ”-interview dat hij gaf aan 9News, waarin hij op een vraag over zijn betrokkenheid bij het toezicht op het gebruik van de gegevens van zijn bedrijf door de politie antwoordde: „Ik denk niet dat het mijn taak is om…“. Vervolgens legt hij uit dat hij contact zou opnemen met de bevoegde autoriteiten om het misbruik van de door hem geleverde gegevens aan te pakken, wat, ironisch genoeg, waarschijnlijk juist de politiedienst zou zijn die de gegevens in de eerste plaats misbruikt. De verschillende staten hebben hier echter kennis van genomen, waarbij vele staten contracten met Flock en soortgelijke instanties hebben opgezegd, en mensen zijn ook begonnen met het volgen van de inzet van deze camera’s via systemen als DeFlock – dat Langley beschouwt als een „terroristische organisatie“ – en OpenMaps. Nieuwsgierige gebruikers kunnen meer informatie vinden in de onderstaande bronnen.
Bron(nen)
Flock PR-vermelding, Misbruik van Flock-gegevens [1][2][3], Kwetsbaarheden in de bootloader van de Flock-camera, Interview met 9NEWS, Interview met Hex Studio,Mental Outlaw op YouTube
Add as a preferred source on Google
