by En svart mamma stämmer staden Detroit och en detektiv från polisen i Detroit efter att hon falskt arresterades när hon var gravid i åttonde månaden av poliser som använde “opålitlig ansiktsigenkänningsmatchning”, enligt en federal stämningsansökan som lämnades in på torsdagen.
Porcha Woodruff, 32, var hemma runt klockan 8 på morgonen den 16 februari och hjälpte sina 6- och 12-åringar att göra sig redo för skolan när sex Detroit-poliser dök upp vid hennes dörr med arresteringsorder för hennes bil och rån, säger källor i klagomålet.
“Skämtar du, stjäl en bil? Ser du att jag är gravid i åttonde månaden?” frågade hon henne, står det i stämningsansökan. Ändå fick hon handfängsel, fördes till fängelse och ställdes inför rätta, säger källor.
Woodruff fick senare veta att hon var inblandad i den påstådda händelsen efter att mjukvara för ansiktsigenkänning startade, och offret för bilstölden identifierade henne enligt en serie på sex bilder, som också inkluderade hennes muggskott från en arrestering 2015, säger källor i klagomålet. Polisen hade tillgång till hennes nuvarande körkortsfoto från 2021, men använde det äldre fotot, enligt anmälan.
Även om brottsanmälan mot Woodruff avvisades mindre än en månad senare på grund av otillräckliga bevis, söker hon en juryrättegång för att söka brottslig och annan skadestånd, säger stämningsansökan, som specifikt nämner “de oroande effekterna av ansiktsigenkänningsteknik i detta land. “fall” påpekas.
“Ansiktsigenkänning ensam kan inte tjäna som en trolig orsak till arresteringar, eftersom en dators identifiering är benägen att göra fel som människor också kan göra”, lyder klagomålet. “Trots dess potential har brottsbekämpande myndigheters användning av ansiktsigenkänning resulterat i felaktiga arresteringar som har resulterat i förnedring, förlägenhet och fysisk skada, vilket just denna incident visar.”
Rättegången är den senaste som fokuserar på teknik för ansiktsigenkänning och dess potentiella risker, efter att experter varnat för AI:s tendens till fel och partiskhet, och farorna med att använda ansiktsigenkänning på ett felaktigt sätt.
Stämningen hävdar också att Detroit Police Department “har engagerat sig i ett mönster av rasdiskriminering mot (Woodruff) och andra svarta medborgare genom att använda ansiktsigenkänningsteknik som har visat sig felaktigt identifiera svarta medborgare oftare än andra, i strid med Michigans 1976 års lag ger garanterat lika skydd.” Civil Rights Act.
Under de senaste åren har forskare varnat för den utbredda användningen av tekniker som ansiktsigenkänning, vilket kan leda till ras- eller könsdiskriminering.
En amerikansk regeringsstudie från 2019 visade att många ansiktsigenkänningsalgoritmer är mycket mer benägna att felidentifiera rasminoriteter än vita. Indianer, svarta och asiater drabbades oproportionerligt oftare, enligt studien från National Institute of Standards and Technology.
Tester visade att vissa algoritmer är upp till 100 gånger mer benägna att förvirra två olika icke-vita personer, sa byrån då. I ljuset av dessa farhågor har flera städer över hela landet förbjudit användningen av ansiktsigenkänning av stadstjänstemän, inklusive San Francisco och Somerville, Massachusetts.
Woodruffs advokat, Ivan Land, sa i måndags på CNN Tonight att han tror att ansiktsigenkänningsteknik kan vara ett användbart verktyg “om… Du använda sig av Det rätt väg” bland andra utredningsåtgärder.
Woodruffs stämningsansökan hävdar också att utredaren som lämnade in arresteringsordern har väckts med illvilligt åtal och hävdar att utredarens handlingar “verkade vara motiverade av illvilja”, stod det.
Polischefen i Detroit beskrev anklagelserna som “mycket oroande”.
“Vi tar det här ärendet på största allvar men kan inte kommentera ytterligare i nuläget eftersom ytterligare utredning krävs”, sa chefen James White i ett uttalande till CNN. “Vi kommer att tillhandahålla mer information när ytterligare fakta blir tillgängliga och vi bättre förstår omständigheterna.”
CNN har nått ut till Detroit Fraternal Order of Police, Michigan Fraternal Order of Police och National Fraternal Order of Police för kommentarer, men har inte fått något svar.
Polisen LaShuntia Oliver, namngiven i rättegången, tilldelades bilkapningsfallet och lämnade in begäran om ansiktsigenkänning, enligt klagomålet. CNN nådde Oliver via telefon men kunde inte få någon kommentar innan Oliver avslutade samtalet.
Det här är inte den enda gången Detroit-polisen har varit inblandad i påstådd missbruk av ansiktsigenkänningsteknik: 2020 lämnade American Civil Liberties Union in ett administrativt klagomål till avdelningen i vad den ideella organisationen säger var det första kända fallet av en felaktig arrestering var med ansiktsigenkänning.
Vid den tidpunkten hade den statliga polisen tillhandahållit CCTV-bilder av en misstänkt, som körde bilderna genom ett ansiktsigenkänningssystem. Systemet föreslog ett foto av en man vid namn Robert Williams som en möjlig match. Men efter att Williams arresterades och hölls i ett interneringscenter, fastställde poliserna att han inte var den misstänkte de letade efter.
CNN har kontaktat Wayne County Attorney’s Office för en kommentar.
“Förvirrad och antar att det var ett skämt”
Offret för bilstölden och rånet kontaktade Detroit Police Department den 29 januari för att rapportera händelsen, enligt klagomålet. Dagar senare fick Oliver veta att en kvinna hade lämnat tillbaka offrets mobiltelefon till en BP-bensinstation, så hon gick dit för att titta på videofilmerna.
Videon skickades till kvinnan som lämnade tillbaka telefonen för en begäran om ansiktsigenkänning och den identifierade Woodruff, står det i stämningsansökan.
Oliver gick tillbaka till bensinstationen för att titta på fler videofilmer och “belyste i sin rapport vad hon observerade i videofilmerna och det fanns inget som tydde på att den kvinnliga misstänkta var gravid”, lyder klagomålet.
Offret visades senare en “six-pack lista”, inklusive bokningsbilden på åttaåriga Woodruff, och “påstås identifieras” att Woodruff var närvarande när bilen stals, står det i stämningsansökan.
När Woodruff först konfronterades med beslutet blev hon “häpen och antog att det var ett skämt eftersom hon var synligt gravid”, enligt stämningsansökan. Hon och hennes fästman “manade poliserna att granska arresteringsordern för att bekräfta att kvinnan som begick rånet och stöldbilen var gravid, men poliserna vägrade att göra det”, stod det i klagomålet.
“Befälet gjorde klart att de var allvarliga och grep dem”, står det.
Woodruff hölls i cirka 11 timmar. Hon berättade för CNN Tonight Monday att hon hade kämpat för att kontrollera sin rädsla under sin fängelse.
“Jag kände mig hjälplös där. Min huvudsakliga oro var att se till att mitt ofödda barn är säkert, säger hon.
Hennes fästman tog henne senare till sjukhuset efter att hon led av “trånghet och smärta i magen, smärta i hela kroppen, huvudvärk och fysisk svaghet”, stod det i klagomålet. Hon fick diagnosen låg hjärtfrekvens på grund av uttorkning och berättade att hon hade stressrelaterade sammandragningar, sa dokumentet.
Woodruff sa att hon födde sin son i mars.
Woodruff sa att gripandet lämnade hennes barn med bestående trauma.
“De har svårt att förstå och komma överens med det faktum att jag greps framför dem, säger hon. “Det var en upplevelse jag inte kan ta tillbaka och den borde ha undvikits. Mina barn behövde inte uppleva det för något jag inte gjorde.”
CNN:s Brian Fung, Jamiel Lynch och Sara Sidner bidrog till denna rapport.
För fler CNN-nyheter och nyhetsbrev, skapa ett konto på CNN.com
