Mer ansiktsgjenkjenningsteknologi rapportert i ikke-hvite områder i NYC: Amnesty International

Mer ansiktsgjenkjenningsteknologi rapportert i ikke-hvite områder i NYC: Amnesty International Crowdsource-dataene kartla mer enn 25 500 CCTV-kameraer over hele New York City. - poolsuppliers

Crowdsource-dataene kartla mer enn 25 500 CCTV-kameraer over hele New York City.

15. februar 2022, 00:01

11 min lesing

Flere CCTV-kameraer med ansiktsgjenkjenningsfunksjoner ble observert i bydeler og nabolag i New York City med høyere konsentrasjoner av ikke-hvite innbyggere, ifølge ny forskning fra menneskerettighetsgruppen Amnesty International.

“Vår analyse viser at NYPDs bruk av ansiktsgjenkjenningsteknologi bidrar til å forsterke diskriminerende politiarbeid mot minoritetsmiljøer i New York City,” sa Matt Mahmoudi, en kunstig intelligens og menneskerettighetsforsker ved Amnesty International, i en uttalelse til ABC News.

“Den sjokkerende rekkevidden av ansiktsgjenkjenningsteknologi i byen etterlater hele nabolag utsatt for masseovervåking,” la han til. “NYPD må nå avsløre nøyaktig hvordan denne invasive teknologien brukes.”

I en samtale om teknologi for ansiktsgjenkjenning sa nestleder John Miller for politidepartementet i New York til ABC News at ofrene for voldelig kriminalitet i byen er «overveldende» fargede.

“De fortjener ikke bare, men krever at politiet reagerer på rapporter om kriminalitet og pågriper de ansvarlige,” sa Miller.

Amnesty Internationals funn er basert på crowdsourcede data innhentet som en del av Decode Surveillance NYC-prosjektet, som kartla mer enn 25 500 CCTV-kameraer over hele New York City. Dataene ble samlet inn mellom 14. april 2021 og 25. juni 2021.

Prosjektets mål var å finne overvåkingskameraer i New York City og avsløre hvor folk er mest sannsynlig å bli sporet av ansiktsgjenkjenningsteknologi (FRT). Amnesty International jobbet deretter med dataforskere for å sammenligne disse dataene med statistikk om stopp-, spørsmåls- og friskpolitikk og demografiske data.

Stopp-og-frisk-politikk lar offiserer stoppe, stille spørsmål og klappe ned alle som antas å være mistenkelige.

Forskningen fant at områdene som er tett befolket med CCTV-kameraer, viste seg å ha større risiko for stop-and-frisk-praksis fra politiet. Noen mennesker har kritisert denne polititaktikken som diskriminerende. I 2019 var 59 % av de som ble stoppet av politiet som en del av stop and frisk svarte og 29 % var latinoer, ifølge New York Civil Liberties Union , som siterte NYPD-data.

I følge data samlet inn av United States Census Bureau i juli 2021, av de som bodde i New York City, var 24,3% svarte og 29,1% latinoer.

I en uttalelse til ABC News sa Miller at stop and frisks “har vært nede med over 90% i over åtte år.”

See also  Utilisation de l'imagerie profonde pour une résolution plus élevée

“Numerisk er de mye færre stoppene som fortsatt gjøres basert på beskrivelser av mennesker gitt av forbrytelsesofre som oftest er medlemmer av samfunnet der stoppet gjøres,” sa han.

Miller la til at denne typen stopp bidrar til NYPDs nåværende nivå av våpenarrestasjoner – “de høyeste nivåene på 25 år,” sa han – som er kritisk fordi “drap er halvert, og skytingen har doblet seg.”

Aktivister bekymrer seg imidlertid over at invasiv overvåking og teknologi for ansiktsgjenkjenning truer individets personvern og uforholdsmessig retter seg mot og skader svarte og brune samfunn. Mahmoudi kalte utbredelsen av CCTV “en digital stopp og frisk.”

NYPD brukte FRT i minst 22 000 tilfeller mellom 2016 og 2019, sa Amnesty International, ifølge data STOP , en anti-overvåking non-profit, var i stand til å få tak i fra NYPD gjennom byens Freedom of Information Law.

“Jeg er ikke overrasket over at overvåkingsteknologien igjen treffer de samme samfunnene som allerede har vært hovedmålene for politihåndhevelse, eller spesifikt NYPD-håndhevelse,” sa Daniel Schwarz, en personvern- og teknologistrateg ved NYCLU, til ABC News.

“Det er en svært invasiv skadelig teknologi. Den utgjør en enestående trussel mot alles personvern og sivile friheter,” sa Schwarz. “Vi har etterlyst et forbud mot denne teknologien, fordi vi ikke kan se hvordan den kan brukes trygt, gitt dens store innvirkning på borgerrettigheter og borgerlige friheter.”

Kritikken kommer da New Yorks borgermester Eric Adams sa at han ville utvide NYPDs bruk av teknologi, inkludert FRT.

“Vi vil også gå videre med å bruke det siste innen teknologi for å identifisere problemer, følge opp spor og samle bevis – fra ansiktsgjenkjenningsteknologi til nye verktøy som kan oppdage de som bærer våpen, vi vil bruke alle tilgjengelige metoder for å holde folkene våre trygge, ” sa Adams på en pressekonferanse i januar .

Adams’ kontor svarte ikke på ABC News’ forespørsel om kommentar.

NYPD har brukt FRT siden 2011 for å identifisere mistenkte hvis bilder “har blitt tatt av kameraer ved ran, innbrudd, overgrep, skyting og andre forbrytelser,” ifølge NYPDs nettsted. Imidlertid sier avdelingen at “en ansiktsgjenkjenningsmatch ikke etablerer sannsynlig årsak til å arrestere eller innhente en ransakingsordre, men fungerer som en ledetråd for ytterligere etterforskningstrinn.”

See also  Betalingsselskaper, kloke, suspenderer pengeoverføringsbedrifter i Russland

Robert Boyce, pensjonert detektivsjef ved NYPD, sa at avdelingen har strenge retningslinjer for bruk av ansiktsgjenkjenningsteknologi. Ingen får bruke teknologien uten saksnummer og godkjenning fra veileder, sa han.

“Det er en høy bar å kunne bruke den, og det er slik det skal være,” sa Boyce, som gikk av med pensjon i 2018, til ABC News. “Vi bruker det ikke til annet enn en kriminell etterforskning, og vi skrev en veldig streng policy om dette, fordi det var under gransking av mange mennesker.”

Kvaliteten på CCTV-opptakene er ofte ikke god nok til at politiet kan bruke den til ansiktsgjenkjenning, sa Boyce, basert på sin tid med avdelingen. Oftere, sa han, bruker politiet sosiale medier-kontoer for å finne bilder av individer de ser på i stedet for å utføre FRT-søk.

Bilder fra sosiale medier-kontoer er ofte av bedre kvalitet og er derfor mer nyttige for å få nøyaktige resultater når du bruker programvare for ansiktsgjenkjenning, ifølge Boyce. Politiet bruker FRT som en vei for å hjelpe dem med å finne noen, men de trenger fortsatt en fotoserie eller oppstilling for å identifisere et emne for at det skal være tillatt i retten, sa han.

“Jeg kan ikke fortelle deg hvor viktig det er. Våre sluttkurser har gått opp betydelig fordi vi gjør dette nå,” sa Boyce om FRT. “Jeg tror det er en enorm hjelp for oss. Men som alt annet kan det misbrukes, og du må holde deg på toppen av det.

“Hvis jeg måtte gi det et tall, ville jeg si at de gikk opp noe sånt som 10%,” sa Boyce om avdelingens sluttkurs. Slutttakster refererer til antall saker avdelingen er i stand til å løse.

Boyce hevdet at FRT burde adopteres av flere stater og brukes mer utbredt rundt om i landet med føderal veiledning om bruken.

I følge US Government Accountability Office rapporterte 18 av 24 undersøkte føderale byråer at de brukte et FRT-system i regnskapsåret 2020 av grunner som cybersikkerhet, nasjonal rettshåndhevelse og overvåking.

Sammen med forskningen opprettet Amnesty International også et nytt interaktivt nettsted som beskriver potensiell FRT-eksponering. Brukere kan se hvor mye av en turvei mellom to steder i New York City som kan involvere ansiktsgjenkjenningsovervåking.

See also  Google ने यूरोप में Play ऐप स्टोर से RT, Sputnik को ब्लॉक किया

Amnesty International hevdet at det var høyere nivåer av eksponering for FRT under Black Lives Matter-protestene i 2020.

“Da vi så på ruter som folk ville ha gått for å komme til og fra protester fra nærliggende T-banestasjoner, fant vi nesten total overvåkingsdekning av offentlig eide CCTV-kameraer, for det meste NYPD Argus-kameraer,” sa Mahmoudi.

“Bruken av masseovervåkingsteknologi på proteststeder blir brukt til å identifisere, spore og trakassere mennesker som rett og slett utøver sine menneskerettigheter,” sa Mahmoudi og kalte det en “bevisst skremselstaktikk.”

Han la til: “Å forby ansiktsgjenkjenning for masseovervåking er et sårt tiltrengt første skritt mot å avvikle rasistisk politiarbeid.”

NYPD svarte og sa at de ikke hadde kontroll over hvor demonstrantene gikk.

“Vi valgte ikke ruten som demonstrantene tok. Vi kunne heller ikke kontrollere ruten som demonstrantene tok,” sa Miller som svar på Amnesty Internationals påstander.

“Det var ingen skanning av demonstrasjoner for ansiktsgjenkjenning,” sa Miller.

“Ansiktsgjenkjenningsverktøyene er ikke festet til disse kameraene,” sa Miller. “I tilfellene der ansiktsgjenkjenningsverktøy ble brukt, ville det være der det var et angrep på en politimann eller alvorlig skade på eiendom, enten det var et levedyktig bilde å kjøre mot krusskudd.”

NYCLU har også bedt om et forbud mot ansiktsgjenkjenning eller biometrisk overvåking av myndighetene overfor offentligheten, sa Schwarz.

“Enhver overvåkingsteknologi kan ha en avslappende effekt på hvordan folk engasjerer seg og hvordan de benytter seg av ytringsfriheten. Det er ekstremt skremmende å tenke på hvordan protester kan overvåkes,” sa Schwarz. “Jeg synes det bør være et tydelig rekkverk på bruken.”

Miller, NYPDs visekommissær, sa at Amnesty Internationals forskning ikke forteller hele historien om hvordan FRT brukes.

“Amnesty International har nøye plukket utvalgte datapunkter og kommet med påstander som i beste fall er ute av kontekst og i verste fall bevisst villedende. I karakteriseringen av hvordan NYPD bruker ‘kunstig intelligens’, har rapporten kun gitt kunstig informasjon,” Miller sa til ABC Nyheter.

I fjor saksøkte Amnesty International NYPD etter at de nektet å avsløre offentlige registre angående anskaffelsen av ansiktsgjenkjenningsteknologi og andre overvåkingsverktøy. Saken pågår.

Redaktørens merknad: Denne artikkelen har blitt oppdatert for å gjenspeile navnet på NYCLU.


ABC Nyheter