Vi talar naturligtvis om Kina, där de brottsbekämpande myndigheterna i Hongkong satte in högteknologiska övervakningssystem för att stoppa protesterna som bröt ut 2019. Den kinesiska regeringen använder även ansiktsigenkänning och annan teknik i Xinjiang för att kontrollera och förtrycka den uiguriska minoritetsbefolkningen.
Vid demonstrationerna över hela USA under BLM-rörelsen har amerikanska brottsbekämpande myndigheter liberalt använt sig av de verktyg som står till deras förfogande och dragit full nytta av de rättsliga luckor som finns kring högteknologisk övervakning. Medan polisens användning av ansiktsigenkänning för övervakning av den senaste tidens protester har fått varningsklockor att ringa för många, är denna praxis varken ny eller sällsynt. Trots att algoritmerna för ansiktsigenkänning har förbättrats dramatiskt under de senaste åren har rättsliga kontroller av dess användning helt misslyckats med att hänga med.
Hur används ansiktsigenkänning av polisen, och varför skall vi oroa oss?
Artiklar på nyhetssiten BuzzFeed visar att Minneapolis poliskår är en bland hundratals brottsbekämpande organ – tillsammans med tusentals privata firmor – som använder företaget Clearview AI:s algoritmer. Clearview skapade sin ansiktsigenkänningsprogramvara genom att samla in mer än 3 miljarder bilder från Facebook och andra webbsiter, och kan jämföra ett ansikte som fångas av en säkerhetskamera mot sin databas för att avslöja möjliga matchningar. Detta ”plug-and-play-ansiktsidentifieringssystem” väcker uppenbara integritetsfrågor: En rätt ”att slippa vara övervakad” borde innehålla en rätt att inte få sitt foto skördat från Internet utan samtycke så att man kan identifieras när man rör sig ute i samhället.
En växande skara motståndare har varnat för missbruk av ansiktsigenkänningstekniken, och företag har sakta börjat ta notis. I juni meddelade IBM att de inte längre skulle sälja ansiktsigenkänningsprogramvara, medan Amazon och Microsoft båda avbröt sina leveranser av ansiktsigenkänningstjänster till brottsbekämpande myndigheter. Alla tre företagen angav som orsak etiska farhågor kring användningen av denna teknik och argumenterade för statliga ingripanden för att reglera dess användning. Men företagen har dragit tillbaka produkterna endast i ljuset av den senaste tidens protester och andra företag, inklusive Clearview, har ökat sina ansträngningar för att leverera tjänster till sina brottsbekämpande kunder.
Innan Amazon vände kurs tillät företagets teknik, med produktnamnet Rekognition, brottsbekämpande myndigheter att genomföra realtidsansiktsidentifiering på videoflöden från kameror som kan vara uppsatta i en hel stad. Och andra övervakningsverktyg är fortfarande utbredda. Ring Inc., en division av Amazon som marknadsför hemsäkerhetssystem som videodörrklockor, fortsätter att utöka sina affärer med brottsbekämpande myndigheter. Via sin app Neighbors ger Ring polisen möjlighet att begära videoinspelningar direkt från Rings kunder. Medan Amazon ännu inte har integrerat ansiktsigenkänningsverktyg i Ringsystemet så har företaget inte heller uteslutit det.
Även utan ansiktsigenkänning inbyggd i produkter som Ring, har de brottsbekämpande myndigheterna verktyg till sitt förfogande för att genomföra ansiktsigenkänningsanalys på alla bilder de får. Federala myndigheter som FBI och Immigration and Customs Enforcement kan inte bara utnyttja federala fotodatabaser, som passbilder, visumbilder och federala daktningsbilder – men kan också söka i delstaternas databaser med körkortsbilder. Denna praxis väcker komplexa integritetsfrågor: Bör en ansökan om ett pass eller ett körkort utgöra samtycke till att få sitt ansikte skannat så att polisen kan utföra ansiktsidentifiering? Under vilka omständigheter?
Förutom integritetsutmaningar riskerar ansiktsigenkänningstekniken att befästa och förvärra ras- och könsfördomar. Forskning av Joy Buolamwini och Timnit Gebru 2018 analyserade offentligt tillgängliga ansiktsigenkänningssystem och fann att mörkhyade kvinnor var felidentifierade i högre grad än andra grupper. National Institute of Standards and Technologys forskning kom fram till liknande resultat. Uppföljande forskning av Buolamwini och Deborah Raji under 2019 fann att trots att kommersiell ansiktsigenkänningsteknik genomgående hade förbättrats, kvarstod ras- och könsskillnader.
I brottsbekämpningens värld kommer partisk teknik att leda till partiska och potentiellt dödliga resultat. Inbyggda fördomar kvarstår när tekniken används i mer godartade sammanhang. Ta exemplet med snabb flygplatskontroll. Om algoritmen presterar sämre vid mörkare hud, skulle detta sannolikt leda till snabbare kontroll för ljushyade individer medan mer mörkhyade personer skulle få längre väntetid eftersom de behöver kontrolleras ”manuellt” av säkerhetspersonal.
Mer allmänt kan kombinationen av snabbt förbättrad programvara för ansiktsigenkänning och allt tätare placerade högupplösande övervakningskameror på offentliga platser sätta kraftfulla verktyg för massövervakning i händerna på staten. Som vi har sett i Kina kan dessa verktyg användas för att utföra kontinuerlig spårning i realtid av någon – eller hela grupper. En sådan massövervakning skulle undergräva de centrala demokratiska principerna: minska vår anonymitet offentligt, minska yttrandefriheten och öka risken i samband med offentliga protester. Oreglerat skapar detta en kraftfull, nyckelfärdig mekanism för auktoritärt styre. För närvarande har vi ingenting annat än normer för styrning, företagspraxis och statens goda vilja för att förhindra att dessa verktyg missbrukas på detta sätt.
Vilken är Europas syn på ansiktsigenkänningsteknik?
Som i vissa amerikanska delstater förbjuder europeiska sekretesslagar viss kommersiell användning av ansiktsigenkänningsteknik. Den allmänna dataskyddsförordningen (GDPR) kategoriserar biometriska uppgifter som känsliga personuppgifter och begränsar hur privata aktörer kan samla in, dela och använda dessa uppgifter. Detta gör det sannolikt olagligt för ett företag som Ring att installera ansiktsigenkänningsteknik på smarta dörrklockor; om sådana tog bilder av förbipasserande skulle det utgöra insamling av deras biometriska uppgifter utan deras samtycke. EU-tjänstemän anser också att Clearview AI:s affärsmodell sannolikt är olaglig av samma anledning, även om svenska brottsbekämpande myndigheter har gjort försök med programvaran.
Detta har medfört att Datainspektionen inledde en undersökning i mars i år för att fastställa lagligheten. Frågor skickades till Kustbevakningen, Säpo, Polisen, Tullverket och Migrationsverket. Datainspektionens jurist, Elena Mazzotti Pallard, säger att man vill fastställa om myndigheterna använder Clearview AI, och i så fall under vilket lagrum. Elena Mazzotti Pallard uppger till Exakt24 att åtminstone polisen har inkommit med ett svar, men att det samtidigt råder sekretess runt vissa av myndigheterna.
EU:s kamerariktlinjer anger tydligt vad som gäller för företag som använder teknik för ansiktsigenkänning. Huvudregeln är att det inte är tillåtet, om syftet är att identifiera en person.
Europeiska dataskyddsstyrelsen, EDPB, skall ta fram en vägledning om hur de brottsbekämpande myndigheterna skall förhålla sig till teknik för ansiktsigenkänning.
Europeiska unionen har separata lagar om insamling och behandling av personuppgifter för EU-institutionerna, å ena sidan, och de brottsbekämpande myndigheterna i EU:s medlemsstater, å andra sidan. Dessa regler hindrar inte myndigheter från att samla in och behandla biometriska data eller använda system för ansiktsigenkänning. I hela Europa har de brottsbekämpande myndigheterna experimenterat med övervakning i realtid med hjälp av ansiktsigenkänning. I Wales förra året (före brexit) slog en domstol fast att Cardiffpolisens användning av ansiktsigenkänning överensstämde med nationell lagstiftning och var förenlig med dataskyddslagstiftningen och Förenade kungarikets lag om mänskliga rättigheter. I London har Metropolitan-polisen aktiverat ansiktsigenkänning på delar av stadens utbredda kameranät sedan i somras.
EU-lagstiftningen ger dock en betydande grad av öppenhet kring brottsbekämpningens användning av ansiktsigenkänning. Fallet i Cardiff offentliggjorde en anmärkningsvärd detaljnivå kring polisens användning av tekniken. På andra håll i Europa har ansiktsigenkänning testats som ett verktyg för massövervakning, men i Hamburg, Berlin och Nice upphörde polisen med sådana tester efter att ha fastställt att de franska och tyska rättssystemen inte hade någon rättslig grund för användning av tekniken. I Sverige pågår fortfarande Datainspektionens utredning.
I slutet av förra året avslöjade ett läckt utkast till en vitbok från Europeiska kommissionen att EU:s myndigheter övervägde ett femårigt förbud mot användning av ansiktsigenkänningsteknik. Den slutliga versionen av vitboken, som offentliggjordes i februari, utelämnade emellertid denna begränsning. Det innehöll i stället endast en kort diskussion om riskerna kring biometrisk teknik och åtog sig att ”inleda en bred europeisk debatt om eventuella särskilda omständigheter som skulle kunna motivera en sådan användning och om gemensamma skyddsåtgärder”.
Hur regleras ansiktsigenkänningsteknik i USA?
Det finns ingen federal lag som reglerar användningen av ansiktsigenkänningsteknik. Sektoriella amerikanska sekretessregler (som HIPAA inom hälso-och sjukvårdssektorn eller Gramm-Leach-Bliley i den finansiella tjänstesektorn) kan begränsa vissa tillämpningar av ansiktsigenkänning i vissa fall, men har sannolikt inte någon relevans för brottsbekämpande myndigheters användning av tekniken. På statlig och lokal nivå finns det också regleringar som skyddar en liten del av amerikanerna från vissa missbruk av ansiktsigenkänning. Åtta städer i Kalifornien och Massachusetts har förbjudit statlig användning av ansiktsigenkänning helt och hållet, medan Portland i Oregon överväger att gå längre genom att förbjuda både offentlig och privat sektor att använda tekniken. Tre stater har förbjudit användandet av ansiktsigenkänning i polisens kroppskameror (trots att minst ett företag marknadsför sina kroppskameror för poliser med deras förmåga att inkludera direkt ansiktsigenkänning).
Den mest omfattande lag som begränsar delstatlig användning av ansiktsigenkänningsteknik antogs i delstaten Washington tidigare i år. Trots att den kritiseras för att inte gå tillräckligt långt och för att gynna det lokala storföretaget Microsoft, inför lagen några viktiga begränsningar. Det kräver alla statliga organ som vill använda ansiktsigenkänning skall tillkännage sin avsikt att göra det, och att offentliggöra en ”ansvarsrapport” som skall detaljera hur tekniken skulle fungera, hur den skulle användas och hur myndigheten skulle förhindra potentiella skadeverkningar. Även om sådana öppenhetsåtgärder kan verka svaga, hjälper de till att ta itu med den gråzon där de flesta polismyndigheter för närvarande använder denna teknik.
Delstaten Washingtons lag kräver mänsklig granskning av alla beslut som fattas med hjälp av ansiktsigenkänningsteknik som skulle ha rättsliga effekter eller ”liknande betydande effekter” på en individ. Detta kan omfatta beslut som påverkar en individs bostad, utbildning, sysselsättning eller medborgerliga rättigheter. Lagen kräver också att myndigheter testar tekniken under ”driftsförhållanden” och tillhandahåller ett gränssnitt (API) för att underlätta tredjepartstestning av tekniken. Kanske viktigast av allt, lagen reglerar användningen av ansiktsigenkänningsteknik för övervakning i realtid. Myndigheterna får genomföra en sådan levande skanning först efter att ha fått en fullmakt, när de försöker hitta en försvunnen person, eller under ”andra omständigheter”, ett väletablerat koncept i Washingtons juridiska system. Dessutom kan myndigheterna inte använda ansiktsigenkänningsteknik för att registrera någon utövning av konstitutionens första tillägg, om yttrandefrihet, till exempel vid en demonstration eller under trosutövande.
Även om inga andra delstater har lagar som täcker statlig användning av ansiktsigenkänningsteknik har flera delstater lagar som reglerar privat användning av sådan teknik. Illinois ståtar med den starkaste sådana lagen – The Biometric Information Privacy Act (BIPA). BIPA, som antogs 2008, täcker en rad biometriska identifierare, inklusive ansiktsskanningar, irisskanningar, fingeravtryck och röstavtryck, och kräver att privata organisationer inhämtar samtycke innan biometriska uppgifter samlas in och att de begränsar delningen och användningen av sådana uppgifter. Texas och Washington har liknande lagar, medan California Consumer Privacy Act (CCPA) behandlar biometriska uppgifter som personuppgifter och ger rättigheter till medborgare gällande vissa privata användningsområden för dessa uppgifter. BIPA och CCPA ger också enskilda personer möjlighet att söka skadestånd för brott mot lagen. BIPA möjliggjorde ett gruppskadeståndsmål, en så kallad class action, mot Facebook tidigare i år som slutade med en uppgörelse med 550 miljoner dollar i skadestånd. Orsaken var företagets användning av ansiktsigenkänning i sin programvara för fototaggning. I våras inledde American Civil Liberties Union ett fall under BIPA mot Clearview AI för att de använder sin ansiktsigenkänningsteknik på fotografier av invånare i Illinois.
Vilka är de politiska alternativen, förutom ett totalförbud?
Europas reträtt från ett förbud mot ansiktsigenkänning, och svårigheten att ta itu med dessa frågor i USA, beror på samma enkla faktum: Ansiktsigenkänningsteknik kan vara ett kraftfullt verktyg för brottsbekämpning och kan tillämpas för att uppnå lovvärda mål, som att hitta försvunna personer, offer för människohandel eller gripa våldsbrottslingar. Men utan kontroll av dess användning riskerar tekniken att undergräva grundläggande demokratiska värderingar och minska människors frihet.
I USA har kongressen har börjat uppmärksamma dessa tekniker, med utfrågningar och lagförslag som behandlar specifika frågor som rör ansiktsigenkänning som har lagt av ledamöter från båda partierna. Det breda polisreformpaket som antogs av representanthuset i somras innehåller bestämmelser som skall begränsa användningen av ansiktsigenkänning i polisens kroppskameror.
Att Kina kommer att använda tekniken fullt ut för att kontrollera sin befolkning och sannolikt också utlänningar i Kina är högst troligt. I västvärlden, framförallt i USA och i Europa, fortsätter debatten om hur man skall reglera ansiktsigenkänningen, och i takt med att EU för sin dialog, finns det möjlighet till samtal mellan länder som delar demokratiska värderingar om hur man skall hantera de många politiska utmaningar som är förknippade med denna teknik. Med ett bristfälligt regelverk i kraft och en teknologi som blir mer kraftfull varje dag är det hög tid för beslutsfattare att agera.
