Ansiktsigenkänning – vem ser dig?

– Det kan ta flera veckor att gå igenom allt, säger Peter Bergström, chef för informationsteknik på Nationellt forensiskt centrum, NFC, i Linköping.

Bildmaterialet i polisens utredningar kan växa till gigantiska mängder. Det är videor från både offentliga och privata övervakningskameror, plus polisens egna.

– Lägg till att alla har en mobil i fickan. Det blir många bilder och mycket video, säger han.

Men från och med i höst ska utredarna få hjälp av avancerad, automatisk bildanalys med artificiell intelligens för att hitta nålen i höstacken. Om gärningsmannen sågs med vit keps, svart kortärmad tröja och en brun väska kan dessa kännetecken knappas in i polisens nya system. Ut kommer bilder som matchar beskrivningen.

– Det gör att det går mycket snabbare att sålla och hitta i materialet. Det som tog veckor går på några dagar. En annan vinst med att använda teknik är att vi skyddar integriteten för alla de personer i bildmaterialet som inte är misstänkta, säger Peter Bergström.

Ansiktigenkänning – verktyg för polisen

Det nya bildanalysverktyget innehåller även ansiktsigenkänning. Om det finns en bild på den misstänkte kan systemet söka efter personen i fråga – om bilderna är tillräckligt skarpa vill säga.

– Ansiktsigenkänning kräver lite mer av bildmaterialet i form av ljus och skärpa. Pilottesterna har visat att systemet är bättre på att hitta objekt som en nummerplåt eller en väska av en viss typ, säger Peter Bergström.

Ansiktigenkänning har på senare år gått igenom en snabb utveckling. För många är det numera vardag att öppna telefonen genom att sätta mobilens kamera framför ansiktet och att tagga vänner på sociala medier. Coronapandemin har gett tekniken en extra skjuts eftersom den inte kräver någon fysisk kontakt. Många flygplatser har redan infört, eller planerar att införa, ansiktsigenkänning för incheckning och passkontroll.

Polisen lockas så klart av möjligheterna. En kamera på ett torg kan automatiskt skanna ansiktet på alla som passerar och matcha dem mot en databas med eftersökta. Tester med sådana live-kameror görs ibland annat i Storbritannien.

Polisen får söka bland dömda och misstänkta

Den typen av övervakning på stan är dock inte aktuell i Sverige, poängterar Peter Bergström. Utöver att leta i ett avgränsat utredningsmaterial har den svenska polisen bara okej från Datainspektionen att söka med ansiktsigenkänning i det så kallade signalementsregistret, som innehåller tidigare dömda och misstänkta. Polisen vill även testa att matcha bilder på resenärer mot resehandlingar på Skavsta flygplats, något som kan komma igång under nästa år om en föreslagen ändring i utlänningslagen först går igenom.

– Det kan verka som att vi är lite tröga i Sverige, men det är viktigt att granska vad som är tekniskt möjligt, vilken träffsäkerhet systemen har och vilka för- och nackdelarna är, säger Peter Bergström.

Även om träffsäkerheten hela tiden förbättras och företagen som säljer systemen skryter om deras exakthet så visar verkligheten något annat.

I januari i år anhölls en oskyldig svart man i Detroit i USA efter att ha pekats ut för att ha stulit ett armbandsur. Ett system för ansiktsigenkänning hade matchat hans körkortsbild med tjuven som fångats på bar gärning av en övervakningskamera, men det visade sig sedan vara fel.

– Jag blev helt chockad när polisen kom och arresterade mig mitt på ljusan dag framför min dotter, min fru och mina grannar, berättar han i en intervju med MIT Technology Review.

Tekniken tar fel på kvinnor, barn och icke-vita

Att ansiktsigenkänningssystemen har svårare att känna igen kvinnor, barn och icke-vita har uppmärksammats i flera studier, till exempel i en rapport 2019 från det amerikanska standardiseringsinstitutet, NIST, som regelbundet testar system för ansiktsigenkänning.

Förklaringen ligger i hur systemen blir till. För att lära sig att känna igen skillnaden mellan olika ansikten tränas de på stora mängder bilder.

– Tränas systemen på vita män blir de också bra på att känna igen vita män, säger Jörgen Ahlberg, docent i datorseende vid Linköpings universitet.

Risken för en felaktig matchning beror också på hur ansiktsigenkänning används.

– Om det blir fel i mobilen en gång på tusen gör det kanske inte så mycket. Det är osannolikt att tusen personer försöker logga in på din mobil. Men om tusen människor passerar en kamera på stan, och om var och en jämförs med en databas på tusen eftersökta personer, kommer samma träffsäkerhet att ge 1 000 felaktiga larm.

Identifiering, det vill säga att söka efter en okänd identitet i en stor databas, är mycket svårare än verifiering, som i en mobil, där bilden från kameran matchas mot sparade bilder på ägaren.

– Identifiering ställer därför mycket högre krav på ansiktsigenkänningssystemet, säger Jörgen Ahlberg.

It-jättar mot teknik för ansiktigenkänning

Det finns fler exempel på felaktiga utpekanden och i kölvattnet av Black lives matter-rörelsen i USA har motståndet mot polisens kameraövervakning ökat. I somras beslutade sig it-jättarna Microsoft och Amazon för att sluta sälja ansiktsigenkänningsteknik för polisändamål i väntan på reglerande lagstiftning. IBM, å sin sida, la ner försäljningen helt och hållet. Flera delstater i USA, bland andra Kalifornien, har förbjudit polisen att använda ansiktsigenkänning.

I Storbritannien kom nyligen en dom som slår fast att den walesiska polisens tester med kameror som i realtid fångar ansiktet på alla förbipasserande inte har något lagligt stöd. Domstolen slår även fast att polisen inte kunnat visa att algoritmen behandlar alla lika oavsett kön och hudfärg. Domen har fått människorättsorganisationer som är emot ansiktsigenkänning att jubla och kräva förbud.

– Men domen är flertydig. Det blir intressant att se vad den får för konsekvenser, säger Peter Fussey, professor i kriminologi vid universitetet i Essex, Storbritannien, och chef för Centre for Research into Information, Surveillance and Privacy (CRISP).

Han är kritisk till den här typen av realtidsanvändning där alla som passerar kameran matchas mot en databas över misstänkta.

– Innan du inför en sådan påträngande teknik måste du visa att den är nödvändig, fungerar effektivt och inte är diskriminerande, säger han.

I en oberoende studie av Londonpolisens försök med sådana live-kameror har han och en av hans forskarkollegor visat att träffsäkerheten inte heller är särskilt hög. Under sex dagar gjorde polisen 42 identitetskontroller av personer som algoritmen pekat ut som misstänkta.

– Men bara i åtta fall var det rätt person. Det motsvarar knappt 20 procent, säger Peter Fussey.

Och då har polisen ändå valt att göra testerna i dagsljus för att öka chansen till träff. Kamerorna har helt enkelt svårt att fånga ansikten som inte är riktade rakt mot kameran och kanske täcks av kepsar, sjalar och annat.

Negativ effekt på viljan att demonstrera

Vid sidan av rätt till privatlivet hotas flera andra rättigheter av ansiktsigenkänning, poängterar han.

– Det har en hämmande effekt på människors vilja att uttrycka sina åsikter. De första resultaten från en stor studie i USA, där vi deltar, pekar på att polisens övervakning har stor negativ effekt på viljan att mötas och demonstrera.

Möjligheten att skanna av ansikten på distans utan vår vetskap skiljer ansiktsigenkänning från andra former av identifiering som fingeravtryck eller dna. Och när ansiktet väl fångats och gjorts om till data kan informationen lagras och spridas.

Amanda Lagerkvist, docent i medie- och kommunikationsvetenskap vid Uppsala universitet, leder ett nytt tvärvetenskapligt forskningsprojekt om etiska frågor kring bland annat ansiktsigenkänning. Hon ser stora risker för den personliga integriteten.

– Tekniken är effektiv och blir mer och mer pålitlig och användbar för goda syften som att snabbt identifiera kriminella, men den kan också användas för att övervaka människor. Alla människor.

Hon säger att det är dags att ställa grundläggande frågor om att vara människa i vår tid med AI och automation.

– Ansiktet, liksom kroppen och rösten, är centrum för vår unika person och vårt värde. Jag är orolig för att biometrisk AI kan förändra vår syn på människovärdet. Och vad har vi för möjligheter att välja bort att bli igenkända via ansiktet?

Risk att ansiktsigenkänning används fel

Många rapporter vittnar om hur den kinesiska regimen använder ansiktsigenkänning för att kontrollera befolkningen och även som ett medel i förföljelsen av uigurer. Flera av de ledande företagen på området är baserade i Kina och deras teknik för ansiktsigenkänning exporteras till bland annat Afrika.

Både i USA och inom EU har röster höjts för ett tillfälligt stopp för ansiktsigenkänning tills tekniken är ordentligt reglerad. Å andra sidan finns vinster med att bekvämt kunna öppna telefonen eller identifiera sig på allt från flygplatsen till bussen med ansiktet.

Men företag som vill använda kameror med ansiktsigenkänning för att till exempel hålla koll på hur kunderna handlar och rör sig i en butik bör tänka efter en extra gång.

– Motrörelsen skulle komma som ett brev på posten, menar Fredrik Hammargården, medgrundare av företaget Indivd, som utvecklar teknik för ”anonymiserad” ansiktsigenkänning.

Med hjälp av patentsökt teknik behandlas bilderna från kameror utan att spara några personuppgifter. På så sätt kan butiker få data om kundernas kön, ålder och köpbeteende, men utan att kundernas identitet avslöjas. Nyligen godkände Datainspektionen i ett så kallat förhandssamråd att företagets teknik inte strider mot dataskyddsförordningen och i höst ska den testas av ett antal svenska butiker.

– Vår idé är att utnyttja all den potential som finns i att arbeta datadrivet och samtidigt ta hänsyn till den personliga integriteten, säger Fredrik Hammargården.

Så fungerar ansiktsigenkänning

Klicka för att ladda ner infografiken som PDF.

Två exempel från polisens analyssystem

Ansiktsmask försvårar igenkänning

Hur bra fungerar ansiktsigenkänning i tider av covid-19 när många personer bär ansiktsmask? När det amerikanska standardiseringsinstitutet, NIST, testade 89 kommersiella system visade det sig att felfrekvensen ökade med 5 procent, för de bästa systemen, till 50 procent för de som presterade sämst.

Testet gick ut på att jämföra en bild på samma person med och utan mask. Tillverkarna försöker nu att anpassa algoritmerna så att de tar större hänsyn till området kring ögonen för att förbättra träffsäkerheten, även med ansiktsmask.