Kan fienden identifiera sina motståndare med AI?

Svar av Johan Karlsson, forskningsingenjör, Totalförsvarets forskningsinstitut FOI

Mycket inom AI publiceras i dag i form av öppen källkod med tillhörande algoritmer för till exempel ansiktsigenkänning. Det är alltså fritt fram, även för privatpersoner, att försöka matcha ett ansikte mot en samling ansikten med hjälp av AI. Ett vanligt förekommande krav på upplösning är att ansiktet ska vara minst cirka 80×80 pixlar, och bilder på sociala medier är ofta av bättre kvalitet.

Det finns flera exempel på företag som samlat på sig bilder från sociala medier för detta ändamål. En rysk sida som samlat in bilder från VK, den ryska motsvarigheten till Facebook, skryter om cirka 70 procents träffsäkerhet för användare som letar efter matchande personer. Sidan har använts för att kartlägga ryska militärer, något som kan kallas Open-source intelligence (OSINT). Sådan kartläggning kan så klart också kombineras med andra källor.

Prestandan hos algoritmer som inte offentliggjorts är svårare att avgöra utifrån, men vi kan konstatera att prestandan hos fritt tillgängliga algoritmer tränade på öppna datakällor är ganska bra i dag. Den blir dessutom allt bättre, eftersom detta är ett fält som utvecklas snabbt.

Devisen att inget som läggs upp på internet går att radera är viktig att komma ihåg i sammanhanget. Därför är det kanske rimligt att inte publicera bilder på utsatta personer.