Många vet inte att deras ärende avgörs av en robot

Det blev stora rubriker när Trelleborgs kommun för två år sedan införde en ”handläggarrobot” för att besluta om försörjningsstöd. Många förvånades över att en robot ersatte mänskliga handläggare.

– Ändå är det inte nytt. Skatteverket, Försäkringskassan och Transportstyrelsen använder sedan länge automatiska beslutssystem. Utvecklingen går snabbt, säger Karin Hedström, professor i informatik vid Örebro universitet.

Tillsammans med forskarkollegorna Thomas Denk och Fredrik Karlsson har hon undersökt svenskarnas uppfattning om beslutsrobotar. Studien har gjorts inom ramen för en årlig undersökning från SOM-insitutet vid Göteborgs universitet.

Resultatet visar att bara en av fem svenskar känner till att det förekommer automatiska beslutssystem på svenska myndigheter.

– Jag visste att okunskapen var stor, men att den var så stor förvånade mig, säger Karin Hedström.

Synen på beslutsrobotarna är inte särskilt positiv. En majoritet svarar att datoriserade beslut är mindre tillförlitliga, inte tar lika stor hänsyn till individuella behov samt att de skapar mindre insyn i beslutsprocessen. Däremot svarar 69 procent att datorer fattar mer opartiska beslut. De som inte kände till tekniken var över lag mer negativa.

Karin Hedström efterlyser en debatt kring hur beslutsrobotar ska användas av myndigheterna.

– Tilltron till beslutsfattandet påverkar förtroendet för samhället och demokratin. Därför är det viktigt att öppet diskutera på vilket sätt vi bäst kan använda tekniken som hjälp, säger hon.

Samtidigt påpekar hon att automatiseringen har många positiva sidor. Handläggningen blir mer effektiv. En dator blir inte trött eller hungrig och kan jobba dygnet runt, vilket leder till snabbare beslut. Handläggarna slipper rutinuppgifter och kan ägna sin tid åt mer komplicerade ärenden.

– Besluten baseras också på samma regler och blir därmed likadana, säger Karin Hedström.

Men det finns problem. Det personliga mötet försvinner. Det kan ibland vara svårt att förstå hur besluten fattas och det finns inte alltid någon att ringa till.

– En viktig fråga är därför om, och hur, automatiserat beslutsfattande förändrar synen på vem som är ansvarig för besluten.

Än så länge fattar datorer oftast beslut i rutinärenden. Systemen är programmerade för att hämta bestämda uppgifter i databaser och följa förutbestämda regler. I framtiden kan de med hjälp av artificiell intelligens komma att besluta i mer komplexa ärenden.

– AI kan exempelvis användas för att göra mer komplexa analyser av stora datamängder som underlag för beslut, och då blir det extra viktigt att det går att förklara besluten, säger Karin Hedström.