När algoritmer fattar beslut
Vad händer med insyn och transparens, rättvisa och demokrati när allt fler myndighetsbeslut fattas med hjälp av algoritmer och AI?
Beskedet om barnens skolplacering inför hösten 2020 blev en chock för många Göteborgsföräldrar. I stället för den önskade skolan nära hemmet hade barn placerats i stadsdelar över en mil bort. Orsaken: en felaktig algoritm.
Skolvalet i Göteborg är bara ett av flera exempel på ”algoritmisk orättvisa” som tas upp i antologin AI & makten över besluten. Här vrider och vänder en rad forskare och experter på frågor som uppstår när allt fler myndighetsbeslut fattas med hjälp av algoritmer och AI. Vad händer med insyn och transparens? Rättvisa? Demokratin?
Ett problem är att förvaltningar hamnar i händerna på teknikföretag, som därmed får ett stort inflytande över utvecklingen. Ett annat är att beslut fattas i ”svarta lådor” som är svåra att förklara och granska i efterhand. Som en väg framåt föreslås att algoritmernas funktion kontrolleras av särskilda revisorer på liknande sätt som revisorer granskar företags bokföring.
Hur gick det då för skolbarnen i Göteborg? Fallet illusterar även utmaningarna med att rätta till felaktiga algoritmiska beslut. Trots att det drogs till domstol skedde ingen rättelse och drabbade barn fick gå kvar i de utpekade skolorna.
AI & makten över besluten: Vad alla borde veta om algoritmer i offentlig sektor
Maja Fjaestad och Simon Vinge (red.)
Volante
Prenumerera på Forskning & Framsteg!
10 tidningsnummer om året och dagliga nyheter på fof.se med kunskap baserad på vetenskap.