När algoritmer fattar beslut

Beskedet om barnens skolplacering inför hösten 2020 blev en chock för många Göteborgsföräldrar. I stället för den önskade skolan nära hemmet hade barn placerats i stadsdelar över en mil bort. Orsaken: en felaktig algoritm.

Skolvalet i Göteborg är bara ett av flera exempel på ”algoritmisk orättvisa” som tas upp i antologin AI & makten över besluten. Här vrider och vänder en rad forskare och experter på frågor som uppstår när allt fler myndighetsbeslut fattas med hjälp av algoritmer och AI. Vad händer med insyn och transparens? Rättvisa? Demokratin?

Ett problem är att förvaltningar hamnar i händerna på teknikföretag, som därmed får ett stort inflytande över utvecklingen. Ett annat är att beslut fattas i ”svarta lådor” som är svåra att förklara och granska i efterhand.  Som en väg framåt föreslås att algoritmernas funktion kontrolleras av särskilda revisorer på liknande sätt som revisorer granskar företags bokföring.

Hur gick det då för skolbarnen i Göteborg? Fallet illusterar även utmaningarna med att rätta till felaktiga algoritmiska beslut. Trots att det drogs till domstol skedde ingen rättelse och drabbade barn fick gå kvar i de utpekade skolorna.