”AI-system ska veta sina gränser”

Vad menas med tillförlitlig AI?

– Det innebär att AI-systemet uppfyller lagar och regler och fungerar i den miljö där det implementeras, till exempel i en självkörande bil. De ska också uppfylla fyra viktiga etiska principer som går ut på att stärka och komplettera oss som människor, vara säkra och inte skada oss vare sig fysiskt eller mentalt. De ska också vara rättvisa och förklarbara.

Ska det alltså gå att förstå hur AI:n fattade sitt beslut?

– Ja, men förklarbar är bredare än så. Det ska till exempel vara tydligt om jag pratar med ett AI-system eller med en människa. Systemet ska veta sina gränser och kunna tala om vad det kan och inte kan.

– Att det ska vara rättvist är också svårt att definiera. Innebär det lika fördelning av resurser eller att alla får resurser efter behov för att komma upp på samma nivå? Det är stora och långsiktiga frågor som kommer att ta tid att lösa.

Varför är det viktigt att jobba med dessa frågor?

– Jag tror att AI kan vara en del av lösningen på alla de stora samhälls­problem som vi står inför, men då gäller det att realisera den här nyttan och se till att alla får del av den. En grundförutsättning är att vi som individer, men även företag, myndigheter och organisationer, känner tillit till de här systemen.

Vilka är de största utmaningarna?

– Det är lätt att säga att vi vill ha ett rättvist och förklarbart system, men att faktiskt bygga det är en jättesvår uppgift. Det finns väldigt många tekniska utmaningar kvar. Vad räknas till exempel som en förklaring? Och hur ska vi bygga system som kan förklara sig själva?

– Många av dagens metoder är också väldigt datahungriga, så att göra dem mer effektiva och mindre energikrävande är väldigt viktigt.

Finns den någon vanlig miss­uppfattning om AI?

– Det finns många. En är att man förväntar sig att ett AI-system som är bra på en sak – som ett spel – också är bra på andra spel, men den här typen av system är byggda för en sak och är bra på det och ingenting annat.

– Det finns också en föreställning om att det i grund och botten är ett slags maskin som antingen fungerar bra eller så är det trasigt och fungerar inte alls. Men precis som människor gör de här systemen ofta rätt, men ibland blir det fel. Det betyder inte att de är trasiga utan att det finns en förbättringspotential.