Tänk efter innan AI tar över

Vad händer om människan lyckas skapa en maskin som är smartare än vi själva? Den skulle kunna bli ett hot mot mänskligheten, säger matematikern och riskforskaren Olle Häggström i sin nya bok Tänkande maskiner. Men även annars kan artificiell intelligens orsaka problem.

1 | Varför skrev du den här boken?

 – Därför att artificiell intelligens och vad vi gör med den i framtiden är en av de stora och avgörande frågorna för mänskligheten. Den är fortfarande underskattad. Man kan jämföra med klimatfrågan, som också är en avgörande fråga – men den finns redan i hög grad på bordet.

2 | Vem behöver bry sig om riskerna med AI-utvecklingen?

 – Jag tycker att alla engagerade samhällsmedborgare bör göra det. Vi har redan bekymmer med till exempel de AI-algoritmer som styr vad som presenteras för oss i sociala medier, och som kan bidra till att polarisera det politiska samtalet. En annan aspekt är vad AI-driven automatisering kan få för konsekvenser för arbetsmarknaden. Utvecklingen går fort. De problem vi ser kan förvärras och det kan även uppstå nya problem.

3 | Vad finns det för konkreta saker som kan göras redan nu, utöver att förbjuda utveckling av autonoma vapen?

– Det behövs ett system som garanterar att en viss del av AI-forskningen handlar om de här etik- och riskosäkerhetsfrågorna, snarare än att bara göra AI så kraftfull som möjligt. Men generellt är min bok bättre på att ställa frågor än att tala om exakt hur vi bör göra.

4 | Du skriver inte bara om ”vanlig” AI, utan också om artificiell generell intelligens, AGI. Men någon sådan finns inte ännu. Hur funkar det att forska om något som inte finns?

– Ja, det blir ju ofta väldigt teoretiskt. Det är ett svårt område med stora osäkerheter. Lite grovt kan man skilja mellan att försöka skapa teoretiska modeller och att titta på dagens AI för att hitta sätt att generalisera den till större system och till AGI.

– Till exempel finns de som har tittat på hushållsrobotar och hur man kan få dem att bete sig väl och olika fallgropar i programmeringen. Låt oss säga att vi har en robotdammsugare och ger den uppgiften att suga upp så mycket damm som möjligt. Då kan den få för sig att optimera mängden damm som sugs upp genom att regelbundet tömma ut allt damm på golvet igen så att den kan få mer poäng på det sättet. Det är naturligtvis ingen katastrof om det här skulle inträffa, det skulle bara vara en dålig robotdammsugare, men den här sortens fenomen kan bli katastrofala om de inträffar för större system.

5 | Du är ordförande för en AI-etikkommitté på Chalmers. Vad gör ni?

– Vi driver ett AI-etikseminarium där vi bjuder in föredragshållare som kan lyfta AI-etikfrågor och annat som har att göra med sociala konsekvenser av AI-utvecklingen. En annan konkret sak är att vi har interna utlysningar inom Chalmers AI research centre, och där har vi skrivit i ett slags statuter att alla forskningsprojekt som bedrivs ska ha med en etikdimension från allra första början.