Olika syn på artificiell intelligens

I artikeln får vi bland andra möta filosofen John Searle, som med stöd i sitt kända tankeexperiment det kinesiska rummet hävdar att en dator inte kan ha verkligt medvetande, verkliga intentioner eller verklig vilja. Därför, menar han, behöver vi inte oroa oss för det slags undergångsscenarier som Nick Bostrom skisserat, där till exempel en superintelligent maskin programmerats till att maximera framtida gemproduktion, vilket får den att bestämma sig för att genast utrota mänskligheten, då den ju helt korrekt förutsett att vi annars skulle försöka stoppa dess planer på att omvandla hela solsystemet (inklusive oss människor) till en jättelik hög med gem.

Searle misstar sig dessvärre på vad det kinesiska rummet landar i. Om vi för resonemangets skull accepterar dess slutsatser, så handlar dessa enbart om datorns inre upplevelser, och inte om dess agerande utåt, vilket även Searle själv medgett.

Vi kan tänka oss att när Bostroms gem-undergång drar igång med robotar som urskillningslöst avrättar människor så kommer panik att utbryta, men då kommer Searle att stå där och ropa ”Lugn allesammans! Robotarna skjuter oss, men det är inte för att de har några verkliga intentioner att göra det. De är själlösa maskiner!” Detta kommer för oss andra att vara en ganska klen tröst.

I min bok Here Be Dragons: Science, Technology and the Future of Humanity, som utkommer i januari, ägnar jag flera avsnitt åt risker i samband med ett eventuellt framtida genombrott inom artificiell intelligens, inklusive en fördjupande diskussion kring datormedvetande, det kinesiska rummet, och de förhastade slutsatser som John Searle drar i detta sammanhang.

 /Olle Häggström, professor i matematisk statistik vid Chalmers tekniska högskola

Svar: Stephen Hawking varnar tillsammans med institutet Future for life för att en medveten och illasinnad artificiell intelligens (AI) kan ta över världen och göra slut på mänskligheten. Andra, som filosofen John Searle, är tveksamma och menar att det finns en grundläggande skillnad mellan skapade datorer och evolverade hjärnor. Vad ska man tro?

I nuvarande vetenskap finns det inte plats för någon inre subjektiv erfarenhet hos vare sig en sten, en räknedosa eller den mest högpresterande AI-maskin, men heller inte hos en biologisk hjärna. Det senare strider mot åtminstone min egen upplevelse och något måste brista i resonemanget.

Kroppens samtliga organ, inklusive hjärnan, är ett resultat av miljoner års evolution. De är inte enkla designade konstruktioner, där varje del har en tydlig och pedagogiskt avgränsad funktion. Det är långt ifrån klart att en medveten hjärna kan simuleras på en dator av kisel. En simulerad mage smälter inte riktig mat, och en simulerad hjärna tänker inte några riktiga tankar. För att förstå vad ett medvetande är och skapa det på artificiell väg krävs fundamentala genombrott, kanske till och med inom grundläggande fysik.

Men allt kan förstås gå åt skogen ändå. Vi blir alltmer beroende av i många fall ganska dumma system, som kan braka samman efter strömavbrott eller avsiktliga och illasinnade sabotage. Min misstanke är att en mänsklighetens undergång orsakad av datorer inte kommer att vara särskilt glamorös och SF-betonad. Och kanske inte lika spännande att varna för.

/Ulf Danielsson, professor i teoretisk fysik, Uppsala universitet.