Krönika: Vad händer när datorerna blir smartare än vi?

Detta är en text från 2014.

Under ett par dagar i juni rapporterade tidningar världen över om hur en dator klarat Turingtestet. Det beskrevs som ett stort genombrott för så kallad artificiell intelligens (AI) och ledde till spekulationer om att robotarnas övertagande, à la Terminator-filmerna, var nära förestående. 

Vad är då Turingtestet? Matematikern Alan Turing lade 1936 grunden till den moderna datalogin. I en mer filosofisk uppsats 1950 diskuterade han om det är möjligt för maskiner att tänka. För att belysa frågan formulerade han det test som senare kom att bära hans namn:

Ett datorprogram A och en människa B kommunicerar med en människa C (kallad domaren) via ett textinterface. C vet inte vem som är vem av A och B, som båda försöker föreställa människa på ett sätt som övertygar C. Om C inte förmår avgöra att det är A som är datorprogrammet anses A ha klarat testet.

Turing ansåg att ett datorprogram som klarar detta test besitter verklig intelligens, och han vågade sig på förutsägelsen att det inom 50 år (alltså vid millennieskiftet) skulle finnas program som lurar minst 30 procent av domarna.

1966 skrev datalogen Joseph Weizenbaum ett program kallat ELIZA, som agerade psykoterapeut och som faktiskt gav vissa användare intryck av att någon därinne lyssnade och förstod dem. Det hela byggde på en rad enkla knep, som att skriva ”Berätta mer om X”, där X kunde vara vad som helst som användaren nämnt.

Att lyfta illusionen till den nivå där ett program anses ha klarat Turingtestet visade sig svårare. Numera hålls en årlig tävling om bästa försök, men ingen tävlande har nått ända fram. Den har kritiserats för att distrahera AI-forskare till att syssla med ytliga trick, utan utsikter att leda till något verkligt genombrott. Turing själv skulle nog ha förvånats om han fått se det allvar på vilket många tar hans test. Hans egen avsikt med testet var mer som ett tankeexperiment, ämnat att avmystifiera mänsklig intelligens.

När det då nyligen rapporterades att det datorprogram som döpts till Eugene Goostman, och som ska föreställa en 13-årig ukrainsk pojke, hade klarat Turingtestet, gav det stora rubriker. Det hela visade sig dock vara något av en tidningsanka. Programmet finns på nätet för vem som helst att använda, och är mycket lätt att avslöja. Det uppträder något mer sofistikerat än ELIZA gjorde för snart 50 år sedan, men inte mycket, och de domare som sägs ha blivit lurade måste ha varit riktiga klåpare.

Kan vi alltså avblåsa spekulationerna om robotarnas snara övertagande? Jag tror inte det. AI-tekniken går raskt framåt; datorprogram slår världseliten både i schack och i frågespelet Jeopardy, och Googles förarlösa bil har slagit världen med häpnad. Det handlar om specifika områden. Men vad händer vid ett genombrott för generell AI? Teoretiska argument tyder på att utvecklingen då mycket snabbt kan eskalera mot en så kallad teknologisk singularitet: att en AI som höjer sig över mänsklig intelligens följaktligen är bättre än vi på att skapa AI, och således kan bygga en ännu bättre AI – och så vidare, i en allt snabbare spiral. Det skulle revolutionera vår värld på svårförutsägbara vis, och eventuellt bli mycket farligt. Om detta har flera böcker skrivits, inklusive den svenskfödde Oxfordfilosofen Nick Bostroms bok Superintelligence, som släpptes förra månaden*.

Huruvida en intelligensexplosion av detta slag verkligen är att vänta är inte lätt att avgöra. Ännu svårare är det att ange en tidtabell. Är det dags om tio år eller om hundra år? Det enda jag känner mig någorlunda säker på är att datorprogrammet Eugene Goostman inte kommer att ha med genombrottet att göra.  Av Olle Häggström

*Nick Bostrom är en av de främsta experterna inom detta slags futurologi och intervjuades i F&F 1/2014 (Lever vi redan i de andras låtsasvärld?).