”Våga se risken för AI-katastrof”

Forskare vid Umeå universitet förnekar existensen av annan intelligens än den mänskliga, skriver AI-forskaren Olle Häggström. Han menar att deras uppfattning är ett säkert sätt att misslyckas med att få en AI-utveckling som gynnar mänskligheten.

Publicerad
AI-robot ser rakt på oss

Det är orimligt trångsynt att ta för givet att det mänskliga sättet att tänka är det enda möjliga, replikerar AI-forskaren Olle Häggström.
Bild: Getty images

Det här är en kommenterande text. Analyser och åsikter är skribentens egna.

REPLIK. Det är en skrämmande tanke att AI-utvecklingen skulle vara på väg mot ett läge där maskinerna på allvar utmanar oss människor om världsherraväldet. För att slippa tänka den tar vi gärna till olika försvarsmekanismer. En vanlig sådan är att hävda att egenskaper som intelligens, förståelse, och resonemangsförmåga är unikt mänskliga och aldrig kan uppnås av en maskin.

För att detta synsätt inte ska stanna vid en ogrundad trosuppfattning behöver vi dock hitta sätt att empiriskt testa om en varelse har dessa egenskaper. Låt oss anta att en lärare vill testa en elevs förmåga att resonera, och erbjuder följande tankenöt:

”Michael befinner sig på det där världsberömda museet i Frankrike och betraktar dess mest kända målning. Den konstnär som gjort målningen får honom dock bara att tänka på sin barndomsfavorit bland tecknade figurer. Vad var ursprungslandet till det föremål som den tecknade figuren vanligtvis håller i sin hand?”

Bedömningen måste vara opartisk

Om eleven – en människa av kött och blod – via begrepp som Louvren, Leonardo da Vinci, Teenage Mutant Ninja Turtles och katana kommer fram till det korrekta svaret ”Japan” har läraren knappast något annat rimligt val än att godta att eleven klarar av att resonera i flera led. Men hur reagerar vi om det i stället är en AI som utvecklar samma tankegång? I själva verket lyckades Googles språkmodell PaLM våren 2022 med exakt detta. En opartisk och konsekvent bedömare som godtagit att eleven förmår resonera behöver då tillerkänna PaLM samma förmåga.

Trots denna och många liknande prestationer av PaLM, och trots de mångfaldigt mer imponerande konststycken som GPT-4 ett år senare visade upp för världen, så hävdar en grupp AI-forskare vid Umeå universitet med Virginia Dignum i spetsen (F&F 27 nov 2023) dogmatiskt att dagens språkmodeller inte kan resonera. Riktigt varför förblir i deras artikel något oklart, men att döma av tidigare diskussioner jag haft med Dignum handlar det om att bakom språkmodellernas till synes intelligenta resonemang ligger beräkningsstrukturer som skiljer sig från de som äger rum i motsvarande situation i den mänskliga hjärnan. Dessa skillnader menar hon gör att benämningen ”resonemang” inte är giltig, och att det på sin höjd handlar om fejk-resonemang.

På liknande sätt kan man välja att döma ut all intelligens AI uppvisar som fejk-intelligens, all dess förståelse som fejk-förståelse och alla dess intentioner som fejk-intentioner, och så vidare. Men det är orimligt trångsynt att ta för givet att det mänskliga sättet att tänka är det enda möjliga. Vad som verkligen betyder något i praktiken är vad AI-systemen presterar utåt, snarare än den exakta överensstämmelsen mellan deras bakomliggande beräkningsstrukturer och människans. Givet AI:ns faktiska beteende spelar det mindre roll huruvida vi kallar dessa strukturer intelligens eller fejk-intelligens.

Social manipulation är viktig

Något som orsakat stora mängder förvirring i detta slags diskussioner (vilket jag tyvärr är medskyldig till) är betoningen av begreppet AGI – artificiell generell intelligens. Med detta brukar menas AI som matchar eller överträffar människan i alla våra relevanta kognitiva förmågor. Begreppet har ofta använts som måttstock för när AI blivit så kraftfull att den kan hota mänskligheten.

Problemet med denna tankegång är att den inbjuder till idén att om vi kan påvisa en enda mänsklig förmåga som AI saknar, så har vi långt till AGI och till varje fara för AI-katastrof. Jag önskar att jag hade fem kronor för varje gång någon yttrat ”Haha, lägg av med dina science fiction-fantasier, AI kan ju inte ens knyta ett skosnöre!”.

Felet här är att om vi ska avgöra om AI kan bli farlig genom att överträffa oss i förmåga att ta makten, så är det centrala inte att den slår oss i allt. Det viktiga är om totalen av dess för maktövertagande relevanta förmågor är större än vår. En särskilt viktig aspekt härvidlag är AI:ns kompetens i fråga om social manipulation. Redan i dag finns många små och isolerade exempel där GPT-4 och andra språkmodeller uppvisat sådan förmåga. Om vi inte går noggrant och försiktigt fram med utvecklingen av nya modeller riskerar dessa att nå en tröskelnivå där de förmår utöva social manipulation systematiskt och på bred front, och då kan vi vara riktigt illa ute.

Dignum & co försöker i sin F&F-artikel vifta undan denna problematik genom att hävda att när AI lurar en människa så beror det inte på AI:ns skicklighet, utan på mänsklig naivitet. Att omformulera problemet på detta vis ändrar dock inget i balansen mellan AI:s kompetenser och våra.

Att få till fortsatt AI-utveckling på ett sätt som gynnar mänskligheten och låter oss behålla kontrollen har på kort tid seglat upp som vår tids kanske allra största samhällsutmaning. Ett säkert sätt att misslyckas med denna utmaning är om vi väljer att på Dignum & co:s vis förneka existensen av annan intelligens än den specifikt mänskliga, och låtsas som om problemet inte finns. Låt oss för allt i världen inte begå det misstaget!

Olle Häggström

Olle Häggström
Bild: Fri tanke
  • Professor i matematisk statistik på Chalmers tekniska högskola.
  • Ledamot i Kungliga Vetenskapsakademien.
  • Har huvuddelen av sina forskningsmeriter inom sannolikhetsteori men fokuserar numera mer på AI och existentiell risk.
  • Författare till fem böcker varav den senaste, Tänkande maskiner: Den artificiella intelligensens genombrott, nyss utkommit i en andra upplaga med ett nytt kapitel om AI-utvecklingen 2021-2023 och dess samhällskonsekvenser.

Läs tidigare inlägg i debatten:

F&F i din mejlbox!

Håll dig uppdaterad med F&F:s nyhetsbrev!

Beställ nyhetsbrev

Prenumerera på Forskning & Framsteg!

10 nummer om året och dagliga nyheter på webben med vetenskapligt grundad kunskap.

Beställ idag
Publicerad

Upptäck F&F:s arkiv!

Se alla utgåvor