Nobelpris till AI-forskning – men en av pristagarna varnar för tekniken

– Jag är helt ställd. Det kom som en blixt från klar himmel. Jag skulle ha gjort en magnetröntgen i dag, men jag tror att jag måste ställa in den, säger Geoffrey Hinton på länk under Kungliga Vetenskapsakademins presskonferens.

Priset handlar om metoder som används flitigt inom maskininlärning som den mesta AI vi talar om i dag bygger på. Med hjälp av dessa metoder är det möjligt för datorer att använda artificiella neuronnät för att känna igen bilder och andra mönster i data. Idén att låta maskiner ”träna sig” går ända tillbaka till 1940-talet, och hämtar inspiration från hur hjärnans neuroner är sammanlänkade i vittförgrenade nätverk.

John Hopfield utvecklade 1982 en metod för att skapa minnesassociationer mellan olika noder, vilket i dag kallas för ett Hopfieldnätverk. Detta nätverk går att träna, så att den kan ta en ofullständig bild och härleda vilken av en mängd sparade bilder som den ofullständiga bilden mest liknar.

Strax efter John Hopfields upptäckt utvecklade Geoffrey Hinton ytterligare metoder för att skapa självlärande nätverk. Han använde redskap från statistisk fysik för att konstruera en ”Boltzmanmaskin”. Denna algoritm används för att klassificera bilder eller att utgå från kända mönster och därefter skapa nya.

– De utvecklade grunderna för de stora neurala nätverken vi har i dag. I synnerhet bakåtpropagering som är en helt nödvändig algoritm för att träna nätverken på ett effektivt sätt, säger Moa Johansson som är docent i datavetenskap och AI vid Chalmers Tekniska Högskola.

Anders Ynnerman, professor i vetenskaplig visualisering och medlem i Kungliga Vetenskapsakademin, instämmer:

– Det som är spännande med det här Nobelpriset är att man går tillbaka till grunderna och tittar på de fundamentala upptäckterna. Det är viktigt för att se den långa cykeln av bidrag och upptäckter när vi betraktar samhällets utveckling. Forskningen som belönas med Nobelpriset var från början mycket grundläggande, men nu upplever vi dess konsekvenser som kommersiella och tekniknära.

Geoffrey Hinton har skrivit under ett upprop om riskerna med AI. I takt med att algoritmerna tränas på allt större datamängder utvecklas deras kapacitet, vilket har väckt farhågor att det finns stora risker med AI.

– Vi har ingen erfarenhet om hur det är att ha objekt som är smartare än oss. Jag är orolig för att en konsekvens kan bli att de system som är mer intelligenta än oss faktiskt kommer att ta kontrollen, säger Geoffrey Hinton på presskonferensen.

Moa Johansson kommenterar att maskininlärning är en kraftfull teknologi med många användningsområden. Hon påpekar att det ofta är så med flera nya teknologier, så visst finns det risker.

– Vissa har dragit på väl stora växlar och pratar om de neurala nätverk som en existentiell risk, att de kan bli illvilliga och förstöra hela mänskligheten. Men det är väldigt spekulativt och inte realistiskt med nuvarande teknik. Självklart finns det reella risker, till exempel om dessa metoder endast hamnar hos stora företag eller att man tränar på så stora mängder data från internet utan filtrering, eller hänsyn till upphovsrätt, säger Moa Johansson.

För att hantera dessa risker har Europeiska Unionen utvecklat AI Act, en uppsättning regler för vad som är tillåtet och inte med AI.

– Om man tittar från det globala perspektivet kan man dela upp risker i olika kategorier. Vi har akuta risker i dag med problematiken med autenticitet i informationsmängder och media som skapas som inte är korrekt. Sen har vi en skala utav risker som ligger längre fram i tiden. För dem förekommer en mer filosofisk debatt om teknologins utveckling, och i ett extremt scenario har vi den existentiella risken att AI hotar mänskligheten. Man ska inte förväxla dessa två risker, säger Anders Ynnerman.

Han tycker att det viktiga med Nobelpriset i dag är att det lyfter fram den bakomliggande kunskapen kring maskininlärning.

– Vi behöver den kunskapen för att kunna värdera riskerna på ett korrekt sätt, säger Anders Ynnerman.

De metoder som John Hopfield och Geoffrey Hinton utvecklade används i dag inom så skilda områden som klimatvetenskap, partikelfysik, avbildningar av svarta hål och medicinsk bildteknik. Det är i synnerhet den förbättrade beräkningskraften från grafikprocessorer, tillgången till större mängder data och vidareutvecklingen av algoritmerna som har gett de artificiella neuronnäten så stort genomslag.

– Det som är mest spännande nu är att vi kan hantera språkmodellerna så att allt som går att göra till ”tokens” går att hantera i en språkmodell. Till exempel kan det kemiska bindningsspråket mellan olika atomer och molekyler användas för att träna språkmodeller så att vi kan utveckla nya läkemedel, säger Anders Ynnerman.

Sådana språkmodeller, som exempelvis Chat GPT, är i dag en del av vår vardagsteknologi.

– Om jag tittar framåt är det mest spännande det som de stora språkmodellerna inte gör så bra i dag, som att resonera logiskt, planera eller hantera symboler. Nästa steg blir att försöka utveckla neurala nätverk som blir bättre på det som språkmodeller är dåliga på, säger Moa Johansson.

Att Nobelpriset i fysik går till utvecklingen av maskininlärning skulle på sätt och vis kunna kopplas till den uppfinning som ledde till Alfred Nobels förmögenhet: dynamiten. En uppfinning som både hade destruktiva användningar i krig som konstruktiva användningar i fredstid.

Även AI bär på sådana negativa och positiva möjligheter, vilket Geoffrey Hinton är noga med att poängtera.

– Det går att jämföra med den industriella revolutionen, säger han.