”Chat GPT släpptes på ett oansvarigt sätt”

1 | Varför är det viktigt för dig att lära människor hur AI fungerar?

– Det är så många som är rädda och oroliga för AI. Vänner frågar mig om barnens framtid. Jag vill ta dem i handen och säga: AI är en teknik som skapats av människor. Det är inte magi och det är möjligt att förstå. För mig är det också ett problem att politiker inte förstår AI, så jag lägger en massa tid på att prata med politiker och vara med i olika expertkommittéer.

2 | Vem ska läsa boken?

– Alla! Jag jobbar med AI för att jag tycker om AI, men jag oroar mig för vissa saker, som hur demokratin påverkas. Det blir mycket svårare att enas om vad som är rätt och fel i samhället när alla lever i sin egen digitala verklighet. Det har också blivit väldigt lätt att göra falskt innehåll som är svårt att skilja från äkta. Vi har redan sett hur detta haft stor påverkan på valresultat. Därför vill jag att alla ska förstå mekanismerna och utmaningarna.

3 | Vilken är den vanligaste missuppfattningen om AI?

– Folk tror att maskiner kan skapa sina egna mål, men det är vi människor som ger maskinen dess mål. Ber vi ett AI-program att spela schack eller köra bil så kommer den inte plötsligt att vilja utrota mänskligheten. Däremot kan programmet lösa sin uppgift på ett oväntat sätt som inte är uppen­bart för oss människor.

4 | Så du är inte rädd för att en superintelligent generell AI ska ta över jorden?

– Nej, och det kan bero på att jag har en naturvetenskaplig bakgrund som partikelfysiker och är van att jobba med hypoteser som går att verifiera eller avfärda. AGI (artificiell generell intelligens) är en futuristisk tanke och det går inte att verifiera futuristiska utsagor. Än så länge har vi inte sett några maskiner med en helhetsförståelse av den fysiska världen. Det kan hända att det kommer, men jag tror inte att det blir i första taget, och vi vet inte vilka framsteg som behövs för att komma dit. I stället för att fokusera på AGI borde vi prata om det som är viktigt här och nu.

5 | Som vad?

– Förutom hoten mot demokratin behöver vi diskutera hur vi ska använda AI för att göra samhället bättre. Problem med saker som it-säkerhet, integritet, tolkning av regler och diskriminering gör att offentlig sektor inte kan utnyttja tekniken så bra som den skulle kunna. Det är inte är lika sexigt som att prata om superintelligens men för mig är det uppenbart att det är där vi måste börja.

6 | Chat GPT har lett till stora problem med fusk i skolan. Hur skulle det kunna undvikas?

– Jag menar att sättet som Chat GPT släpptes på var helt oansvarigt. Hade det funnits ett oberoende institut för godkännande av nya AI-verktyg hade det nog krävt en detektor. För den som byggt en språkmodell kan också göra en detektor för den språkmodellen. En sådan detektor skulle kunna spridas till utbildningsinstitutioner för att upptäcka om en text skrivits av Chat GPT.

– Men det är inte bara fusket i sig som är problemet. Syftet med att vi ber unga människor att skriva texter är ju att de ska lära sig att formulera och förmedla egna tankar. Det är en viktig förmåga för att fungera i samhället.