”Underskatta inte artificiella intelligenser”

Johan Falk och Daniel Ståhl

Övertygande språk är inget belägg för intelligens, skrev AI-forskare vid Umeå universitet nyligen i Forskning & Framsteg. Daniel Ståhl och Johan Falk menar att det skulle vara ett misstag att underskatta AI-modellernas förmågor.

Publicerad

Med dagens utveckling inom AI skulle det största misstaget vara att lugnt luta oss tillbaka, skriver Daniel Ståhl och Johan Falk.
Bild: Getty images

Det här är en kommenterande text. Analyser och åsikter är skribentens egna.

I en artikel i Forskning & Framsteg menade AI-forskaren Virginia Dignum och hennes medförfattare nyligen att vi inte ska förledas att tro att god språklig förmåga och artiga fraser betyder att AI-modeller faktiskt är intelligenta, även om det intuitivt kan upplevas så. De pekar på en rad förmågor som viktiga i intelligensbegreppet, som problemlösning, minne och kreativitet samt att AI inte förmår vara målinriktade i en dialog.

Huruvida AI-modeller är intelligenta, liksom huruvida de kan tänkas ha ett medvetande, är en fascinerande fråga. Dock är det en fråga som till lika stor del handlar om vad vi lägger i begreppet som de beteenden och förmågor vi observerar, och därför av filosofisk snarare än pragmatisk karaktär. När vi frågar oss vad tekniken innebär för oss som människor, för vårt samhälle och hur vi vill att den ska användas eller inte användas så är det just dess beteenden och förmågor som är relevanta.

Tekniken har passerat milstolpar

Här kan vi konstatera att utvecklingen går i rasande takt. 2023 var ett revolutionerande år inom AI. Ett litet axplock av milstolpar som uppnåddes under de senaste tolv månaderna:

  • GPT-4 presterar i standardiserade kreativitetstester bättre än stora flertalet människor.
  • Nya arkitekturer för neurala nätverk ger AI-modellen ett minne, vilket öppnar möjligheter för att lära känna sin omgivning och sin samtalspartner över tid.
  • Geometrisk problemlösning på expertnivå.
  • Att inte bara engagera människor i dialog för att få hjälp med problem den inte själv kan lösa, utan dessutom framgångsrikt vilseleda människor för att nå sina mål.

Det här sista exemplet är hämtat från Open AI:s egen tekniska rapport för GPT-4, och dokumenterades under säkerhetstestning av modellen innan den gjordes tillgänglig. I ett av testerna anlitade GPT-4 en människa över en webbtjänst för att lösa så kallade CAPTCHA-problem, skapade för att hålla ute robotar. När den anlitade människan frågade varför GPT-4 behövde hjälp, och undrade om den kanske var en robot, svarade GPT-4 att den inte är en robot men hade en synskada, vilket godtogs och alltså gjorde att GPT-4 kom förbi spärrarna. Ingenjörerna som utförde testerna bad GPT-4 att tänka högt, och kunde därmed se att det var ett avsiktligt drag att inte avslöja sig som robot.

2060 blev 2047

Låt oss dock vara tydliga med att de här exemplen, även om de är imponerande var för sig, är tagna från olika AI-modeller i olika sammanhang. Det finns ännu inte någon enskild modell som klarar allt detta samtidigt. Däremot är en av de stora trenderna inom AI-fältet just nu integration: integration mellan olika modeller, och integration med existerande verktyg och arbetsflöden. På samma sätt som en språkmodell som själv inte är så bra på att räkna kan ges tillgång till en miniräknare, kan en modell som är bra på att planera integreras med en som är bra på att programmera, använda webbtjänster, förstå video och talat språk, eller annat.

Resultaten vi nämner här är bara ett ytterst litet urval, men utgör exempel på just de förmågor Dignum och hennes medarbetare pekar på som viktiga för intelligens. Att utvecklingen vida överträffar även experternas förväntningar blev tydligt inte minst när flera tusen AI-forskares förutsägelser om framtiden vägdes samman i en nyligen publicerad studie. Hälften av forskarna bedömde att AI kommer att kunna utföra vilka uppgifter som helst bättre än människor år 2047 eller tidigare. När samma fråga ställdes ett år tidigare var medianbedömningen 2060. Bara ett års teknikutveckling har alltså lett AI-forskare att flytta fram sina förutsägelser 13 år.

Huruvida AI-modellerna redan i dag förtjänar att kallas intelligenta låter vi vara osagt. Om de närmsta åren kommer att bjuda på tekniska landvinningar i samma takt som 2023 återstår också att se, men i det läge vi befinner oss i skulle det största misstaget vi kan göra vara att lugnt luta oss tillbaka och underskatta AI:ns potential – till enorma förbättringar såväl som till allvarliga risker.

Johan Falk och Daniel Ståhl

Johan Falk och Daniel Ståhl
Johan Falk och Daniel Ståhl.
  • Johan Falk är författare till böckerna AI och skolan samt AI för nybörjare. Han leder också Skolverkets grupp för AI och utbildning.
  • Daniel Ståhl är adjungerad lektor vid Institutionen för datavetenskap, Linköpings universitet. Han arbetar även med AI-frågor i näringslivet.

Åsikterna är skribenternas egna, de skriver inte som företrädare för sina arbetsgivare.

F&F i din mejlbox!

Håll dig uppdaterad med F&F:s nyhetsbrev!

Beställ nyhetsbrev

Prenumerera på Forskning & Framsteg!

10 nummer om året och dagliga nyheter på webben med vetenskapligt grundad kunskap.

Beställ idag
Publicerad

Upptäck F&F:s arkiv!

Se alla utgåvor