”Vi skapar inte lagar för tekniken utan för människor”

Hur AI ska styras i en ansvarsfull och säker riktning är en het fråga. Här kan FN komma att spela en viktig roll för samordning och se till att världens länder går från ord till handling. Det säger Umeåprofessorn Virginia Dignum, en av medlemmarna i FN:s nya expertorgan för AI.

Publicerad

Virginia Dignum är professor i ansvarsfull artificiell intelligens vid Umeå universitet och Sveriges enda representant i FN:s nybildade expertorgan för AI.
Bild: Mikael Hansson

Uppdatering: Det här är en artikel från 2023. EU:s AI-förordning röstades igenom 13/3–2024.

Nya initiativ för att minska riskerna med AI haglar tätt. USA:s president Joe Biden undertecknade i veckan en presidentorder som bland annat ställer krav på att stora AI-modeller säkerhetstestas innan de släpps ut på marknaden.

Under onsdagen enades 28 länder inklusive Kina och USA om att samarbeta kring riskerna med AI vid ett stort AI-säkerhetsmöte i Storbritannien. I Bryssel pågår slutförhandlingarn av EU-förordningen AI Act.

Även FN vill vara med och styra utvecklingen av AI i en ansvarsfull riktning som kommer alla människor till godo, inklusive i utvecklingsländer. Planer finns på att bilda ett särskilt FN-organ för AI. Ett första steg är bildandet av ett expertorgan för artificiell intelligens. I gruppen finns 38 experter från olika områden.

Virginia Dignum, professor i ansvarsfull artificiell intelligens vid Umeå universitet, är Sveriges enda representant. Hon säger att FN kan spela en viktig roll.

– FN ses som en väldigt pålitlig organisation som är erkänd av nästan alla länder och som skulle kunna skapa en samordnande plattform.

Som en bil utan bromsar

Hur denna nya plattform kan komma att se ut är den första uppgiften för den nya expertgruppen. Bland förslagen finns att skapa något som liknar klimatpanelen IPCC eller en AI-motsvarighet till det internationella atomenergiorganet IAEA som övervakar och tar fram standarder för kärnteknik.

– Det är min personliga åsikt att det behövs ett organ med tänder att ta tag i olika frågor. Då behöver vi gå längre än IPCC som främst övervakar och rapporterar, säger Virginia Dignum.

Den andra uppgiften för expertgruppen är att sammanställa risker och möjligheter med AI. Dagens situation liknar Virginia Dignum vid en bil utan bromsar och säkerhetsbälten som körs av en förare utan körkort på en väg utan vägskyltar och trafikljus.

– Mycket av diskussionen handlar om att sätta bromsar på tekniken och om att förbjuda AI utan broms, men vi behöver titta bredare. Även om tekniken är säker får vi problem om den används av personer som inte kan köra.

Behövs inga fler dokument

Precis som för vägtrafiken kan olika länder välja att reglera AI på olika sätt. FN kan stå för övergripande principer som alla kan enas kring och som baseras på bland annat mänskliga rättigheter.

Det är också viktigt att regleringen utformas i en demokratisk process. Att som Joe Biden, slå fast regler i en presidentorder, är inte rätt väg att gå menar hon.

– Det finns ingen transparens, ingen diskussion eller förklaringar vad som ligger bakom beslutet.

Det saknas inte strategier och etiska riktlinjer för AI. De senaste åren har företag, stater, myndigheter och organisationer tagit fram hundratals dokument för ”etiskt” och ”ansvarsfull” AI. Det som behövs nu är inte fler dokument utan handling, menar Virginia Dignum.

– Men att gå från fina ord till konkret implementering är svårt och tar tid. Ord som ”rättvis” måste översättas till konkreta, mätbara krav på systemen. Här kommer standarder att spela en viktig roll och det är något vi kommer att behöva jobba mycket mer med under de kommande åren.

Lagarna är till för människor

Hon betonar samtidigt att AI inte existerar i ett laglöst land. De produktregler som redan finns gäller även för AI. Men det finns egenskaper hos AI som gör att tekniken kräver särskilda regler. Ett exempel är att AI-system bygger på matematiska funktioner som inte nödvändigtvis ger samma svar även om de får samma indata.

I ett uttalande i samband med AI-säkerhetsmötet i Storbritannien ställde premiärminister Richie Sumak frågan: Hur kan vi skriva vettiga lagar för något som vi ännu inte fullt förstår?

Virginia Dignum anser att frågan är felställd.

– Vi skapar inte lagar för tekniken utan för människor. Hur vill vi att vår värld ska se ut? Om vi slår fast att systemen ska ta hänsyn till rättvisa, att de inte får diskriminera och att de måste kunna ge förklaringar till beslut, så är det sedan upp till tekniken och företagen att uppfylla det.

F&F i din mejlbox!

Håll dig uppdaterad med F&F:s nyhetsbrev!

Beställ nyhetsbrev

Vilka risker med AI anser du att vi ska oroa oss för?

– Vi ska framförallt oroa oss för hur människor använder dessa system och hur de kan användas i framtiden. Om de används av personer med fel motiv och onda avsikter måste vi agera.

– Vi behöver också hantera att dessa system kan vara diskriminerande och inte tillgängliga för alla liksom deras påverkan på miljön. Större system ger högre precision, men är mer energikrävande. Frågan är om det är värt att använda 20 procent mer energi för att få en 5 procent mer träffsäker rekommendation för vad du ska se på Netflix i kväll? Antagligen inte.

Prenumerera på Forskning & Framsteg!

10 tidningsnummer om året och dagliga nyheter på fof.se med kunskap baserad på vetenskap.

Beställ idag
Publicerad

Teknik

Upptäck F&F:s arkiv!

Se alla utgåvor