Bild: Getty images

Så kommer AI påverka supervalåret

Rekordmånga kommer att kunna rösta i demokratiska val under 2024. Det blir ett test på hur demokratin klarar AI-revolutionen, med risker för desinformation och falska bilder.

Premium
Publicerad

På en bild står en leende Donald Trump med armarna om en grupp lika glada svarta supportrar på en julfest. På en annan bild sitter han på en trappa utanför ett hus tillsammans med en grupp svarta män.

Bilderna ser realistiska ut vid en första anblick, men om man tittar närmare är det något som inte stämmer. Hyn på de porträtterade människorna ser blank och polerad ut, och samtliga ansikten är lite för perfekt ljussatta. Trumps händer ser deformerade ut. Ett ringfinger saknas på en av festdeltagarna. Brister som avslöjar att bilderna är skapade med AI – som länge haft svårt att porträttera händer på ett realistiskt sätt.

Men på nätet har de spridits och fått ett eget liv. Bilden där Trump sitter med de svarta männen har beskrivits som att han stannade till spontant och pratade med männen när han var på genomresa. Att öka sina väljarsiffror bland svarta amerikaner är viktigt för Donald Trump. Det är en väljargrupp där han har en relativt låg popularitet, men där han också gjort vissa framsteg.

AI-bilden på Donald Trump med en grupp svarta män publicerades först av ett satirkonto, men fick spridning bortom sitt ursprungliga sammanhang, med en ny missvisande bildtext.
Bild: trump_history45

Det finns inget som tyder på att Trump, som väntas bli Republikanernas presidentkandidat i USA-valet i november, eller hans valkampanj har något med bilderna att göra. Mark Kay, en Trump-supporter och radiopratare, skapade festbilden och postade den till sina en miljon följare på Facebook.

Deepfakes kan påverka val

Årets olika val i världen sker på en helt ny teknisk arena. Sedan många år rasar en debatt om hur sociala medier och internet i allmänhet påverkar valresultat. Den debatten lär eskalera.

2024 är första gången ett amerikanskt presidentval hålls sedan det breda genombrottet för AI-verktyg som chattroboten Chat GPT och den bildskapande AI:n Midjourney. Genom generativ AI – alltså AI-modeller eller AI-tjänster som kan skapa bilder, video och text – går det att tillverka deepfakes. Det handlar om manipulerade videor, ljudklipp eller bilder som ser autentiska ut. Exemplen på hur detta kan skapa problem har duggat tätt i startfasen av den amerikanska valrörelsen.

Två dagar före primärvalet i New Hampshire i januari fick omkring 25 000 väljare i delstaten automatiska telefonsamtal med en falsk AI-genererad inspelning av president Joe Biden, som uppmanade dem att inte rösta. Amerikanska medier avslöjade att inspelningen skapats med en text till tal-generator på uppdrag av en politisk konsult som arbetade för Dean Phillips, en politiker som utmanade Joe Biden om att bli Demokraternas presidentkandidat. Phillips kampanj förnekade inblandning i bluffen. 

I januari spreds också AI-genererade bilder på Donald Trump ombord på sexförbrytaren Jeffrey Epsteins privatplan. Dessa postades i sociala medier av bland andra Hollywood-stjärnan Mark Ruffalo, som senare bad om ursäkt och antydde att han inte visste att bilderna var falska.

Val i ett 60-tal länder 2024

Sammanlagt går miljardtals människor i ett 60-tal länder runt om i världen till valurnorna under 2024 – från Indien till Indonesien och Storbritannien. Här hemma har vi valet till EU-parlamentet i juni. Det rör sig om fler väljare än någonsin tidigare under ett och samma år. Supervalåret sammanfaller med en revolution inom AI, där tekniken gått framåt med stormsteg.

Zeve Sanderson leder Center for social media and politics vid New York university.
Bild: New York university

Forskaren Zeve Sanderson leder Center for social media and politics vid New York university. Han delar in de potentiella hoten från generativ AI i två kategorier:

– Det finns dels de direkta hoten, alltså folk som blir lurade av deepfakes och därmed ändrar uppfattning om en politiker, säger Zeve Sanderson.

– Dels finns det indirekta hotet att folk blir mer generellt skeptiska till information på grund av AI. De förlorar tilliten till vad de ser och hör. På kort sikt är jag mer orolig för det indirekta hotet.

Zeve Sanderson tar upp presidentvalet i USA 2016 då Ryssland anlitade ”trollfabriker” i bland annat Makedonien. Där arbetade människor med att sprida desinformation på amerikanska sociala medier för att påverka valet. De inlägg som trollfabrikerna producerade var ofta fulla av grammatiska fel och lätta att känna igen. Med generativ AI blir det betydligt svårare att identifiera ett troll.

– När sociala medier dök upp sänktes kostnaden för att sprida information, men det kostade fortfarande pengar att producera informationen. Generativ AI har sänkt produktionskostnaden drastiskt, säger Zeve Sanderson.

– Frågan är vem som gynnas av det.

Med hjälp av bottar – automatiserade konton i sociala medier – har det blivit lättare att sprida falsk information och falska rykten. Stora språkmodeller, det vill säga AI-modeller som tränats på enorma mängder text för att skapa ny text, har blivit tillgängliga för många fler genom tjänster som till exempel Chat GPT.

Neil Johnson är fysikprofessor vid Georgetown university i Washington D.C.
Bild: Georgtown university

Använder AI för desinformation

Neil Johnson, professor i fysik vid Georgetown university i Washington D.C., ligger bakom den första kvantitativa vetenskapliga studien som förutspår hur onlinetroll, desinformationskampanjer och andra ”illvilliga aktörer” väntas använda sig av AI under detta globala supervalår.

– Vårt mål var att kartlägga vilka aktörerna är, vad de gör och hur snabbt de blir mer skickliga på att sprida desinformation, säger Neil Johnson.

Studien, publicerad i den vetenskapliga tid­skriften PNAS Nexus, kartlägger kopplingar mellan sådana aktörer på 23 onlineplattformar. Det handlade såväl om stora plattformar som X (tidigare Twitter) och Facebook, som mindre, mer nischade plattformar som 4Chan, Discord och Gab. Studien kom fram till att AI-genererad desinformation kommer att rikta in sig på väljare i 50 länder närapå dagligen under året. Även om ett budskap till en början sprids på mindre plattformar, som inte har samma resurser att moderera innehållet, kan det snabbt spridas vidare till en stor målgrupp. Det kan ske genom att budskap letar sig in på stora grupper på nätet för allt från föräldraskap till husdjur, förklarar Neil Johnson.

– När budskap sprids dygnet runt påverkar det oss. Det är bara att titta på vad som hände med tilltron till vaccin mot covid-19 när det spreds vaccin­kritiska budskap. Det byggdes upp en tveksamhet och bristande tillit, säger Neil Johnson.

Propagandabudskap skapade med AI är dessutom effektiva, visar en annan färsk studie från Georgetown university. En forskargrupp lät drygt 8 200 amerikanska försökspersoner ta del av texter på engelska från dolda påverkans­operationer från Iran och Ryssland. Dessa texter innehöll falska påståenden, som att Saudiarabien har lovat att bekosta gränsmuren mellan USA och Mexiko. Försökspersonerna fick också läsa AI-genererade texter som tagits fram med språkmodellen GPT-3 Davinci, och som byggde på meningar hämtade från de iranska och ryska propagandatexterna. Forskarna fann att språkmodellen kunde skapa mycket övertygande text, och att en engelskspråkig person kan göra den AI-genererade propagandan ännu mer effektiv med väldigt liten ansträngning. 

Pontus Strimling är AI-forskare vid Institutet för framtidsstudier i Stockholm.
Bild: Sarah Moritz

– Generativ AI kan hjälpa en aktör att ägna sig åt desinformation på ett mer effektivt och sofistikerat sätt än tidigare, och i en betydligt större skala, säger Zeve Sanderson.

Algoritmer styr vad vi ser på sociala medier

AI påverkar också vad vi ser i sociala medier, genom rekommendationssystem. De föreslår vad vi ska titta på härnäst, utifrån vad vi tidigare visat intresse för. Sociala medieplattformar som Facebook, X, Tiktok och Youtube styrs av algoritmer som stärker och sprider innehåll som triggar en känslomässig reaktion hos användarna – vilket kan belöna lögner och påhitt.

– Den algoritm som företagen väljer påverkar hur mycket desinformation som sprids, säger Pontus Strimling, forskare med inriktning på AI vid Institutet för framtidsstudier i Stockholm.

– Det här vet vi därför att Facebook gjorde om sin algoritm så att den spred mindre desinformation inför USA-valet 2020. Men de bytte tillbaka till den algoritm de använde tidigare eftersom den var mer ekonomiskt lönsam, vilket visselblåsare har berättat om, säger Pontus Strimling.

Han ser deepfakes som något som kan ha en större inverkan i framtiden, snarare än redan i år.

Det gör AI-jättarna för att stoppa valdesinformation

Google har gått ut med att företagets AI-tjänst Gemini inte kommer att svara på frågor om valet i USA, utan kommer hänvisa till Googles sökmotor.

Open AI förbjuder användare av Chat GPT att uppmuntra folk att inte rösta eller sprida felaktig information om valet. Chat GPT ska enligt Open AI börja hänvisa användare till CanIVote.org, som anses vara en trovärdig källa för valinformation.

Google ska börja med en digital vatten­märk­ning av AI-genererade bilder. Även Meta, som äger Facebook och Instagram, har lovat att börja märka deepfakes som dyker upp på dess plattformar.

Meta annonserade i november att företaget ska kräva att politiska kampanjmakare ska berätta om de använt ”AI eller andra digitala tekniker” för att skapa annonser som publiceras på Facebook och andra av Metas plattformar.

Meta har också förbjudit användandet av företagets generativa AI i politiska kampanjer.

Ett 20-tal stora techföretag, däribland Microsoft, Meta, Open AI och Google, har skrivit under ett avtal med löften om att hitta nya sätt att hejda att AI används för att sprida desinformation i val. Avtalet är dock inte bindande.

Källa: AP, The Verge

Deepfakes är inte tillräckligt bra än. Typiskt sett så har generativ AI svårt med händer och med strukturen på hår. Men när det gäller rekommendationssystem ser vi nog det värsta nu. De kommer att regleras men det kommer inte hinna ske innan årets val, säger Pontus Strimling.

Andra platser än USA och EU kan visa sig mer utsatta för AI-påverkan mot demokratiska val.

I Bangladesh – ett land som är övervägande konservativt muslimskt – spreds en video på en oppositionspolitiker klädd i bikini. Ledaren för Slovakiens liberala parti kunde i ett ljudklipp höras diskutera planer på valfusk och på att höja priset på öl. I en video ses Moldaviens pro-västliga president Maia Sandu uttala stöd för ett pro-ryskt parti. Samtliga dessa exempel är skapade med AI.

– Flera företag har regler när det gäller text till bild-generering, om att man inte får skapa bilder av verkliga människor, och särskilt inte politiker, säger Zeke Sanderson.

– Jag tror att företagen kommer vara uppmärk­samma på att försöka upprätthålla det i stora länder som USA och Storbritannien. Men det är val i ett 60-tal länder i år och frågan är vilka resurser de har att hålla koll på alla dessa val.

Hur ser då sårbarheten ut inför AI när det gäller att påverka val i Sverige?

– Även i Sverige får väldigt många människor sina fakta från olika typer av sociala medier, säger Malin Rönnblom, professor i statsvetenskap vid Karlstads universitet, där hon forskar om bland annat AI:s inverkan på demokratin.

Malin Rönnblom är professor i statsvetenskap vid Karlstads universitet.
Bild: Karlstads universitet

– Vi är nog mer sårbara än vi tror. Det finns ingen allmän spridd kunskap i dagens läge om hur otroligt bra de här verktygen är. När jag var på en digital konferens förra året kunde en kille som satt i samma panel som jag på tio minuter skapa en deepfake med statsministern, säger Malin Rönnblom.

Techjättarna lovar ta itu med desinformation

Samtidigt lovar techjättarna att göra något åt problemet med desinformationsspridning via generativ AI. Flera av dem, däribland Adobe, Google, Meta, Microsoft, Open AI och Tiktok, har skrivit under ett symboliskt och icke-bindande avtal om hur de ska agera mot AI-genererade deepfakes som syftar till att vilseleda väljare. De har bland annat lovat att utveckla teknik för att ”vatten­stämpla” och märka AI-skapat innehåll och att bidra till insatser för att utbilda allmänheten. EU kommer under året kräva att stora sociala medie-plattformar som Facebook, X och Tiktok märker AI-skapat material, inför sommarens EU-val som en del av EU:s Digital services act.

– Det vi ser, åtminstone i en amerikansk kontext, är att lagstiftarna rör sig mycket snabbare med AI, jämfört med hur de agerat när det gäller sociala medier, säger Zeve Sanderson.

– AI-företagen har också varit mer benägna att samarbeta.

Zeve Sanderson är noga med att påpeka att han ser potentiella positiva effekter av AI för demokratin.

– I USA har vi sett att rekordmånga personer som arbetar inom valmyndigheterna har slutat de senaste åren. Där kan AI kliva in och underlätta och snabba upp arbetet, säger Zeve Sanderson. 


– AI är väldigt bra på översättningar, och kan användas för att snabbt översätta valinformation till olika minoritetsspråk.

Supervalåret 2024 Väljare i 64 länder, samt EU, röstar under året i demokratiska val. Det är omkring 49 procent av jordens invånare och fler än någonsin tidigare under ett och samma år. Här är några av länderna som röstar.
Bild: Getty images. Källa: Time Magazine, UI.se

En rapport från University of Chicago och Stanford university bedömer att AI är ”lovande när det gäller att bidra till demokratiskt styre” och lyfter fram att chattbottar kan hjälpa till att informera medborgarna om viktiga frågor och att koppla ihop väljarna med politiker.

Även Neil Johnson vid Georgetown university ser AI som någonting positivt, trots slutsatserna i hans studie om att valåret kommer innebära dagliga AI-attacker mot demokratin.

– Som vi sett historiskt kan vad som helst användas som ett vapen. När det gäller bilar har vi satt upp väghinder framför viktiga byggnader. När vi flyger får vi inte ta med vätska ombord. När man vet hur faran ser ut går det att vidta åtgärder. Det som oroar mig är att AI diskuteras utan att det finns en tydlig bild av var det används och av vem. Det gör det svårt att komma åt problemen, säger Neil Johnson.

6 exempel på hur AI har använts för att påverka det globala supervalåret

Inför valet i Taiwan i januari spreds ett AI-genererat klipp som visade den amerikanska republikanska politikern Rob Wittman. I klippet lovade han starkare militärt stöd till Taiwan om det sittande regeringspartiet i Taiwan återvaldes. Wittman anklagade Kina för att ligga bakom klippet, som spreds på den kinesiskägda appen Tiktok. Peking förnekade inblandning.

I Indien höll en AI-genererad version av politikern och poeten Muthuvel Karunanidhi ett videoinspelat hyllningstal till sin son, som leder delstaten Tamil Nadu. Muthuvel Karunanidhi har varit död sedan 2018.

I Indonesien skapades en AI-generad avatar av landets för­svars­minister, som hjälpte till att ge honom en mjukare image. Avataren gjorde ”handhjärtan” och gosade med sin katt Bobby.

En rapport från brittiska forskare pekar på att Chat GPT har en bias åt vänsterhållet i sina svar på användarnas frågor om politik, vilket kan gynna Demokraterna i USA.

I juni 2023 spreds en AI-genererad bild där Joe Biden var klädd i en skyddande dräkt av bubbelplast. Bilden användes för att rikta uppmärksamhet mot presidentens höga ålder. Det är oklart vem som skapade bilden, men Snopes, en sajt som granskar online-desinformation, noterade att den spreds flitigt av flera ryskspråkiga sajter.

En AI-genererad video visade USA:s president Joe Biden utropa allmän mobilisering för att skicka soldater till kriget i Ukraina. Videon spreds via en tweet som sågs över åtta miljoner gånger.  

Källa: Reuters, AP, University of East Anglia, Brennan Center

F&F i din mejlbox!

Håll dig uppdaterad med F&F:s nyhetsbrev!

Beställ nyhetsbrev

Prenumerera på Forskning & Framsteg!

10 tidningsnummer om året och dagliga nyheter på fof.se med kunskap baserad på vetenskap.

Beställ idag

Upptäck F&F:s arkiv!

Se alla utgåvor