Så kommer AI påverka supervalåret

På en bild står en leende Donald Trump med armarna om en grupp lika glada svarta supportrar på en julfest. På en annan bild sitter han på en trappa utanför ett hus tillsammans med en grupp svarta män.

Bilderna ser realistiska ut vid en första anblick, men om man tittar närmare är det något som inte stämmer. Hyn på de porträtterade människorna ser blank och polerad ut, och samtliga ansikten är lite för perfekt ljussatta. Trumps händer ser deformerade ut. Ett ringfinger saknas på en av festdeltagarna. Brister som avslöjar att bilderna är skapade med AI – som länge haft svårt att porträttera händer på ett realistiskt sätt.

Men på nätet har de spridits och fått ett eget liv. Bilden där Trump sitter med de svarta männen har beskrivits som att han stannade till spontant och pratade med männen när han var på genomresa. Att öka sina väljarsiffror bland svarta amerikaner är viktigt för Donald Trump. Det är en väljargrupp där han har en relativt låg popularitet, men där han också gjort vissa framsteg.

Det finns inget som tyder på att Trump, som väntas bli Republikanernas presidentkandidat i USA-valet i november, eller hans valkampanj har något med bilderna att göra. Mark Kay, en Trump-supporter och radiopratare, skapade festbilden och postade den till sina en miljon följare på Facebook.

Årets olika val i världen sker på en helt ny teknisk arena. Sedan många år rasar en debatt om hur sociala medier och internet i allmänhet påverkar valresultat. Den debatten lär eskalera.

2024 är första gången ett amerikanskt presidentval hålls sedan det breda genombrottet för AI-verktyg som chattroboten Chat GPT och den bildskapande AI:n Midjourney. Genom generativ AI – alltså AI-modeller eller AI-tjänster som kan skapa bilder, video och text – går det att tillverka deepfakes. Det handlar om manipulerade videor, ljudklipp eller bilder som ser autentiska ut. Exemplen på hur detta kan skapa problem har duggat tätt i startfasen av den amerikanska valrörelsen.

Två dagar före primärvalet i New Hampshire i januari fick omkring 25 000 väljare i delstaten automatiska telefonsamtal med en falsk AI-genererad inspelning av president Joe Biden, som uppmanade dem att inte rösta. Amerikanska medier avslöjade att inspelningen skapats med en text till tal-generator på uppdrag av en politisk konsult som arbetade för Dean Phillips, en politiker som utmanade Joe Biden om att bli Demokraternas presidentkandidat. Phillips kampanj förnekade inblandning i bluffen. 

I januari spreds också AI-genererade bilder på Donald Trump ombord på sexförbrytaren Jeffrey Epsteins privatplan. Dessa postades i sociala medier av bland andra Hollywood-stjärnan Mark Ruffalo, som senare bad om ursäkt och antydde att han inte visste att bilderna var falska.

Sammanlagt går miljardtals människor i ett 60-tal länder runt om i världen till valurnorna under 2024 – från Indien till Indonesien och Storbritannien. Här hemma har vi valet till EU-parlamentet i juni. Det rör sig om fler väljare än någonsin tidigare under ett och samma år. Supervalåret sammanfaller med en revolution inom AI, där tekniken gått framåt med stormsteg.

Forskaren Zeve Sanderson leder Center for social media and politics vid New York university. Han delar in de potentiella hoten från generativ AI i två kategorier:

– Det finns dels de direkta hoten, alltså folk som blir lurade av deepfakes och därmed ändrar uppfattning om en politiker, säger Zeve Sanderson.

– Dels finns det indirekta hotet att folk blir mer generellt skeptiska till information på grund av AI. De förlorar tilliten till vad de ser och hör. På kort sikt är jag mer orolig för det indirekta hotet.

Zeve Sanderson tar upp presidentvalet i USA 2016 då Ryssland anlitade ”trollfabriker” i bland annat Makedonien. Där arbetade människor med att sprida desinformation på amerikanska sociala medier för att påverka valet. De inlägg som trollfabrikerna producerade var ofta fulla av grammatiska fel och lätta att känna igen. Med generativ AI blir det betydligt svårare att identifiera ett troll.

– När sociala medier dök upp sänktes kostnaden för att sprida information, men det kostade fortfarande pengar att producera informationen. Generativ AI har sänkt produktionskostnaden drastiskt, säger Zeve Sanderson.

– Frågan är vem som gynnas av det.

Med hjälp av bottar – automatiserade konton i sociala medier – har det blivit lättare att sprida falsk information och falska rykten. Stora språkmodeller, det vill säga AI-modeller som tränats på enorma mängder text för att skapa ny text, har blivit tillgängliga för många fler genom tjänster som till exempel Chat GPT.

Neil Johnson, professor i fysik vid Georgetown university i Washington D.C., ligger bakom den första kvantitativa vetenskapliga studien som förutspår hur onlinetroll, desinformationskampanjer och andra ”illvilliga aktörer” väntas använda sig av AI under detta globala supervalår.

– Vårt mål var att kartlägga vilka aktörerna är, vad de gör och hur snabbt de blir mer skickliga på att sprida desinformation, säger Neil Johnson.

Studien, publicerad i den vetenskapliga tid­skriften PNAS Nexus, kartlägger kopplingar mellan sådana aktörer på 23 onlineplattformar. Det handlade såväl om stora plattformar som X (tidigare Twitter) och Facebook, som mindre, mer nischade plattformar som 4Chan, Discord och Gab. Studien kom fram till att AI-genererad desinformation kommer att rikta in sig på väljare i 50 länder närapå dagligen under året. Även om ett budskap till en början sprids på mindre plattformar, som inte har samma resurser att moderera innehållet, kan det snabbt spridas vidare till en stor målgrupp. Det kan ske genom att budskap letar sig in på stora grupper på nätet för allt från föräldraskap till husdjur, förklarar Neil Johnson.

– När budskap sprids dygnet runt påverkar det oss. Det är bara att titta på vad som hände med tilltron till vaccin mot covid-19 när det spreds vaccin­kritiska budskap. Det byggdes upp en tveksamhet och bristande tillit, säger Neil Johnson.

Propagandabudskap skapade med AI är dessutom effektiva, visar en annan färsk studie från Georgetown university. En forskargrupp lät drygt 8 200 amerikanska försökspersoner ta del av texter på engelska från dolda påverkans­operationer från Iran och Ryssland. Dessa texter innehöll falska påståenden, som att Saudiarabien har lovat att bekosta gränsmuren mellan USA och Mexiko. Försökspersonerna fick också läsa AI-genererade texter som tagits fram med språkmodellen GPT-3 Davinci, och som byggde på meningar hämtade från de iranska och ryska propagandatexterna. Forskarna fann att språkmodellen kunde skapa mycket övertygande text, och att en engelskspråkig person kan göra den AI-genererade propagandan ännu mer effektiv med väldigt liten ansträngning. 

– Generativ AI kan hjälpa en aktör att ägna sig åt desinformation på ett mer effektivt och sofistikerat sätt än tidigare, och i en betydligt större skala, säger Zeve Sanderson.

AI påverkar också vad vi ser i sociala medier, genom rekommendationssystem. De föreslår vad vi ska titta på härnäst, utifrån vad vi tidigare visat intresse för. Sociala medieplattformar som Facebook, X, Tiktok och Youtube styrs av algoritmer som stärker och sprider innehåll som triggar en känslomässig reaktion hos användarna – vilket kan belöna lögner och påhitt.

– Den algoritm som företagen väljer påverkar hur mycket desinformation som sprids, säger Pontus Strimling, forskare med inriktning på AI vid Institutet för framtidsstudier i Stockholm.

– Det här vet vi därför att Facebook gjorde om sin algoritm så att den spred mindre desinformation inför USA-valet 2020. Men de bytte tillbaka till den algoritm de använde tidigare eftersom den var mer ekonomiskt lönsam, vilket visselblåsare har berättat om, säger Pontus Strimling.

Han ser deepfakes som något som kan ha en större inverkan i framtiden, snarare än redan i år.

– Deepfakes är inte tillräckligt bra än. Typiskt sett så har generativ AI svårt med händer och med strukturen på hår. Men när det gäller rekommendationssystem ser vi nog det värsta nu. De kommer att regleras men det kommer inte hinna ske innan årets val, säger Pontus Strimling.

Andra platser än USA och EU kan visa sig mer utsatta för AI-påverkan mot demokratiska val.

I Bangladesh – ett land som är övervägande konservativt muslimskt – spreds en video på en oppositionspolitiker klädd i bikini. Ledaren för Slovakiens liberala parti kunde i ett ljudklipp höras diskutera planer på valfusk och på att höja priset på öl. I en video ses Moldaviens pro-västliga president Maia Sandu uttala stöd för ett pro-ryskt parti. Samtliga dessa exempel är skapade med AI.

– Flera företag har regler när det gäller text till bild-generering, om att man inte får skapa bilder av verkliga människor, och särskilt inte politiker, säger Zeke Sanderson.

– Jag tror att företagen kommer vara uppmärk­samma på att försöka upprätthålla det i stora länder som USA och Storbritannien. Men det är val i ett 60-tal länder i år och frågan är vilka resurser de har att hålla koll på alla dessa val.

Hur ser då sårbarheten ut inför AI när det gäller att påverka val i Sverige?

– Även i Sverige får väldigt många människor sina fakta från olika typer av sociala medier, säger Malin Rönnblom, professor i statsvetenskap vid Karlstads universitet, där hon forskar om bland annat AI:s inverkan på demokratin.

– Vi är nog mer sårbara än vi tror. Det finns ingen allmän spridd kunskap i dagens läge om hur otroligt bra de här verktygen är. När jag var på en digital konferens förra året kunde en kille som satt i samma panel som jag på tio minuter skapa en deepfake med statsministern, säger Malin Rönnblom.

Samtidigt lovar techjättarna att göra något åt problemet med desinformationsspridning via generativ AI. Flera av dem, däribland Adobe, Google, Meta, Microsoft, Open AI och Tiktok, har skrivit under ett symboliskt och icke-bindande avtal om hur de ska agera mot AI-genererade deepfakes som syftar till att vilseleda väljare. De har bland annat lovat att utveckla teknik för att ”vatten­stämpla” och märka AI-skapat innehåll och att bidra till insatser för att utbilda allmänheten. EU kommer under året kräva att stora sociala medie-plattformar som Facebook, X och Tiktok märker AI-skapat material, inför sommarens EU-val som en del av EU:s Digital services act.

– Det vi ser, åtminstone i en amerikansk kontext, är att lagstiftarna rör sig mycket snabbare med AI, jämfört med hur de agerat när det gäller sociala medier, säger Zeve Sanderson.

– AI-företagen har också varit mer benägna att samarbeta.

Zeve Sanderson är noga med att påpeka att han ser potentiella positiva effekter av AI för demokratin.

– I USA har vi sett att rekordmånga personer som arbetar inom valmyndigheterna har slutat de senaste åren. Där kan AI kliva in och underlätta och snabba upp arbetet, säger Zeve Sanderson. 


– AI är väldigt bra på översättningar, och kan användas för att snabbt översätta valinformation till olika minoritetsspråk.

En rapport från University of Chicago och Stanford university bedömer att AI är ”lovande när det gäller att bidra till demokratiskt styre” och lyfter fram att chattbottar kan hjälpa till att informera medborgarna om viktiga frågor och att koppla ihop väljarna med politiker.

Även Neil Johnson vid Georgetown university ser AI som någonting positivt, trots slutsatserna i hans studie om att valåret kommer innebära dagliga AI-attacker mot demokratin.

– Som vi sett historiskt kan vad som helst användas som ett vapen. När det gäller bilar har vi satt upp väghinder framför viktiga byggnader. När vi flyger får vi inte ta med vätska ombord. När man vet hur faran ser ut går det att vidta åtgärder. Det som oroar mig är att AI diskuteras utan att det finns en tydlig bild av var det används och av vem. Det gör det svårt att komma åt problemen, säger Neil Johnson.