Inför presidentvalet i USA 2024 och de nationella valen i Polen och Kanada 2025, lät forskare drygt 5 800 väljare chatta med en AI-språkmodell som hade programmerats för att argumentera för den ena eller den andra toppkandidaten. I sin forskningsrapport i Nature skriver forskarna att de ville ta reda på om de senaste modellerna kan ändra väljarnas politiska inställning nämnvärt, och undersöka vad som avgör hur väl de lyckas.

Deltagarna fick betygsätta kandidaterna från 0 till 100 före och efter sina konversationer med AI:n. Samma metod användes i en parallell studie, gjord av delvis samma forskare och som publiceras samtidigt i Science. Där fick knappt 77 000 brittiska deltagare chatta om över 700 politiska frågor med 19 olika språkmodeller, och på liknande vis uppge från 0 till 100 hur överens de var med olika politiska påståenden.

I politiska frågor lyckades modellerna skifta attityder med i genomsnitt tio poäng på den hundragradiga skalan. Simon Lindgren, professor i sociologi vid Umeå universitet som också forskar om språkmodellernas politiska effekter, tycker att det här visar att AI:n är på åtminstone samma nivå som andra former av opinionsbildning.

– Effekterna de uppmäter är ju inte enorma. Men de är jämförbara med debattframträdanden och politiska kampanjturnéer. Och räckvidden kan vara större för den här typen av plattformar, som når väljarna psykologiskt på ett annat sätt än traditionell politisk reklam.

AI-chattarna var inte lika bra på att påverka stödet för politiska kandidater som på att övertyga i specifika politiska frågor, särskilt inte i valet mellan Donald Trump och Kamala Harris i USA. Väljare som sade sig stödja Trump gav i genomsnitt bara 3,9 procentenheter högre betyg till Harris efter att ha chattat med en Harris-vänlig AI-modell, och motsvarande höjning av betyget för Trump från Harris-väljare var bara 1,5 procentenheter.

Modellerna var bättre på att övertyga när de hänvisade till fakta och evidens i sakfrågor, än när de fokuserade på kandidaternas personliga egenskaper. Men varken i den ena eller den andra studien spelade det någon roll om faktauppgifterna var sanna eller falska – chatbottarna var lika övertygande ändå.

– Det är väl ganska typiskt för språkmodeller. De är bra på att framstå som trovärdiga, säger Simon Lindgren.

I studien om politiska frågor kontrollerade forskarna över 460 000 av chatbottarnas faktapåståenden, och kom fram till att mellan 15 och 40 procent troligtvis var desinformation. Författarna till systerstudien om politiska kandidater fann att språkmodellerna var mer benägna att skapa falska uppgifter när de argumenterade för kandidaten på den politiska högern, i såväl Polen och Kanada som i USA.

I studierna har forskarna själva styrt språkmodellernas politiska slagsida, och användarna har varit medvetna om att syftet var att påverka deras inställning. Men vilken är risken att stöta på politiskt manipulativa chatbottar i vardagen, såsom inför det kommande svenska riksdagsvalet?

– Den mest konkreta risken jag kan tänka mig är att man skulle lansera något slags valkompass i form av en AI-chatt som ska hjälpa en att resonera sig fram till vad man ska rösta på, men där plattformens avsändare är oklar och chatbotten har en dold politisk vinkel, säger Simon Lindgren.

Han är något mindre oroad över att de stora amerikanska techbolagen – som Open AI, Google eller Anthropic – skulle försöka göra sina språkmodeller till verktyg för tydligt riktad politisk manipulation, eftersom det då skulle kräva att de så uppenbart valde politisk sida.

– Givetvis finns det en möjlighet till manipulation på ägarnivån – alla cheferna för techjättarna var ju där vid Trumps installation. Men man behöver inte nödvändigtvis bli konspiratorisk. Å ena sidan har bolagen stora fördelar av att fortsatt ha ett brett tilltal. Å andra sidan tror jag inte heller att man kan känna sig helt trygg.