AI-genererade forskningsartiklar sprids brett
Google Scholar är en viktig källa för vetenskaplig information för allmänheten. Nu visar en ny studie av svenska forskare att plattformen fylls med AI-genererat innehåll, vilket riskerar att få allvarliga konsekvenser för både den akademiska världen och samhällsdebatten.

AI-genererade artiklar hotar både den akademiska världens integritet och även hur forskning sprids och används i samhället.
Bild: Getty images
Allt fler vetenskapliga tidskrifter, arkiv och forskningsdatabaser fylls med AI-genererat innehåll. Det visar en ny studie publicerad i Harvard Kennedy School’s Misinformation Review, utförd av forskare vid Högskolan i Borås, Lunds universitet och Sveriges lantbruksuniversitet, SLU.
För att kartlägga problemets omfattning granskade forskarna ett urval artiklar på Google Scholar, en plattform som till skillnad från traditionella akademiska databaser saknar strikta kvalitetskontroller och tydliga urvalskriterier. Genom att söka efter fraser typiska för språkmodeller som GPT kunde forskarna identifiera studier där AI sannolikt använts. Vid en manuell genomgång av de 227 artiklar som identifierades visade det sig att omkring två tredjedelar av artiklarna innehöll AI-genererad text – utan att detta deklarerats.

Bild: Ida Danell
– Det är en oroväckande hög andel, men ändå sannolikt en underskattning. Modellerna blir allt mer sofistikerade och odeklarerad användning blir svårare och svårare att upptäcka, säger Björn Ekström, forskare vid Högskolan i Borås.
Riskerar spridning av fabricerade studier
Forskarna varnar för att AI-genererade artiklar inte bara hotar den akademiska världens integritet utan även hur forskning sprids och används i samhället.
Problemet med AI-genererat innehåll är särskilt utbrett på Google Scholar. Här blandas etablerad forskning med studentuppsatser, konferensdokument och opublicerade forskningsrapporter.

Bild: Kristina Alexandersson
– Google Scholar fungerar mer som en bred sökmotor än en strikt akademisk databas. Det gör att vetenskapliga desinformationskampanjer och fabricerade studier kan få stor spridning, säger Jutta Haider, professor i biblioteks- och informationsvetenskap vid Högskolan i Borås.
AI-genererade studier kan manipulera samhällsdebatten
Forskarna varnar för att den fortsatta utvecklingen av AI-modeller kan leda till ökad så kallad evidence hacking, där falska forskningsartiklar används för att skapa en illusion av vetenskapligt stöd för en politisk agenda.
– Vi har redan sett hur felaktiga studier som kopplar vaccin till autism och påstår att vindkraft orsakar hjärtproblem fått fäste i debatten och använts av beslutsfattare, trots att de tydligt motbevisats. När fabricerat innehåll kan produceras snabbt, billigt och i stor skala riskerar samma fenomen att spridas på en helt ny nivå, säger Jutta Haider.
Studien understryker ett behov av skärpta kontroller och ökad medvetenhet om spridningen och konsekvenserna av AI-genererad forskning, både inom vetenskapen, men också i samhället i stort.
Artikeln är korrigerad senast 3 februari klockan 16:33.

Kunskap baserad på vetenskap
Prenumerera på Forskning & Framsteg!
Inlogg på fof.se • Tidning • Arkiv med tidigare nummer