AI-genererade forskningsartiklar sprids brett

Google Scholar är en viktig källa för vetenskaplig information för allmänheten. Nu visar en ny studie av svenska forskare att plattformen fylls med AI-genererat innehåll, vilket riskerar att få allvarliga konsekvenser för både den akademiska världen och samhällsdebatten.

Publicerad
Ung kvinna ses genom skärm

AI-genererade artiklar hotar både den akademiska världens integritet och även hur forskning sprids och används i samhället.
Bild:
Getty images

Allt fler vetenskapliga tidskrifter, arkiv och forskningsdatabaser fylls med AI-genererat innehåll. Det visar en ny studie publicerad i Harvard Kennedy School’s Misinformation Review, utförd av forskare vid Högskolan i Borås, Lunds universitet och Sveriges lantbruksuniversitet, SLU.

För att kartlägga problemets omfattning granskade forskarna ett urval artiklar på Google Scholar, en plattform som till skillnad från traditionella akademiska databaser saknar strikta kvalitetskontroller och tydliga urvalskriterier. Genom att söka efter fraser typiska för språkmodeller som GPT kunde forskarna identifiera studier där AI sannolikt använts. Vid en manuell genomgång av de 227 artiklar som identifierades visade det sig att omkring två tredjedelar av artiklarna innehöll AI-genererad text – utan att detta deklarerats.

Björn Ekström
Björn Ekström, forskare vid Högskolan i Borås.
Bild: Ida Danell

– Det är en oroväckande hög andel, men ändå sannolikt en underskattning. Modellerna blir allt mer sofistikerade och odeklarerad användning blir svårare och svårare att upptäcka, säger Björn Ekström, forskare vid Högskolan i Borås. 

Riskerar spridning av fabricerade studier

Forskarna varnar för att AI-genererade artiklar inte bara hotar den akademiska världens integritet utan även hur forskning sprids och används i samhället.

Problemet med AI-genererat innehåll är särskilt utbrett på Google Scholar. Här blandas etablerad forskning med studentuppsatser, konferensdokument och opublicerade forskningsrapporter.

Jutta Haider
Jutta Haider, professor i biblioteks- och informationsvetenskap vid Högskolan i Borås.
Bild: Kristina Alexandersson

– Google Scholar fungerar mer som en bred sökmotor än en strikt akademisk databas. Det gör att vetenskapliga desinformationskampanjer och fabricerade studier kan få stor spridning, säger Jutta Haider, professor i biblioteks- och informationsvetenskap vid Högskolan i Borås.

AI-genererade studier kan manipulera samhällsdebatten

Forskarna varnar för att den fortsatta utvecklingen av AI-modeller kan leda till ökad så kallad evidence hacking, där falska forskningsartiklar används för att skapa en illusion av vetenskapligt stöd för en politisk agenda.

– Vi har redan sett hur felaktiga studier som kopplar vaccin till autism och påstår att vindkraft orsakar hjärtproblem fått fäste i debatten och använts av beslutsfattare, trots att de tydligt motbevisats. När fabricerat innehåll kan produceras snabbt, billigt och i stor skala riskerar samma fenomen att spridas på en helt ny nivå, säger Jutta Haider.

Studien understryker ett behov av skärpta kontroller och ökad medvetenhet om spridningen och konsekvenserna av AI-genererad forskning, både inom vetenskapen, men också i samhället i stort.

Artikeln är korrigerad senast 3 februari klockan 16:33.

F&F i din mejlbox!

Håll dig uppdaterad med F&F:s nyhetsbrev!

Beställ nyhetsbrev

Kunskap baserad på vetenskap

Prenumerera på Forskning & Framsteg!

Inlogg på fof.se • Tidning • Arkiv med tidigare nummer

Beställ i dag!
Publicerad

Upptäck F&F:s arkiv!

Se alla utgåvor