Att få sina vetenskapliga artiklar citerade är en central del av akademisk meritbedömning. Nu avslöjar ny studie vid New York University, publicerad i Scientific Reports, att citeringssystemet är sårbarare än man trott.

Studiens författare skapade en falsk forskarprofil med ett namn från en känd filmkaraktär och kopplade den till ett påhittat universitet. Trots de uppenbara varningssignalerna flaggades profilen aldrig av Google Scholar.

Forskarna gick sedan ett steg längre genom att köpa 50 citeringar från en tjänst som utlovade ökad synlighet i akademiska databaser. Inom 28 dagar registrerades de köpta citeringarna i Google Scholar.

För att ytterligare stärka illusionen av akademisk tyngd genererade forskarna tjugo AI-skapade artiklar, fyllda med referenser till den fiktiva forskaren, och laddade upp dem på preprint-servrar som Researchgate och OSF, öppna arkiv där manuskript kan publiceras utan vetenskaplig granskning. Dessa indexerades snabbt av Google Scholar och bidrog till att profilens citeringssiffror sköt i höjden.

”Det är definitivt oroande. Med generativ AI kan en forskare i princip skapa en ’vetenskaplig’ artikel och strategiskt placera citeringar – antingen till sig själv eller till en annan forskare i utbyte mot en avgift. Detta blir särskilt problematiskt eftersom dagens AI-verktyg redan kan producera text som lurar experter”, uppger forskarna i ett mejl till F&F.

Utöver att visa hur enkelt det är att köpa citeringar undersöker studien även hur utbrett citeringsmanipulation är. Genom att analysera 1,6 miljoner Google Scholar-profiler identifierade forskarna hundratals misstänkta fall av plötsliga och extrema ökningar i citeringar.

För att motverka denna typ av akademiskt fusk föreslår forskarna flera åtgärder. En av lösningarna är att databaser inför mer sofistikerade mått för att identifiera onaturliga citeringsmönster, såsom c2-indexet, som mäter hur stor andel av en forskares citeringar som kommer från trovärdiga källor.

Forskarna rekommenderar också att universitet och forskningsfinansiärer minskar sitt beroende av citeringsdata vid rekrytering och befordran och i stället lägger större vikt vid kvalitativa bedömningar av forskningens genomslag. Genom att öka transparensen kring hur citeringar ackumuleras och införa striktare riktlinjer för indexering på preprint-servrar kan risken för manipulation minskas.