Annons

För farlig för att släppas fri

Publicerad:

2019-04-11

En ny datormodell är så bra på att skapa texter att forskarna valt att hålla den hemlig. Orsaken: risk för missbruk.

Nyhetsartiklar som skrivits av den nya, AI-baserade textgeneratorn är närmast omöjliga att skilja från artiklar skrivna av en människa. Bakom den textskapande AI-modellen står det ideella forskningsföretaget Open AI i USA, som backas upp av bland andra elbilstillverkaren Teslas vd Elon Musk.

Företaget har publicerat en förenklad modell av textgeneratorn tillsammans med en forskningsrapport. Den fullskaliga modellen har forskarna valt att hålla hemlig, med motiveringen att den skulle kunna missbrukas för att till exempel massproducera falska nyheter. Gabriel Skantze, professor i talteknologi vid Kungliga tekniska högskolan i Stockholm, förstår dock inte poängen med hemlighetsmakeriet:

– Metoden är ju beskriven, så vem som helst med hyfsade beräkningsresurser borde ändå kunna återskapa den.

Han beskriver samtidigt den nya språkmodellen som både imponerande och spännande.

– Det har kommit en lång rad så kallade språkmodeller de senaste åren som ständigt visar bättre resultat, och detta är det senaste exemplet på detta.

Forskning & Framsteg berättar om fackgranskade forskningsresultat och om pågående forskning. Våra texter ska vara balanserade och trovärdiga, och sätta forskningsresultaten i sitt sammanhang för att göra dem begripliga. Forskning & Framsteg har rapporterat om vetenskap sedan 1966.