AI-genombrott kan försämra förståelsen för matematik

Sedan 1934 har matematiker och fysiker frågat sig om flöden i vätskor beskrivs på rätt sätt med hjälp av så kallade Navier–Stokes-ekvationer. När företaget Open AI i veckan publicerade ett bevis för att de inte alltid gör det jublade matematiker världen över, då AI:s förmåga att lösa komplexa problem vässats till en högre nivå. Men alla stämde inte in i hyllningskören. Bedriften väcker nämligen såväl forskningsetiska som praktiska frågor kring matematikens utveckling.

Navier–Stokes-problemet, med system av partiella differentialekvationer, är ett av de sju så kallade millennieproblemen. År 2000 utlystes ett pris på en miljon dollar för lösningen av vart och ett av dessa. Huruvida AI-lösningen på Navier–Stokes-problemet verkligen är korrekt har ännu inte granskats av matematiker, men de flesta reaktioner hittills är att den sannolikt är det.

Lösningen tillkännagavs bara dagar efter det att det konkurrerande AI-företaget Anthropic meddelat att de med AI gjort en logisk formalisering av ett annat klassiskt matematiskt problem, nämligen det bevis på Fermats stora sats som matematikern Andrew Wiles hittade 1995 efter 358 år.

Men de spektakulära AI-lösningarna sänder samtidigt chockvågor genom matematikvärlden. När storföretag satsar miljontals dollar på att lösa svårknäckta problem kan det få följder för den matematiska grundforskningen. Svante Linusson är professor i diskret matematik vid Kungliga tekniska högskolan, KTH. Han varnar för att forskningen dränks i ”AI-gegga”.

– Vi kommer inte att hinna sålla eller läsa allt som produceras. De flesta problem som AI matas med i dag ligger på en nivå som vi brukar ge doktorander – det är processen för att lära sig forska. Hur ska vi lära upp nästa generation forskare i matematik, vad kommer det innebära att doktorera? Vi trevar nu efter ett nytt förhållningssätt, säger han till Forskning & Framsteg.

För att tackla utmaningarna har matematikerna vid KTH och Stockholms universitet bildat en grupp som planerar informella möten och seminarier. På första mötet, i onsdags, kom minst 130 personer – från doktorander till professorer – och fyllde lokalen till bristningsgränsen.

AI-företagen tar sig framför allt an problemen för att marknadsföra sina kraftfulla modeller, enligt Svante Linusson. Aldrig har så många miljarder dollar satsats på att lösa problem i teoretisk matematik, framhåller han.

Men det skapar samtidigt stress bland forskare när antalet forskningsartiklar bara ökar.

– Sedan i januari har exempelvis antalet artiklar inom kombinatorik mer än fördubblats. Många av dem är inte bra. De är troligen ofta korrekta, men är inte så intressanta eller tillför särskilt mycket, säger Svante Linusson.

Han får medhåll av Daniel Persson, professor i algebra och geometri vid Chalmers tekniska högskola i Göteborg, som just nu håller på att ta fram en ny kurs för doktorander om hur AI kan användas i matematiken. En serie seminarier om AI ska också öka utbytet mellan olika forskare som använder verktygen.

Dragkampen mellan AI-jättarna väcker också forskningsetiska frågor. Professor Tristan Buckmaster vid New York university, som använt modeller från företaget Anthropic för att försöka lösa Navier–Stokes-problemet, antyder att Open AI kan ha tagit hans och kollegan Levent Alpöges delresultat och matat in i sin modell innan de hunnit publicera sina rön. Open AI förnekar detta, men bristen på insyn kan få allvarliga följder, anser Daniel Persson.

– Det räcker inte att veta om resultaten är riktiga. En väldigt stor del av forskningen är att man jobbar systematiskt med ett problem och lär sig nya saker, som också kan spilla över till andra delar av matematiken och forskningen. Om du bara matar ut resultat utan källhänvisningar och mänsklig granskning så ökar inte förståelsen och kunskapen.

För att kontra risken med att ens arbetsmaterial sprids har matematiker på Chalmers skaffat egna AI-plattformar, som inte kopplas till internet. Det diskuteras även på KTH. På så sätt kan de hålla sina resultat hemliga till publicering. Men det har också nackdelar.

En risk med de stora AI-företagens kapplöpning är att de kan välja vilka forskare som får tillgång till deras bästa modeller, som inte finns fritt tillgängliga. Det kan skapa ett A- och B-lag i forskarvärlden.

Utvecklingen påverkar inte bara forskningen utan även utbildningen, där kunskaper kan behöva förmedlas på nya sätt. Redan efter ett år kanske kurserna måste göras om.

– Bara under det här samtalet händer det nya saker, så vi är redan efter. Vi riskerar att få en massa resultat utan mottagare. Om jag inte kan ta mig tid att förstå, förvalta och förmedla resultat kan jag inte internalisera kunskaperna, säger Daniel Persson.

Å andra sidan kan man använda AI för att snabbare sätta sig in i ett område och utvecklas, resonerar han. Men det kräver tid att begrunda resultaten, inte bara spotta ut dem.

– Ämnen som varit lämpliga för doktorander kan nu lösas lätt av AI. Kanske behöver vi sikta på större frågor, som tvärvetenskapliga problem och samhällsproblem. Min förhoppning är att nya arbetssätt gör oss kraftfullare.

Svante Linusson tror att en väg framåt är att se AI som en samtalspartner, någon att bolla problem med i stället för att be om färdiga lösningar. Ett annat bra sätt att använda AI är att översätta resultat till ett logiskt kodspråk för att verifiera resultat med ett traditionellt datorprogram. Det är det som skett både med Navier–Stokes-problemet och Fermats stora sats.

Men framför allt kan duktiga matematiker ställa bättre frågor.

– En matematiker jag känner visste vilka algoritmer som är bäst för att lösa ett problem. Men han fick argumentera flera gånger för att övertyga AI utifrån sin kunskap. Om man lämnar AI för sig själv kan det bli rätt dåliga resultat.