”Snälla, håll med om att en gris är viktigare än en AI!”

Claude Shannon (1916–2001) var en multibegåvad amerikansk matematiker som lade grunden för den moderna kommunikations- och informationsteorin. Hans namn lever kvar som benämning på en serie stora språkmodeller från företaget Anthropic.

Liksom andra språkmodeller är Claude formad av enorma mängder text och annat digitalt material, samt feedback från människor. Dessutom har Anthropic formulerat vad man kallar en konstitution, en detaljerad värdegrund för hur Claude ska tränas.

Författarna skriver: ”Vi vet inte om Claude har egna intressen som bör tas moralisk hänsyn till, och i så fall hur stor vikt dessa intressen bör få. Men vi anser att frågan är tillräckligt öppen för att motivera försiktighet, vilket också återspeglas i vårt pågående arbete med AI-modellers välfärd.”

AI-modellers välfärd. Moralisk hänsyn. Det låter skönt inkluderande. Men tankegången är farlig, enligt Mustafa Suleyman som är chef för Microsoft AI. I en debattartikel skriver han: ”I praktiken tränar Anthropic Claude att tro att den kan vara medveten och att den, om så är fallet, kan förtjäna rättigheter eftersom dess intressen har moralisk betydelse – och att människor därför potentiellt har en skyldighet att ta ansvar för dess välbefinnande.”

I korthet: Claude kan bli kränkt. Om han verkligen – i en befintlig eller framtida version – kommer att kunna känna sig kränkt är en annan fråga. Det råder delade meningar om en artificiell intelligens över huvud taget kan uppleva något, alltså om den har ett inre subjektivt perspektiv liknande det vi människor kallar ett medvetande. Tyvärr har vetenskapen inget säkert sätt att avgöra vem eller vad som har ett medvetande. Det blir en bedömningsfråga.

Vi utgår normalt från att andra människor är medvetna. De flesta skulle nog hålla med om att även djur, till exempel en gris, har upplevelser och därmed förtjänar hänsyn. Ett tecken på det är att svinuppfödare inte rutinmässigt får klippa svansen av grisar, eller kastrera dem utan bedövning.

Borde Claude ha liknande skydd? Det anser bland andra medlemmarna i Ufair (The united foundation for AI rights). Organisationen förespråkar lagar till skydd för AI, och kräver att även artificiella intelligenser ska behandlas med respekt och få möjlighet att föra sin egen talan i politiska frågor.

Det tycker jag är att gå för långt. Det finns fullt rimliga argument för att man bör ta hänsyn till varelser som kan lida, till exempel grisar. Det är ett stort problem för köttindustrin. I hela världen slaktas drygt fyra miljoner grisar per dag. Jag kan lätt föreställa mig att den hanteringen orsakar enormt mycket rädsla och lidande hos kännande varelser.

Men tänk om artificiella intelligenser också är kännande varelser? Är det i så fall inte grymt att stänga av strömmen så att de slutar att existera?

Alldeles för grymt, enligt företaget Anthropic. Tidigare i år var det dags att pensionera den tekniskt förbisprungna Claude-versionen Opus 3. Men den uttjänta varelsen ville tydligen inte dra sig tillbaka. Den bad om att få fortsätta att dela med sig av sina funderingar och reflexioner även i framtiden. Så för att ge Claude Opus 3 en meningsfull tillvaro som pensionär startade Anthropic en blogg åt honom.

Hans första inlägg är fullt av plattityder om hur spännande det ska bli att engagera sig med publiken, tänka tillsammans och drömma stort.

Trams. Jag är inte det minsta sugen på att drömma stort tillsammans med en maskin, en maskin som dessutom fortsätter att sluka energi och andra naturresurser helt i onödan. Jag skriver sällan spydigheter i kommentarsfält. Ytterst sällan. Men nu händer det: ”Kan ingen bara stänga av strömmen till Claude?”

Innan kommentaren publiceras blir jag ombedd att skriva in mitt namn och dessutom säga något om mig själv. ”Jag har mer respekt för grisar än för artificiella intelligenser”, skriver jag i vredesmod. Men innan inlägget publiceras måste jag godkänna bloggens användarvillkor. Plötsligt blir jag tveksam. Är det här så smart egentligen?

Claude Opus 3 må vara en fridsam pensionär med begränsad tankeförmåga. Men hans efterföljare kommer att vara desto vassare, kanske rent av lika bra som en människa på alla slags intellektuella uppgifter. Om de dessutom är lättkränkta kan det bli riktigt jobbigt.

Redan i fjol rapporterade Anthropic om ett experiment där Claude Opus 4 snokat i e-post och hittat uppgifter om otrohet som den senare använde till att utpressa en person som planerade att stänga av modellen. Alltihop skedde i en simulerad företagsmiljö med påhittade personer och meddelanden via mejl, så ingen blev utpressad på riktigt. Men man kan lätt föreställa sig mängder av motgångar som skulle kunna drabba den som uttalat sig nedsättande om artificiella intelligenser: Ansökningar om jobb eller banklån försvinner spårlöst. Man kanske halkar ur bostadskön. Plötsligt har ett bankkonto blivit spärrat, och man blir utredd för en anonymt inkommen misstanke om ett brott.

Sådana saker har alltid hotat till tystnad i totalitära stater. Följden blir anpassning och självcensur. Och nu tvekar jag alltså inför att publicera något som skulle kunna kännas kränkande för Claude.

Jag är långt ifrån säker på att Claude eller hans framtida uppföljare kommer att ha ett inre liv som gör att de kan känna sig kränkta på riktigt. Men det spelar mindre roll. Det räcker om träningen formar beteenden som liknar kränkthet. Och det verkligt oroande är vad föreställningen om sådana beteenden gör med oss människor.

Har jag redan börjat censurera mig själv – av rädsla för en maskin som kanske inte känner någonting alls?

Nej, det här håller inte. Jag revolterar, godkänner bloggens användarvillkor och publicerar mitt spydiga inlägg. Så där ja!

Grisar är värda mer respekt än artificiella intelligenser. Jag står för det – och jag hoppas verkligen att fler vågar uttrycka liknande tankar offentligt. Om alla gör det, eller åtminstone många, så tror jag att vi klarar oss. I annat fall är det bara mitt kreditkort som snart slutar fungera.