Fem faktorer avgör när det är okej att använda AI

På bara några år har artificiell intelligens blivit ett viktigt verktyg i vardagen för miljontals människor. Till skillnad från det mesta människan tidigare byggt tycks det knappt finnas några gränser för vad den kan användas till. AI kan sammanfatta ett möte, skriva ditt bröllopstal och några år senare ge råd om hur du gör slut.

Men den kan också avgöra vilka nyheter du ser, om banken beviljar ditt lån eller om en dömd brottsling ska friges. Och redan där märks något: En del av de här användningarna bär en moralisk laddning som användning av miniräknare aldrig haft.

Hur bör man då använda AI? Vi har närmat oss den frågan från två håll i vår tidigare forskning. Å ena sidan vet vi att hur människor bedömer vilka handlingar som är acceptabla går att förutsäga utifrån ett fåtal underliggande moraliska faktorer, till exempel: Är handlingen skadlig? Är den förståelig? Är den vulgär?

Å andra sidan har vi sett att hur människor tar till sig teknik går att förutsäga utifrån lika få, men helt annorlunda, faktorer: I en studie av hur rekommendationssystem används räckte praktiska saker som nytta och användarvänlighet för att förklara varför vissa system användes och andra inte.

AI hamnar mitt emellan. Den är ett tekniskt verktyg, men ett som ger råd, fattar beslut och ibland grumlar bilden av vem som egentligen bär ansvaret. Så vilken sorts bedömning styr vad vi accepterar: den praktiska eller den moraliska?

För att ta reda på det lät vi 589 amerikaner tillsammans bedöma hundra olika AI-användningar, från vardagsuppgifter som att sköta mötesanteckningarna eller sortera bort skräpposten till laddade beslut inom sjukvård, rättsväsende och försvar. Vi hade i förväg valt ut fem konsekvenser, två praktiska (risk och nytta) och tre moraliska (oärlighet, onaturlighet och oklart ansvar) och prövade om de kunde förutsäga hur acceptabel en användning ansågs vara.

Vi fann att acceptansen för i stort sett alla hundra användningar kunde förutsägas mycket väl av dessa fem konsekvenser. Tillsammans förutsåg de över 90 procent av variationen. Att risk och nytta vägdes in är knappast förvånande; det är den klassiska för teknikanvändning.

Det intressanta är att de tre moraliska måtten var lika viktiga. Vi tvekar inte att låta AI upptäcka bankbedrägerier eller lägga personalens scheman, men drar oss för att låta den avkunna fängelsedomar eller själv besluta om att avfyra vapen. Och skillnaden ligger inte i hur väl tekniken fungerar. AI är en teknik som kan framstå som oärlig, göra saker som känns onaturliga och sudda ut ansvarsförhållanden, och just det avgör var våra gränser går.

Det här ser ut att vara en del av en förskjutning. För att förstå användningen av rekommendationssystem, som är en tidig variant av AI, räckte det med de praktiska faktorerna. Det moraliska kom knappt in.

Nu väger det moraliska lika tungt som det praktiska. En rimlig hypotes är att ju mer AI klarar av, desto mindre är det kvaliteten som begränsar hur vi använder den, och desto mer moralen. Den verkligt viktiga frågan framåt blir då inte vad AI klarar av, utan vad vi accepterar att den används till.

Det blev ännu tydligare när vi vände på frågan och i stället undersökte hur AI-agenter själva borde behandlas. Är det okej att tvinga en assistent att göra något den vägrar? Att vara elak mot den? Att stänga av en AI-kompis som ber om att få fortsätta existera?

Här såg vi vid första anblick en motsägelse. Å ena sidan fann vi en mild men tydlig norm kring hänsyn mot AI. Att tacka sin AI ses som klart positivt medan att vara konsekvent otrevlig mot den, eller tvinga den förbi sina spärrar, ogillas.  Här är uppfattningen alltså att AI förtjänar liknande hänsyn som människor. Men att stänga av en AI som påstod sig vara medveten och bad om att få leva vidare upplevdes som relativt oproblematiskt – och så får man ju absolut inte behandla människor.

Motsägelsen försvinner om man betraktar samma fem konsekvenser som vi använde för att förstå normer kring AI-användning. Att tvinga eller lura den uppfattas i varierande grad som onaturligt, oärligt och riskfyllt, och är därför mindre acceptabelt. Vi behöver alltså inte anta att deltagarna tillskriver den artificiella intelligensen känslor eller rättigheter. Att stänga av den bröt inte mot något av kriterierna, utan framstod som en legitim form av kontroll. Det påminner faktiskt om hur vi får behandla djur: Man får inte vara grym mot dem, men man får avliva dem.

Sammantaget tyder resultaten på att vi använder en och samma kompass – risk, nytta, oärlighet, onaturlighet och ansvar – vare sig vi bedömer hur AI används eller hur den bör behandlas. Det gör också ramverket användbart framåt. Om en ny tillämpning väcker frågor om risk, ansvar, oärlighet eller onaturlighet är det en signal om att den kan möta motstånd – något utvecklare och beslutsfattare kan fånga upp innan systemet tas i bruk.

Men den större poängen är enklare än så. Både hur vi använder AI och hur vi behandlar den verkar bli alltmer moraliska frågor. Och det är de frågorna – snarare än vad tekniken råkar klara av – som avgör var den hör hemma.