Vilken personlighet kommer smarta robotar att ha?

Det är svårt att göra några bestämda förutsägelser om detta. Vi kan tänka oss mängden av alla möjliga personligheter som ett stort rum, där de personligheter som vi skulle betrakta som normalt mänskliga utgör en mikroskopisk liten vrå någonstans i rummet. Om en AI:s personlighet inte hamnar i eller ytterst nära denna vrå kommer vi att uppfatta den som annorlunda – inte nödvändigtvis omogen, men kanske gravt psykotisk eller bara väldigt konstig.

Hur nära man kan räkna med att hamna den mänskliga vrån beror bland annat på med vilken metod man bygger sin AI. Med så kallad GOFAI (good old-fashioned AI), där man använder symbolhantering och något som liknar klassiska programspråk, hamnar man nog vanligtvis i en helt annan del av rummet. Jag talar här om seriösa försök till verklig AI, och inte om de utanverk som skapats för att ge sken av att kunna föra en intelligent konversation. Något närmare kanske man kommer med biologiskt inspirerade metoder som neurala nätverk eller evolutionära algoritmer, men antagligen ändå en bra bit ifrån. Men det kan också hända att ett framtida AI-genombrott bygger på helt andra och nu okända principer. Bästa chansen att åstadkomma en personlighet som kan räknas som mänsklig har man troligen om man kopierar strukturen i en mänsklig hjärna, neuron för neuron och synaps för synaps – eller vilken detaljnivå som nu kan komma att behövas. Det spekuleras ibland till och med över om vi någon gång i framtiden med denna teknik ska kunna ladda upp våra medvetanden på datorer, och på så vis bli kvitt kroppens skröpliga skal.

Det finns en intressant teori, utvecklad av datalogen Steve Omohundro och filosofen Nick Bostrom, som ger ledtrådar till hur en tillräckligt intelligent AI kan komma att uppträda. Varje AI behöver, precis som varje biologisk varelse, något slags drivkrafter eller mål för att den alls ska göra något. Teorin säger att nästan oavsett vilken ultimat (slutgiltig) drivkraft en AI har, så kommer den, om den är tillräckligt allmänintelligent och flexibel i sitt tänkande, att utveckla vissa så kallade instrumentella drivkrafter, som hjälpmedel för att nå sina ultimata mål. Exempelvis kommer den att försöka undvika att bli avstängd, ty när den är avstängd kommer den inte att kunna arbeta för att nå sina ultimata mål. Av liknande skäl kan den väntas vilja öka sin intelligens, kopiera sig själv över till andra maskiner, tillskansa sig extra hårdvara och andra materiella resurser, samt envist bevara sin ultimata drivkraft.

/Olle Häggström, professor i matematisk statistik, Chalmers