Annons

Olika personligheter Den mänskligt formade roboten C-3PO retar sig ofta på sin mer pragmatiska maskinkollega R2-D2, i den klassiska science fiction-filmen Star wars.

Bild: 
Istock

Vilken personlighet kommer smarta robotar att ha?

I Vernor Vinges roman Rainbows end är en omogen personlighet ett av de karaktärsdrag som man förväntar sig hos en artificiell intelligens, AI. Hur är det i verkligheten? Kan vi göra några förutsägelser om hurdana personligheter artificiella intelligenser kommer att ha om de dyker upp?

/Mårten

Publicerad:

2014-10-15

Det är svårt att göra några bestämda förutsägelser om detta. Vi kan tänka oss mängden av alla möjliga personligheter som ett stort rum, där de personligheter som vi skulle betrakta som normalt mänskliga utgör en mikroskopisk liten vrå någonstans i rummet. Om en AI:s personlighet inte hamnar i eller ytterst nära denna vrå kommer vi att uppfatta den som annorlunda – inte nödvändigtvis omogen, men kanske gravt psykotisk eller bara väldigt konstig.

Hur nära man kan räkna med att hamna den mänskliga vrån beror bland annat på med vilken metod man bygger sin AI. Med så kallad GOFAI (good old-fashioned AI), där man använder symbolhantering och något som liknar klassiska programspråk, hamnar man nog vanligtvis i en helt annan del av rummet. Jag talar här om seriösa försök till verklig AI, och inte om de utanverk som skapats för att ge sken av att kunna föra en intelligent konversation. Något närmare kanske man kommer med biologiskt inspirerade metoder som neurala nätverk eller evolutionära algoritmer, men antagligen ändå en bra bit ifrån. Men det kan också hända att ett framtida AI-genombrott bygger på helt andra och nu okända principer. Bästa chansen att åstadkomma en personlighet som kan räknas som mänsklig har man troligen om man kopierar strukturen i en mänsklig hjärna, neuron för neuron och synaps för synaps – eller vilken detaljnivå som nu kan komma att behövas. Det spekuleras ibland till och med över om vi någon gång i framtiden med denna teknik ska kunna ladda upp våra medvetanden på datorer, och på så vis bli kvitt kroppens skröpliga skal.

Det finns en intressant teori, utvecklad av datalogen Steve Omohundro och filosofen Nick Bostrom, som ger ledtrådar till hur en tillräckligt intelligent AI kan komma att uppträda. Varje AI behöver, precis som varje biologisk varelse, något slags drivkrafter eller mål för att den alls ska göra något. Teorin säger att nästan oavsett vilken ultimat (slutgiltig) drivkraft en AI har, så kommer den, om den är tillräckligt allmänintelligent och flexibel i sitt tänkande, att utveckla vissa så kallade instrumentella drivkrafter, som hjälpmedel för att nå sina ultimata mål. Exempelvis kommer den att försöka undvika att bli avstängd, ty när den är avstängd kommer den inte att kunna arbeta för att nå sina ultimata mål. Av liknande skäl kan den väntas vilja öka sin intelligens, kopiera sig själv över till andra maskiner, tillskansa sig extra hårdvara och andra materiella resurser, samt envist bevara sin ultimata drivkraft.

/Olle Häggström, professor i matematisk statistik, Chalmers

Du har just läst en artikel från tidskriften Forskning & Framsteg. Prenumerera här.

Kommentera:

Dela artikeln:

TIDNINGEN FÖR DIG SOM ÄR NYFIKEN PÅ ALLVAR
10 nummer 779 kr
2 nummer 99 kr
Du vet väl att du kan läsa Forskning & Framsteg i din läsplatta? Ladda ned appen från App Store eller Google Play. (Läsplatteutgåvan ingår i alla prenumerationer.)

Lägg till kommentar