Min gissning om smarta maskiner

Som avkoppling händer det att jag spelar ett spel på min telefon som heter Batak. Det är ett enkelt kortspel av whist-typ. Vi är fyra spelare: jag mot tre andra som alla spelas av telefonen.

Min spelare heter ”me” och det går inte att ändra. Men det går att namnge telefonens spelare. Jag har valt att kalla dem Anna, Carro och Henrik, efter tre personer jag brukar spela kort med på riktigt.

Vi får poäng beroende på hur många stick vi tagit i förhållande till vad vi bjudit. Om jag vinner blir jag förstås glad. Men jag blir också lite glad när Carro vinner över Henrik, även om jag själv förlorar. Det är ju dumt. Varför bryr jag mig när en telefon vinner över sig själv? Men allra dummast är det när jag tycker synd om telefonen för att den gör ett korkat drag.

Telefonen har inga känslor, inget medvetande. Det är inte synd om den. Men precis som vi tillskriver många växter och djur mänskliga egenskaper – mer eller mindre motiverat – gör vi det också med döda ting och maskiner. Det är nog fler än jag som sagt några vänliga ord till en kopieringsmaskin och därmed hoppats att den ska krångla mindre, trots att den varken hör eller förstår. Inte sällan skäller vi också på den när den inte fattar vad vi bett om.

För många år sedan testade jag ett program som hette Eliza. Det var en dator förklädd till psykoterapeut och den kunde föra något som liknade en mänsklig konversation. Så här kunde inledningen till en konversation se ut:

Eliza: Jag är en psykoterapeut. Beskriv dina problem.

Du: Jag är deprimerad.

Eliza: Tror du att det hjälper att tala med mig om du är deprimerad?

Du: Nej.

Eliza: Varför inte?

Programmet, som konstruerades av AI-forskaren Joseph Weizenbaum vid Massachusetts Institutet of Technology i USA, publicerades 1966, och är därmed jämnårigt med tidskriften Forskning & Framsteg. Det var ett av de första i en lång rad av samtalsorienterade program som utforskade artificiell intelligens och mänskligt språk. På engelska kallas de ibland för chatterbots.

När jag samtalade med Eliza agerade jag – som så många andra – som om programmet var betydligt mer avancerat än det egentligen var. Trots att jag visste att det var ett program helt utan medvetande, känslor och intelligens så svarade jag som om det fanns en tänkande person på andra sidan datorskärmen.

Jag kom att tänka på dessa möten med osmarta telefoner och datorer när vi arbetade med artikeln i detta nummer om artificiell intelligens. Hur kommer vi att uppleva det när datorn faktiskt på riktigt är intelligent?

I artikeln ges argument både för och emot att robotarna snart kommer att övertrumfa oss. I kraft av sin intelligens skulle de kanske kunna ta över. Det kallas för singularitet, en tänkt tidpunkt i framtiden när vi inte längre har kontrollen. Maskinernas förmåga att förbättra sig själva genom artificiell intelligens gör att de programmerar sig själva på sätt som vi inte kan förutsäga.

Det är något motsägelsefullt i att vi redan upplever maskinerna som både smartare och mer empatiska än de bevisligen är, samtidigt som vi befarar den stund då de faktiskt kommer att vara det. Min gissning är att vi då kommer att uppfatta dem som dummare och känslokallare än de är.