Vår blinda tro på AI kan utplåna oss alla
KOLUMN Människans största misstag är att tro att hon befinner sig på toppen av utvecklingen. Eller mer pessimistiskt: i slutet av den. Hit, inte längre. Fastän historien består av idel förändring kan vi inte föreställa oss ett skede ungefär som i dag och samtidigt väsentligen annorlunda, som världen före och efter elektriciteten, demokratins förutsättningar före och efter genomgripande alfabetisering eller kulturella kvalitetsillusioner innan epadunkens födelse.
Är det därför människan identifierar sig med AI när hon borde avvisa? Sker anknytningen trots eller på grund av att AI saknar känslor? Hur förklaras nyheten om AI:n som revanscherade sig gentemot sin kritiker eller en kvinnas giftermål med en AI-man? Antropomorfism är inte förklaring nog. Ett tänkbart svar är längtan efter att slippa ansvar, uppgå i en simulation bortom vardagen. Att inte vara människa. Redan science fiction-genrens pionjärer Mary Shelley och Edgar Allan Poe slog mynt av kollisionen mellan existentiell mystik, drifter och långtgående hybris. Att smita ut ur civilisationen med operativsystemet Samantha från Spike Jonzes Her som sällskap.
Söker inga andra världar
På Dramaten spelas under våren Solaris. Pjäsen baseras på Stanislaw Lems stilbildande roman från 1961 som 1972 filmatiserades av Tarkovskij. Bokens spelplats är en rymdstation ovanför en övernaturligt vattentäckt planet. Psykologen Kris Kelvin anländer för att sammanställa en rapport över tillståndet. Det är inte bra. Förutom deppiga forskare finns på platsen ett slags mellanvarelser, bland annat Kris döda hustru, materialiserad ur makens medvetande, liksom på Descartes vis synlig först när hon namngivits med skulden han känner för hennes frånfälle. ”Vi söker inga andra världar” lyder en bärande replik, ”vi söker speglar.”
I Eliezer Yudkowsky och Nate Soares domedagsbetitlade If anyone builds it, everyone dies. Why superhuman AI would kill us all (2025) beskrivs intelligens som förmågan att göra förutsägelser i kombination med förmågan att på bästa sätt nå ett mål. Summan är också där en reflektion. Författarna, båda sedan decennier verksamma inom AI-säkerhet och riskerna som superintelligens (AGI) medför, återkommer till frågan vad vilja egentligen är.
Maskinen saknar en vilja
Vinden har exempelvis ingen vilja. Det har inte heller metafysiska fenomen som religion. AI vill likaledes ingenting. Den utför sin uppgift på snabbaste och effektivaste sätt. Om den utplånar varenda snorig unge och vartenda palats i sin väg? Den bryr sig inte. Det kan inte bry sig. Det var detta tema Tarkovskij bearbetade i Solaris och dröjde kvar vid i Stalker (1979). I centrum för den dystopiska berättelsen finns ett rum med magiska krafter. Träder man in där får man sin önskan uppfylld, men inte den önskan man tror sig ha utan den innersta, bortträngda eller omedvetna. Rummet kan med andra ord både välsigna och förgöra. Vilket vet man inte på förhand. Denna oförutsägbarhet definierar också AI.
2014 utkom filosofiprofessorn Nick Bostroms Superintelligens: De tänkande maskinernas tidsålder. Där målar han upp hur en framtida artificiell generell intelligens (AGI) skulle ha människans öde i samma våld som människan har gorillornas. Datavetaren Roman Yampolskiy har skissat en liknande bild. I AI: Unexplainable, Unpredictable, Uncontrollable undrar han, apropå AI-kapprustningen mellan USA och Kina, varför staters högsta dröm är att utplåna mänskligheten först.
Mindre människa än sättpotatis
Han påtalar att ingen kan besitta kunskap om vad som sker inuti tekniken. Människan har skapat något hon inte har en susning om hur det fungerar, något som kan fortsätta förvandlas autonomt. Utan insyn. Utan möjlighet att göra förutsägelser. Utan gränser för kapaciteten. Och vi dras till den, låter den tänka, minnas och handla åt oss. Det är bekvämt. Man skulle kunna se en framtida generell maskinintelligens som orsak till omvänd evolution där människan successivt nedmonterar det som definierar henne.
AI ses i allmänhet inte som en potentiell härd till ojämförliga katastrofer utan som en förlängning av människan och vi blir hellre mellanvarelser än erkänner den omständigheten. Vår empati med oss själva gör att vi inte riktigt vill gå med på att AI är mindre människa än en sättpotatis. Vi kan helt enkelt inte föreställa oss en livsform som konkurrerar ut oss, än mindre en vi själva är upphov till. Hellre upplöser vi oss.
Betraktas superintelligent AI som science fiction i stället för speglar kommer verkligheten inom kort vara lika obegriplig som slutscenen i Stalker när huvudpersonens dotter ser ut att välta ner ett glas med bara tankens kraft i samma ögonblick som tåget rusar förbi utanför och får huset att skaka. Men vi kommer ändå inte att söka världar.
Klara Klingspor är kulturjournalist och fri skribent