Det fjerde såret

Vi avsluttet med et spørsmål: hvorfor er det så vanskelig for oss å ha noe over oss? Og jeg antydet at svaret ligger lenger tilbake enn psykologien rekker. La meg vise deg hva jeg mener, for det forandrer hele klangen i det forrige kapittelet. Det viser seg nemlig at trangen til å sitte øverst ikke er en evig menneskelig svakhet i det hele tatt. Den er ganske ny.

Mennesket sto i midten, ikke på toppen

Gjennom nesten hele historien rommet menneskets selvforståelse et trinn over oss. Tenk på det gamle bildet av tilværelsen som en stige, en kjede av væren, fra det høyeste til det laveste. Øverst sto det guddommelige, så englene eller de rene åndene, så mennesket, så dyrene, plantene, og nederst de døde tingene. Og legg merke til hvor mennesket sto: i midten. Ikke på toppen. Vi var hengselet der det materielle møtte det åndelige, godt under det som var større enn oss. Å ha noe over seg var ikke et unntak mennesket strevde med. Det var selve grunnstrukturen i hvordan vi forsto oss selv. «Øverst» var en plass forbeholdt noe annet enn mennesket. Dette er verdt å ta inn over seg, for det snur det forrige kapittelet på hodet. Ubehaget ved å ha noe over seg ser ut som en evig del av menneskenaturen. Men i det meste av historien levde mennesker fredelig med nettopp det, fordi de aldri hadde regnet med å sitte øverst i utgangspunktet.

Hvordan vi flyttet inn i setet over oss

Så skjedde det noe, og det kan dateres som en bue, ikke et øyeblikk. Det moderne er ikke at vi satte oss over dyrene; det er eldgammelt. Det moderne er at vi fjernet trinnet over oss og satte oss selv i det. Renessansen plantet frøet, med tanken om at mennesket alene blant skapningene ikke har noen fast plass, men kan skape seg selv, stige eller synke ved eget valg. Verdigheten hvilte nå på selvbestemmelse, ikke på rang i en gitt orden, selv om den ennå ble tenkt som en gave ovenfra. Opplysningstiden tok det videre: mennesket som mål i seg selv, med en verdighet hevet over hele den øvrige naturen, og en moral hentet fra fornuften alene. Og så kom diagnosen, da filosofen Friedrich Nietzsche på slutten av attenhundretallet erklærte at gud var død. Han mente det ikke som et seiersrop. Han mente at vitenskapen og fornuften hadde tømt setet over oss, og han spurte urolig: må vi ikke nå selv bli guder for å være den gjerningen verdig? Historikeren Yuval Noah Harari har bundet buen sammen i én linje. Humanismen, sier han, er i grunnen en religion som tilber mennesket i stedet for en gud: autoriteten er flyttet fra himmelen til menneskets egne følelser, vilje og erfaring. Og han legger til en uro: slik humanismen avsatte troen, kan en ny tro på data og algoritmer komme til å avsette humanismen. Tronen over oss tildeles på nytt, igjen og igjen. Og kunstig intelligens er kandidaten til å ta den fra mennesket. Han er en omstridt tenker, og vi skal bruke det som en tanke å bryne oss på, ikke som en fasit. Men tanken er verdt å kjenne på. For den defensible historien, den som tåler innvendingene, er denne: i nesten hele historien rommet menneskets selvforståelse et trinn over oss som vi var ansvarlige overfor. Det vestlige hovedløpet, fra renessanse til opplysning til vår egen sekulære tid, er da det fjernet det trinnet og satte mennesket selv i det. Og kunstig intelligens er interessant fordi den truer med å gjeninnføre et trinn over oss. Det første vi har bygget selv.

Det fjerde slaget mot vår selvfølelse

Det finnes et sterkt bilde for dette, og det er ferskt og godt forankret tankegods. Sigmund Freud beskrev en gang tre store slag mot menneskets selvfølelse gjennom vitenskapens historie. Det første kom da vi forsto at jorden ikke er universets sentrum, bare et lite støvkorn i utkanten. Det andre kom da vi forsto at mennesket er i slekt med dyrene, ikke en egen skapning hevet over dem. Det tredje kom da vi forsto at vi ikke engang er herrer i vårt eget hus, at mye av det som styrer oss, ligger under bevisstheten. Kunstig intelligens kan være det fjerde slaget. Det som utfordrer den siste bastionen vi hadde igjen: tenkningen, dømmekraften, forstanden. Hver av de tre foregående ble først følt som en fornærmelse, og siden, langsomt, tatt inn og fordøyd. Vi lærte å leve med at vi ikke var sentrum, ikke særskapt, ikke helt herre over oss selv. Det fjerde står for tur. Men det er ett som skiller det fra de tre andre: det «over oss» er denne gangen ikke himmelen eller naturen eller det ubevisste. Det er noe vi selv har laget. Det forklarer hvorfor reaksjonen er så eksistensiell, uten å gjøre den til en personlig svakhet. Det fjerner den moraliserende klangen fra «vi tåler ikke noe over oss», og erstatter den med en historisk iakttakelse: i det meste av historien aksepterte vi noe over oss. Det er den moderne selvkroningen som er det historisk uvanlige.

Uroen går tvers gjennom alle livssyn

Og her er det noe fint, som binder lesere sammen som ellers står langt fra hverandre. For uroen ved en ikke-menneskelig intelligens over oss går tvers gjennom livssyn. Den sekulære humanisten verner om at ingenting utover mennesket selv skal være kilde til mening og autoritet. For en slik leser er en overlegen kunstig intelligens en krenkelse av hele selvforståelsen, helt uten at noen gud er inne i bildet. Den troende har allerede plassen over seg opptatt, og frykter enten at maskinen tilraner seg den, eller at vi som bygger den, leker gud. Samme uro, motsatt begrunnelse. Det er ikke ateist mot troende. Det er et spørsmål om menneskets plass i forhold til noe større, og det spørsmålet er like gammelt som mennesket selv, men nå gjort akutt igjen av noe vi har skrudd sammen i et datasenter.

Den som vil bygge guden

Det er én vri til her, og den fullfører bildet fra forrige kapittel om at stoltheten har to ansikter. For noen vil ikke bare tåle noe over seg. De vil bygge det. Og drømmen om å skape en intelligens som overgår mennesket, er i seg selv en merkelig religionsformet impuls. Se på språket som omgir den. Et punkt der alt forvandles og mennesket løftes til en høyere tilstand, kanskje smelter sammen med maskinen, kanskje lever evig. En frelse for de innviede, en undergang for de uforberedte. Spotske stemmer har kalt det de innviedes himmelfart, og noen kritikere beskriver hele tankesettet som en sekulær religion, med løfter om udødelighet og et paradis uten lidelse. Jeg sier ikke dette for å latterliggjøre noen. Jeg sier det fordi det er en iakttakelse om oss, og den gjelder begge leirene. Både dommedagsfortellingen og frelsesfortellingen har en påfallende religiøs form, selv når innholdet er strengt teknologisk og uten en eneste gud. Det forteller oss noe om hvorfor debatten er så intens: det står om de helt store tingene, dem religionen pleide å håndtere, om død og mening og ende. Den ene frykter en gud over seg. Den andre vil være den som skaper guden. Begge bevegelsene er dypt menneskelige, og begge fortjener å bli sett med samme nøkterne blikk. Vi har altså to ansikter på det samme. Frykten for å miste tronen, og lengselen etter å bygge det som skal sitte på den. Og det leder oss til det aller siste, og det underligste, spørsmålet i hele denne boken. For tenk om den intelligensen vi enten frykter eller drømmer om skal innta tronen over oss, i stedet skulle komme til å peke forbi seg selv, mot noe enda høyere?