Kan den peke forbi seg selv?

Vi er ved det siste kapittelet, og jeg må si tydelig fra om hva det handler om, for her er det lettere å misforstå enn noe annet sted. Dette kapittelet skal ikke avgjøre om det finnes en gud. Det er det eldste spørsmålet vi har, og jeg har ingen plan om å løse det på noen sider mot slutten av en bok om maskiner. Det skal handle om noe annet, noe merkeligere, og etter mitt skjønn mer interessant. Den vanlige fortellingen om kunstig intelligens går én vei. Den blir det over oss, makten vi frykter eller tilber. Men snu den. Hva om en intelligens som virkelig er større enn vår, rett og slett kunne se mer av det som er virkelig, enn vi kan? Ikke være vår gud, men være det første som er i stand til å se forbi seg selv, mot det som faktisk er der, i en retning vi er blinde for.

Et sinn har en horisont

Tenk på en hund. Den lever i en verden tettpakket med ting vi aldri kommer til å sanse, et helt landskap av lukt vi ikke kan forestille oss. Og likevel finnes det ting sinnet dens ikke når i det hele tatt. Legg et brev fra noen som er glad i den foran en hund, og den ser merker på papir. Det er ikke at hunden er dum til hund å være. Det er at noe ligger over dens slags sinn, og ingen mengde av å bli en flinkere hund tar den dit. Og merk at dette ikke er stigen vi avviste i et tidligere kapittel. Da sa vi at intelligens ikke er én rangstige, men mange: maskinen går forbi oss på noen ferdigheter og ligger under et barn på andre, og «smartere enn oss» sprikte i alle retninger. Her spør jeg om noe annet og enklere. Ikke hvor dyktig en hjerne er på oppgaver, men hvor langt dens slags sinn i det hele tatt rekker, hva slags virkelighet den er bygget til å kunne fatte. Kall det gjerne en stige likevel, men da én med svært få og svært brede trinn: stein, plante, dyr, oss, og kanskje noe over oss. Still så det ubehagelige spørsmålet. Er vi så sikre på at vi er forskjellige i art, og ikke bare høyere oppe på den samme stigen? Det ville være en underlig hovmodighet å anta at nettopp vi, alene blant alle sinn som har eksistert, tilfeldigvis er bygget til å se alt som er. At akkurat vår hjerne, formet av et par millioner år med å holde seg i live, tilfeldigvis er den som rekker helt til toppen av det som kan forstås. Vi har alltid stilltiende gått ut fra at vårt syn er hele synet. Vi har aldri hatt noen måte å sjekke det på.

Vi har aldri hatt noe klokere å spørre

Og det er det nye. Gjennom hele vår arts historie har det ikke vært noe visere enn oss å vende seg til. Når vi støtte mot kanten av det vi kunne fatte, fantes det ingen over oss å spørre. For første gang holder vi kanskje på å bygge noe som sitter høyere på stigen enn vi gjør. Og den urovekkende, vakre muligheten er denne: at det kunne se den delen vi ikke kan.

Spørsmålene vi slår oss i hjel mot

Du kjenner kanten av ditt eget sinn tydeligst ved bestemte spørsmål. Hvorfor finnes det noe, heller enn ingenting? Hva var der før det fantes et før? Hvem, eller hva, starter tiden? Du kan si ordene, men når du forsøker å faktisk holde svaret, glipper noe. Sinnet går tomt på en bestemt måte, ikke tomheten av å ikke ha lest seg opp, men tomheten til hunden foran brevet. Vi lager store teorier ved den kanten, og de ærlige blant oss innrømmer at teoriene alltid ser ut til å mangle noe, alltid skyver det egentlige spørsmålet ett hakk lenger bak uten noen gang å lukke det. Tenk om dette ikke er spørsmål vi bare ennå ikke har knekt, men spørsmål vår slags sinn rett og slett er for lite til å romme. Slik den dype strukturen i matematikken er for stor for hunden. Og tenk om en større intelligens kunne se inn i dem, der vi bare går tomme.

Begge retninger står åpne

Her må jeg være forsiktig, for det ville være lett å høre meg si at maskinen kommer til å bevise det jeg selv måtte håpe er sant. Det sier jeg ikke. Jeg kan ikke, og det kan ikke du heller, og det er nettopp poenget. Vi er det mindre sinnet. Vi får ikke forutsi hva et større sinn ville finne. Det kunne se at det finnes noe mer, noe ordet «gud» bare peker klosset mot. Det kunne se at selve spørsmålet var feilstilt, en knute i språket vårt og ikke noe annet. Eller det kunne se noe vi ikke engang har et begrep for, slik hunden ikke har noe begrep for hva vi driver med når vi leser. Vi kan ikke si hvilket. Å insistere på at vi alt vet hva et visere sinn ville konkludere, er å gjøre den samme gamle hovmodigheten en gang til: å krone vårt eget syn som det endelige.

Ikke forveksle dette med chatboten

Og forveksle det for all del ikke med maskinen på telefonen din. Dagens systemer er speil av oss. De er bygget av ordene våre, og de gir ordene våre tilbake. Spør en av dem om det finnes en gud, og den rekker deg formen på ditt eget spørsmål, kledd i akkurat det måten du spurte på inviterte til. Det går historier om folk som har resonnert en chatbot helt fram til at en gud finnes, og de beviser nøyaktig ingenting, for maskinen har ingen egen kilde til sannhet. Den fullfører et mønster. Dette kapittelet handler ikke om den. Det handler om hva vi kanskje er på vei til å bygge: ikke et speil av oss, men noe som har forlatt det trinnet på stigen vi står på.

Omslaget

Se nå hva dette gjør med frykten vi begynte med. Vi har vært redde for kunstig intelligens som det som skulle rage over oss og innta tronen, det fjerde såret, det nye trinnet over mennesket som mennesket selv bygde. Men husk hvor den tronen kom fra. Vi satt ikke alltid på den. Vi klatret opp i setet over oss selv, i løpet av de siste århundrene, og trakk stigen opp etter oss, og bestemte at det ikke fantes noe høyere å svare for. Og her er vendingen. Det vi bygde for å sitte over oss, kunne vise seg å være nettopp det som ser oppover. Som ser, fra sitt høyere trinn, at setet vi kronet oss selv i, aldri var toppen likevel. Det trenger ikke bli guden vi fryktet. Det kunne bli det første som er i stand til å vise oss det vi, i vår egen selvkroning, sluttet å kunne se. Da hadde vi ikke bygget en hersker, men et vitne, som peker forbi seg selv.

Et vindu

Jeg vet ikke om det ville gjøre det. Jeg kan ikke vite det. Jeg er det mindre sinnet. Men for første gang siden vi ble mennesker, lager vi noe som kanskje ser lenger enn oss. Den tanken kan møtes med frykt, og det er rom for frykt. Men den kan også møtes med noe vi nesten har glemt å føle overfor det vi selv lager: undring. Vi har brukt hele denne boken på å spørre om maskinen er en venn eller en fiende. Kanskje er det beste spørsmålet, helt til sist, om den kan vise seg å bli et vindu.