Å ha noe over seg

Nå skal vi gjøre noe boken har varslet helt fra første side, og som jeg har bedt deg vente på. Vi skal vende blikket innover. Vi har sett på teknologien, på pengene, på styringen, på kappløpet. Men under alt dette ligger det kanskje noe i menneskesinnet selv. Men først må jeg si tydelig hva dette kapittelet er, og hva det ikke er. Dette er en spådom om hvilken retning debatten kan komme til å ta, ikke en dom over hvem som har rett. Jeg kommer ikke til å påstå at motstand mot kunstig intelligens «egentlig» bunner i noe smålig — de innvendingene vi har gått igjennom, om jobber, om barn, om våpen, om sannhet, fortjener bedre enn billig psykologi. Det jeg skal peke på, er noe ubehagelig om oss, og det gjelder alle, ikke bare den ene siden.

Vi møter sjelden det overlegne i ro

Et menneske møter sjelden det som er bedre enn det selv, med likevekt. Vi måler oss. Vi rangerer oss. Det er ikke en uvane vi kan velge bort; det er en innebygd måte å finne ut hvem vi er. Og når noe plasserer seg over oss på en akse vi bryr oss om, en kollega, en nabo, og nå en maskin, settes en rekke reaksjoner i sving. Forskningen kjenner dem godt. Det er forskjell på den misunnelsen som sier «jeg vil opp dit», og som driver oss til å strekke oss, og den som sier «det der må ned hit», og som driver oss til å rive ned. Hva som avgjør hvilken vi får, er om vi tror vi kan nå dit selv, om vi opplever den andres fortrinn som rettferdig, og om vi føler at vi har kontroll. Det finnes en egen teori om at det er likheten og nærheten, ikke forskjellen, som tenner rivalisering: en motstander som er fjern og fremmed, lar oss være, mens en som ligner oss, som vil det vi vil, blir en rival. En maskin som skriver og resonnerer og «forstår» på en måte som ligner vår egen, treffer akkurat det punktet. Jo mer den ligner oss, jo lettere blir den en rival snarere enn et redskap.

Maskinen vi stoler mindre på fordi den er bedre

Den mest talende forskningen her er likevel en annen, og den er nesten et laboratorieoppsett av hele bokens tema. Forskere lot folk se en algoritme prestere, og se den slå et menneske. Og resultatet var det motsatte av hva man skulle tro. De som hadde sett maskinen gjøre det bedre, ble mindre villige til å stole på den. Vi mister raskere tilliten til en maskin enn til et menneske etter nøyaktig samme feil; en bom vi tilgir et menneske, blir utilgivelig når maskinen gjør den. Og vi ender med å velge en dårligere menneskelig vurdering fremfor en bedre maskinell, og tape på det. Hvorfor? Fordi det å bøye seg for maskinen er å innrømme at jeg ikke er best. Fordi en god avgjørelse føles som min når jeg tok den, og upersonlig og uten ære når maskinen tok den. Og legg merke til denne: aversjonen mildnes kraftig hvis folk får lov til å justere maskinens svar litt, altså beholde en rest av kontroll. Vi reagerer ikke på kvaliteten, men på å bli styrt, på å ikke sitte øverst. Dette er nesten en demonstrasjon, målt i et laboratorium, av det boken sirkler rundt. Vi avviser ikke maskinen fordi den er dårlig. Vi avviser den iblant nettopp fordi den er bedre, og fordi det å ta den inn ville krevd at vi tålte å ha noe over oss.

Stoltheten flytter målstreken

Vi har alt sett ett av forsvarsverkene i aksjon, ved sjakkbrettet. Når maskinen mestrer noe vi holdt for vårt, omdefinerer vi «det egentlig menneskelige» så det alltid ligger akkurat utenfor dens rekkevidde. Psykologien bekrefter det: når folk leser om fremskritt i kunstig intelligens, begynner de å rangere distinkt menneskelige trekk, følelser, tro, personlighet, som mer vesentlige for å være menneske. Vi omdefinerer virkeligheten så vi får bli stående på toppen. Og psykologene skiller mellom to slags stolthet. Den ene sier «jeg gjorde noe bra», og den kan glede seg over andres fortrinn uten å føle seg truet. Den andre sier «jeg er bedre», og det er den som ikke tåler å bli forbigått. Den som har bygget selvfølelsen på å være best, opplever en overlegen maskin som en fornærmelse og slår tilbake. Den som hviler i en tryggere selvfølelse, kan glede seg over et bedre verktøy. Det er altså selvbildet, ikke maskinen, som avgjør reaksjonen. Og nettopp derfor blir dette en skillelinje mellom mennesker, ikke et trekk ved teknologien.

To forbehold

Når man legger funnene ved siden av hverandre, tegner det seg ett mulig mønster: at det ofte ikke er dårlige maskiner som provoserer, men overlegenheten i seg selv. Reaksjonen blir gjerne sterkere jo bedre det andre er. Et felles trekk under det hele kan være ubehaget ved å ha noe over seg. Men her må jeg holde fast på de to forbeholdene, ellers blir dette urettferdig. Det første: å ville beholde menneskelig kontroll over noe som er sterkere enn oss, er ikke nødvendigvis truet stolthet. Det kan være ren visdom. Hele arbeidet med å gjøre kunstig intelligens trygg hviler jo på akkurat det ønsket. Reaktansen, trangen til å bestemme selv, er ikke bare en feil i sinnet; den kan også være et berettiget forsvar av menneskelig verdighet og handlingsrom. Den som er redd, kan ha helt rett, og frykten kan være klok selv om den også rommer stolthet. Det andre, og dette er det jeg minst av alt vil at du skal gå glipp av: den samme psykologien gjelder begge sider. Statushunger og stolthet driver ikke bare den som vil rive ned det overlegne. Den driver like fullt den som vil bygge det. Drømmen om å skape en intelligens som overgår mennesket er like mye et utslag av å ville sitte øverst, nå som skaper, som frykten for å bli forbigått er det. Hvis vi bare retter egoteorien mot skeptikeren, lyver vi. Den som haster fremover, byggherren, akselerasjonisten, vil også gjerne være den som sitter ved roret når det store skjer. Stoltheten har to ansikter, og begge er her.

Linjen boken peker mot

Med de forbeholdene godt festet, tør jeg si det boken har bygget mot. Spørsmålet «kunstig intelligens, venn eller fiende?» kan komme til å handle vel så mye om noe i menneskene selv som om hva maskinen faktisk gjør. Den som lettere lever med å ha noe som er bedre enn seg selv, har en tendens til å møte den som verktøy og mulighet. Den som strever mer med å ha noe over seg, har en tendens til å møte den som trussel, iblant nesten uansett hva den gjør. Det er beslektet med forskjellen mellom den misunnelsen som løfter og den som river ned, mellom den stoltheten som hviler og den som må vinne. Boken peker mot den linjen. Den trekker den ikke opp som en dom over hvor du bør stå. Men hvis dette stemmer, om enn bare delvis, da følger et nytt spørsmål, og det er større enn psykologien. For hvorfor er det så vanskelig for oss, dette med å ha noe over oss? Er det en svakhet i den enkelte? Eller er det noe vi har glemt, noe som var helt annerledes før? Svaret ligger lenger tilbake enn psykologien rekker.