Stopper vi noen gang?

Det blir ofte sagt, når noen vil berolige oss om kunstig intelligens, at historien er full av ganger vi snudde. At mennesket har vett til å legge fra seg en farlig vei når vi ser hvor den bærer. Det høres riktig ut. Og noen kan til og med peke på et eksempel. Et eksempel man gjerne griper til, er oljen. Se, sier man, vi er jo i ferd med å forlate den. Men se litt nøyere etter. Hva var vi egentlig ute etter med oljen? Ikke oljen. Energien. Og energien går ikke bakover. Den går fremover, fortere enn noen gang, vi har bare så vidt begynt å lage den på en annen måte. Vi snudde ikke fra noe som helst. Vi byttet oppskrift, og lot behovet marsjere videre akkurat like fort som før. Det er noe ganske annet enn å stoppe. Og det er her det blir interessant, for dette er ikke et unntak. Det er regelen. En teknologisk strid er nesten aldri om teknologien selv. Den er om hva teknologien lar oss gjøre. Oljen var aldri poenget. Det vi kan gjøre med energi, var poenget. Og en evne vi først har fått, et «dette kan vi nå», gir vi nesten aldri fra oss igjen. Vi bytter bare ut måten vi får den på.

Vi bytter ut. Vi gir ikke opp

Se på de andre tilfellene vi liker å kalle seire, og legg merke til det samme mønsteret under. Det var en gang noen gasser som åt opp ozonlaget over oss, det laget som skjermer alt levende mot strålingen fra sola. Verden forbød dem, i en av de få globale avtalene som virkelig har virket, og ozonlaget leges nå sakte. En ekte seier, verdt å være stolt av. Men vi sluttet ikke å kjøle ned maten og husene våre. Vi byttet til andre gasser. De viste seg å være kraftige drivhusgasser, og nå holder vi på å fase dem ut igjen, til fordel for noe tredje. Kjølingen marsjerte videre. Det var aldri gassen vi var ute etter. Det var det kalde rommet. Eller blyet. I over et halvt århundre fylte vi bensinen med en gift som skadet hjernen til barn over hele kloden, helt til den aller siste literen ble brukt opp i Algerie så sent som i 2021. Det er en sann og viktig fremgang, og den reddet utallige barn fra skade. Men vi sluttet ikke å kjøre. Vi tok giften ut av oppskriften og kjørte videre. Behovet for å komme oss fra sted til sted rørte vi ikke. Hver gang vi tror vi har lagt noe fra oss, viser det seg som regel at vi bare har skiftet ut hvordan. Selve ønsket bærer vi videre, urørt.

Når ga vi da virkelig opp noe

Det finnes unntak. De er få, og nettopp derfor er de verdt å se nøye på, for de forteller oss hva som faktisk skal til før et menneske gir slipp på en evne det har fått. Vi ga opp statlig rasehygiene. Ikke fordi evnen forsvant, men fordi selve ønsket ble uutholdelig etter at vi så, midt på det forrige århundret, hvor det bar hen. Det var ingen oppskrift vi byttet ut. Det var et ønske som døde. Sør-Afrika ga fra seg atomvåpnene sine. Landet er det eneste i verden som har bygget kjernevåpen helt selv og siden demontert dem alle, seks ferdige og ett under arbeid, like før apartheidstaten falt. Heller ikke her var det teknologien som forsvant. Det var behovet bak den: et regime som innså at det ikke lenger trengte våpenet det en gang hadde fryktet seg til. Og så det ferskeste forsøket, det som ligner kunstig intelligens mest av alt. I 1975 satte forskerne på et nytt og skremmende felt, gensplising, seg sammen på en konferanse i Asilomar i California og ble enige om å stanse det farligste arbeidet selv. Frivillig. Ingen myndighet tvang dem. Faget passet på seg selv, på forhånd, av samvittighet. Det er et vakkert øyeblikk, og det blir stadig holdt fram som beviset på at vi kan holde igjen når vi bestemmer oss for det. Men se hva som skjedde siden. I 2018 redigerte den kinesiske forskeren He Jiankui genene til to jenter mens de ennå var embryoer, krysset nettopp den grensen alle var blitt enige om at ingen skulle krysse, og verden fordømte ham med én stemme. Han fikk tre år i fengsel. I 2022 var han ute igjen. Kunnskapen han brukte, blir billigere og lettere tilgjengelig for hvert år som går, og ingenting hindrer at en annen forsker, eller en hel stat, gjør det samme i morgen. Og gjør en stat det, hvordan straffer vi den da? Asilomar viser at vi kan bli enige om en grense. Mannen som krysset den, viser hvor lite enigheten er verdt mot én som bestemmer seg for å gå over. En regel hvem som helst kan bryte ved å stikke av, er ikke en brems. Den er et håp. Begge sider har noe rett her. Det er ikke umulig å holde igjen. Ozonlaget leges. Sør-Afrika ga virkelig fra seg bomben. «Umulig» er feil ord. Men legg merke til betingelsen som var oppfylt hver eneste gang det lyktes: enten fantes det en erstatning som dekket det samme ønsket, eller så var ønsket selv dødd. Det er den betingelsen som avgjør alt. Og det er den vi nå skal holde opp mot kunstig intelligens.

Det ene ønsket uten erstatning

For det finnes ett slags ønske vi aldri har klart å bytte bort, og som ikke har dødd: ønsket om det ytterste overtaket over en motstander. Vi har alt vært innom bomben. Det vi ikke sa da, er dette: vi stoppet den aldri. Vi forbød den ikke. Det fantes ingen erstatning for «det avgjørende overtaket», og ønsket om det dør tydeligvis ikke. Så vi beholdt den. Vi lærte å leve under den. Vi begrenset hvor den kunne prøves, vi telte hverandres stridshoder, vi bygde en hel verdensorden rundt trusselen om å bruke den, og de som har den, minner stadig verden om det hver gang en konflikt blir alvorlig nok. Den henger over hvert menneskeliv ennå. Det er ikke en frykt vi temmet. Det er en frykt vi flyttet inn i huset og la oss til å sove ved siden av. To utganger, altså, hver gang noe mektig kommer inn i verden og blir værende. Enten forvandler vi det, bytter ut oppskriften og lar ønsket gå videre, slik vi gjorde med energien og kjølingen og blyet. Eller så finner vi at ønsket ikke har noen erstatning, og da stopper vi det heller ikke. Da frykter vi det, begrenser det så godt vi kan, og lærer å leve under det. Det vi nesten aldri gjør, er det vi liker å innbille oss at vi gjør: å snu.

Den vi verken kan bytte ut eller legge fra oss

Så hva da med kunstig intelligens? Striden om den er, som alle de andre, ikke om teknologien. Den er om hva vi kan gjøre med den. Og det vi kan gjøre med den, er å tenke, vurdere og bestemme, i en skala og en hastighet vi ikke kan måle oss med selv. Still da det avgjørende spørsmålet, det samme vi har stilt om alt annet: hva skulle vi bytte det mot? Vi forlot oljen fordi vi egentlig ville ha energi, og energi kan lages på mange vis. Vi forlot gassene fordi vi egentlig ville ha kulde, og kulde kan lages på mange vis. Men en intelligens som overgår vår egen er ikke en oppskrift på noe annet. Den er selve det vi er ute etter. Det finnes ingen sidevei dit som ikke nettopp er den. Derfor passer den trøstende utgangen ikke her. Vi kan ikke forvandle kunstig intelligens til noe annet som stiller det samme ønsket, slik vi forvandlet energien, for det finnes ikke noe annet som stiller det. Det lar bare den andre utgangen stå åpen. Den vi gikk med bomben. Å frykte, å begrense, og å lære å leve under. Det er ikke et beroligende sted å lande. Men det er ærligere enn løftet om at vi snur når vi vil. Vi snur nesten aldri. Vi bytter ut, eller vi legger oss til å sove ved siden av. Og kunstig intelligens kan se ut til å være det første vi har laget som vi verken kan bytte ut eller helt legge fra oss. Resten av denne boken handler om hva slags naboskap det da blir.