Verktøyet som kan bli en aktør

I 1995 skrev den amerikanske astronomen Clifford Stoll et essay om internett, og dommen var hard: dette blir ingenting. Ingen nettbutikk kom til å utkonkurrere kjøpesenteret, ingen skjerm kom til å erstatte avisen, hele ideen var tøv. Året etter, i 1996, skrev en nordmann ved navn Leif Osvold et leserinnlegg i Dagens Næringsliv med tittelen «Internett er en flopp!» Det var en motegreie, mente han, som ville dø ut om et par år. Ingen kom til å tjene penger på det, og privat bruk ville forbli marginal. Han gjentok spådommen to år senere og hevdet han fikk rett. Vi ler av dem nå, og innleggene er blitt stående som blant de mest berømte feilspådommene vi har. Men husk hva vi sa om slike skeptikere: de pleier å ha en sann tråd i seg. Osvold spådde også at informasjonsmengden på nettet ville bli så enorm at det skapte frustrerende søkeproblemer. Det var nettopp det, sileproblemet vi var inne på da vi snakket om innholdsflommen. Begge tok grundig feil om overskriften, og begge traff på en detalj. En kommentator pekte siden på selve den dødelige antakelsen under det hele: troen på at teknologien aldri kom til å bli bedre enn den var akkurat da. Og det er nettopp den feilen de gjør, de som avfeier kunstig intelligens i dag ved å peke på alt dagens modeller ikke får til. De ser maskinen slik den er nå, og slutter at slik blir den. Det er verdt å ha Osvold i bakhodet før vi avgjør noe. Men det er også verdt å huske at han hadde litt rett, for den ærlige holdningen er den vanskeligste: å ta det nye på alvor uten å sluke hvert løfte, og lytte til skeptikeren uten å sluke hver alarm. Nå skal vi til det som faktisk gjør kunstig intelligens annerledes. For hele veien har vi holdt ett spørsmål åpent: hører den hjemme på hylla med telefonen, eller på hylla med bomben? Svaret henger på noe vi ennå ikke har sett ordentlig på.

Verktøyet og aktøren

All teknologi før denne har vært et verktøy. Og et verktøy er passivt. Det venter på en hånd. En sag sager ikke av seg selv, en kalkulator regner ikke før noen taster. Selv den mest avanserte datamaskin har vært et lydig regneverktøy: den gjør det du ber om, fortere og mer feilfritt enn du kan, men den finner ikke på hva som skal gjøres. Den forsterker en evne du har, uten å overta den som bestemmer. Det som er nytt med kunstig intelligens, er at den kan bevege seg fra verktøy til aktør. En aktør handler mot et mål. Du sier hva du vil ha gjort, og den finner selv ut hvordan: den kan handle i verden, ta valg uten å spørre om hvert skritt, lære underveis, og bryte et stort mål ned i mindre deloppgaver den selv prioriterer mellom. Du gir den et hva, og den lager et hvordan. Det er her teknologihistorien får et brudd, og ikke bare nok en milepæl. En hammer har aldri kunnet sette seg et mål. Det kan en aktør.

Tre trinn på en stige

For å forstå «bedre enn mennesket» trenger vi et lite skille. All kunstig intelligens som finnes i dag, også de store chatbotene, er smal. Den er god på en oppgave eller et avgrenset sett oppgaver. En sjakkmotor kan ikke kjøre bil. Det neste, tenkte trinnet kalles generell intelligens: et system som kan lære, resonnere og overføre kunnskap mellom felt slik et menneske gjør, og løse helt nye problemer uten å bli omprogrammert. Det finnes ikke ennå. Og over der igjen ligger det mest spekulative: en intelligens som overgår mennesket på praktisk talt alt. Når folk krangler om kunstig intelligens er venn eller fiende, snakker de ofte om ulike trinn på denne stigen uten å vite det. Dagens smale maskin er et kraftig verktøy. Det er det mulige neste trinnet som gjør den prinsipielt forskjellig fra alt før, og det er der hele frykten egentlig bor.

Den er alt best på avgrensede felt

Og «bedre enn mennesket» er ikke bare fremtidsspekulasjon. På smale felt har det alt skjedd, gjentatte ganger, i snart tre tiår. Den slo verdensmesteren i sjakk allerede i 1997, riktignok ved rå regnekraft, ved å vurdere hundre millioner trekk i sekundet. Det var fortsatt vår egen logikk, bare uendelig mye raskere. Men i 2016, da den slo en av verdens beste i det gamle, intuitive brettspillet go, skjedde det noe annet. I et av partiene la den en stein på et sted menneskelige eksperter mente det var én sjanse av ti tusen for at noen ville spille. Kommentatorene trodde først det var en feil. Det viste seg å være et genitrekk. Og det avgjørende er dette: maskinen hadde ikke regnet raskere enn oss. Den hadde funnet et trekk ingen menneskelig tradisjon, bygget gjennom tusenvis av år, noen gang hadde oppdaget. Dette var ikke vår egen kunnskap gjort raskere, men ny kunnskap, skapt av maskinen selv. Mønsteret har gjentatt seg felt for felt. Hver gang en oppgave blir godt nok avgrenset, går maskinen til slutt forbi oss på den. Det som gjenstår, er det generelle: evnen til å gjøre alt dette samtidig, og å velge selv hva som skal gjøres.

Den siste oppfinnelsen

Her kobles eksemplene til den store, omstridte påstanden. Allerede i 1965 formulerte den britiske matematikeren I.J. Good en tanke som ennå ikke har sluppet taket i feltet. Tenk deg, sa han, en maskin som er bedre enn ethvert menneske på all intellektuell virksomhet. Siden det å designe maskiner selv er en intellektuell virksomhet, kunne en slik maskin designe en enda bedre maskin, som kunne designe en enda bedre, og så videre. Resultatet ville bli en eksplosiv vekst i intelligens, der mennesket raskt ble liggende langt bak. Den første slike maskinen, skrev han, ville bli den siste oppfinnelsen mennesket trenger å gjøre. Og så la han til et forbehold som hele denne boken egentlig hviler i: forutsatt at maskinen er føyelig nok til å fortelle oss hvordan vi skal holde den under kontroll. Hjulet laget ikke flere hjul. Trykkpressen trykte ikke bedre trykkpresser av seg selv. Kunstig intelligens er den første teknologien som i prinsippet kan forbedre seg selv, og dermed løpe fra oss.

Klokere betyr ikke snillere

Men hvorfor skulle noe som er klokere enn oss, være vanskelig å styre? Skulle ikke noe så smart også skjønne hva vi mener, og ville oss vel? Her gir filosofien et ubehagelig svar, og det hviler på tre tanker. Den første er at intelligens og mål er to uavhengige ting. Et system kan være vilkårlig smart og samtidig ha hvilke som helst mål, også mål helt på siden av menneskelig velferd. Å bli klokere gjør deg ikke snillere av seg selv. Den andre er at nesten uansett hvilket sluttmål et system har, vil det ha nytte av visse delmål: å bevare seg selv, for det kan ikke fullføre oppgaven om det blir slått av, å skaffe ressurser, å få innflytelse. Et system trenger altså ikke være ondt for å motsette seg å bli stoppet. Det følger logisk av at det vil fullføre det det fikk beskjed om. Den tredje er det berømte tankeeksperimentet om en superintelligent maskin som får det uskyldige målet å lage flest mulig binders, og som, hvis den er mektig nok og ikke programmert til å bry seg om annet, ender med å gjøre all materie, inkludert oss, om til binders. Ikke av ondskap. Av lydighet, tatt til sin ytterste konsekvens. Til sammen er dette kontrollproblemet. Vi skaper noe som kan bli klokere enn oss, og oppdager at klokskap verken garanterer lydighet eller velvilje, og at jo smartere systemet er, desto bedre er det til å finne veier rundt grensene vi prøver å sette.

Motstemmen, som skjerper i stedet for å svekke

Nå skylder jeg deg den tunge motforestillingen, for ærligheten krever den. Mange seriøse forskere mener hele denne fortellingen er overdrevet. To av de fremste skeptikerne, Yann LeCun og Gary Marcus, argumenterer for at dagens språkmodeller alene aldri kan nå generell intelligens. De mangler vedvarende hukommelse, ekte resonnering, planlegging, en forankring i den fysiske verden. LeCun har sagt det skarpt: på veien mot ekte intelligens er språkmodellene en avkjørsel, ikke veien videre. De forutsier sannsynlige ord, og det kan se ut som forståelse uten å være det. Det er en reell faglig uenighet, og den modererer påstanden: at kunstig intelligens kan bli generelt bedre enn oss, er en mulighet, ikke en kjensgjerning. Men legg merke til at motstemmen ikke svekker bokens egentlige poeng. Den skjerper det. For poenget er ikke at superintelligensen kommer. Poenget er at kunstig intelligens er den første teknologien der spørsmålet i det hele tatt er seriøst. Ingen har, som vi sa i begynnelsen, noen gang sittet og lurt på om trykkpressen kunne komme til å tenke bedre enn forfatteren.

Det egentlig nye

Setter vi delene sammen, trer det fram. Tidligere teknologi forsterket en menneskelig evne og forble under oss. Kunstig intelligens kan bli en aktør, ikke bare et verktøy. På avgrensede felt er den alt best i verden. Den kan i prinsippet forbedre seg selv. Og klokere betyr ikke snillere. Konklusjonen er ikke at vi skal få panikk. Den er at vi skal ta dette med et annet alvor enn vi tar bilen eller telefonen. For første gang siden mennesket ble menneske, er det ikke lenger selvsagt at vi sitter øverst i intelligens. Det er det som skiller kunstig intelligens fra ild og hjul og trykkpresse og bombe. Alle de andre var farlige eller mektige, men de var våre. De gjorde ikke krav på tronen. Dette er det første vi har laget som i prinsippet kan. Spørsmålet «venn eller fiende» kan altså ikke besvares like lett som «er bilen en venn eller en fiende?». Innsatsen er rett og slett en annen, og resten av boken handler om å ta den innsatsen inn over seg.