Hva er egentlig intelligens?

Vi har nå sagt, flere ganger, at kunstig intelligens kan bli «bedre enn mennesket». Men før vi bygger for mye på den setningen, må vi stoppe ved et ord i den som vi har latt stå uimotsagt. Bedre på hva? Hele bildet av hvem som sitter øverst, hviler på at intelligens er én ting man kan rangeres på. Og det er slett ikke sikkert.

Ingen vet hva det er

Etter hundre år med forskning, i både psykologien og datavitenskapen, finnes det fortsatt ingen omforent definisjon av intelligens. Det er ikke en pirkete detalj. Det betyr at «maskinen er smartere enn oss» kan bety vidt forskjellige ting alt etter hvem som sier det, og at mye av debatten taler forbi seg selv. Et gammelt spørsmål er om intelligens er én ting eller mange. På den ene siden står observasjonen at den som gjør det godt på én slags tankeprøve, ofte gjør det godt på andre også, noe som peker mot en underliggende, generell evne. På den andre siden står innvendingen at «smart» dekker svært ulike ting: språklig teft, romlig sans, sosial klokskap, følelsesmessig innsikt, kroppslig dyktighet. Disse henger ikke nødvendigvis sammen. Et menneske kan være lynskarpt med tall og hjelpeløst blant andre mennesker. Det avgjør mer enn det ser ut til. For er intelligens én skala, gir «bedre enn mennesket» mening som én rangering, ett tall som blir høyere. Er den mange, sprekker påstanden opp. Da kan maskinen være langt over oss på noen akser, mønstergjenkjenning, hukommelse, hastighet, og under et barn på andre, sunn fornuft, kroppslig forståelse, det å skjønne at et annet menneske har sine egne tanker.

Ferdighet eller forståelse

En av de mest brukbare nyere definisjonene snur på hele spørsmålet. Intelligens, sier den, er ikke å være god til en oppgave. Det er hvor effektivt du tilegner deg nye ferdigheter på tvers av nye, ukjente oppgaver. En maskin som er suveren i sjakk, men ikke kan overføre noe som helst til et nytt problem, er etter denne målestokken ikke intelligent. Den er dyktig. Og det er en forskjell. Det forklarer noe du kanskje har lagt merke til, hvis du har brukt en chatbot en stund. Den kan virke genial og dum i samme samtale. Den løser en innfløkt oppgave glimrende, og snubler så i noe et barn ville klart. Den er trent til ferdighet, ikke til generalisering, og når du skyver den utenfor det den er trent på, ser du forskjellen.

Den later som den tenker

Her kommer selve poenget inn, og det avmystifiserer mye. Det meste av det vi mennesker «bestemmer» i løpet av en dag, bestemmer vi ikke egentlig. Vi går på autopilot. Det er en rask, automatisk del av hjernen som kjenner igjen ansikter, reagerer på fare og tar de fleste av dagens valg uten at vi merker det, ved å gjenkjenne mønstre fra erfaring. Og så er det en langsom, anstrengende del som vi bare kaller inn når vi virkelig må tenke, veie alternativer, følge et komplisert argument. Den første delen er billig for hjernen. Den andre er dyr, så vi sparer på den. Dagens språkmodeller ligner den første delen. De fullfører mønstre, lynraskt, og i stor nok skala ser det forbløffende ut som tenkning. Men det er ikke formell resonnering. Forskere har vist hvor skjørt det er: bytt ut et navn eller et tall i en oppgave, eller legg til en setning som ikke har noe med saken å gjøre, og svaret kan rase sammen. En maskin som virkelig forsto, ville ikke latt seg forstyrre av at personen i regnestykket het Mark i stedet for Sofie. Flyten, selvtilliten og den tilsynelatende sammenhengen lurer oss. Likheten med tenkning er ikke tenkning. Det er også derfor vi så lett sier at «den forstår» og «den resonnerer»: den snakker som om den gjorde det.

Når man legger til en tenkedel

Men dette er ikke slutten på historien, og her blir det interessant. For feltet har akkurat begynt å legge en tenkedel til maskinen. Noen modeller «tenker» nå før de svarer. De bruker mer tid og regnekraft på vanskelige problemer, genererer en slags indre tankerekke før de leverer svaret. Andre kobler språkmodellen sammen med en egen logikkmaskin, en del som faktisk regner og deduserer, og slike sammensatte systemer har løst matematikk på olympiadenivå. Tenkedelen kan altså bygges inni modellen, eller ved siden av den. Og det endrer resultatene målbart. På matematikk og programmering er «et helt annet resultat» alt her. Om det krysser grensen fra å ligne tenkning til å være tenkning, vet vi ikke. Noen forskere mener selv disse resonnerende modellene bryter sammen på problemer som er vanskelige nok, og at det fortsatt bare er avansert mønstermatching i finere klær. Andre er uenige. Det er et åpent, levende spørsmål, og boken skal ikke late som den har svaret.

Den som finner opp tenkningen selv

Men det er ett korollar her som er verdt å ta med seg, for det binder dette kapittelet til det forrige og til det neste. En modell som hermer menneskelig tenkning, som lærer av våre tankerekker, er bundet av vårt tak. Den kan i beste fall bli like god som oss. Men en modell som selv finner en måte å tenke på, slik sjakkmaskinen fant sin egen stil uten å lære av menneskepartier, er ikke bundet på samme vis. Og det skjer alt i det små. En av de nye resonnerende modellene utviklet evnen til å resonnere ikke ved å kopiere mennesker, men gjennom ren prøving og belønning, og fant noe av tenkningen selv. Det er et tidlig, konkret tegn på nettopp det matematikeren fra forrige kapittel advarte om: en maskin som kan finne opp sin egen tenkemåte, kan i prinsippet også forbedre den neste modellens tenkemåte. Da er vi ved selvforbedringen, og ved forbeholdet hans: forutsatt at vi kan holde den under kontroll. Det er et hardt, uløst problem, dette, ikke en bryter vi enkelt kan vri på. Selvforbedring ved selvspill virket i sjakk fordi det finnes en fasit, en klar måte å vinne på. I den åpne verden, i tenkning om virkeligheten og ikke om et brett, finnes ikke et like rent signal, og det er nettopp der dagens systemer er skjørest.

Et ydmykende speil, begge veier

La oss da samle det. Bokens bærende bilde, at det for første gang ikke er selvsagt at mennesket sitter øverst, forutsatte en stige. Dette kapittelet sier: det finnes ikke én stige, men mange. Maskinen klatrer fort på noen og står stille på andre. Det skjerper heller enn svekker poenget. Spørsmålet er ikke om maskinen blir «smartere enn oss» i én enkel forstand. Det er hvilke av våre evner som viser seg å være generelle nok til at en maskin kan overta dem, og hvilke som ikke lar seg redusere til ferdighet på en oppgave. Og det er et speil som ydmyker begge veier. Hvis mesteparten av vår egen hverdag også er autopilot, er avstanden mellom oss og maskinen mindre enn vi liker å tro, på det ene punktet. Og større på et annet, for vi har den langsomme tenkedelen i tillegg, og vi har en kropp, en mening, og mål vi har valgt selv. Det siste, de selvvalgte målene, er det vi nå skal se nærmere på. For det fører oss rett inn i bokens skarpeste spørsmål, stilt gjennom et sjakkbrett: hva skjer hvis vi slutter å fortelle maskinen hvordan den skal tenke, og lar den finne det ut selv?