Sjakktrappen

La oss samle en trapp vi allerede har klatret, trinn for trinn, uten helt å se den som en trapp. Den forteller hele bokens tema i fire enkle steg, og den handler om sjakk. Først lagde vi sjakkmaskiner, og vi lo av dem. De var ikke gode nok, og de gjorde nøyaktig det vi programmerte, ikke noe mer. Så lagde vi en som slo verdensmesteren i 1997, ved rå regnekraft og en menneskeskrevet oppskrift på hva en god stilling var. Vi lo ikke lenger. Men det var fortsatt vår logikk, bare uendelig mye raskere. Så, i 2016, lagde vi en som var trent på både menneskepartier og på å spille mot seg selv, og den fant det berømte trekket ingen menneskelig tradisjon hadde oppdaget. Og til slutt lagde vi en som bare fikk reglene, ingen menneskepartier, ingen åpningsbøker, og som lærte alt ved å spille mot seg selv fra rent kaos. Den utviklet en fremmed, ubekvem, dypt original stil som brøt med menneskelig sjakkteori. En senere utgave fikk ikke engang reglene, men lærte dem selv. Ser du mønsteret? Originaliteten kom ikke da maskinen ble flinkere til å herme oss. Den kom da vi sluttet å fortelle den hvordan den skulle tenke. Friheten lå i fraværet av vår instruksjon.

Vi flytter målstreken

Sjakktrappen viser ikke bare maskinens fremgang. Den viser vår egen motstand, og den er verdt å se på, for den avslører noe om oss. Hver gang en bastion falt, flyttet vi den. Da sjakken falt, sa vi: javel, men sjakk er bare regning. Go er det virkelig menneskelige spillet, det krever intuisjon, det vil en maskin aldri klare. Så falt go, og straks flyttet vi streken igjen: javel, men spill har klare regler. Det virkelig menneskelige er kreativiteten, kunsten, dømmekraften, meningen. Psykologien har et navn for dette. Når maskinen mestrer noe vi holdt for unikt menneskelig, omdefinerer vi «det egentlig menneskelige» slik at det alltid ligger akkurat utenfor maskinens rekkevidde. Det er selvforsvar i form av flyttbare grensestolper. Vi godtar ikke at noe overgår oss. Vi redefinerer hva som teller, så vi får bli stående øverst. Jeg skal være rettferdig: å flytte streken er ikke alltid uærlig. Noen ganger oppdager vi faktisk noe sant, at go var et dårligere mål på «det menneskelige» enn vi trodde. Men selve mønsteret, at stolpene alltid havner like bortenfor maskinen, er verdt å legge merke til. Vi kommer tilbake til hva det forteller om oss, helt mot slutten av boken.

Hvorfor KI-kunsten føles flat

Nå snur argumentet seg mot dagens kunst-maskiner, og her ligger ærendet mitt. En klage går igjen om KI-laget kunst: den er kompetent, men flat. Den ser riktig ut, den høres riktig ut, men det er sjelden noe der som virkelig overrasker. Og det er ingen tilfeldighet, ingen barnesykdom som forsvinner med mer data. Flatheten sitter i selve byggemåten. For disse modellene er trent på menneskeskapt materiale, og det de gjør, er å forutsi det sannsynlige neste ordet eller den sannsynlige neste pikselen. De er, i sin konstruksjon, en speiling og et gjennomsnitt av oss. Og et gjennomsnitt regredierer mot midten. De kan ikke lett bli friere enn det de er bygget for å gjenskape. Her er kontrasten til sjakken skarp, og den er hele poenget: maskinen ble original i sjakk fordi den ikke lærte av oss. Dagens kunst-maskin er ufri fordi den bare lærer av oss. Den ene fikk finne sine egne regler. Den andre er dømt til å gjenta våre.

Frihetens pris

Så hva skulle til for at en maskin kunne lage noe virkelig nytt, noe vi ikke har sett, slik sjakkmaskinen gjorde i sin lukkede verden? Den måtte få lage seg selv. Finne sine egne regler, dem vi ikke har gitt den. Slippe taket. Og her møtes to tråder som vi til nå har behandlet hver for seg, og det er den innsikten dette kapittelet egentlig finnes for. Den samme friheten som ville gjøre kunstig intelligens virkelig skapende, er nøyaktig den friheten kontrollproblemet advarer mot. For å la maskinen finne sine egne veier, og til slutt sine egne mål, må vi gi slipp på styringen over hvordan og hvorfor den handler. Men noe som velger selv, er noe vi ikke lenger fullt ut styrer. Kreativ frihet og kontrolltap er to sider av samme mynt. Det betyr at kunstdebatten og spørsmålet om hvem som sitter øverst, viser seg å være det samme spørsmålet, sett fra to kanter. Da vi spurte om vi torde la maskinen bli fri nok til å skape, spurte vi i virkeligheten om vi torde gi slipp på kontrollen. Og det er, ifølge alt vi har sett, nettopp det vi har aller vanskeligst for. «Tør vi?» er ikke et teknisk spørsmål. Det er et spørsmål om oss.

Så symmetrien ikke blir for vakker

Ærligheten krever at jeg ikke overdriver den fine symmetrien, for den har sprekker. Et spill har en fasit. Sjakkmaskinen kunne lære av seg selv fordi det finnes et objektivt mål, å vinne, og et tydelig signal på om et trekk var godt. Kunst og kultur har ikke noe slikt. «Godt» er ikke målbart på samme måte. Å la maskinen finne sine egne regler er derfor langt vanskeligere, kanskje uklart definert, i den åpne verden enn på et brett. Dessuten valgte ikke engang sjakkmaskinen sitt eget formål. Den fant nye veier, men målet, å vinne, var gitt den. Ekte kunstnerisk frihet ville bety å velge sine egne hensikter, og det er et mye dypere skritt enn å slippe instruksjonen om hvordan. Og «fremmed» er ikke det samme som «meningsfullt for oss». En maskin som fant en helt egen estetikk, kunne bli like uforståelig for oss som sjakkmaskinens trekk var for kommentatorene i begynnelsen. Kunst er også kommunikasjon, og en frihet uten felles referanse er ikke uten videre et gode, slik vi så da felleskulturen var i ferd med å drukne. Til sist vil skeptikerne legge til at vi ikke engang vet om dagens maskiner i det hele tatt kan bli «frie» på denne måten. Alt dette er sant, og likevel står bildet igjen. Vi lagde sjakkmaskiner og lo. Vi sluttet å le. Og da vi til slutt sluttet å fortelle maskinen hvordan den skulle tenke, begynte den å finne opp trekk vi aldri hadde sett. Spørsmålet om den kan bli virkelig skapende, og spørsmålet om vi tåler å gi slipp på taket, er til sist det samme spørsmålet. Vi har holdt det åpent her med vilje, for å svare på det må vi først forstå hvorfor det er så vanskelig for oss å ha noe over oss i det hele tatt. Men før vi går dit, er det ett omslag til vi må gjennom, ett som snur hele tittelspørsmålet på hodet.