Slik høres debatten ut

Før vi går inn i argumentene, er det verdt å lytte til hvordan de faktisk lyder. Ikke i ekspertenes språk, men slik vanlige mennesker sier dem, ved kjøkkenbordet og i kommentarfeltet og i foreldresamtalen i gangen utenfor klasserommet. For det er der debatten egentlig bor. Og lytter du en stund, hører du at det går to grunntoner gjennom nesten alt som blir sagt.

De to grunntonene

Den ene er frykt for tap. «Jeg har brukt tjue år på å bli god i faget mitt, og nå gjør en maskin det samme på tre sekunder.» «Hvis maskinen skriver stilen, hva er det da ungen min faktisk lærer?» «Jeg så en video av statsministeren si noe, og så var den falsk. Hvem kan jeg stole på nå?» «En maskin kan ikke være glad i deg. Den later bare som, og du merker ikke forskjellen før det er for sent.» «Hvis den kan tenke og skrive og skape bedre enn meg, hva er jeg da til for?» Det er ulike temaer, men den samme uroen under: noe blir tatt fra meg, fra barna mine, fra det som gjorde meg til meg. Den andre grunntonen er lettelse. «Den tar de kjedelige rutineoppgavene, så jeg kan bruke tida på det som faktisk betyr noe.» «Datteren min får forklart brøk på fem ulike måter til hun skjønner det, det rakk aldri læreren før.» «Bestemor på nitti sier hun ikke er ensom lenger, hun har noen å snakke med hele døgnet.» «For meg med dysleksi er dette nesten frigjørende. Endelig blir jeg forstått på papiret også.» Her er ikke maskinen en tyv, men en hjelper. Noe blir gitt: tid, mestring, selskap, en lavere terskel inn. Det interessante er at de to stemmene ofte sitter ved samme bord, og noen ganger i samme menneske. Den samme moren som er lettet over privatlæreren i lomma, ligger våken over hva chatboten gjør med sønnen om natten. Vi er sjelden rent for eller rent imot. Vi er begge deler, om litt ulike ting.

Den gruppen som er verdt å merke seg

Det finnes en tredje stemme også, og den er lett å overse fordi den verken roper eller jubler. Det er ofte de unge selv. De bruker kunstig intelligens hver dag, uten å gjøre noe stort nummer av det, omtrent som foreldrene deres en gang begynte å bruke Google. Men de er ikke blindt begeistret. «Vi er også redde for at det presser opp karakterkravene og sprer falske nyheter,» sier de. «Vi vil ha klare regler og skikkelig opplæring, ikke at de voksne enten forbyr alt eller skjønner ingenting.» Det er en klok holdning, og boken kommer til å lene seg på den mer enn én gang: ta verktøyet i bruk, men still krav til hvordan. Verken panikk eller blind tillit, men en voksen forventning om grenser.

Og når det blir alvor, blir det stort

Noen av spørsmålene er små og praktiske. Andre blir fort de helt store. «Når mennesket lager noe som tenker selv, er det da vi prøver å være gud?» spør noen, fra et religiøst ståsted, og det er én av mange måter folk rammer inn det samme spørsmålet om hva mennesket egentlig er. «Det blir som i Terminator,» sier andre. «En dag våkner systemet og vender seg mot oss.» Og en tredje svarer trøstende: «Terminator er en film. Den virkelige maskinen vet ikke engang at den finnes. Den vil ingenting, den regner sannsynligheter.» Vi skal komme tilbake til hvert av disse, rolig og etter tur. Måten vi vil gjøre det på, er den samme hele veien: ta redselen på alvor først, i sin sterkeste form, og så nyansere den. Aldri vifte den bort. For den som er redd, fortjener å bli lyttet til før hun blir svart.

Fra kjøkkenbordet til toppmøtet

Hev så blikket fra kjøkkenbordet og opp til dem som mener noe om dette på heltid: forskerne, gründerne, filosofene. Du skulle tro de hadde ryddet opp i forvirringen. Det har de ikke. De krangler like heftig, bare med flere fotnoter. En nyttig måte å sortere dem på kommer fra en av Silicon Valleys egne, som deler feltet i fire. Det er dommedagsprofetene, som mener avansert kunstig intelligens er en trussel mot menneskehetens overlevelse og bør stanses. Det er pessimistene, som ikke tror på utryddelse, men på en ustoppelig marsj mot tap av jobber og menneskelig betydning. Det er optimistene, som vil ha full fart fremover og ser mest velsignelse. Og det er de forsiktig håpefulle, som vil kjøre videre, men med foten hvilende på bremsen. Navnene skal vi møte etter hvert. På den ene fløyen står folk som en av nevralnettenes fedre, en mann som forlot en av verdens største teknologibedrifter for å kunne advare fritt, og som anslår en reell sjanse for at dette ender med menneskehetens undergang. På den andre fløyen står like tunge navn, en annen pioner og en kjent investor, som mener frykten er nær science fiction og at det egentlig farlige er å bremse en historisk velsignelse. Og midt imellom står de som bygger de kraftigste systemene selv, og som ofte sier begge deler på en gang.

Striden går ikke der du tror

For her er det som overrasker folk mest når de først ser nøye etter. Den skarpe striden går sjelden mellom «for KI» og «mot KI». Flere av de ivrigste optimistene bærer på dyp bekymring samtidig. En av dem som bygger noen av verdens mektigste modeller, har offentlig anslått at det er omtrent én sjanse av fire for at det hele ender katastrofalt, og fortsetter å bygge likevel. Det er ikke nødvendigvis hykleri, og vi skal bruke et helt kapittel på å forstå hvorfor. Og den mest opprivende uenigheten går ofte ikke mellom optimist og pessimist i det hele tatt. Den går mellom to slags bekymrede. De ene frykter en fjern, mulig utryddelse, en superintelligens som slipper unna vår kontroll. De andre blir rasende av nettopp den frykten, fordi de mener den stjeler oppmerksomheten fra skadene som skjer her og nå: skjevhet, overvåkning, utnyttede arbeidere, en informasjonsverden som råtner. Disse to leirene er ofte mer uenige med hverandre enn med optimistene. Ta det med deg, for det avslører at «venn eller fiende» er for grovt. Nesten ingen mener at kunstig intelligens er ren verdi eller ren fare. Striden står om tempo, om styring, om hvilke farer som er virkelige og hvilke som er skygger, og om hvem som skal bestemme. Det er den striden vi nå skal ta del for del, og vi begynner der det er mest fristende å bare velge en side: hos dem som heier.