Den samme krangelen, om igjen

På slutten av attenhundretallet sto det predikanter i Sverige og advarte menigheten mot telefonen. Den var djevelens instrument. Gjennom kobbertråden kunne onde ånder finne veien like inn i stua, sammen med torden og lyn. Noen klipte ned linjene. Andre var redde for at selve samtalen skulle renne ut hvis tråden brakk et sted langs veien. Vi smiler av det nå. Men vi bør smile forsiktig. For de menneskene var ikke dumme. De sto foran noe de ikke hadde ord for, en stemme uten en kropp, et nærvær uten et ansikt. Og de grep etter de bildene de hadde. Det ukjente ble forklart med det de allerede var redde for. Slik gjør vi fortsatt. Vi gjør det med kunstig intelligens akkurat nå. Det er verdt å begynne der, før vi begynner å krangle. For vi kommer til å krangle. Og vi har gjort det før.

Rollene vi alltid inntar

Hver gang noe nytt og mektig kommer inn i samfunnet, deler vi oss omtrent likt. Noen lener seg fremover. Dette forandrer alt, sier de, den som nøler blir forbigått, vi må gå fortere. De ser muligheter, lettere arbeid, ting som endelig blir mulig. Andre lener seg bakover. Vi går for fort, sier de, vi mister noe vi ikke får igjen, la oss vente til vi skjønner hva vi har med å gjøre. De ser tap: arbeid, kontroll, noe vanskelig å sette ord på. Og en tredje gruppe står et sted imellom og mumler at svaret nok verken er stopp eller full fart, men regler, vaner, en måte å leve med tingen på. Entusiasten, skeptikeren, pragmatikeren. Det er nesten alltid de samme rollene som blir besatt. Bare teknologien byttes ut. Legg merke til hva de to ytterpunktene egentlig er uenige om. Sjelden om tingen er god eller ond. Som regel om tempoet. Den ene siden er redd for å gå glipp av fremtiden. Den andre er redd for å miste fortiden. Begge mener tempoet er feil. De er bare uenige om hvilken vei det bommer. Den uenigheten kjenner vi igjen fra hver eneste teknologi som har skremt og begeistret oss på en gang.

Hadde de redde feil?

Her er det fristende å si: og hver gang viste det seg at skeptikerne tok feil. Slapp av. Det ordner seg alltid. Men det stemmer ikke. Det er sant at mye av frykten ser overdreven ut i ettertid. Ingen ble gal av å reise med tog, slik legene advarte om på attenhundretallet. De trodde menneskekroppen ikke tålte fart over tretti km/t. Melken surnet ikke av reisen. Telefonen slapp ingen ånder inn i stua. Romanen ødela ikke ungdommen, fjernsynet gjorde oss ikke til en hjernedød befolkning, og internett ble ikke det forbigående blaffet en og annen klok mann spådde at det ville bli. Og likevel. Noen ganger hadde de redde rett. Da fysikerne selv begynte å advare mot atombomben, var det ikke moralsk panikk. Det var presist. Da de første stemmene sa at noe holdt på å gå galt med de unge og smarttelefonene og de sosiale mediene, ble de avfeid som bekymrede gammelmodige sjeler. I dag er vi ikke så sikre lenger. Den frykten ser mer berettiget ut for hvert år. Så mønsteret er ikke at skeptikerne alltid tar feil. Mønsteret er vanskeligere enn som så, og mer ydmykende. Vi blander de to sammen. Vi klarer nesten aldri å skille den overdrevne frykten fra den berettigede mens det står på. Det er først etterpå, når alt er over og vi vet hvordan det gikk, at vi kan sortere klokt i det og si: der hadde de rett, der tok de feil. Underveis ser begge slags frykt nøyaktig like ekte ut. Det er en ubehagelig erkjennelse å ta med seg inn i en bok om kunstig intelligens. For akkurat nå står vi midt i det. Vi vet ikke ennå hvilken slags frykt vår er.

Luddittene var ikke det vi tror

Det finnes et ord vi bruker om folk som er imot ny teknologi. Vi kaller dem ludditter. Det er ment som et lite stikk: her kommer en som vil knuse maskinene og dra oss tilbake til mørket. De opprinnelige luddittene fortjente ikke det ettermælet. De var engelske tekstilarbeidere på begynnelsen av attenhundretallet, faglærte folk som hadde brukt år på å bli gode i håndverket sitt. Og så kom vevmaskinene. Ikke maskinene i seg selv var problemet, men måten de ble brukt på: til å kutte lønninger, og til å erstatte faglærte med ufaglært, billigere arbeidskraft. Luddittene var ikke prinsipielt imot fremgang. De så noe ganske presist. De så hvem som kom til å betale regningen for skiftet. Og det var dem selv. De tok feil om at maskinene ville utslette arbeidet for godt. Arbeidet forsvant ikke. Det ble flyttet, forvandlet, og over tid ble det flere jobber, ikke færre. På den måten var de redde for mye. Men de hadde rett om sitt eget liv. En hel generasjon faglærte mistet virkelig levebrødet og statusen sin, og overgangen var brutal for dem som sto i den. «Det går bra til slutt» er en svak trøst for den som blir arbeidsledig i mellomtiden. Den setningen er sann for samfunnet og falsk for mennesket. Vi kommer til å møte den igjen, for den ligger under nesten alt vi skal snakke om. Parlamentet, for ordens skyld, svarte med å gjøre det til en dødssynd å knuse en maskin, og sendte rundt tolv tusen soldater mot bevegelsen, flere enn England på den tiden hadde sendt for å slåss mot Napoleon i Portugal. Vi har altså vært villige til å bruke makt for å verne det nye, lenge før vi visste om det nye fortjente det.

Hvorfor det nye skremmer oss

Det er lett å tro at frykt for teknologi er en slags dumhet, en mangel på opplysning som forsvinner straks folk forstår bedre. Det stemmer ikke. Frykten har dype røtter, og noen av dem er kloke. Vi mennesker er bygget til å holde på det vi har. Et tap svir mer enn en tilsvarende gevinst gleder. Det skal omtrent dobbelt så mye godt til for å oppveie det vonde ved å miste noe. Derfor måler vi det nye strengt. Gevinsten det lover ligger et sted i fremtiden og er usikker; tapet det truer med føles nært og konkret. Vi velger det kjente, ikke fordi det alltid er bedre, men fordi det er trygt. Og vi angrer mer på det gale vi gjorde enn på det gale vi lot være å gjøre, så vi lener mot å vente, å la tingen ligge. Mye av uroen handler om noe enklere enn alt dette også. Den handler om kontroll. Mister jeg styringen over mitt eget liv, min egen jobb, mine egne barn? Det spørsmålet blir skarpere jo mer en teknologi ser ut til å handle på egen hånd, jo mindre den oppfører seg som et verktøy vi holder i hånden og mer som noe som beveger seg selv. Det skal vi komme tilbake til, for det er nettopp her kunstig intelligens skiller seg fra alt vi har laget før. Og så er det den frykten som er minst forfinet og mest berettiget av dem alle: forsvinner inntekten min? Når uroen er økonomisk, er den sjelden dum. Den er ofte helt rasjonell for det mennesket som rammes, selv om regnskapet for samfunnet som helhet ender med pluss. Setteren i trykkeriet, drosjesjåføren, ludditten ved veven. De regnet ikke feil. De regnet på sitt eget liv.

Når frykten blir for stor

Det finnes et begrep for det motsatte, for når reaksjonen blir større enn faren. Sosiologene kaller det moralsk panikk. En gruppe, en ting eller en hendelse blir plutselig stemplet som en trussel mot alt vi holder kjært, og reaksjonen vokser seg ute av proporsjon med den faktiske faren. Mediene forsterker. Noen stemmer tjener på opphisselsen. Og ny medieteknologi har vært en av de mest pålitelige utløserne av slik panikk gjennom historien: romanen, tegneserien, fjernsynet, videospillet, og nå dette. Men her må vi være forsiktige, for begrepet kan misbrukes. Det er fristende å avfeie all uro som moralsk panikk, å vinke bort enhver bekymring med et overbærende «dette har vi hørt før». Det er ikke det begrepet er til for. Det er et redskap for å skille den forholdsmessige uroen fra den uforholdsmessige, ikke et bevis for at all uro er tåpelig. Noen ganger er panikken nettopp panikk. Andre ganger er den et tidlig varsel vi burde ha lyttet til. Oppgaven er å vite forskjellen, og den oppgaven er vanskelig hver eneste gang.

Slik løser vi det egentlig

Hvis det er én ting historien lærer oss om hvordan disse stridene ender, så er det dette: de ender nesten aldri med et rent ja eller et rent nei. Bilen ble ikke forbudt, og den fikk heller ikke fritt spillerom. Den fikk fartsgrenser. Førerkort. Sikkerhetsbelter, og etter hvert kollisjonsputer, og lover mot å kjøre i fylla. Elektrisiteten var virkelig farlig i begynnelsen, med dårlig isolerte ledninger og mennesker som døde av støt, helt til det kom standarder, jording og tilsyn, og den ble gjort trygg. Ikke fordi den var trygg i seg selv, men fordi vi gjorde den trygg, sakte, gjennom mange små grep. Slik går det stort sett. Det vokser fram lover. Det vokser fram vaner og folkeskikk, ofte raskere enn lovene. Det bygges institusjoner som skal holde øye med tingen. Folk venner seg til den, og generasjonen som vokser opp med den, opplever den ikke som et brudd i det hele tatt, bare som verden slik den er. Arbeidet flytter seg. Og ofte temmer teknologien seg selv, ved at den neste utgaven retter opp det den forrige stelte i stand. Løsningen er nesten alltid en lang forhandling, der samfunnet gradvis bygger rammer rundt det nye. Det er ikke et dramatisk svar. Det selger ingen avisforsider. Men det er sånn det skjer, og i den forhandlingen får både entusiasten og skeptikeren noe rett til slutt.

Og likevel — denne gangen

Alt dette taler for ro. Vi har sett dette mønsteret så mange ganger at vi nesten kan tegne det på forhånd: begeistringen, panikken, korreksjonen, reglene, tilvenningen. Det er en god grunn til ikke å miste hodet nå. Det er bare ett problem. Og det skal vi bruke en stor del av denne boken på å nærme oss forsiktig. Alle de tidligere teknologiene forsterket noe ved mennesket. Telefonen forlenget stemmen vår, bilen beina våre, datamaskinen regnehodet vårt. De gjorde oss raskere, sterkere, mer presise. Men de forble under oss. De gjorde ikke krav på noe. En vevmaskin satte seg aldri et eget mål. Kunstig intelligens er det første vi har laget der det i det hele tatt er et alvorlig spørsmål om tingen kan bli klokere enn den som lagde den. Det er ikke sikkert at den blir det; om det er det dyp og reell uenighet, og den skal vi ta på alvor. Men at spørsmålet kan stilles, er i seg selv nytt. Ingen har noensinne lurt på om trykkpressen kunne komme til å tenke bedre enn forfatteren. Så vi bærer to ting med oss inn i det som kommer, og de drar i hver sin retning. Det ene er mønsteret, som hvisker: ro deg ned, du har sett dette før. Det andre er muligheten for at det denne gangen er noe kvalitativt annerledes. Det kloke er ikke å velge én av dem og lukke øret for den andre. Det kloke er å holde begge åpne på en gang. For det er en gammel sannhet i alt dette, og den er verdt å ta med seg videre: vi har for vane å overvurdere hva det nye betyr på kort sikt, og undervurdere hva det betyr på lang sikt. Vi tar sannsynligvis feil om hva kunstig intelligens gjør med oss neste år. Og vi tar sannsynligvis feil om hva den gjør med oss om tjue. Begge leirene kan ha rett, på hver sin klokke. La oss derfor ikke skynde oss til en dom. La oss heller gjøre det vi sjelden gir oss tid til midt i en slik strid: gå rolig gjennom den, stemme for stemme, og se hva som faktisk står der når vi tør å se ordentlig etter.