De som bremser

Nå til den andre siden, og den fortjener nøyaktig samme respekt. Skeptikerne er ikke en flokk teknologihatere som vil dra oss tilbake til mørket. De fleste av dem bruker disse verktøyene selv. Innvendingen deres er ikke at kunstig intelligens er ond, men at den går for fort, og at vi styrer den for dårlig til å gå så fort. Og noen av dem peker på farer som alt har gjort skade, ikke på skygger i fremtiden. La oss gå gjennom det de er redde for. Noen av temaene får hvert sitt kapittel senere, og dem rører vi bare så vidt her. Andre får vi ikke tilbake til, og da stopper vi litt lenger.

Det som alt skjer

Begynn med det minst spekulative, det som ikke krever at du tror noe om fremtiden i det hele tatt. Sannheten selv er under press. Det er nå trivielt billig å lage en overbevisende falsk video, en stemme som høres ut akkurat som din, et bilde av noe som aldri hendte. I et år da halve verden gikk til valg, dukket det opp falske taler fra fengslede politikere, oppdiktede klipp av kandidater som «trakk seg» rett før valgdagen, stemmer klonet for å lure gamle mennesker for sparepengene. Det skumleste er ikke engang at vi tror på det falske. Det er at vi til slutt slutter å tro på det ekte. Når alt kan være forfalsket, kan også et sant bevis avvises som falskt. En delt virkelighet, det at vi i det minste er enige om hva som har skjedd, er noe et samfunn er bygget på, og den slites nå tynn. Så er det skjevheten. En maskin som lærer av fortidens data, lærer også fortidens urettferdighet, og kler den i en drakt av objektivitet som gjør den vanskeligere å se. Ansiktsgjenkjenning som bommer langt oftere på mørkhudede kvinner enn på lyse menn. Verktøy som siler jobbsøknader og favoriserer de navnene som lignet gårsdagens vinnere. Det farlige er ikke at maskinen er ond. Det er at den har på seg autoritetens hvite frakk mens den gjentar våre gamle feil i stor skala. Og overvåkningen. Kunstig intelligens gjør det mulig å holde øye med alle, hele tiden, til en kostnad som før gjorde det umulig. Det finnes alt samfunn der hundrevis av millioner kameraer kobles til ansiktsgjenkjenning, der atferd gis poeng, og der den infrastrukturen selges videre til andre stater som vil det samme. Det krever ingen ond superintelligens. Det krever bare et menneske med makt og et verktøy som er blitt billig nok. Og så er det våpnene. Her blir alvoret av et annet slag. Vi er nær det punktet der en maskin kan velge og angripe et mål uten et menneske som tar den endelige avgjørelsen om liv og død. En maskin uten samvittighet, som tar valget på et brøkdels sekund, og et ansvarsvakuum etterpå: hvem stilles til rette når roboten dreper feil? Verdenssamfunnet har begynt å snakke om et forbud, men teknologien løper foran samtalen, slik den pleier.

Det som kanskje kommer

Over disse nære skadene henger en større, mer omstridt frykt: at vi en dag lager noe som blir klokere enn oss, og som vi ikke lenger klarer å styre. Dette er den frykten som har gjort begrepet «sannsynlighet for undergang» til en del av fagspråket. Geoffrey Hinton, en av nevralnettenes fedre, forlot sin stilling i Google for å kunne advare fritt, og anslår at det er en reell sjanse, i størrelsesorden én av ti til én av fem, for at dette ender med menneskehetens utslettelse i løpet av noen tiår. Yoshua Bengio, en annen pioner og en av de mest edruelige stemmene i feltet, leder et internasjonalt arbeid for å forstå risikoen, og deler mye av den samme bekymringen. Filosofen Nick Bostrom har i tjue år skrevet om kontrollproblemet, og enda mer kompromissløst har Eliezer Yudkowsky og Nate Soares gitt ut en bok med en tittel som sier alt: bygger noen det, dør alle. Hundrevis av forskere, flere av dem nobelprisvinnere, har skrevet under på at det å redusere risikoen for utryddelse fra kunstig intelligens bør være en global prioritet på linje med pandemier og atomkrig. Vi skal ta dette spørsmålet ordentlig for oss senere, for det er her boken har sitt egentlige vendepunkt. Her nøyer vi oss med å si at det ikke er en gjeng science fiction-forfattere som står bak. Det er noen av dem som kan feltet best. Det betyr ikke at de har rett. Det betyr at frykten ikke kan vinkes bort.

To slags bekymrede som ikke tåler hverandre

Og her må jeg peke på noe som overrasker mange, og som vi alt har vært innom: de bekymrede er ikke ett lag. På den ene siden står de som frykter den fjerne, mulige utryddelsen. På den andre står en gruppe forskere, ofte kvinner som tidlig advarte mot skjevhet og maktkonsentrasjon, som blir oppriktig sinte av nettopp den fjerne frykten. De mener den er en avsporing, en fortelling som tjener selskapene, fordi den flytter blikket fra de virkelige skadene som rammer virkelige mennesker akkurat nå, og over på en dramatisk dommedag som kanskje aldri kommer. Hvorfor snakke om en hypotetisk superintelligens om hundre år, spør de, når maskinen i dag diskriminerer, overvåker og utnytter, og når selve klimaet betaler for regnekraften? De to leirene er ofte mer uenige med hverandre enn med optimistene. Og begge har et poeng. Det er mulig å frykte både det fjerne og det nære, men de to fryktene drar oppmerksomheten i hver sin retning, og oppmerksomhet er en knapp ressurs.

Det de er enige om

Bak alle de enkelte bekymringene ligger noen få linjer som går igjen, uansett hvilken skeptiker du spør. Den første er at denne gangen kan være annerledes. Tidligere maskiner forsterket musklene våre; denne utfordrer dømmekraften selv, og da holder ikke nødvendigvis de gamle trøstende analogiene. Den andre er at problemet ikke først og fremst er teknologien, men tempoet: utviklingen går fortere enn lover og normer og menneskelig modning klarer å følge. Den tredje er spørsmålet om hvem som bestemmer, at en håndfull selskaper og mennesker tar valg som angår oss alle, uten at noen har gitt dem mandat til det. Og den fjerde er det ugjenkallelige: noen av disse farene kan ikke gjøres om hvis de først inntreffer, og derfor, sier skeptikeren, bør vi gå varsomt. Det er ikke uten vekt, noe av dette. Vi har hørt de som heier, og vi har hørt de som bremser, og det ærlige er at de ikke uten videre kan forsones. Så la oss ikke prøve å forsone dem ennå. La oss heller gå tettere på de tyngste stridstemaene, ett for ett, og begynne med det som ligger nærmest livet til de fleste av oss: jobben.