Å temme det
Vi har sett at en teknologi nesten aldri blir stoppet, bare forvandlet eller temmet. Nå skal vi se på selve temmingen: hvordan mennesker faktisk forsøker å styre noe som vokser fortere enn lovverket. Og det vi finner, er at verden har delt seg i tre svar, som speiler de tre rollene vi møtte helt i begynnelsen. Europa valgte forsiktigheten. USA valgte farten. Kina valgte kontrollen.
Tre svar på det samme
Europa kom først med en bred lov. Den bygger på en enkel tanke: jo høyere risiko et system utgjør for mennesker, jo strengere krav. Noen bruksområder er rett og slett forbudt, som å gi borgere en sosial poengsum. Noen er tillatt, men strengt regulert, som kunstig intelligens i ansettelser eller rettsvesen. Og det meste, spamfilteret og anbefalingen, slipper med nesten ingenting. Et eget krav er at du skal få vite når du snakker med en maskin, og at maskinlaget innhold skal merkes. Det fine er at denne loven blir kritisert fra begge kanter. Næringslivet og toppøkonomer mener den er for streng og kveler europeisk konkurranseevne. Sivilsamfunnet mener den er for svak, full av smutthull, og at den overgir for mye til kommersielle interesser. Når en lov anklages for å være både for hard og for myk, er det som regel et tegn på at den prøver å treffe noe genuint vanskelig. USA gikk en annen vei, og viste samtidig hvor mye styringen avhenger av hvem som sitter med makten. Én president la vekt på risiko og rettigheter. Den neste opphevet det meste og la fram en plan med ett ord i sentrum: vinne. Deregulering, utbygging, lederskap, kappløp. I fraværet av en samlet føderal lov er det enkeltstater, særlig California, som har blitt de reelle regulatorene, med de første lovene rettet mot de aller kraftigste modellene. Kina regulerte tidlig, men ut fra et helt annet formål enn Vesten. Ikke først og fremst for å verne individet, men for å verne staten: kontroll over informasjon og samfunnsorden. Der Europa spør «er dette trygt for borgeren?», spør Kina «er dette trygt for staten?». Begge regulerer mye. De gjør det ut fra motsatte verdier. Det er en nyttig påminnelse om at «regulering» ikke er ett svar. Det kommer an på hva, og hvem, du vil beskytte.
Fra sikkerhet til fart, på to år
Det tydeligste bildet på hvor fort stemningen snur, er de internasjonale toppmøtene. Det første, i 2023, het et møte om sikkerhet, og tonen var alvorlig, opptatt av de katastrofale risikoene. To år senere het det samme møtet et møte om handling. Navneskiftet var selve poenget. På to år gikk verden fra å spørre «hvordan unngår vi at dette skader oss?» til «hvordan vinner vi kappløpet?». Sikkerhetsagendaen tapte terreng til konkurranseagendaen, og et par av de mektigste landene nektet til og med å skrive under på slutterklæringen om en forsiktig linje. Frykt og begeistring veksler, akkurat som de alltid har gjort, men denne gangen på rekordtid.
Knipa ingen slipper unna
Bak alt dette ligger en knipe vi alt har vært så vidt borti, og den er verdt å forstå skikkelig, for den forklarer hvorfor kloke mennesker trekker motsatte konklusjoner uten at noen av dem er dumme. Teknologifilosofen David Collingridge satte ord på den rundt 1980. Tidlig i en teknologis liv kan vi lett styre den, men da vet vi ennå ikke hva konsekvensene blir. Når konsekvensene endelig er tydelige, er teknologien blitt så innvevd i økonomi og samfunn at den er nesten umulig å endre. Regulerer vi for tidlig, kveler vi kanskje noe godt vi ikke forsto. Regulerer vi for sent, har vi mistet kontrollen. Det er nøyaktig denne knipa verden står i, og den forklarer hvorfor Europa, som regulerer tidlig, og USA, som venter, kan trekke motsatte slutninger og begge ha et poeng. Det finnes en europeisk effekt verdt å nevne: EUs marked er så stort at globale selskaper ofte velger å følge europeiske regler overalt, fordi det er dyrere å lage to versjoner av produktet. Slik sprer Europa standardene sine uten å tvinge dem på noen, slik det skjedde med personvernet. Spørsmålet er om det holder denne gangen, eller om USAs og Kinas fart gjør at verden i stedet revner i tre.
Norge, midt imellom
Hvor står så vi, her hjemme? Norge gjør, karakteristisk nok, begge deler på en gang. Vi satser milliarder på å fremme kunstig intelligens, og bygger samtidig et apparat for å begrense den. Det speiler hele grunnspenningen i kapittelet: å fremme og temme i samme bevegelse. Det mest håndfaste norske eksempelet er skolen. Da chatboten ble allment tilgjengelig, måtte hele eksamensordningen bygges om. Internett ble stengt under eksamen, hjelpemidler ble fjernet, og det ble utviklet måter sensorer kunne flagge mistanke om maskinjuks på. En hel offentlig institusjon måtte snus på hodet på grunn av én teknologi. Det er ikke fjern fremtid. Det har alt forandret den norske skolen, og under den praktiske striden om juks ligger en dypere uro mange lærere kjenner på: hva er poenget med å skrive en tekst, hvis maskinen kan gjøre det? Mister vi selve tenkningen, strevet, modningen, hvis vi lar den ta over? I mediene har vi sett det like konkret. En kjent programleder ble vist som en forfalskning på direktesendt fjernsyn, for å demonstrere hvor lett og overbevisende teknologien er blitt. En avis måtte avpublisere et debattinnlegg fordi de ikke lenger var sikre på om forfatteren, en oppgitt forretningsmann, var et virkelig menneske i det hele tatt. Sannheten og bedraget vi snakket om, har alt banket på den norske døren. Og det er en egen, vakker norsk tråd her, som handler om språk. For at fremtidens maskiner skal forstå norsk, må noen bygge det inn, og det krever data og arbeid som ikke lønner seg kommersielt for et lite språk. Derfor har Nasjonalbiblioteket og universitetene gått sammen om å trene norske språkmodeller, gjort dem fritt tilgjengelige, og noen av dem er bedre på norsk enn de store internasjonale. Det er en slags språklig dugnad, og den handler om mer enn teknologi. Den handler om at kultur og språk er identitet, og om at vil vi at maskinen skal snakke vårt språk, må vi bygge det selv.
Hvor vi setter tilliten
Det norske særtrekket er en uvanlig blanding av høy digital tillit og sterk personvernkultur. Vi tar teknologien raskt i bruk fordi vi stoler på hverandre og på myndighetene, og over halvparten av virksomhetene hadde tatt kunstig intelligens i bruk allerede. Men den høye tilliten er både en styrke og en sårbarhet. Vi tør å ta i bruk, men vi kontrollerer kanskje for lite. Et gjennomgående funn er at tilliten til kunstig intelligens vokser raskere enn evnen vår til å bruke den ansvarlig. Og det leder mot det egentlige spørsmålet under hele dette kapittelet, som ingen lov helt kan svare på. Hvor setter vi til sist tilliten vår? I verktøyet, fordi det er smart og raskt? I hverandre, i de menneskelige institusjonene vi har bygget for å holde hverandre i sjakk? Lover og avtaler og toppmøter er forsøk på det siste, på å la tilliten bli værende mellom mennesker og ikke vandre over i maskinen. Men de er bare forsøk, og de henger på en forutsetning vi ennå ikke har undersøkt: at vi i det hele tatt klarer å samarbeide om å holde igjen. Og det er langt fra sikkert at vi gjør det.
Vi har sett at en teknologi nesten aldri blir stoppet, bare forvandlet eller temmet. Nå skal vi se på selve temmingen: hvordan mennesker faktisk forsøker å styre noe som vokser fortere enn lovverket. Og det vi finner, er at verden har delt seg i tre svar, som speiler de tre rollene vi møtte helt i begynnelsen. Europa valgte forsiktigheten. USA valgte farten. Kina valgte kontrollen.
Tre svar på det samme
Europa kom først med en bred lov. Den bygger på en enkel tanke: jo høyere risiko et system utgjør for mennesker, jo strengere krav. Noen bruksområder er rett og slett forbudt, som å gi borgere en sosial poengsum. Noen er tillatt, men strengt regulert, som kunstig intelligens i ansettelser eller rettsvesen. Og det meste, spamfilteret og anbefalingen, slipper med nesten ingenting. Et eget krav er at du skal få vite når du snakker med en maskin, og at maskinlaget innhold skal merkes.
Det fine er at denne loven blir kritisert fra begge kanter. Næringslivet og toppøkonomer mener den er for streng og kveler europeisk konkurranseevne. Sivilsamfunnet mener den er for svak, full av smutthull, og at den overgir for mye til kommersielle interesser. Når en lov anklages for å være både for hard og for myk, er det som regel et tegn på at den prøver å treffe noe genuint vanskelig.
USA gikk en annen vei, og viste samtidig hvor mye styringen avhenger av hvem som sitter med makten. Én president la vekt på risiko og rettigheter. Den neste opphevet det meste og la fram en plan med ett ord i sentrum: vinne. Deregulering, utbygging, lederskap, kappløp. I fraværet av en samlet føderal lov er det enkeltstater, særlig California, som har blitt de reelle regulatorene, med de første lovene rettet mot de aller kraftigste modellene.
Kina regulerte tidlig, men ut fra et helt annet formål enn Vesten. Ikke først og fremst for å verne individet, men for å verne staten: kontroll over informasjon og samfunnsorden. Der Europa spør «er dette trygt for borgeren?», spør Kina «er dette trygt for staten?». Begge regulerer mye. De gjør det ut fra motsatte verdier. Det er en nyttig påminnelse om at «regulering» ikke er ett svar. Det kommer an på hva, og hvem, du vil beskytte.
Fra sikkerhet til fart, på to år
Det tydeligste bildet på hvor fort stemningen snur, er de internasjonale toppmøtene. Det første, i 2023, het et møte om sikkerhet, og tonen var alvorlig, opptatt av de katastrofale risikoene. To år senere het det samme møtet et møte om handling. Navneskiftet var selve poenget. På to år gikk verden fra å spørre «hvordan unngår vi at dette skader oss?» til «hvordan vinner vi kappløpet?». Sikkerhetsagendaen tapte terreng til konkurranseagendaen, og et par av de mektigste landene nektet til og med å skrive under på slutterklæringen om en forsiktig linje. Frykt og begeistring veksler, akkurat som de alltid har gjort, men denne gangen på rekordtid.
Knipa ingen slipper unna
Bak alt dette ligger en knipe vi alt har vært så vidt borti, og den er verdt å forstå skikkelig, for den forklarer hvorfor kloke mennesker trekker motsatte konklusjoner uten at noen av dem er dumme.
Teknologifilosofen David Collingridge satte ord på den rundt 1980. Tidlig i en teknologis liv kan vi lett styre den, men da vet vi ennå ikke hva konsekvensene blir. Når konsekvensene endelig er tydelige, er teknologien blitt så innvevd i økonomi og samfunn at den er nesten umulig å endre. Regulerer vi for tidlig, kveler vi kanskje noe godt vi ikke forsto. Regulerer vi for sent, har vi mistet kontrollen. Det er nøyaktig denne knipa verden står i, og den forklarer hvorfor Europa, som regulerer tidlig, og USA, som venter, kan trekke motsatte slutninger og begge ha et poeng.
Det finnes en europeisk effekt verdt å nevne: EUs marked er så stort at globale selskaper ofte velger å følge europeiske regler overalt, fordi det er dyrere å lage to versjoner av produktet. Slik sprer Europa standardene sine uten å tvinge dem på noen, slik det skjedde med personvernet. Spørsmålet er om det holder denne gangen, eller om USAs og Kinas fart gjør at verden i stedet revner i tre.
Norge, midt imellom
Hvor står så vi, her hjemme? Norge gjør, karakteristisk nok, begge deler på en gang. Vi satser milliarder på å fremme kunstig intelligens, og bygger samtidig et apparat for å begrense den. Det speiler hele grunnspenningen i kapittelet: å fremme og temme i samme bevegelse.
Det mest håndfaste norske eksempelet er skolen. Da chatboten ble allment tilgjengelig, måtte hele eksamensordningen bygges om. Internett ble stengt under eksamen, hjelpemidler ble fjernet, og det ble utviklet måter sensorer kunne flagge mistanke om maskinjuks på. En hel offentlig institusjon måtte snus på hodet på grunn av én teknologi. Det er ikke fjern fremtid. Det har alt forandret den norske skolen, og under den praktiske striden om juks ligger en dypere uro mange lærere kjenner på: hva er poenget med å skrive en tekst, hvis maskinen kan gjøre det? Mister vi selve tenkningen, strevet, modningen, hvis vi lar den ta over?
I mediene har vi sett det like konkret. En kjent programleder ble vist som en forfalskning på direktesendt fjernsyn, for å demonstrere hvor lett og overbevisende teknologien er blitt. En avis måtte avpublisere et debattinnlegg fordi de ikke lenger var sikre på om forfatteren, en oppgitt forretningsmann, var et virkelig menneske i det hele tatt. Sannheten og bedraget vi snakket om, har alt banket på den norske døren.
Og det er en egen, vakker norsk tråd her, som handler om språk. For at fremtidens maskiner skal forstå norsk, må noen bygge det inn, og det krever data og arbeid som ikke lønner seg kommersielt for et lite språk. Derfor har Nasjonalbiblioteket og universitetene gått sammen om å trene norske språkmodeller, gjort dem fritt tilgjengelige, og noen av dem er bedre på norsk enn de store internasjonale. Det er en slags språklig dugnad, og den handler om mer enn teknologi. Den handler om at kultur og språk er identitet, og om at vil vi at maskinen skal snakke vårt språk, må vi bygge det selv.
Hvor vi setter tilliten
Det norske særtrekket er en uvanlig blanding av høy digital tillit og sterk personvernkultur. Vi tar teknologien raskt i bruk fordi vi stoler på hverandre og på myndighetene, og over halvparten av virksomhetene hadde tatt kunstig intelligens i bruk allerede. Men den høye tilliten er både en styrke og en sårbarhet. Vi tør å ta i bruk, men vi kontrollerer kanskje for lite. Et gjennomgående funn er at tilliten til kunstig intelligens vokser raskere enn evnen vår til å bruke den ansvarlig.
Og det leder mot det egentlige spørsmålet under hele dette kapittelet, som ingen lov helt kan svare på. Hvor setter vi til sist tilliten vår? I verktøyet, fordi det er smart og raskt? I hverandre, i de menneskelige institusjonene vi har bygget for å holde hverandre i sjakk? Lover og avtaler og toppmøter er forsøk på det siste, på å la tilliten bli værende mellom mennesker og ikke vandre over i maskinen. Men de er bare forsøk, og de henger på en forutsetning vi ennå ikke har undersøkt: at vi i det hele tatt klarer å samarbeide om å holde igjen. Og det er langt fra sikkert at vi gjør det.