Avskaffe eller løse?

Vi har nå gått gjennom en lang rekke bekymringer, og før vi forlater dem, må vi stoppe ved en bestemt feil vi har lett for å gjøre. Den er ikke en bekymring i seg selv, men en måte å resonnere på, og den dukker opp igjen og igjen, ikke bare om kunstig intelligens, men om all teknologi som skaper et problem. Feilen er denne: når noe nyttig fører til en reell skade, blir det eneste vi vurderer, å fjerne tingen. Ikke å gjøre den bedre. Ikke å løse det enkelte problemet og beholde nytten. Bare å bli kvitt den.

Mønsteret

Du kjenner formen igjen så snart jeg viser den. Vindturbiner dreper fugler. Det er sant, og det er verdt å ta på alvor. Konklusjonen mange trekker, er at vi må fjerne vindturbinene. Men sett tallet i sammenheng: i et land som USA dreper huskatter fugler i milliardtall hvert år, vinduer og bygninger i hundremillionersklassen, mens vindturbinene tar en brøkdel av det. Og per produsert energienhet dreper kull og olje mange ganger flere fugler enn vinden, mest gjennom klimaendringene de driver. Det finnes dessuten løsninger: bedre plassering vekk fra trekkrutene, sensorer som stanser bladene når en fugleflokk nærmer seg, til og med det å male ett av bladene svart, som i forsøk har kuttet kollisjonene kraftig. «Fjern dem»-svaret hopper over alt dette, og kan i verste fall øke fugledøden ved å forlenge kullkraften. Oppdrett skader naturen. Sant igjen: lakselus, rømming, utslipp. Konklusjonen for noen er at vi ikke skal ha oppdrett. Men verden trenger mat, og oppdrett er blant de mest effektive måtene å lage protein på, og løsningene finnes: lukkede anlegg, bedre fôr, strengere plassering. «Fjern det»-svaret behandler matbehovet som om det ikke fantes. Datasentre sluker strøm og vann. Sant. Konklusjonen for noen er at vi ikke kan ha datasentre. Men igjen finnes det løsninger: legge dem der det er rikelig med kraft og kjøling, gjenbruke spillvarmen, resirkulere vannet, drive dem på fornybart, lage mer effektiv maskinvare. «Fjern dem»-svaret slipper alt dette, og overser at den samme infrastrukturen driver tjenester samfunnet er blitt avhengig av.

Feilen under feilen

Det er to tankefeil som ligger og virker her, og det lønner seg å kjenne dem ved navn. Den ene er å sammenligne en virkelig, ufullkommen løsning med en innbilt, perfekt en, og forkaste den virkelige fordi den ikke er feilfri. «Tiltaket hjelper ikke helt, altså er det verdiløst.» Men en forbedring er ofte god nok grunn i seg selv, og det å vente på det perfekte gjør sin egen skade mens man venter. Den andre er trangen til å fjerne én risiko helt, fremfor å redusere den samlede risikoen mye. Vi krever null skade fra den ene kilden vi har festet blikket på, og overser den større skaden fra alternativet vi velger i stedet. Selv føre-var-prinsippet, riktig forstått, sier at tiltak ikke skal sikte mot null risiko, som nesten aldri finnes, og ikke skal være uforholdsmessige. «Fjern alt» bryter som regel med begge deler.

Overført til kunstig intelligens

Nå ser du hvor jeg vil. Den samme bevegelsen går igjen i striden om kunstig intelligens. Den bruker mye strøm og vann, altså: stopp den. I stedet for å effektivisere, drive den på fornybart, gjenbruke varmen. Den muliggjør forfalskninger, altså: forby den. I stedet for merking, deteksjon, lover som rammer misbruket. Den tar jobber, altså: stans den. I stedet for omskolering, omfordeling, regler for hvordan den innføres. Pragmatikerens posisjon, den vi møtte helt i begynnelsen, er nettopp det motsatte av «fjern»-svaret. Verken stopp eller fri flyt, men å løse de konkrete skadene mens man beholder nytten. Det er slik samfunn faktisk har håndtert teknologiskifter. Bilen, husker vi, fikk ikke forbud. Den fikk fartsgrenser, belter, lover. Vi løste problemene den skapte, ett for ett, og beholdt det den ga oss.

Men noen ganger er «fjern» riktig

Og her må vi være ærlige til den andre siden, ellers blir dette bare en sang til teknologiens pris. For mønsteret er en tankefeil bare når problemet faktisk lar seg løse. Det gjør det ikke alltid. Noen ting kan ikke gjøres trygge. Vi har alt sett dem: kjernevåpen, arvelig genredigering på mennesker, fullt selvstyrte våpen. Der har «trekk grensen, ikke bygg» vært det berettigede svaret, ikke en tankefeil, men klokskap. Det er forskjellen mellom «kan vi» og «bør vi», og noen ganger er svaret på det andre nei, selv når svaret på det første er ja. Og «løse»-svaret kan være ren grønnvasking. Iblant er de foreslåtte løsningene utilstrekkelige, eller finnes bare på papiret, og da er aktivistens nei et berettiget signal om at noen lover mer enn de leverer. Å avfeie all motstand som perfeksjonisme er sin egen tankefeil. Den som bærer kostnaden, lokalsamfunnet ved datasenteret, har full rett til å kreve at problemet faktisk løses, ikke bare flyttes et annet sted så det ikke synes.

Verktøyet vi tar med oss

Det dette gir oss, er ikke et svar, men et spørsmål å stille hver gang en innvending mot kunstig intelligens dukker opp. Er dette et problem som kan løses? Da er «fjern alt» sannsynligvis en tankefeil, og oppgaven er å løse det og beholde nytten. Eller er det et problem som ikke kan løses, der faren er innebygd og uoppløselig? Da er det å bremse, eller å la være, ikke feighet, men forstand. Det er den samme sorteringsoppgaven vi har holdt på med hele veien: å skille den overdrevne frykten fra den berettigede, det løsbare fra det uløselige.