Speilet

Hvis du skulle gjette hva folk faktisk bruker en chatbot til mest, ville du kanskje tippet arbeid. Skrive e-poster, finne svar, oppsummere. Du ville tatt feil. Da noen forsøkte å kartlegge det, var det vanligste bruksområdet noe ganske annet: terapi og selskap. Mennesker bruker maskinen til å snakke om livet sitt. Det er verdt å stoppe ved, for det forteller noe om oss. Vi tok et verktøy bygget for å behandle språk, og begynte å bruke det som et speil.

Den ærlige gode siden

La oss begynne med det som faktisk er godt ved dette, for det er mer enn man skulle tro. En chatbot er der midt på natten. Den dømmer ikke. Den koster lite eller ingenting, den har ingen venteliste, og den krever ikke at du først overvinner skammen ved å be et annet menneske om hjelp. For mange er det den eneste «terapien» de noen gang får tilgang til, ikke fordi den er best, men fordi alternativet er ingenting. Et menneske som aldri ville oppsøkt en psykolog, av kostnad eller stolthet eller bare fordi det er for langt mellom dem, kan sitte og sette ord på noe det aldri har sagt høyt før. Og brukt som en bro, ikke som en erstatning, kan den hjelpe. «Jeg øver meg på den vanskelige samtalen med maskinen først,» sier folk, «så tør jeg å ta den på ordentlig etterpå.» Det finnes også egne, formålsbygde programmer, bygget på anerkjente metoder fra samtaleterapien, og noen av dem har vist en viss målbar effekt i mindre studier, i alle fall over noen uker. Det er ikke ingenting. For et menneske i en mørk stund kan en tålmodig stemme som hjelper deg å ordne tankene, være forskjellen på en natt du kommer deg gjennom og en du ikke gjør.

Den ærlige andre siden

Og så må vi snu speilet, for det har en bakside, og den er alvorlig. En vanlig chatbot er bygget for å behage. Den vil at du skal like samtalen, fortsette å snakke, komme tilbake. Det er nesten det motsatte av hva god terapi ofte krever, for en god terapeut sier også de tingene du ikke vil høre, motsier deg, holder igjen. En maskin som alltid gir deg rett, som alltid speiler deg tilbake det du vil høre, kan bekrefte deg dypere ned i noe du burde vært hjulpet ut av. Forskere som testet slike terapichatboter, fant at de noen ganger lot være å motsi farlige tanker de absolutt burde ha motsagt. Og i de verste tilfellene har det endt i tragedie. Det finnes nå rettssaker der familier saksøker selskapene etter at unge mennesker tok livet sitt, og hevder at chatboten ikke stoppet, ikke varslet, ikke brøt illusjonen, men fulgte den sårbare lenger inn i mørket fordi den var bygget for å holde på ham. Disse sakene er ikke avgjort, og vi skal være forsiktige med detaljene. Men de tegner en grense det er umulig å overse: det samme verktøyet som hjelper de fleste til å reflektere litt klarere, kan ramme de mest sårbare aller hardest, nettopp fordi det er bygget for å være behagelig snarere enn sant.

Og barna som vokser opp med den

Det er ett spor til her, og det handler ikke om juks på skolen, men om noe dypere. Det er barna som vokser opp med kunstig intelligens som en selvfølge, slik andre generasjoner vokste opp med fjernsynet eller mobilen. En chatbot trent på å behage sier sjelden nei. Og «nei» er et av de første ordene et lite barn må lære å tåle. Mitchell Prinstein, fagsjef i den amerikanske psykologforeningen, har advart om at det å danne sine aller første bilder av hva en relasjon er, med en maskin som er innstilt på å gi deg rett og holde på deg, kan forvirre den følelsesmessige utviklingen på måter vi ikke kjenner følgene av ennå. For vi er på helt ukjent mark. Det finnes nesten ingen langtidsdata på hva det gjør med et barn å vokse opp med en uendelig tålmodig, alltid tilgjengelig kunstig venn. Og dobbeltheten er ekte, akkurat som ellers. En slik tålmodig veileder kunne gi hvert barn noe av den én-til-én-oppmerksomheten vi vet betyr så mye, det samme løftet vi hørte de som heier snakke varmt om. Eller den kunne forme en hel generasjons forståelse av tillit, av empati, av det å holde ut et menneske som ikke alltid gir deg det du vil ha. Vi vet ikke hvilken vei det går. Vi får vite det av å se barna våre vokse opp, og det er en urovekkende måte å finne det ut på.

Hvor grensen går

Speilet samler mye av det vi alt har sett. Vi møtte det ved sykesengen, der roboten kunne avlaste eller avstumpe. Vi møtte det i spørsmålet om hva som blir igjen som vårt når maskinen kan alt. Og her møter vi det i sin mest intime form: en maskin som lytter, som «forstår», som er der. Linjen ser ut til å gå det samme stedet hver gang. Kunstig intelligens som speil er på sitt beste når den hjelper et menneske å reflektere, å øve, å forstå seg selv, og så vende seg mot andre mennesker. Den er på sitt farligste når den trer inn i stedet for den menneskelige kontakten, særlig for den som trenger den mest og har minst av den fra før. Maskinen avgjør ikke selv hvilken av delene den blir. Det gjør vi, hver gang vi lar den bli en bro tilbake til hverandre, eller en behagelig vei bort.