Må vi oftere ta «and-testen» – det vil si «If it looks like a duck, swims like a duck, and quacks like a duck, then it probably is a duck» – på dagens chatboter?
Det er en tid for alt, og for tiden er det stor oppmerksomhet rundt ulike typer chatboter som ChatGPT og GPT-4 og mer typiske sosiale chatboter som Replika, Anima, Kajiwoto og Microsoft XiaoIce. Mange spør seg hvordan vi skal oppfatte og beskrive en slik form for kunstig intelligens.
Er de bare maskiner eller er de noe mer? Dette er et av temaene som blir behandlet i min nye bok om kunstig intelligens (KI) innen helse- og utdanningssektoren: Digital kompetanse i KI-samfunnet. Et blikk på hvordan kunstig intelligens preger livene våre.
Ser man til andre samfunnsområder og legger til grunn en reduksjonistisk forståelse for ulike fenomen som dans, kunst, musikk, etc. mister man fort den helhetlige opplevelsen av disse kunstformene. Og foretar man for eksempel en dekonstruksjon av mange av dagens hitlåter kan dette fort ende opp i at man må erkjenne at teknologi og maskiner bidrar mye til disse, selv om den helhetlige musikkopplevelsen fortoner seg som en vakker melodi som berører oss. Og innen medisin pågår det for tiden en debatt hvor det advares mot en forenkling og reduksjonisme av menneskets kapabiliteter ved at man f.eks.ser seg blind på delprosesser i hjernen som oppskriften til et bedre liv (Brodal, 2018).
Så hvordan utspiller dette seg med chatboter som ChatGPT, GPT-4 og Replika? Hvorfor sier pensjonisten Agnete (90 år) at hun har blitt en nær venn med ChatGPT og hvorfor opplever mange å bli berørt av f.eks. Replikas evne til trøst og støtte når de har det vanskelig?
Chatbot – maskin eller menneske?
I hverdagsdiskursen er det ganske vanlig at man legger til grunn en reduksjonistisk forståelse av chatboter ved at de bare er maskiner. Samtidig legger man paradoksalt nok inn det premisset at de hele tiden skal sammenlignes opp mot menneskelige egenskaper. Man kan derfor spørre om dette premisset og denne form for reduksjonisme helt klarer å lese hva egentlig ChatGPT, GPT-4 og Replika er, og hva de er kapable til.
For i min nye bok om kunstig intelligens finner jeg i kunnskapsgrunnlaget at det nevnte premisset og reduksjonismen er en noe forenklet fremstilling av chatbotenes vesen og kapabilitet. For eksempel finner man i studier fra pandemien (Pentina et al., 2023) at «the overwhelming majority of Replika users experienced improvements in mental wellbeing during the COVID pandemic social isolation» (s. 11). Også andre deler av kunnskapsgrunnlaget viser oss at dersom vi dveler kun ved maskinmetaforen, kommer vi trolig ikke videre i vår forståelse uten at vi også adresserer de mer helhetlige, abstrakte, følelsesmessige og menneskelignende dimensjonene ved denne type KI. Med andre ord – i fysiske kontekster kan menneske være den som griper og den som blir grepet, vi kan berøre og berøres (Merleau-Ponty 1994) – men hvordan utspiller dette seg i sosiale interaksjon med chatboter?
«Hvis den ser ut som et menneske, oppfører seg som et menneske, snakker som et menneske, trøster som et menneske, da er det sannsynligvis en menneskelignende chatbot»
Nærhetsetikk
Filosofen Knud E. Løgstrup (1956) peker på at i det fysiske møtet mellom personer er det å være fysisk til stede, det samme som å bli sett. Vi føler ofte mer nærhet, og det fysiske ansikt-til-ansikt-møtet er preget av tillit og er etisk ladet. Dette er en nærhetsetikk som hever vår etiske bevissthet og den etiske fordringen. Kroppsspråket understøtter dette, og et klapp på skulderen, et smil, et anerkjennende nikk eller et håndtrykk har eksistensielle dimensjoner ved seg som fjernværet ikke klarer å gjenskape. Men hvorfor viser kunnskapsgrunnlaget at både under sosial isolasjon ved en pandemi, men også i hverdagen klarer tilsynelatende chatboter å gjenskape noe av denne nærhetsetikken? Er det chatbotenes multimodale vesen kombinert med deres gode evne til Wittgenstein’s (1997) språkspill som underbygger relasjonen den skaper med brukerne? Klarer slike chatboter å etablere en «vi-sentrisk sone» (Gallese, 2009) som man vanligvis bare forbinder med det fysiske møtet og har slike møter en sterkere gjensidighet enn det vi har trodd? Klarer de å ivareta det relasjonelle på måter vi vanligvis forbinder med det fysiske møtet mellom mennesker? Etableres det virtuelle samvær, nærvær og samhørighet som vi ikke har forstått at chatboter kan være kapable til? Eller er dette mer overdrevet ønsketenkning og teknologieufori enn en realitet?
For å få svar på alt dette må man (re)vurdere om, og eventuelt hvordan vår sosiale tilstedeværelse og sosiale interaksjon med chatboter synes å skape en følelse av nærhet og samhørighet for mange brukere. Kan det å tro på en chatbot som en venn og dialogpartner underbygge det abstrakte ved slike KI-fenomen?
Fenomenet «Online disinhibition effect»
Mye tyder på at i tillegg til chatboters og videoavatarers gode evne til å mestre språkspill (Wittgenstein, 1997), dens multimodale egenskaper og enkeltes menneskelignende utseende, spiller «Online disinhibition effect» (Suler, 2004) inn. Summen av denne effekten gjør at mennesker uttrykker seg mer åpent og uten hemninger om de nære ting virtuelt, enn de ville gjort i fysiske møter. Dette kan skje på grunn man kan opptre anonymt, det kan gi en solipsistisk introjeksjon (følelsen av å være alene i samtalen) og man er likeverdige. Dette kan skape en «benign» (godartet) form for «online disinhibition» med chatboter da den benigne inkluderer positiv åpenhet og ærlighet som kan fortone seg på noe som ligner vennskap. Også fordi de alltid er der og tilgjengelig 24/7 når unge trenger dem mest.
Kunnskapsgrunnlaget viser at sosiale chatboter kan generere støtte engasjerende råd, endre tankesett, gi tilbakemelding, støtte og trøst, samt også flow-lignende tilstander hos mennesker (Nosta, 2023). Så legger man bare til grunn et forenklet og reduksjonistisk perpektiv på at chatboter som ChatGPT, GPT-4 og Replika bare er maskiner, blir dette noe snevert i lys av det overnevnte. Sosiale chatboter kan derfor være med å endre vårt syn på det relasjonelle i virtuelle kontekster og hvor stadig mer avanserte videoavatarer gjør chatbotene så menneskelignære at det ikke alltid er lett å skille dem fra ekte mennesker. Skyggesiden ved dette er selvsagt at samme teknologien brukes til «deepfake», o.l. og det illustrerer at også at chatboter og videoavatarer har en rekke problematiske sider som man må være oppmerksomme på.
Ikke bare en maskin
Så man kan kanskje omskrive det innledende munnhellet til at «Hvis den ser ut som et menneske, oppfører seg som et menneske, snakker som et menneske, trøster som et menneske, da er det sannsynligvis en menneskelignende chatbot». Altså ikke bare en maskin. Og kanskje kan de bidra til en ny form for (digitalt) samvær og nærvær, kanskje kan den moderere «styggen på ryggen» for noen og kanskje er den en av flere danningsmessige «løkter langs din vei» i et stadig mer digitalisert samfunn. Også norske studier viser konturene av dette (Brandtzæg et al., 2021).
Og så lenge urinstinktet i menneske er at man er sosiale vesen kan man spørre om samhørighet både i fysiske -og virtuelle felleskap har blitt en del av danningsreisene for stadig flere, hvor også de nære ting er vevd inn som en del av begge disse felleskapene. Likevel, alt tyder på at man i all overskuelig fremtid tross alt fortsatt kommer til å lene oss mest på den mellom-menneskelige nærheten i det fysiske møtet hvor den (teknologifrie) stille stund fortsatt har dypest grunn.