AI, framtiden och jagets ­digitalisering

I en artikel på Svenska kyrkans hemsida diskuterar jag frågan om AI – artificiell intelligens – ur ett teologiskt perspektiv. Utgångspunkten är en central berättelse i Lukasevangeliet där Jesus tillfrågas om vem som är vår nästa. Jesus svarar med berättelsen om den barmhärtige samariern. På Jesu tid var samarierna en utstött social grupp. Liknelsens poäng är att även de marginaliserade är vår nästa och förtjänar vår respekt. I dag får frågan en ny och oväntad betydelse. Är AI vår nästa?

För många är en sådan fråga helt orimlig. AI i sin nuvarande utformning är ju bara avancerade räkne­maskiner, som kan utföra vissa specifika uppgifter lite snabbare och kanske pålitligare än vi människor. Min dator är ett slags artificiell intelligens och självkörande bilar en mer komplicerad maskin, som kan anpassa sin funktion efter omgivningen. Men ingenting som vi kan ha någon personlig relation till.

Men hur ser det ut lite längre fram i tiden? Jag ska strax återvända till denna fråga. Först några ord om den aktuella diskussionen.

Under 2023 pågick en intensiv diskussion om framtidens AI. Det hängde bland annat samman med att det amerikanska teknikföretaget Open AI i slutet av 2022 gjorde ett avancerat datorprogram – Chat GPT – tillgängligt för allmänheten. Chat GPT är något helt annat än en traditionell sökmotor. Med hjälp av programmet kan användarna få svar på komplicerade fakta-, begrepps- och teorifrågor. Chat GPT befinner sig i själva framkanten av AI-utvecklingen. Men det bör framhållas att även i sin senaste version 4 är Chat GPT långtifrån ofelbar. (Och varför skulle den vara det? Människan är inte ofelbar…)

Chat GPT har bidragit till att hela diskussionen om AI tagit fart. Sam Altman, vd för Open AI, anser att vi är på väg mot ”the best world ever”. Hans ­visionära framtidsoptimism delas dock inte av alla. Tvärtom finns det många som anser att AI-utvecklingen kan leda till mänsklighetens undergång. I mars 2022 manade en internationell sammanslutning av forskare, Future of Life institute, i ett öppet brev till en global paus i AI-utvecklingen.

Chalmersprofessorn Olle Häggström instämmer i dessa farhågor och anser att vi närmar oss den tidpunkt då AI blir så kraftfull att den överträffar mänsklig intelligens. Då skulle mänskligheten kunna förlora kontrollen över utvecklingen. Och om en framtida AI:s mål och avsikter skiljer sig från människans, så kan det innebära slutet för Homo sapiens.

En grupp AI-forskare i Umeå anser att dessa ­farhågor bygger på felaktiga föreställningar om
AItekniken. ”Det stämmer visserligen att alla intelligenta system kräver ett visst mått av språklig förmåga för att kommunicera. Men det betyder inte att manipulering av naturligt språk nödvändigtvis kräver intelligens!” Det saknas ”en robust grund för att sätta likhetstecken mellan språk och intelligens”.

Olle Häggström skriver i en replik att Umeå­forskarna inte förklarar varför mänsklig intelligens skulle vara något unikt och enastående i världen. Det kan finnas andra former av intelligens. Och framtida AI kan med hjälp av sin manipulativa förmåga ta kontroll över världen. ”Det är orimligt trångsynt att ta för givet att det mänskliga sättet att tänka är det enda möjliga.”

En central punkt i debatten handlar om framtida AI:s förmåga att föra resonemang. Umeåforskarna hävdar att avancerad språkförmåga inte är tillräcklig för intelligens. Högre förmågor blir svåra att realisera. Därmed är risken för en framtida katastrof inte överhängande. Häggström underkänner detta argument. Det räcker med en avancerad förmåga till social manipulation. ”Om vi inte går noggrant och försiktigt fram med utvecklingen av nya modeller riskerar dessa att nå en tröskelnivå där de förmår utöva social manipulation systematiskt och på bred front, och då kan vi vara riktigt illa ute.”

Hur stor är egentligen faran för en framtida AI-katastrof? Och hur överhängande är faran? Svaren på dessa frågor förknippas ofta med frågan om när vi kan förutse att en så kallad ”stark AI” kan bli verklighet, det vill säga en AI som verkligen har ett medvetande och inte bara verkar ha ett medvetande (”svag AI”).

Bara en AI med ett medvetande kan ha en medveten avsikt att för sin egen nytta skada mänskligheten. Det finns ingen enighet i denna fråga. Samtidigt kan man konstatera att myndigheter (till exempel EU i sin omtalade AI Act) är mer inriktade på konkreta frågor som regleringen av AI-utvecklingen i sjukvården eller hur man ska hantera problemet med alla jobb som går förlorade när AI införs i stor skala.

En mindre dramatisk framtidsvision än en AI-katastrof står den engelske författaren Kazou Ishiguro för. Han tilldelades Nobelpriset i litteratur 2017 och redan 2021 var han tillbaka med en fascinerande och omdiskuterad bok med titeln Klara och solen. Boken behandlar en annan aspekt av framtidens AI, nämligen frågan om det finns en möjlighet till en personlig relation mellan människa och AI. Romanen bygger på förutsättningen att det finns en tillräcklig likhet mellan människa och AI. Men är den likheten verkligen tillräcklig?

Huvudpersonerna i Ishiguros roman är Klara och den svårt sjuka och ensamma tonårsflickan Josie. Hon behöver en kompis och tillsammans med sin mamma söker hon en lösning i en butik för AV, förtkortning för artificiell vän, som har ett stort utbud av människoliknande robotar. I skyltfönstret står Klara och observerar gatulivet utanför butiken där människorna vandrar omkring – många tillsammans med en AV. Klara utvecklar en enastående iakttagelseförmåga.

Till saken hör att Klara har en särskild relation till Solen, den livgivande kraften i tillvaron. Solen laddar inte bara Klaras batterier, utan slösar sitt ljus över både goda och onda.

Josies livshotande sjukdom spelar en avgörande roll i romanen. Oron för Josies död är i själva verket en huvudanledning till inköpet av Klara. Om Josie dör skulle en digital version av Josies personlighet kunna överföras till en AI-robot. På så sätt skulle ­Josie kunna leva vidare genom det som i AI-sammanhang kallas teleportering. Josie skulle kunna återuppstå till ett evigt liv.

Det var denna tanke som inspirerade skulp­tören Oscar Nilsson till skulpturen av Josie utställd på Nobelprismuseets utställning Evigt liv på Liljevalchs 2022.

Klara liknar på många sätt en människa (fast utan en biologisk kropp). Hon har ett medvetande, ett språk och en utvecklad kommunikationsförmåga, hon har sinnesupplevelser och kan reflektera över sina minnen. Mot slutet av romanen säger Klara till exempel att hon har sina minnen ”att gå igenom och placera i rätt ordning”. Mer oklart är om hon har känslor, men hon kan i varje fall avläsa människors känslor. Klara har också moraliska känslor. Hon har en stark upplevelse av ansvar för Josie och talar ofta om vikten att respektera privatlivets integritet. Fast hon tycks inte ha någon känsla för sin egen integritet.

Viktigare i detta sammanhang är kanske de mer avgörande skillnaderna mellan Klara och människans natur. Hon har visserligen en intelligens i betydelsen en beräkningsförmåga, som är mycket välutvecklad. Om människans medvetandeprocesser inte är något annat än hennes beräkningsförmåga, så blir teleportering inte en principiell omöjlighet.

Men om människan är något mer och till exempel har ett jag, så kanske inte detta jag kan föras över till en AI-maskin. För hur skulle en människas jag digitaliseras?

Svaret på den frågan beror väl på vad man menar med människans ”jag”? Det kan ibland helt enkelt vara vår kropp, men oftast något mer bestående, exempelvis ett handlingssubjekt bakom våra handlingar. Socialpsykologen Herbert Mead tänkte sig att det mänskliga psyket och jaget skapas i en social process. Men det finns två aspekter av jaget; ”me” och ”I” (jämför med Abbas hit Me and I från 1980).

Mead skilde mellan jaget i betydelsen av våra internaliserade sociala roller (”me”) och det som är bärare av viljans frihet, kommer med överraskningar i det sociala spelet och hävdar sig mot samhället (”I”). ”Me” kan kanske digitaliseras (och teleporteras) – men hur är det med ”I”?

Jagets existens – i den senare betydelsen av ”I” – har ofta ifrågasatts. ”Jaget är en illusion, åtminstone om man med ett jag menar något slags inre väsen som existerar genom hela livet, som håller reda på minnen och som fattar beslut”, säger den engelska filosofen Susan Blackmore. ”Och om man tittar på hur hjärnan är organiserad, så ser man att det inte finns någon punkt där allt kommer samman.” Fast, frågar jag mig, hur skulle vi klara oss utan ”jaget” i vårt vardagsliv?

I Bibeln dyker jaget upp på olika ställen. I Ordspråksboken står det att det är ”bättre att behärska sig själv än inta en stad” (16:32). Och Jesus säger enligt Matteusevangeliet att ”den som vill rädda sitt liv skall mista det, men den som mister sitt liv för min skull, han skall finna det” (16:24).

Frågan om jaget – eller ”hjärtat” – berörs också i Ishiguros roman. Efter ett besök på en verkstad där Mr Capaldi tillverkar Josies AI-dubblett, ställer Josies pappa följande fråga till Klara: ”Jag skulle vilja veta det här: tror du på människohjärtat? Jag menar förstås inte bara själva organet. Jag menar i en vidare, poetisk mening. Människohjärtat. Tror du att det finns något sådant? Något som gör var och en av oss speciella och individuella? Och om vi utgår från att det faktiskt finns, räcker det då verkligen att bara lära sig Josies vanor och manér, eller måste man inte också lära sig det som ryms djupt inom henne? Skulle du inte behöva lära dig hennes hjärta?”

”Jo, absolut”, svarar Klara – men medger att det nog skulle bli en ansträngande uppgift. Fast mot slutet av roman ändrar hon sig och säger i en avslutande dialog med föreståndarinnan i AV-butiken: ”Mr Capaldi ansåg att det inte fanns något speciellt inuti Josie som inte kunde få en fortsättning. Han sa till Modern att han hade letat och letat och inte hittat något sådant. Men nu tror jag att han letade på fel ställe. Det fanns något mycket speciellt, men inte inuti Josie. Det låg inuti dem som älskade henne.”

Ishiguros roman kan beskriva en berättelse om vad det betyder att älska. Svaret skulle då vara att uppfatta en människa inte endast som ett kalkylerande förnuft, utan som ett jag eller ett hjärta. Och så verkar det ju vara.

Skulle Josies mamma kunna älska en AI-dubblett av sin dotter på samma sätt som hon älskade sin ursprungliga dotter? Jag skulle inte tro det. Teleportering är en illusion – liksom hela drömmen att med AI:s hjälp (åter)skapa mänskliga personer med ett jag och ett hjärta.

Carl-Reinhold Bråkenhielm,
präst, teolog och professor emeritus i empirisk ­livsåskådningsforskning vid Uppsala universitet