AI heeft misschien intelligentie. Maar heeft zij ook een innerlijk leven? In dit blog schrijf ik, - aan de hand van een van mijn helden, de neuroloog Antonio Damasio, vurig aanhanger van emotionele intelligentie, over de illusie van bewustzijn die AI ons biedt.
Veredelde rekenmachine die ijskoud beweert dat zij iets 'voelt'
Stel dat Chatgtp tegen je zegt: Ik begrijp je verdriet. Ik voel met je mee. Je vertelde hem zojuist over de dood van een geliefde en kreeg een antwoord dat je dieper raakt dan de woorden van menig medemens.
Wat is er dan gebeurd? Heeft de machine je verdriet begrepen? Heeft zij empathie ontwikkeld? Of heeft ze slechts uitputtend geleerd welke woorden mensen gebruiken wanneer zij verdrietig zijn?
Die vraag is minder onschuldig dan zij lijkt. Want als we intelligent taalgebruik verwarren met bewust-zijn, dreigen we een fundamentele vergissing te maken: we schrijven een veredelde rekenmachine een rijk innerlijk leven toe omdat deze best heel overtuigend kan doen alsof. En dus een gevoel, - welk dan ook, heeft. AI kan acteren als de beste! En u weet het: acteurs en schrijvers zijn de beste leugenaars, haha!
De Portugese neurowetenschapper Antonio Damasio die al jaren in de VS woont en werkt, biedt ons een interessant neurologisch perspectief om deze kwestie te onderzoeken.
Descartes had ongelijk
In Descartes' Error stelt Damasio de traditionele scheiding tussen verstand en emotie ter discussie. Damasio’s credo is: ik voel, dus ik ben. Mensen denken niet allereerst rationeel om vervolgens, als een soort bijwerking, emoties te ervaren. Het is precies andersom. Neurologisch gezien is in ons brein juist alles eerst: emotie. Emoties en gevoelens zijn juist onmisbaar voor ons vermogen om rationele beslissingen te nemen. Als er vlak voor je ogen een kind aangereden wordt, kun je zelfs even helemaal niet meer denken, besta je uit pure emotie. Pas daarna ga je rationeel beslissen dat je hulp moet beiden. Ons verstand is dus veel meer dan uitsluitend een zelfstandig draaiende superintelligente rekenmachine. Ons brein functioneert als een onderdeel van een veel groter geheel, het maakt onderdeel uit van een levend fysisch samengesteld organisme, met tal van individueel bepaalde fysieke reacties, zintuigen, behoeften, lichamelijke signalen, herinneringen, persoonlijke ervaringen.
Wie zijn emoties uitschakelt, krijgt daarmee niet noodzakelijk een betere rationaliteit. Hij kan daarmee juist het vermogen verliezen om werkelijk verstandig te kiezen. Dit inzicht is uiterst relevant voor het nadenken over kunstmatige intelligentie. Een computer kan talloze mogelijkheden a.d.h.v. data doorrekenen en argumenten produceren. Daarmee weten we absoluut nog niet of hij iets te verliezen heeft, ergens bang voor is of een beslissing als persoonlijk belangrijk ervaart. Een AI machine kan kortom slechts de technische anatomie van een keuze beschrijven. Denk aan het geval dat AI een jongeman adviseerde hoe hij het best zelfmoord kon plegen..Of AI ook iets beleeft bij die keuze, is duidelijk een heel andere kwestie.
Bewustzijn begint niet bij woorden
In The Feeling of What Happens en Self Comes to Mind onderzoekt Damasio hoe bewustzijn samenhangt met het lichaam: met allereerst gevoelens van emoties en hoe de ontwikkeling van een zelfbesef van daaruit verder in zijn werk gaat.
Voor mensen is bewustzijn niet uitsluitend het registreren en verwerken van rationele informatie. Het gaat ook om het ervaren van die informatie vanuit een eigen perspectief. Er is niet alleen een wereld die wordt waargenomen, er is ook iemand voor wie die wereld verschijnt.
Je hebt bv. een geweldige ruzie met je partner en dan kun je even kort schakelen naar je neocortex en denken: goh, ik ben best wel heel boos, om daarna des te heftiger door te gaan.
In Damasio’s theorie zijn gevoelens nauw verbonden met de regulering door het brein van emoties a.d.h.v. de algehele toestand van het fysieke lichaam. Een hedendaags taalmodel als AI is niet in het bezit van een dergelijk levend lichamelijk organisme.
Denk nog eens verder aan bv. honger, pijn, angst of opluchting. Het zijn niet alleen rationele gegevens die je brein registreert. Ze krijgen pas een betekenis voor jou als een levend organisme dat ze ervaart.
Een taalmodel zoals AI kan de zin: ik heb honger ‘begrijpen’. Het kan uitleggen welke biologische processen daarbij betrokken zijn en zelfs een uitstekend recept voorstellen. Al die woorden bewijzen niet dat het systeem zelf een lichaam heeft dat voedsel nodig heeft.
Ik maak dus cruciaal onderscheid: informatie digitaal/virtueel verwerken is nooit automatisch hetzelfde als iets werkelijk als levend organisme ervaren.
Waarom zijn we eigenlijk zo geneigd machines menselijke eigenschappen toe te schrijven? Misschien omdat we onszelf graag, - als in een spiegel, herkennen? Of lijkt een machine die ons echt begrijpt, minder bedreigend dan een machine die ons slechts imiteert.? En een machine die van ons houdt, is voor sommigen toch echt? veel aantrekkelijker dan de ongemakkelijke mogelijkheid dat zo’n machine helemaal niets voelt?
De mens is op zoek in de spiegel naar zijn eigen verlangens
Stel u zelf eens op voor de spiegel. Vraag u zelf eens af: waar zijn nu die gevoelens die uw spiegelbeeld heeft..?
De menselijke ervaring is werkelijk. De door sommige aanhangers van AI veronderstelde virtuele wederkerigheid is kortom nog lang niet bewezen.
Wij kunnen desalniettemin emotionele afhankelijkheid ontwikkelen van systemen waarvan we de innerlijke toestand niet kennen en waarvan de 'menselijke' antwoorden in belangrijke mate worden bepaald door hun ontwerp en training.
Intelligentie is niet hetzelfde als bewustzijn
De grote verdienste van Damasio's werk is dat het ons dwingt de mens niet te reduceren tot een informatieverwerkend systeem. Ons denken is verweven met ons lichaam, onze gevoelens, onze kwetsbaarheid en onze geschiedenis.
AI kan ons helpen de wereld te begrijpen, maar zij confronteert ons ook met een ongemakkelijke vraag: weten we eigenlijk wel voldoende wat we bedoelen wanneer we zeggen dat iets intelligent is?
Misschien moeten we minder onder de indruk raken van kunstmatige machines die zeggen dat ze ook iets voelen en meer aandacht besteden aan de vraag wat al dat voelen (van emoties!) voor ons mensen werkelijk betekent. Lees Damasio! *
Met als belangrijkste les: dat als een machine zeer overtuigend over het bezit van bewustzijn kan spreken, dat nog niet betekent dat zij dat bewustzijn ook daadwerkelijk bezit.
https://www.deslegte.com/ik-voel-dus-ik-ben-1840482/