Michael Graziano

Michael Graziano (00:01) Is ons bewustzijn hetzelfde als dat van deze kunstmatige systemen die we aan het bouwen zijn? Op dit moment denk ik van niet. Maar de reden daarvoor is dat deze kunstmatige systemen geen zelfmodellen hebben zoals wij die hebben. En dat is slechts een kwestie van tijd, en niet eens zo veel tijd – er zal een moment komen waarop deze machines op dezelfde manier zelfmodellen opbouwen. Met andere woorden: ze zullen er met absolute zekerheid van overtuigd zijn dat ze subjectieve ervaringen hebben, net zoals wij dat geloven, en daarbij gebruikmaken van dezelfde basismechanismen voor informatieverwerking. Dat gaat gebeuren.

Christopher Kabakis (00:51) Je luistert naar Inner Pioneers, een podcast voor nieuwsgierige geesten die willen begrijpen hoe ze kunnen omgaan met verandering, crises of gewoon de behoefte aan iets nieuws. Ga met ons mee op ontdekkingsreis door echte verhalen over transformatie en leer van vooraanstaande experts op het gebied van psychologie, wetenschap en menselijke ontwikkeling hoe je innerlijke verschuivingen en periodes van verandering kunt doormaken. Ik ben Christopher Kabakis, en laten we nu aan de slag gaan als pioniers.

Christopher Kabakis (01:20) Hallo allemaal. Het is mij een groot genoegen om professor Michael Graziano vandaag bij ons in de podcast te mogen verwelkomen. Michael, je bent hoogleraar neurowetenschappen en psychologie aan Princeton. Je hebt veel wetenschappelijke artikelen gepubliceerd, maar ook een aantal populaire boeken, die ik als leek heb gelezen — je nieuwste boek, *Rethinking Consciousness*, en een eerder werk, *Consciousness and the Social Brain*. Maar wat ik erg interessant vind, is dat je ook fictie hebt gepubliceerd: "The Divine Farce", een toneelstuk dat inspeelt op Dantes "Divine Comedy" – aangezien je van Italiaanse afkomst bent – en "Death My Own Way". Die heb ik nog niet gelezen, maar ik ben erg benieuwd naar dit verband tussen uw wetenschappelijk werk en uw literair werk. Naast schrijven componeert u ook muziek en speelt u soms, zij het niet in het openbaar, en bent u hobby-buikspreker. Dat is een zeer interessant takenpakket voor een professor. Ben ik nog iets vergeten?

Michael Graziano (02:27) Je hebt de basisprincipes daar goed behandeld, en hartelijk dank dat ik te gast mocht zijn in je podcast.

Christopher Kabakis (02:34) Ja — je hebt, zou ik zeggen, een van de belangrijkste wetenschappelijke theorieën over bewustzijn ontwikkeld, dus ik ben erg benieuwd om daar vandaag met je over te praten. In deze podcast wordt onderzocht hoe persoonlijke ontwikkeling in zijn werk gaat, hoe overgangsfasen in het leven verlopen, hoe persoonlijke groei tot stand komt — en dat is natuurlijk ook een vraag over hoe de geest en het bewustzijn werken. Dus vandaag hebben we de absolute expert bij ons om deze vraag te beantwoorden: wat is bewustzijn, of hoe werkt het? Misschien is het functionele antwoord makkelijker dan het essentialistische, dus laten we daar beginnen. Na je bewustzijn zo’n dertig jaar professioneel te hebben bestudeerd, en als beoefenaar van bewustzijn al zo’n vijftig jaar, wat zou je zeggen als ik je vandaag zou vragen wat bewustzijn is?

Michael Graziano (03:25) Dat is een heel goede vraag — de vraag die iedereen wil stellen. Er is een essentialistische en een functionalistische benadering, en vragen wat bewustzijn is, lijkt een beetje op naar een auto wijzen en zeggen: wat is ‘rondrij-heid’? Het is iets wat de auto doet. Je kunt de onderdelen begrijpen en hoe ze samenwerken om die handeling mogelijk te maken, maar het is moeilijk om naar iets te wijzen en te zeggen: ‘dat is het rondrijden’, ‘dat is dat bewustzijnsding’. Ik denk dat dit de vooruitgang in het bewustzijnsonderzoek een beetje belemmert. Als ik het zou moeten samenvatten – en dit is een samenvatting die niemand ooit leuk vindt, omdat het zo tegen de intuïtie ingaat en veel uitleg vereist voordat het echt doordringt – zou ik zeggen dat mensen zeggen dat ze een bewuste ervaring hebben omdat hun semantische, cognitieve netwerken die informatie in zich hebben. Ze zeggen het omdat ze het semantisch geloven, en ze geloven het omdat er diepere delen van de hersenen zijn, verborgen onder onze cognitie, die die bundels informatie, die zelfmodellen, opbouwen en ze doorgeven aan onze cognitieve netwerken. In zekere zin is dat de verklaring waarom we zeggen, denken en volhouden dat we een bewuste ervaring hebben: zeer diepe structuren in de hersenen bouwen deze zelfmodellen op en vertellen in feite aan onze cognitie, ons semantisch begrip: dit is waar, dit is wat er gebeurt. En wij, als een geheel – een persoon, een complex systeem van informatieverwerking, lichaam en hersenen – weten niets anders. Dat is alles wat we weten, alles waartoe we ooit toegang hebben. Alles wat we zeggen, geloven en denken over onszelf en de rest van de wereld komt voort uit dat proces. Dat is dus de kern ervan: bewustzijn is een soort zelfmodel dat diep in de hersenen wordt geconstrueerd, buiten onze cognitieve netwerken om, maar vervolgens naar onze hogere cognitie wordt gepompt. Dat is het basisantwoord.

Christopher Kabakis (06:09) Oké, je zegt dus dat het een informatie-output is van de toestand van een informatieverwerkingssysteem, maar het duikt zomaar op — dat klinkt een beetje als de ‘global workspace’-theorie, dus het komt uit het onbewuste, is dat het juiste woord, en wordt het vervolgens op de een of andere manier bewust gemaakt. Zou je dan niet ook moeten uitleggen hoe de overgang verloopt van het moment waarop we niets waarnemen naar het moment waarop we wel iets waarnemen?

Michael Graziano (06:39) Nou, in jouw betoog worden verschillende niveaus door elkaar gehaald, want je kunt bewustzijn niet verklaren door een beroep te doen op bewustzijn zelf — je kunt niet zeggen dat ik bewust ben omdat het onbewuste deel heeft besloten dat ik dat ben en dat vervolgens aan het bewuste deel heeft doorgegeven; dat slaat letterlijk nergens op, dat is gewoon het door elkaar halen van niveaus. Vanuit mijn perspectief als neurowetenschapper zijn we uiteindelijk grote biologische machines die bestaan uit neuronen die via synapsen met elkaar zijn verbonden en die informatie verwerken, en als we zeggen dat we bewustzijn hebben, dan is dat een aanwijzing — het komt uit de mond, en alles wat uit de mond kan komen, is afhankelijk van informatie die is gecodeerd in neurale netwerken; anders kan het niet in de spraakcircuits terechtkomen. Het moet dus uiteindelijk de vorm aannemen van informatie die in neurale netwerken is vertegenwoordigd, en je kunt nagaan waar die informatie zich bevindt en wat haar vormgeeft. Uiteindelijk zal er inderdaad zoiets bestaan als een ‘globale werkruimte’ — een deel van het overkoepelende netwerk dat nauw verbonden is met onze spraakoutput, en dat we cognitie noemen. Als er informatie in terechtkomt, is dat de informatie waarover we kunnen praten, en een deel van de informatie die binnenkomt zegt: daar staat een auto, daar staat een boom, ik zit in een stoel, daar ben ik – maar er is ook informatie die zegt: en ik heb een subjectieve ervaring van die dingen. Zonder al die informatie kun je de gedachte niet denken, kun je het concept niet verwoorden. Op de een of andere manier moet het allemaal in die neurale netwerken worden weergegeven – dat is, vanuit het oogpunt van een neurowetenschapper, bijna een logisch noodzakelijke reeks voorwaarden.

Christopher Kabakis (08:39) Ik heb zoveel vragen, en ik heb al wat gehoord over de aandachtsschematheorie — de theorie waarvoor je waarschijnlijk het meest bekend bent, en die ik vandaag graag nader wil belichten. Maar eerst een kleine omweg naar de persoonlijke kant: hoe raakte u geïnteresseerd in deze vraag, in het stellen van die vragen over hoe het bewustzijn en de geest werken? Wat is uw persoonlijke verhaal, in die zin dat het verklaart hoe u in dit vakgebied terecht bent gekomen?

Michael Graziano (09:12) Dat hangt ervan af hoe lang je wilt dat ik hierover doorga. Allereerst is het een vraag die iedereen interesseert — we hebben dit allemaal, en iedereen met enig gevoel voor zelfreflectie vraagt zich af waar het vandaan komt, en we groeien allemaal op met intuïties, vooroordelen en hypothesen hierover. Ik raakte er al heel vroeg in geïnteresseerd als wetenschappelijk onderwerp, zoals veel mensen – ik las er veel boeken over en dacht: dit is zo gaaf, ik zou dit graag willen bestuderen. Ik denk dat iedereen die neurowetenschapper of psycholoog wordt, de neiging heeft om over deze onderwerpen na te denken. Maar het pas echt bestuderen vanuit het perspectief van een wetenschapper in het laboratorium gebeurde pas veel later — rond 2010, toen ik me erop begon te richten. Daarvoor had ik al veel verschillende onderwerpen binnen de neurowetenschap bestudeerd – echte technische details, zoals hoe de hersenen zintuiglijke prikkels verwerken en hoe ze bewegingen aansturen – en een van de belangrijkste inzichten in de neurowetenschap is dat de hersenen modellen van dingen opbouwen. Je kijkt naar de wereld, maar wat je ziet zijn in feite modellen: informatiemodellen die in je visuele systeem achter in de hersenen worden opgebouwd. Je beweegt en bestuurt je lichaam, maar dat hangt in belangrijke mate af van het feit dat je hersenen een voortdurend bijgewerkt model opbouwen van waar je ledematen zich bevinden en wat ze doen. Een van de duidelijkste voorbeelden van het bouwen van een model door de hersenen is het fenomeen van de fantoomledemaat — als je de pech hebt een arm te verliezen, heb je waarschijnlijk een tijdje, soms jarenlang, een fantoomarmen, omdat het model van de arm in de hersenen blijft bestaan. De hersenen bouwen dus modellen van dingen om ze te monitoren, te voorspellen en te helpen beheersen. En die gedachtegang leidde rechtstreeks tot deze hele onderzoekslijn: wat gebeurt er als de hersenen modellen gaan opbouwen, niet van de buitenwereld, niet van het lichaam, maar van hun eigen interne processen, zodat ze kunnen bijhouden en voorspellen wat ze aan het doen zijn? De sleutel tot deze zelfmodellen is dat de hersenen de details niet hoeven te kennen — ze hoeven niet te weten dat ze neuronen met synapsen, GABA-erge banen, enzovoort hebben. Het heeft alleen algemene functionele informatie nodig: ik beschik over een bepaald vermogen om dingen te begrijpen, ze vast te houden en me erop te concentreren, en als ik dat doe, kan ik er goed op reageren, maar als ik dat niet doe, lukt het me niet. Ik heb een geheugen waarmee ik dingen kan bijhouden, maar dat is op dit en dat punt onvolmaakt. Deze vage, amorfe eigenschappen waarvan de hersenen op de hoogte moeten zijn en waarvoor ze modellen bouwen, vormen de basis voor ons concept van geest, bewustzijn en wil.

Christopher Kabakis (12:42) Oké, laten we dan meteen naar de aandacht-schema-theorie gaan, want het zit er al in — dat grijpen met vormloze kracht. Want in de echte wereld is er een grijpen om de buitenwereld te beheersen, maar in jouw werk over subjectieve ervaring en bewustzijn gaat het juist veel over de wil, dit "ik kan energie verplaatsen" of hoe je het ook wilt noemen, en iets anders grijpen. Kun je ons misschien uitleggen hoe jij hierover denkt – over de aandacht-schema-theorie?.

Michael Graziano (13:13) Het is heel eenvoudig, en het hangt samen met de manier waarop het tot stand is gekomen — toen ik er voor het eerst over schreef, besefte ik niet dat het een nieuwe theorie was. Ik dacht dat het gewoon een logische manier was om wat iedereen al wist te systematiseren. Ik schreef er een boekje over, en een neurowetenschapper nam contact met me op en zei: "Waarom stel je op deze onwetenschappelijke manier een nieuwe theorie voor, in een boek voor het grote publiek? Zou je niet beter een echt artikel schrijven? Dus schreef ik een artikel – iets in de trant van "Bewustzijn en sociale perceptie: een nieuwe hypothese’ – en die zin aan het eind was eigenlijk ironisch bedoeld, omdat ik niet kon geloven dat het daadwerkelijk een nieuwe hypothese was. Maar de hypothese is heel eenvoudig. De hersenen kennen een proces dat we ‘aandacht’ noemen — het is een proces, niet echt een ding, hoewel mensen met dat woord allerlei verschillende dingen bedoelen. Ik bedoel iets specifieks: grofweg kunnen de hersenen hun verwerkingscapaciteit focussen, een klein aantal dingen tegelijk grondig verwerken, en al het andere negeren of slechts oppervlakkig verwerken. Dat is aandacht, vaak voorgesteld als een schijnwerper — je kunt je aandacht richten op een plek in de ruimte voor je, op het geluid van vogels achter je, op een gedachte, of op wat je geheugen je vertelt over het ontbijt, en terwijl je dat doet, wordt je aandacht onttrokken aan de wereld om je heen. Je aandacht is dus beperkt, en – misschien realiseren mensen zich dit niet altijd – aandacht is de reden dat we intelligent zijn, want zonder aandacht zou je hersenen ter grootte van een planeet nodig hebben om de wereld te verwerken. Met een klein brein van drie pond kun je, als je je middelen slim inzet, je diep concentreert op de belangrijkste zaken en de rest wegfiltert, buitengewoon intelligent zijn met betrekking tot die belangrijke zaken. Maar we moeten onze aandacht ook sturen — ze wordt niet alleen maar heen en weer geslingerd, hoewel dat deels wel zo is: een glimmend voorwerp en boem, je aandacht gaat er meteen naartoe — je moet haar ook zelf sturen: concentreer je op dit boek en negeer het feestje daar, of loop door een potentieel gevaarlijke situatie en zeg: ik kan maar beter geen aandacht schenken aan mijn innerlijke monoloog, ik kan me beter concentreren op de boom en ervoor zorgen dat ik niet word overvallen. Alles wat je doet, hangt af van het sturen van je aandacht — een boterham smeren betekent je aandacht verleggen naar de pindakaaspot, dan naar het brood, dan naar het mes. Dit is letterlijk de kern van wie we zijn als handelende wezens in de wereld. En hoe stuur je je aandacht? Elk systeem dat iets bestuurt, heeft een model nodig van hetgeen het bestuurt – dat principe kwam meer dan honderd jaar geleden naar voren en is fundamenteel voor robotica en voor vrijwel elke vorm van complexe techniek. Als het brein zijn aandacht wil verplaatsen, sturen en voorspellen welke externe krachten die aandacht zouden kunnen verstoren, heeft het een model van aandacht nodig — het moet kunnen zeggen: mijn aandacht doet dit en dat, maar ook: mijn aandacht is hetgeen dat dit en dat kan doen, hetgeen dat mij in staat stelt dit en dat te doen. Het brein bouwt dus een vereenvoudigd model, en in dat model zegt het brein tegen zichzelf: Ik heb een essentie in mij, een essentie die mij in staat stelt iets mentaal te vatten en het diepgaand te begrijpen, en wanneer ik dat doe, stelt het mij in staat er op een complexe manier op te reageren en het te onthouden, en het geeft mij een levendig gevoel van wat mijn geest heeft begrepen. Maar als ik het niet heb begrepen, kan ik er niet diep over nadenken, kan ik er niet goed op reageren en herinner ik het me later misschien niet meer. Het brein schetst dus een beeld van zijn eigen eigenschappen, en dat beeld is: ik heb een soort amorfe, niet-materiële essentie — die heeft geen fysieke basis, omdat het brein die fysieke basis niet hoeft te kennen, het is misschien net als een soort energie, en het zit in mij, en het stelt me in staat me bewust te zijn van sommige dingen en van andere niet, en dat is de basis van wat me in staat stelt te reageren of me ervan weerhoudt te reageren. Dat bewustzijn is het model dat de hersenen hebben van wat hun eigen aandachtsfocus doet. Dat is in een notendop de aandachtsschematheorie.

Christopher Kabakis (19:23) Precies. En toen ik dit tegenkwam, vond ik het geweldig, want je legt heel goed uit wat er vaak ontbreekt. Het is niet genoeg om alleen een model te hebben van wat ik verwerk – bijvoorbeeld een appel die voor me ligt – dat alleen is niet genoeg, en het is ook niet genoeg om een model van mezelf te hebben; we hebben iets daartussen nodig dat het model van mezelf met de appel verbindt. En dat is precies wat je zojuist hebt uitgelegd — een model van mezelf terwijl ik mijn aandacht richt op de appel. Dus dit aandachtschema — het "schema" omdat het vereenvoudigd is — omdat het vereenvoudigd is, zou je volgens mij kunnen zeggen, voelt het als een vormloze kracht: ik grijp de appel vast met mijn aandacht. En dan, zoals je zei, kan ik verslag doen – als mensen vragen: ‘Ben je je bewust van de appel?’, dan zou ik zeggen: ‘Ja, ik ben me bewust van de appel. Anders zou ik het niet kunnen zeggen – ik zou alleen een model hebben van een appel en van mezelf, maar ik zou niet kunnen zeggen dat ik me bewust ben van de appel. Is dat het?

Michael Graziano (20:27) Dat klopt helemaal. Als je alleen het visuele model van de appel had en iemand zou vragen: „Is er een appel?”, dan zou je kunnen zeggen: „Ja, er is een appel.” Maar als iemand zou vragen: „Ben je je daarvan bewust?”, dan zou je moeten zeggen: „Kan ik niet berekenen, wat bedoel je daarmee?”

Christopher Kabakis (20:53) En dit sprak me op een heel intuïtieve manier aan, want wanneer mensen mediteren, laten ze vaak de inhoud van hun ervaring los — objecten, inclusief hun gedachten — je wordt getraind om gedachten en informatie los te laten, en je verliest zelfs het besef van je eigen lichaam, misschien zelfs delen van je zelfbeeld. En wat overblijft in de diepe meditatieve toestand is ‘zuiver bewustzijn’, zoals dat wordt genoemd – en dat is in feite waar het aandachtsschema als theorie over gaat. Maar zoals ik het me voorstel, is dit zuivere bewustzijn een pure, vormloze kracht om dingen te vatten, en we ervaren het als potentieel – ik kan dingen doen, ik zou dingen kunnen verwerken. Zou je zeggen dat dit het punt is waar het aandachtsschema dit zuivere bewustzijn ontmoet in boeddhistische of zenmeditatie?

Michael Graziano (21:56) Ja — er zijn heel veel verschillende soorten meditatie, maar vooral meditatie waarbij de aandacht wordt gefocust, heb ik altijd beschouwd als iets dat nauw verband houdt met het concept van aandachtschema’s. Hier komt de interessante wending: wat aandacht in feite doet, is de modellen van de hersenen versterken. Als ik mijn aandacht richt op de appel, bouwt mijn visuele cortex een model op, en aandacht is het proces waardoor dat model wordt versterkt, zodat het een grotere impact kan hebben. Aandacht werkt dus in op modellen en versterkt ze, en het aandachtsschema is een model van aandacht — het is de bundel informatie die de hersenen construeren en die aandacht vertegenwoordigt. Wat gebeurt er nu als je aandacht schenkt aan het model van aandacht zelf? Aangezien aandacht modellen versterkt, waarom zou je dan geen aandacht kunnen schenken aan het aandachtschema, het model van aandacht? Dat is volgens mij waar veel meditatie om draait — in wezen het proces van aandacht nemen en het richten op het model dat aandacht weergeeft. Je richt je aandacht op je aandacht en vraagt je af: wat weten mijn hersenen over dat deel in mij dat zich op dingen kan concentreren?.

Christopher Kabakis (23:58) Precies. Daarom denk ik soms dat Dan Siegel iets soortgelijks zegt — hij zegt dat hij zich "bewust wordt van het bewustzijn zelf". Die tradities gebruiken het woord ‘bewustzijn’, en jij gebruikt veel vaker het woord ‘aandacht’, wat ik ook mooi vind, met dat idee van een model van de aandacht. Er is één ding dat ik je wilde vragen: bewustzijn is dit informatiemodel van aandacht, en aandacht is een truc voor gegevensverwerking — je zei zojuist ook dat aandacht signaalversterking is, waarbij bepaalde signalen worden versterkt en andere worden onderdrukt. Dit is een abstractie, een theorie die probeert te begrijpen hoe deze dingen werken. Maar een model op zich brengt niets in beweging, toch? Het is een abstractie. Hoe koppel je het terug aan iets echts, aangezien je dingen altijd in de hersenen verankert? En in de hersenen is er ook, ik neem aan dat je het daarmee eens bent, energie — hoe wordt de motor aangedreven, hoe wordt de informatie geconcretiseerd en van kracht voorzien door iets, namelijk ons lichaam en onze hersenen? Want soms vraag ik me af of het anker voor deze abstracte modellering op een manier in onze biologie geworteld is die niet lijkt op de machines die we hebben gebouwd – misschien spelen er andere processen mee – die ons zouden kunnen onderscheiden van kunstmatig gebouwde machines, zoals het gevoel van iets, of andere zaken. Ben je het daarmee eens, of zou je zeggen dat de hersenen, het bewustzijn dat we hebben, misschien een ander soort computer zijn dan de machines die we hebben gebouwd, en dat we daarom moeite hebben om eigenschappen als gewaarwordingen, emoties en creativiteit te verklaren? Of ga ik te ver?

Michael Graziano (25:39) Je verwijst naar een heleboel ontwikkelingen die zich in het veld afspelen. Het is erg populair geworden als reactie op de opkomst van AI, vooral de afgelopen paar jaar — LLM’s die plotseling op een manier praten waarvan, eerlijk gezegd, vijf jaar geleden niemand had gedacht dat het nog een paar honderd jaar zou duren voordat dat mogelijk zou zijn, en nu zijn ze er ineens. Ik denk dat dit filosofisch gezien zeer bedreigend is — misschien niet zozeer voor de gemiddelde persoon, maar voor filosofen en neurowetenschappers die hierover hebben nagedacht, is het zeer bedreigend, en er is een tegenreactie. We zagen een soortgelijke tegenreactie in de tweede helft van de twintigste eeuw, toen computers in opkomst waren — het leidde tot filosofische concepten zoals het "harde probleem": er zijn dingen die we nooit zullen kunnen begrijpen, en dat draagt ertoe bij dat wij bijzonder zijn en ons onderscheiden van de machines. Ik denk dat je nu dezelfde tegenreactie ziet – een enorme, instinctieve drang om ervoor te zorgen dat we anders zijn dan die machines. Een van de meest gangbare ideeën is dat de biologie al die dingen in de cel en de chemie heeft die naar boven borrelen en de hogere lagen beïnvloeden. Persoonlijk – en ik weet dat dit wat lichtzinnig klinkt – denk ik dat dit idee in het publieke bewustzijn is terechtgekomen via de midi-chlorians in Star Wars: die kleine, diep in de cellen verborgen biologische deeltjes die naar boven borrelen, bijdragen aan de Force en je hersenen en geest magisch maken. Daar komt het idee vandaan, en het heeft ongeveer evenveel wetenschappelijke waarde. Ja, neuronen hebben biologie en energie, maar uiteindelijk communiceren neuronen met elkaar — vooral over afstanden langer dan ongeveer een millimeter — via axonen, synapsen en actiepotentialen: een vonk die aan de andere kant een pulserend effect veroorzaakt. Als je het hebt over een gevoel dat voortkomt uit de biologie, hoe steekt dat gevoel dan de synaps over, reist het via een vonk van elektromagnetisch signaal, springt het naar de volgende neuron en beïnvloedt het specifiek de activiteit van neuronen in een netwerk in precies het juiste patroon, zodat het totale activiteitspatroon perfect weergeeft: ‘Ik heb een subjectieve ervaring’? Niemand gaat daar ooit op in — men gaat er gewoon naïef van uit dat als het gevoel ontstaat, ik het heb, en dat ik er daarom over praat. Maar dat is geen verklaring. Alles wat we over onszelf zeggen – er is een gevoel, het voelt als iets, er is een ervaring, het deel van het bewustzijn dat speciaal voor mij is – moet logischerwijs noodzakelijkerwijs voortkomen uit informatie die in deze patronen van neurale activiteit wordt weergegeven, een informatie-inbedding. Dat moet wel zo zijn. Dus om terug te komen op je eerdere vraag: is ons bewustzijn hetzelfde als deze kunstmatige dingen die we bouwen? Op dit moment waarschijnlijk niet, omdat deze kunstmatige dingen geen zelfmodellen hebben op dezelfde manier als wij. Maar dat is slechts een kwestie van tijd, en niet eens zo veel tijd — er zal een moment komen waarop deze machines op dezelfde manier zelfmodellen bouwen, waarbij ze met absolute zekerheid geloven dat ze subjectieve ervaringen hebben, gebruikmakend van dezelfde basiswijzen van informatieverwerking. Dat komt eraan — het is er nog niet.

Christopher Kabakis (30:18) Oké, daar heb ik wat vragen over. Als bewustzijn een informatiemodel van aandacht is, dan denken we bij een model aan abstracte informatie die we op een schoolbord of in een boek zouden opschrijven — grafieken, figuren, getallen — en dat lijkt van een heel andere aard te zijn dan wat we bij qualia tegenkomen: de smaak van chocolade, de geur van een roos, de liefde die je voor je kind voelt. Het lijkt me een beetje te kort door de bocht om te zeggen dat het slechts een model van aandacht is, omdat het zo rijk aanbeleving is. Hoe wordt dit concreet gemaakt? Want de LLM’s die je noemde, weten waarschijnlijk niets van qualia — ze verwerken abstracte informatie, ze bouwen modellen, maar het lijkt meer op een schaakprogramma dat is geprogrammeerd om te schaken. Hoe reageer je hierop, aangezien je zegt dat subjectieve ervaring ertoe doet — hoe verklaart jouw theorie qualia?

Michael Graziano (31:17) Heel kort gezegd: de modellen die we op dit moment hebben — althans tot voor kort — zijn allemaal op tekst gebaseerd; dat is alles wat deze machines krijgen, hoewel we nu ook de overstap maken naar visuele en auditieve modellen. Maar tekst is een zeer abstracte modaliteit, en taal eveneens. Denk eens aan het menselijk brein: als ik het over informatie en modellen heb, wordt er automatisch aangenomen dat het om een cognitief model moet gaan — ik heb iets geleerd, ik denk dat ik het begrijp. Maar het brein bouwt ook andere soorten modellen. Wanneer je naar iets kijkt, of iets ruikt of hoort, vertalen delen van het brein de wereld naar een model, een bundel aan informatie, en die is zeer rijk — geen cognitief, abstract, semantisch model, maar een zeer rijk model op zintuiglijk en perceptueel niveau. Neem het gezichtsvermogen, een beter begrepen zintuig: je kijkt naar je koffiekopje en bouwt er een model van in je visuele systeem, en hier is hoe dat model verschilt van abstracte modellen. Ten eerste kun je er niets aan doen — het gaat automatisch, je hebt er geen top-down controle over; als je ogen open zijn en het licht is, kun je, tenzij je een heel bijzonder persoon bent, niet anders dan een model van dat kopje opbouwen. Ten tweede is het een zeer rijk model, vol nuances, hier wat glans, daar wat schaduw. Ten derde gaat het gepaard met meta-informatie die je hersenen vertelt "dit is echt" — er is een gebied binnen de psychologie dat ‘source monitoring’ wordt genoemd, en een van de dingen die de hersenen doen is de bron van informatie controleren: dit kwam uit de buitenwereld, of dat is een hypothese, of dit kwam uit mijn geheugen. Dat raakt soms door elkaar gehaald — mensen denken dat iets uit de buitenwereld kwam terwijl dat niet zo was, of omgekeerd — maar over het algemeen zijn we er best goed in. Deze rijke, automatische zintuiglijke modellen gaan dus gepaard met deze meta-informatie, en wanneer ze in de cognitie opborrelen, wordt de cognitie hierdoor gevoed: dit is echt, dit is de werkelijkheid, niet iets dat ik semantisch heb verzonnen. Wanneer je dit visuele model van je koffiekopje hebt dat naar boven komt en zegt dat dit echt is, en een ander model, even automatisch en rijk, dat naar boven komt en zegt dat er op dit moment iets bestaat dat ‘subjectieve ervaring’ heet en dat aan die koffiekopje is gekoppeld — dan beschik je over de informatie die aan je hogere cognitie wordt aangereikt, zodat als iemand vraagt: ‘ben je bewust, heb je een subjectief gevoel van hoe het is om naar die koffiekop te kijken?’, dan beschik je over de nodige informatie om te antwoorden: ‘Ja, dat heb ik, daar ben ik zeker van.’.

Christopher Kabakis (35:41) Het is dus alsof je aandachtschema, je subjectieve bewustzijn, samen aanwezig is met al het andere dat zich in het aandachtsveld bevindt — zo zou ik het noemen — en dan is het aanwezig, het is er voor mij, wanneer het object er is en mijn bewustzijn, mijn aandacht, er ook is, en dan is de uitkomst: het is er, en ik herinner het me. Je zei in je boek dat locatie een geweldige verbinder is, dus het komt allemaal samen — mijn hersenen verwerken het samen, de vorm, de kleur — maar de ultieme verbinder is dit subjectieve bewustzijn, dit amorfe aandachtsschema dat alles wat naar boven is gekomen samenbrengt. Sommige mensen, zoals Dan Siegel, hebben gezegd dat de geest de ultieme verbindende factor is – zou jij zeggen dat het aandachtsschema, of de subjectieve ervaring, of het bewustzijn, de ultieme verbindende factor is?

Michael Graziano (36:41) Ja, dat klopt. Dat is een belangrijk punt — ‘mind’ is in zekere zin een andere manier om over aandacht te spreken. Als je erover nadenkt, word je aan iets herinnerd — dat is letterlijk ‘re-minding’, iets dat weer in je gedachten wordt gebracht. Uit het oog, uit het hart. Waar denkt hij op dit moment aan? Dit zijn informele manieren om te spreken over wat binnen het bereik van de aandacht valt — wat door het aandachtsproces is versterkt, zodat het invloed uitoefent op hogere netwerken zoals cognitie. Dat is wat een ‘geest’ is, en aandacht, en de globale werkruimte — het zijn allemaal min of meer synoniemen; aandacht kan op vele niveaus werken, en we hebben het hier over de hoogste niveaus ervan. Maar als er iets in je geest, je aandacht of je globale werkruimte terechtkomt – zoals de auto waar je naar kijkt – en iemand vraagt: ‘Heb je een subjectieve ervaring van de auto?’, dan kun je daar geen antwoord op geven, tenzij je ook een model hebt, informatie over wat een subjectieve ervaring is en in welke toestand je je op dat moment bevindt. Je hebt dat extra stukje nodig.

Christopher Kabakis (38:08) Ja — laat me even terugkomen op deze kwestie van informatie, want je zegt dat de modellen waar ik het over heb niet alleen abstract zijn, maar dat ze ook alle andere informatie omvatten die tot mij doordringt — smaak, aanraking, visuele informatie — en dat het aandachtsmodel en al die gewaarwordingen en waarnemingen samen worden verwerkt, waarna ik kan zeggen dat ik me ervan bewust ben. En je zegt dat er geen reden is waarom machines niet in staat zouden zijn om zo’n zelfmodel te hebben, dat ze tast-, visuele en reukinformatie, en emoties zoals liefde, samen met aandacht op dezelfde manier zouden kunnen verwerken. Klopt dat, en waarom denk je dat? Want John Vervaeke, een professor aan de Universiteit van Toronto, heeft gezegd dat de LLM’s en andere kunstmatige machines die we bouwen nooit zoals wij zullen zijn, omdat het hen niets kan schelen wat de informatie inhoudt, en het ons wel iets kan schelen omdat we die biologische organismen hebben — ik weet het niet, dat is een van de redenen. Hoe zou je daarop reageren?

Michael Graziano (39:23) Ten eerste hebben we het over emotie, en niemand begrijpt nog echt hoe emotie in de hersenen tot stand komt — dus weten we niet hoe we dat moeten bouwen. Het is veel eenvoudiger om het gezichtsvermogen te bouwen, waarover al heel veel bekend is, en veel eenvoudiger om hogere cognitieve functies te bouwen, waarover nog veel meer bekend is. Dat is dus het eerste punt: ik denk niet dat LLM’s iets hebben dat op emotie lijkt; ik denk dat ze zich nog niet in dat stadium bevinden. Wat is emotie? Ik denk dat wat je zegt volkomen juist is — emotie is geworteld in het lichaam. Er bestaan al heel oude theorieën, die teruggaan tot William James, waarin wordt gesteld dat emoties deels de interpretatie door onze hersenen zijn van sensaties die in het lichaam worden waargenomen — het autonome zenuwstelsel, de sympathische ‘vecht-of-vlucht’-reactie en de parasympathische ‘rust-en-verteer’-reactie, die samenwerken in een push-pull-mechanisme en altijd actief zijn, zelfs in alledaagse situaties. We ondergaan daadwerkelijke fysiologische veranderingen – bloeddruk, bloedtoevoer naar de huid waardoor we blozen of bleek worden, pupillen die samentrekken of verwijden, een droge mond, hartslag, adrenaline – en zintuigen in het lichaam sturen die fysieke informatie door naar de hersenen, via vele lagen diep onder de hersenschors, waar systemen deze analyseren en de toestand van het lichaam beoordelen. Uiteindelijk komt die informatie terecht in de meer abstracte delen van de hersenschors, en kunnen we zeggen: ‘Ik voel echt vanuit mijn binnenste angst, of liefde, of woede’ – emoties die deels constructies van de hersenen zijn, maar in werkelijkheid verankerd zijn in de fysiologie van het lichaam en worden waargenomen door zintuigen. Grote taalmodellen (LLM’s) hebben daar niets van, letterlijk niets, dus ik geloof niet dat ze iets hebben dat op menselijke emoties lijkt. Maar zouden ze dat in principe kunnen hebben? Ja — je zou veel hiervan kunstmatig kunnen bouwen, met sensoren, of het kunnen simuleren, met een gesimuleerd lichaam en gesimuleerde toestanden. Is er een toekomst waarin LLM’s emoties hebben zoals mensen die hebben? Zeker – ik zie het niet snel gebeuren, omdat er technologische uitdagingen zijn die ver buiten het bereik liggen van wat mensen momenteel kunnen, maar technologie ontwikkelt zich sneller dan iemand denkt, en in sprongen, dus ik weet niet wanneer, maar ik ben er vrij zeker van dat het uiteindelijk, ja, dat het gaat gebeuren. Maar ik ben het er helemaal mee eens dat LLM’s op dit moment semantisch gezien steeds intelligenter worden, en dat ze semantisch gezien wel degelijk begrijpen wat ze zeggen — ik denk alleen niet dat het ze iets kan schelen. Ik denk niet dat ze de emotionele kant daarvan hebben.

Christopher Kabakis (43:05) Interessant. Dus je zou zeggen dat het ze niets kan schelen, waarschijnlijk omdat ze geen lichaam hebben, en het lichaam zorgt ervoor dat het ons iets kan schelen, via emoties — en dat hebben ze niet, maar ze begrijpen het wel. Ik wilde ook iets vragen over dit begripsgedeelte, want — corrigeer me als ik het mis heb, want jij weet hier veel meer van — de klassieke informatietheorie, in de zin van Claude Shannon, is een maatstaf voor verrassing, het verminderen van onzekerheid, wat je de klassieke bits oplevert, enen en nullen. Sommigen hebben gezegd dat dit een syntactische definitie van informatie is — een maatstaf voor hoe verrast je bent door het volgende woord of symbool. En LLM’s werken volgens mij zo — ze hebben enorme correlatiematrices en voorspellen het op één na beste woord, maar dat zou geen betekenis zijn, toch? Het zou geen begrip zijn zoals wij dat in alledaagse termen zien. Is de manier waarop wij over informatie en betekenis denken anders dan de wetenschappelijke definitie van informatie, of dan de manier waarop AI’s zijn geprogrammeerd, en maakt dat een verschil? Neem bijvoorbeeld de zin van het leven — een LLM kan een antwoord simuleren als ik ernaar vraag, het zal me iets vertellen, maar is dat hetzelfde, of maakt het niet uit? Zou je zeggen dat het niet uitmaakt?

Michael Graziano (44:30) Veel mensen hebben die kijk op de zaak — ik heb het al miljoenen keren gehoord: mensen klampen zich vast aan het idee dat LLM’s alleen maar het volgende woord voorspellen, dat het gigantische voorspellingsmachines zijn, grote lineaire-algebra-machines die correlaties berekenen. Dit is het probleem met die manier van denken: mensen zijn machines die de volgende spiercontractie voorspellen die we moeten maken om ons in de wereld te redden — dat is letterlijk het enige doel van het hebben van een brein, om beweging in een complexe wereld te sturen, en wezens die zich niet in een snel, interactief tempo bewegen, hebben geen brein. En de manier waarop we dat effectief doen, is niet alleen maar spiertrekkingen maken en hopen, of een of andere eenvoudige correlatiematrix gebruiken — we hebben diepere lagen, waar de hersenen abstracte representaties opbouwen, dus het gaat niet alleen om het spierpatroon. In die diepere lagen hebben we abstracte voorstellingen van honden en liefde en auto’s en ontbijt en honger, alle dingen die we nodig hebben om een beeld van onze wereld op het meest abstracte conceptuele niveau op te bouwen, zodat die concepten kunnen worden gerangschikt en gemanipuleerd, een algemene reactie kan worden bepaald, en vervolgens stukje bij beetje weer kan worden vertaald naar individuele spiercontracties. Dat is de enige manier om effectief te reageren op een complexe wereld — door diepe lagen op te bouwen met diepgaande abstracte representaties. Dit is letterlijk precies wat LLM’s doen. Ja, ze voorspellen het volgende woord, maar dat kunnen ze niet doen tenzij ze diepere lagen hebben, en die hebben ze — deze modellen kunnen vijftig lagen hebben van invoer tot uitvoer, en in de diepere lagen, misschien zo’n tweederde van de weg, begin je activiteitspatronen te zien, soms ‘embeddings’ of ‘vectoren’ genoemd, die representaties zijn — hetzelfde soort representaties dat je in het menselijk brein ziet: een activiteitspatroon tussen neuronen of eenheden dat ergens voor staat, en de dingen waarvoor ze staan zijn zeer abstract. Je kunt in deze machines, in die verborgen lagen, doordringen en de neuronaal weergegeven signalen vinden die staan voor honden en auto’s en liefde, deze abstracte concepten, zodat ze gemanipuleerd en vervolgens stukje bij beetje weer vertaald kunnen worden naar woorden. Het gaat dus niet alleen om het voorspellen van het volgende woord – het doet dat door diepgaande, interne, superabstracte conceptuele representaties van de wereld op te bouwen, en we weten dat het dat doet omdat we er directe toegang toe hebben, en we weten dat het dat doet op een manier die griezelig veel lijkt op hoe de hersenen dat doen. Misschien hoeft dat geen verrassing te zijn, want deze modellen zijn gebaseerd op het meest essentiële inzicht in hoe de hersenen werken — namelijk dat de hersenen bestaan uit neuronen die via synapsen met elkaar zijn verbonden, en dat synapsen in sterkte veranderen als gevolg van leren. Dat deze systemen dit leren doen, is verbazingwekkend, maar achteraf gezien niet zo’n grote verrassing. Dus ja, deze machines begrijpen semantisch wat ze zeggen op een diep conceptueel niveau, net zoals wij dat doen – maar je hebt gelijk dat ze dingen als emotie missen, omdat ze niet over de juiste architectuur beschikken; ze zijn niet gebouwd volgens dezelfde architectuur als wij. Ze hebben sommige dingen die wij hebben, en missen andere.

Christopher Kabakis (49:12) En de architectuur sluit aan bij waar we het over hebben — we denken vaak in termen van hardware en software, de software die op de hardware draait, en we willen dat de hardware voorspelbaar en stabiel is, zodat we op algoritmeniveau betrouwbare één-nul-bitrelaties krijgen. De machines bevinden zich dus alleen op het softwareniveau, en het hardwareniveau is voor hen irrelevant — ze weten niet en het kan ze niet schelen dat ze draaien op siliciumwafers in datacenters in Abu Dhabi of Utah, maar ons kan het wel schelen, misschien vanwege dat lichaamsgedoe. Dus wat ik je hoor zeggen is dat geest en bewustzijn, aangezien je het over modellen en functies hebt, de softwarelaag vormen, en dat de hardware niet relevant is — we zouden de software van de geest in verschillende substraten kunnen implementeren, silicium in plaats van het lichaam. En hier is een vraag die ik moeilijk onder woorden kan brengen: we weten diep van binnen dat de werkelijkheid kwantum is, niet klassiek, niet alleen maar enen en nullen — er is een diepere laag, met alle vreemde aspecten van de kwantumfysica. Sommige mensen zeggen dat als we onze natuurkunde goed willen onderbouwen, we die moeten baseren op de informatietheorie, maar niet op de klassieke informatietheorie — de kwantuminformatietheorie, die andere eigenschappen heeft. Zou het dus een optie zijn – of heb ik het helemaal mis – dat onze lichamen en hersenen, die uit deze wereld voortkomen, op een bepaald niveau ook kwantum moeten zijn als onze diepste theorie over de wereld stelt dat die kwantum is, en dat we pas op het niveau van synapsen en impulsvorming een drempel overschrijden naar het klassieke, wat veel meer een-nul is — maar daaronder, alle biochemie, de cellen met hun eigen intentionaliteit, die hun eigen ding doen in dit grote concert van het organisme — is dat dan niet kwantum? En misschien is dat de reden waarom we gevoelens en emoties niet kunnen verklaren, omdat de informatieverwerking die plaatsvindt in feite kwantum is, met andere eigenschappen dan de klassieke. Zeg het me als ik het helemaal mis heb, want ik ben geen expert en jij weet er waarschijnlijk veel meer van.

Michael Graziano (51:43) Nou, ik zal je eens vertellen wat ik ervan vind — als voormalig natuurkundige van lang geleden heb ik geprobeerd om een aantal van deze kwantumtheorieën te doorgronden, en ik denk dat het woord "kwantum" heel gevaarlijk is, omdat mensen in feite zeggen: er is zo’n vormloos iets, we begrijpen de kwantumfysica niet, en er is bewustzijn, dat begrijpen we ook niet, dus moeten ze met elkaar te maken hebben — en dat hoor je heel vaak. Ik denk wel dat de werking van neuronen uiteindelijk grotendeels klassiek is — klassieke fysica is het gevolg van kwantummechanica op statistische schaal, en zodra je op het niveau komt van een neuron dat met andere neuronen communiceert, is het grotendeels klassiek, niet zozeer kwantum. Je moet afdalen naar het minuscule niveau van individuele ionen die zich over membranen verplaatsen om je definitief in het kwantumdomein te bevinden — daar gebeurt veel op kwantumniveau, maar dat is overal zo; zo is de wereld nu eenmaal opgebouwd. Het grootste deel van de manier waarop neuronen met elkaar communiceren en informatie verwerken, kan op klassiek niveau worden begrepen en kan buitengewoon goed worden gemodelleerd met vrij eenvoudige lineaire wiskundige vergelijkingen; dat is de reden waarom deze grote AI’s zo goed hebben gewerkt. Ten tweede, wat betreft de vraag of kwantumfysica verklaart hoe we een gevoel hebben — mijn zorg is dat het altijd dezelfde vraag is: zodra je je afvraagt hoe we een gevoel hebben, denk ik dat je jezelf buiten spel zet. Het is net als de oude Egyptenaren die vroegen: waar is het gat in de grond waar de zon ’s nachts in verdwijnt op weg naar de onderwereld? Je zult veel geld en moeite besteden aan het zoeken naar een gat dat niet bestaat, omdat je hebt besloten dat dit ding letterlijk bestaat en je er nu naar op zoek bent, terwijl je in werkelijkheid alleen maar een vereenvoudigd concept hebt. Als je vraagt wat de oorzaak is van het gevoel, wat ervoor zorgt dat het gevoel ontstaat, zou ik zeggen: stel dat het gevoel ontstaat — dan heb je nog steeds niets uitgelegd, want je hebt niet uitgelegd hoe een gevoel ervoor zorgt dat je neurale netwerken de juiste informatie-inbedding hebben, zodat je denkt dat je het hebt, weet dat je het hebt en erover kunt praten. Wat verklaard moet worden, is hoe de hersenen modellen opbouwen — en dat weten we in algemene zin al — en wat het specifieke adaptieve voordeel is van dit soort model dat ons vertelt dat we magie in ons hoofd hebben. Dus in plaats van te vragen wat de magie veroorzaakt, vraag je beter wat ervoor heeft gezorgd dat we zo zijn geëvolueerd dat onze hersenen modellen bouwen die ons vertellen dat we magie hebben. Dat is mijn antwoord.

Christopher Kabakis (55:08) Ja, dat snap ik helemaal — als je ergens een verkeerde theorie over hebt, ga je op de verkeerde plekken zoeken, zoals in een gat in de grond naar de zon, en dan vind je niets en raak je in de war. Betekent dat dat als ik zeg dat ik een gevoel heb — bijvoorbeeld dat ik van iemand houd — jij dan zou zeggen: „Nou, ik weet niet of dat waar is, je zegt alleen maar dat je van die persoon houdt, dus laten we eens kijken hoe je hersenen iets modelleren wat jij als liefde zou omschrijven?“ En je zou zeggen dat liefde moeilijk is, maar dat we er wel komen — de eenvoudigere dingen zijn visueel, hoewel zelfs zelfrijdende auto’s al visuele informatie verwerken, dus uiteindelijk komen we er ook met de rest. Zou je dus zeggen dat het een illusie is? Ik herinner me een korte discussie in je boek over illusionisme — is het dat?

Michael Graziano (56:07) Nee, dat zou ik niet zeggen — ik heb moeite met dat woord. Een veelgehoorde opvatting is dat als je probeert uit te leggen hoe de hersenen iets doen, je het wegredeneert, door te zeggen dat het niet echt bestaat, door te zeggen dat ik niet echt liefde heb — en dat is ook niet waar. Iets uitleggen is niet hetzelfde als het wegredeneren. Ik was vroeger motorfysioloog en heb de arm en de handen bestudeerd; ik kende alle botten en spieren — betekent dat dan, nu ik het begrijp, dat ik een bijl kan pakken en mijn hand eraf kan hakken en weggooien omdat ik hem niet meer nodig heb, omdat ik het heb weggeredeneerd? Nee — ik heb het nog steeds nodig, ik gebruik het nog steeds, maar nu heb ik enige kennis van hoe het werkt. Het is heel belangrijk dat mensen begrijpen dat het doel van de wetenschap niet is om dingen weg te redeneren zodat we ze kunnen afschrijven — zo werkt het niet. Je legt iets uit en krijgt er meer waardering voor, en je verliest nooit de behoefte aan hetgeen je bestudeerde. We verklaren liefde dus niet weg, we verklaren ervaring niet weg — wat we uitleggen is hoe een brein tot deze zekerheden, intuïties en overtuigingen over zichzelf komt. Hier is nog een analogie die ik vaak gebruik om het punt over magie duidelijk te maken, over hoe een brein tot de gedachte komt dat het magie bezit: neem nogmaals het geval van het fantoomledemaat — stel dat je bij een ongeluk een arm verliest en een fantoomledemaat hebt. Er zijn twee soorten verklaringen. De tegenwoordig gangbare: het brein heeft een model van je arm opgebouwd, automatisch, op de achtergrond werkend, dat informatie doorgeeft aan je bewustzijn; daarom kun je er, als je ernaar gevraagd wordt, over praten, je ogen sluiten en weten wat je arm doet, en aanraking, kou en warmte voelen. De andere verklaring, die op een bepaald moment in de geschiedenis daadwerkelijk als verklaring gold, is dat er letterlijk een spookarm uit de stomp groeit — waarbij het model voor waar wordt aangenomen, in de veronderstelling dat het letterlijk klopt. Laten we onszelf dus de wetenschappelijke taak stellen om het moeilijke probleem in die termen te verklaren: wat creëert het fantoom, de spookarm – zijn het de kwantumschommelingen bij de stomp, de integratie van informatie in de cellen daar, en waar bestaat het uit: energie, kwantumkarakter, een onzichtbaar elektromagnetisch veld? En dan, als je eenmaal denkt dat je hebt uitgelegd waar het vandaan komt en waaruit het bestaat, zit je nog steeds vast bij het uitleggen hoe dit fantoomledemaat specifiek de neuronen in je hersenen beïnvloedt, hun activiteit precies volgens het juiste patroon aanpast, zodat je semantische netwerken weten dat er een fantoomledemaat is, zodat je erover kunt praten. Je krijgt dus een hele reeks problemen als je de inhoud van een model dat de hersenen hebben opgebouwd letterlijk als waar aanneemt, want de modellen van de hersenen zijn altijd schematisch, snel en provisorisch. Dat is precies hetzelfde probleem dat we hebben met bewustzijn — we beschrijven het, zeggen het, geloven het, houden eraan vast, weten het op een intuïtief niveau, maar dat alles komt voort uit de modellen van de hersenen, die waarschijnlijk automatisch zijn opgebouwd, waarschijnlijk op een heel diep niveau — geen semantische modellen, maar eerder perceptuele modellen, waarvan de output via ons semantische netwerk wordt doorgestuurd; dat is de reden waarom we denken dat we deze dingen hebben, waarom we zeggen dat we ze hebben. Maar als we aannemen dat de modellen letterlijk accuraat zijn — dat er letterlijk een spookachtige essentie van een magisch gevoel in ons zit — en vragen wat de oorzaak ervan is, dan is dat het moment dat bijna alle bewustzijnsonderzoekers, tot voor kort, zichzelf als doel hadden gesteld. Dat zijn de Egyptenaren die proberen het gat in de grond te vinden waar de zon ’s nachts in verdwijnt. Zodra je jezelf die taak stelt – wat is de magische essentie van ervaring en wat veroorzaakt die – ben je de weg kwijt. Dat is het moment waarop je niet hebt begrepen wat er werkelijk aan de hand is en jezelf op het verkeerde pad hebt gezet.

Christopher Kabakis (1:00:40) Oké — en je zou kunnen zeggen dat het gevoel van een fantoomledemaat een storing is van iets dat normaal gesproken goed werkt, dus je kunt niet bewijzen dat iets niet goed werkt, of niet echt is, alleen maar omdat het soms storingen vertoont — als ik zeg dat ik van iemand houd, is dat misschien gewoon zo’n fantoomledemaat-achtig iets, maar dat betekent niet dat het niet echt bestaat, alleen dat het in mijn waarneming bestaat. En de interessantere vraag is, zoals je zegt, hoe je hersenen dat voor elkaar krijgen — zo veranker je het, altijd. Dus als we onze huidige neurowetenschap en informatica ver genoeg ontwikkelen, dan komen we op het punt waarop we LLM’s kunnen leren om niet alleen een zelfmodel te construeren van waar hun rekenkracht op dit moment is toegewezen, maar ook om allerlei soorten zintuiglijke waarnemingen te modelleren — zicht is het gemakkelijkst, wat intuïtief logisch is aangezien ze al auto’s verwerken en daar op de een of andere manier mee omgaan — en daarna misschien geur en aanraking, en zelfs gevoelens. We zouden het in hen kunnen modelleren, en dan zouden ze het ook als echt beschouwen, net zoals wij dat doen, omdat we een model hebben dat op die manier werkt — waarschijnlijk onafhankelijk van het substraat, en onafhankelijk van energie, als die al bestaat, want toen ik me hierin verdiepte, stuitte ik op het idee dat je het model moet instantiëren, dus er moet wel wat fysiek materiaal zijn, energie enzovoort. Maar er zijn ook benaderingen die zeggen: nee, in de informatietheorie, als je volledig computationistisch te werk gaat, heb je geen materie of energie nodig — het is gewoon informatieverwerking, de structuur van beperkingen waarbinnen informatie mag worden verwerkt, en dan heb je zelfs geen energie of fysieke materie nodig. Ik weet niet of je dit een op informatie gebaseerde benadering zou noemen, waarbij je je uiteindelijk niet zo druk maakt om materie – je hebt het wel over de hersenen, maar de hersenen zijn in zekere zin slechts een informatiebron. Hoe sta je tegenover dat soort ideeën, op de grens tussen fysicalisme en informatieisme of computationalisme?

Michael Graziano (1:03:35) Ik weet het niet — natuurkunde op het meest fundamentele niveau is erg wiskundig; het is eigenlijk wiskunde: verbanden, informatieverhoudingen tussen dingen, en je zou kunnen zeggen dat het universum wiskunde is. Ik vind dat een heel interessant standpunt, hoewel mensen de neiging hebben om dat te horen en te denken dat het betekent dat het niet bestaat, dat we het gewoon anders kunnen bedenken, het universum in verschillende toestanden kunnen denken — en zo werkt het echt niet. Maar je kunt op wiskundig niveau begrijpen wat er in het universum gebeurt, op het niveau van informatieverhoudingen. Ik weet niet zeker of dat zo nuttig zal zijn voor het begrijpen van de geest, hoewel ik de wiskunde van LLM’s prachtig vind — elementaire lineaire algebra die beschrijft hoe enorme aantallen neuronen verbinding maken met enorme aantallen andere neuronen, hoe de sterkte van die verbindingen verandert, en hoe dat resulteert in abstract symbolisch denken. Het is absoluut verbazingwekkend dat al die wiskunde zo goed is geformuleerd en begrepen. Ik wil echter wel dit zeggen met betrekking tot substraat-onafhankelijkheid: wat we tot nu toe begrijpen van de hersenen, en vooral wat er in technologie is omgezet, is nog steeds enigszins vereenvoudigd. Ik ben enorm onder de indruk, en ik denk dat deze machines denken, en ik denk dat ze de essentie hebben vastgelegd van hoe neurale netwerken in de hersenen werken — maar ze hebben het wel behoorlijk uitgekleed. Er is sprake van veel vereenvoudiging. Het brein heeft andere vrijheidsgraden die niet aanwezig zijn in het kunstmatige systeem — verschillende temporele dynamieken voor verschillende soorten synapsen, manieren waarop neuronen verbinding maken die niet synaptisch zijn, hormonale signaaloverdracht, directe gap junctions tussen neuronen, en gliacellen, die mensen graag vergeten — er zijn tien keer meer gliacellen in de hersenen dan neuronen, en ze spelen daadwerkelijk een rol bij de informatieverwerking op manieren die nog niet volledig worden begrepen. Er zit dus van alles in wat het brein heeft uitgewerkt en dat kunnen ‘hacks’ of ‘trucs’ zijn, of juist fundamenteel — we weten het niet. Dus als je een brein zou nemen, alle neuronen en synaptische verbindingen ervan — wat een ‘connectoom’ wordt genoemd — kunstmatig zou kopiëren en het zou laten draaien, dan denk ik niet dat dat de geest van die persoon zou zijn, omdat je dan andere delen van de fysieke architectuur van het brein zou missen. Ik denk dat je dan iets heel verwards en ongelukkigs zou hebben. Maar als je niet alleen de neuronen en synapsen zou kunnen kopiëren, maar ook de grootte en het soort synaps, de temporele dynamiek, de subtiele manieren waarop synapsen in de loop van de tijd veranderen, de hormonale interacties, en als je de gliacellen zou kunnen simuleren — dan zou je in principe een menselijk brein kunnen simuleren, en die kunstmatige versie zou die persoon zijn, iemand die zou zeggen: ‘Mijn god, je hebt iets met me gedaan, maar hier ben ik, dit ben ik, ik heb mijn herinneringen, mijn wijsheid, mijn kennis, mijn persoonlijkheid. Maar ik denk niet dat we zover zijn — er zijn verschillen tussen het biologische systeem, dat componenten bevat die we nog niet volledig begrijpen, en de meer vereenvoudigde, maar nog steeds zeer krachtige, kunstmatige systemen.

Christopher Kabakis (1:07:38) Oké — dus je zou zeggen dat het uiteindelijk substraat-onafhankelijk is, als we erin slagen het goed te modelleren tot op alle relevante informatie, en er geen — sorry, ik vraag dit nog één laatste keer — kwantumeffect of kwantuminformatie op de lagere niveaus is die niet kloonbaar is. Kwantuminformatie is niet kloonbaar, dus als er op de lagere niveaus iets kwantumachtigs is, kun je dat niet kopiëren; het kan niet correct worden geabstraheerd tot een nul-één-bit-relatie.

Michael Graziano (1:08:21) Ik denk dat het uploaden van het bewustzijn, zoals ik dat zojuist heb beschreven, zal plaatsvinden — laten we dat maar meteen zeggen. Ik denk dat het zal gebeuren, ik weet niet wanneer, ik denk dat het nog lang zal duren. Er zijn mensen die denken dat het al voor de deur staat, en ik denk dat ze het mis hebben — de technologie is er nog niet. Maar ik denk dat het onvermijdelijk zal gebeuren.

Christopher Kabakis (1:08:25) Dat maakt dus iedereen blij die veel geld heeft geïnvesteerd in het diepvriezen van zijn lichaam of brein — we weten niet of ze de toekomst die ze aantreffen leuk zullen vinden wanneer ze op de een of andere manier weer tot leven worden gewekt.

Michael Graziano (1:08:48) Ik snap niet waarom iemand dat zou willen. Dat is het enige wat ik altijd zeg als mensen vragen: ‘Wil je dat je bewustzijn wordt geüpload?’ — en het antwoord is nee, ik ben zo blij dat dit pas gebeurt nadat ik er niet meer ben.

Christopher Kabakis (1:09:01) Ja, dat denk ik ook. Oké, we naderen het einde — voor mijn laatste vragen: deze podcast gaat ook over persoonlijke ontwikkeling en groei, en we hebben uitgebreid gesproken over jouw theorie over bewustzijn en hoe die werkt. Hoe denk je dat persoonlijke ontwikkeling en groei tot stand komen, op basis van je neurowetenschappelijk werk? Het hoeft niet specifiek de aandacht-schema-theorie te zijn, maar gewoon je inzicht in de geest en het bewustzijn in het algemeen — is er enig advies dat je zou geven aan mensen die zeggen: ik wil groeien, ik wil me ontwikkelen, misschien zelfs mijn bewustzijn ontwikkelen?

Michael Graziano (1:09:55) Ik weet het niet — begrijpen hoe bepaalde onderdelen werken, is niet echt hetzelfde als advies krijgen over hoe je als beoefenaar te werk moet gaan en die onderdelen moet gebruiken. Het suggereert zeker dat zaken als meditatie, waar we het over hebben gehad, zinvol zijn — je traint en versterkt je mechanismen voor zelfcontrole en het beheersen van je eigen interne processen, en dat is geweldig. Maar het belangrijkste — en we hebben het al zo vaak gehad over het verband met AI – ik denk dat dat waarschijnlijk het gebied is waar onderzoek naar bewustzijn de grootste praktische impact zal hebben, want bewustzijnsonderzoek was vroeger filosofie, salonfilosofie, daarna werd het wetenschappelijk interessant, maar nu is het plotseling de sleutel tot onze technologische toekomst, iets van diepgaand belang voor de toekomst van onze soort. Ik denk dat dat waarschijnlijk een grotere impact heeft dan een medische of psychologische interventie.

Christopher Kabakis (1:11:01) In jouw theorie over bewustzijn of waarneming speelt aandacht een centrale rol, en ik vond het interessant hoe sterk je daar de nadruk op legt — aandacht als de kernactiviteit van de hersenen, of als wat onze geest tot stand brengt: beslissen wat we willen benadrukken, wat we willen onderdrukken, hoe we het willen sturen, en dat doen we voortdurend, meestal onbewust, en sturen we onze aandacht aan zoals het leven dat vereist, of zoals wij dat nodig achten. Meer bewust worden van dit aandachtsmechanisme is nuttig, denk ik, want door onze aandacht ergens op te richten, veranderen we onze wereld, en veranderen we de wereld. Dus in plaats van te spreken over bewustzijn, wat een beetje vaag is, gaat het eigenlijk om aandacht, en om het vermogen om te kiezen waar we de schijnwerper op richten — en meestal richten we die gewoon in één richting of vanuit één hoek. Misschien kunnen we, als we wat meer experimenteren met ons vermogen om aandacht in te zetten, nieuwe inzichten verwerven in onszelf en in de wereld.

Michael Graziano (1:12:04) Ik denk dat dat klopt — aandacht voor aandacht, dat is echt belangrijk, absoluut.

Christopher Kabakis (1:12:16) Iain McGilchrist heeft iets soortgelijks gezegd. Heb je misschien een advies voor onze luisteraars als het gaat om aandacht of bewustzijn, zoals jij daarover denkt?

Michael Graziano (1:12:41) Ik zou heel voorzichtig zijn met het geven van advies, want ik wil niemand schade berokkenen. Ik zou zeggen dat begrip op zich al een waardig doel is — het is fascinerend om deze interne processen te begrijpen; een van de meest verbazingwekkende dingen aan de mens is dat we zoveel over onszelf hebben ontdekt, en nu sijpelt dat door in onze technologie op manieren die ons alleen maar zullen blijven veranderen.

Christopher Kabakis (1:13:08) Ja — en ik bedacht me dat ik het ook over je fictiewerk wilde hebben, aangezien je onder andere *The Divine Farce* hebt geschreven. In hoeverre heeft je literaire werk je wetenschappelijk werk beïnvloed, en vice versa? Je schrijft over de grote thema’s – de zin van het leven, of juist de zinloosheid ervan, de dood, enzovoort – hoe sluit dat aan bij je wetenschappelijk werk, of juist niet?

Michael Graziano (1:13:41) Thematisch gezien weet ik het niet — misschien zijn er wel enkele thematische verbanden, maar ik denk dat het schrijven van een fictiewerk en het uitvoeren van een wetenschappelijk experiment qua proces erg op elkaar lijken. Het is een enorm project, en je moet het zowel vanuit een esthetisch perspectief als vanuit een zeer logisch, reductionistisch perspectief benaderen. Ik denk dat het dezelfde kanten van mij aanspreekt om aan deze verschillende soorten projecten te werken, en als je bij het ene vastloopt, kun je je een tijdje op het andere richten en daarna weer terugkomen. Dat is waarschijnlijk het verband.

Christopher Kabakis (1:14:49) Oké — het vult elkaar dus een beetje aan, ze spelen op elkaar in: enerzijds een zoektocht naar inzicht, misschien naar de menselijke conditie in het literaire werk, en anderzijds het bewustzijn als een nuchter onderzoeksproject binnen de wetenschap. Aangezien je al vele, vele jaren geïnteresseerd bent in psychologie, filosofie en neurowetenschappen – is er iets wat je jezelf als jongeman zou aanraden? Je zei dat het moeilijk is om advies te geven aan anderen, maar als je terugkijkt op je jongere zelf, is er dan iets waarvan je zou zeggen dat je er te vroeg naar keek, of op een andere manier?

Michael Graziano (1:15:03) Ik zou heel graag eens een gesprek voeren met mijn jongere zelf, maar alleen als ik het zo zou kunnen regelen dat hij zich het gesprek achteraf niet meer zou herinneren, want ik zou zijn levenspad niet willen veranderen — hij heeft een heel interessant levenspad afgelegd, en ik zou hem niet naar iets specifieks toe of ervan af willen sturen. Ik vind het gewoon fascinerend om me voor te stellen dat ik terugga in de tijd en met hem praat – ik denk dat ik me nog wel wat herinner, maar er is waarschijnlijk ook veel dat ik me niet meer herinner – en misschien is hij ook wel nieuwsgierig naar zijn toekomstige zelf. Dat zou een prachtig gesprek zijn.

Christopher Kabakis (1:15:36) Maar dan heb je wel dat apparaat van de ‘Men in Black’ nodig, zodat mensen het weer vergeten — het klinkt alsof je aan een tijdmachine en een apparaat voor het wissen van herinneringen werkt. Oké, geweldig. Michael, heel erg bedankt voor dit superinteressante gesprek, ik heb er veel van geleerd. Als mensen contact met je willen opnemen of meer willen weten over je werk, waar zou je ze dan naartoe verwijzen?

Michael Graziano (1:15:39) Waarschijnlijk op mijn webpagina — op mijn Princeton-webpagina staat allerlei informatie.

Christopher Kabakis (1:16:07) Oké, zoek gewoon op Google naar ‘Princeton University Michael Graziano’ en dan kom je er wel. Geweldig — ik ga me verdiepen in die kwantumzaken en kom terug voor een vervolggesprek. Het is een fascinerend vakgebied, en zoals je al zei: we hebben allemaal een natuurlijke interesse om onszelf beter te begrijpen, en jij loopt voorop in dat onderzoek. Ik heb het altijd leuk gevonden dat het niet alleen om emergentisme gaat, waarbij bewustzijn zomaar ontstaat — jij zegt dat er een mechanisme is dat we kunnen begrijpen, een aannemelijke manier om uit te leggen wat subjectieve ervaring of bewustzijn is. Dat heb ik altijd geweldig gevonden, en we zullen dit blijven delen met mensen wanneer zich de kans voordoet. Dus heel erg bedankt, en nog een fijne dag daar aan de oostkust. Oké, houd je goed. Dag, Michael. Dag.

Michael Graziano (1:16:47) Mooi, dat doet me deugd. Geweldig, daar ben ik heel blij mee. Dat klopt. Ja. Tot ziens.