Michael Graziano

Michael Graziano (00:01) Er vores bevidsthed det samme som disse kunstige ting, vi bygger? Lige nu tror jeg nok ikke. Men årsagen er, at disse kunstige ting ikke har selvmodeller på samme måde som os. Og det er blot et spørgsmål om tid – og ikke engang særlig lang tid – der vil komme et tidspunkt, hvor disse maskiner opbygger selvmodeller på samme måde. Med andre ord vil de med absolut sikkerhed tro, at de har subjektive oplevelser, på samme måde som vi tror, at vi har det, ved hjælp af de samme grundlæggende former for informationsbehandling. Det kommer.

Christopher Kabakis (00:51) Du lytter til »Inner Pioneers«, en podcast for nysgerrige sjæle, der gerne vil forstå, hvordan man navigerer gennem forandringer, kriser eller blot længslen efter noget nyt. Vær med, når vi dykker ned i virkelige historier om forvandling og lærer af førende eksperter inden for psykologi, videnskab og menneskelig udvikling, hvordan man kommer igennem indre forandringer og perioder med forandring. Jeg hedder Christopher Kabakis, og lad os nu begynde at banebrydende.

Christopher Kabakis (01:20) Hej, alle sammen. Det er mig en stor glæde at byde professor Michael Graziano velkommen her i podcasten i dag. Michael, du er professor i neurovidenskab og psykologi ved Princeton. Du har udgivet mange videnskabelige artikler, men også nogle populærvidenskabelige bøger, som jeg har læst som lægmand – din seneste, "Rethinking Consciousness", og et tidligere værk, "Consciousness and the Social Brain". Men det, jeg finder meget interessant, er, at du også har udgivet skønlitterære værker, "The Divine Farce", et teaterstykke inspireret af Dantes "Den Guddommelige Komedie", da du selv har italiensk afstamning, samt »Death My Own Way«. Jeg har ikke læst dem endnu, men jeg er meget nysgerrig efter at høre mere om denne sammenhæng mellem dit videnskabelige arbejde og dit litterære arbejde. Udover at skrive komponerer du også musik og spiller nogle gange, om end ikke offentligt, og du er hobby-bukkemand. Det er et meget interessant repertoire for en professor. Har jeg glemt noget?

Michael Graziano (02:27) Du har dækket det grundlæggende her, og tusind tak for at have inviteret mig med i din podcast.

Christopher Kabakis (02:34) Ja — du har skabt en af de centrale videnskabelige teorier om bevidsthed, vil jeg sige, så jeg er meget interesseret i at tale med dig om det i dag. Denne podcast undersøger, hvordan personlig udvikling fungerer, hvordan overgangsfaser i livet fungerer, hvordan personlig vækst fungerer — og det er selvfølgelig også et spørgsmål om, hvordan sindet og bevidstheden fungerer. Så i dag har vi den absolutte ekspert med os til at besvare dette spørgsmål: Hvad er bevidsthed, eller hvordan fungerer den? Måske er det funktionelle svar nemmere end det essentialistiske, så lad os starte der. Efter at have studeret bevidsthed professionelt i omkring tredive år og som bevidsthedspraktiker i godt halvtreds år, hvad ville du så sige, hvis jeg spurgte dig i dag, hvad bevidsthed er?

Michael Graziano (03:25) Det er et rigtig godt spørgsmål — det spørgsmål, alle gerne vil stille. Der findes en essentialistisk og en funktionalistisk tilgang, og at spørge, hvad bevidsthed er, er lidt som at pege på en bil og sige: »Hvad er køre-rundt-hed?« Det er noget, bilen gør. Man kan forstå komponenterne og hvordan de samarbejder om at få den handling til at ske, men det er svært at pege på en ting og sige: »Det der er køre-rundt-heden, det der er bevidstheden.« Jeg tror, det hæmmer fremskridtet en smule inden for bevidsthedsforskningen. Hvis jeg skulle sammenfatte det – og det er en sammenfatning, som ingen nogensinde bryder sig om, fordi den er så i strid med intuitionen og kræver en del uddybning, før den virkelig går op for én – ville jeg sige, at folk siger, de har en bevidst oplevelse, fordi deres semantiske, kognitive netværk rummer den information. De siger det, fordi de tror på det semantisk, og de tror på det, fordi der findes dybere dele af hjernen, skjult under vores kognition, som opbygger disse informationsbundter, disse selvmodeller, og leder dem op i vores kognitive netværk. På en måde er det forklaringen på, hvorfor vi siger, tænker og insisterer på, at vi har en bevidst oplevelse: meget dybe strukturer i hjernen opbygger disse selvmodeller og fortæller i praksis vores bevidsthed, vores semantiske forståelse, at dette er sandt, at det er det, der foregår. Og vi, som et samlet system – en person, et komplekst system bestående af informationsbehandling, krop og hjerne – kender ikke til noget andet. Det er alt, hvad vi kender, alt, hvad vi nogensinde har adgang til. Alt, hvad vi siger, tror og tænker om os selv og resten af verden, stammer fra den proces. Så det er kernen i det: bevidsthed er en slags selvmodel, der konstrueres dybt inde i hjernen, uden for vores kognitive netværk, men som derefter pumpes op i vores højere bevidsthed. Det er det grundlæggende svar.

Christopher Kabakis (06:09) Okay, så du siger, at det er en informationsmæssig udledning af et informationsbehandlende systems tilstand, men at den dukker op – det lyder lidt som teorien om det globale arbejdsrum, så den kommer fra det ubevidste – er det det rigtige ord? – og bliver så på en eller anden måde gjort bevidst. Ville du ikke også være nødt til at forklare, hvordan det sker, at vi går fra ikke at opfatte noget til at opfatte noget?

Michael Graziano (06:39) Tja, din forklaring blander niveauer sammen, for man kan ikke forklare bevidsthed ved at henvise til bevidsthed — man kan ikke sige, at jeg er bevidst, fordi den ubevidste del besluttede, at jeg er det, og derefter fortalte det til den bevidste del; det giver bogstaveligt talt ingen mening, det er bare at blande niveauer sammen. Set fra mit synspunkt som neurovidenskabsmand er vi i sidste ende store biologiske maskiner bestående af neuroner, der er forbundet via synapser, som behandler information, og når vi siger, at vi har bevidsthed, er det et spor – det kommer ud af munden, og alt, hvad der kan komme ud af munden, afhænger af information kodet i neurale netværk, ellers kan det ikke nå ind i talekredsløbet. Så det må i sidste ende være i form af information repræsenteret i neurale netværk, og man kan spore, hvor den information befinder sig, og hvad der konstruerer den. I sidste ende, ja, vil der være noget, der ligner et globalt arbejdsrum – en del af det overordnede netværk, der er tæt forbundet med vores taleoutput, som vi kalder kognition. Når ting kommer ind i det, er det de ting, vi kan tale om, og nogle af de oplysninger, der kommer ind, siger, at der er en bil derovre, der er et træ, jeg sidder i en stol, der er et »mig« – men der er også oplysninger, der siger, at jeg har en subjektiv oplevelse af disse ting. Uden al den information kan man ikke tænke tanken, man kan ikke formulere begrebet. På en eller anden måde skal det hele være repræsenteret i disse neurale netværk – det er næsten, set fra en neurovidenskabsmands synspunkt, et logisk nødvendigt sæt af betingelser.

Christopher Kabakis (08:39) Jeg har så mange spørgsmål, og jeg har allerede hørt lidt om, hvad opmærksomhedsskema-teorien går ud på – den teori, du nok er mest kendt for, og som jeg gerne vil belyse i dag. Men først en lille afstikker til det personlige: Hvordan blev du interesseret i dette emne, i at stille disse spørgsmål om, hvordan bevidstheden og sindet fungerer? Hvad er din personlige historie, der forklarer, hvordan du endte med at arbejde med dette?

Michael Graziano (09:12) Det kommer an på, hvor længe du vil have mig til at fortsætte. Først og fremmest er det et emne, der interesserer alle — vi har alle sammen disse ting, og enhver med en smule selvrefleksion spekulerer på, hvor de kommer fra, og vi vokser alle op med intuitioner, fordomme og hypoteser om det. Jeg blev meget tidligt interesseret i det som et videnskabeligt emne, ligesom mange andre – jeg læste en masse bøger om det og tænkte: »Det her er så fedt, jeg ville ønske, jeg kunne studere det.« Jeg tror, at alle, der bliver neurovidenskabsmand eller psykolog, har en tendens til at tænke over disse emner. Men det var først meget senere – omkring 2010, da jeg begyndte at fokusere på det – at jeg virkelig begyndte at studere det ud fra en videnskabsmands synspunkt i laboratoriet. Før det havde jeg studeret mange forskellige emner inden for neurovidenskab – helt grundlæggende emner, som hvordan hjernen behandler sanseindtryk, og hvordan den styrer bevægelser – og en af de centrale indsigter inden for neurovidenskab er, at hjernen opbygger modeller af ting. Du ser på verden, men det, du ser, er faktisk modeller – informationsmodeller, der konstrueres i dit visuelle system bagest i hjernen. Du bevæger dig og styrer din krop, men det afhænger i høj grad af, at din hjerne opbygger en model, der konstant opdateres, af, hvor dine lemmer befinder sig, og hvad de laver. Et af de tydeligste eksempler på, at hjernen opbygger en model, er fænomenet fantomlem — hvis man er uheldig nok til at miste en arm, har man sandsynligvis en fantomarm i et stykke tid, nogle gange i årevis, fordi hjernens model af armen fortsat eksisterer. Så hjernen opbygger modeller af ting for at overvåge, forudsige og hjælpe med at kontrollere dem. Og den tankegang førte direkte til hele denne forskningsretning: Hvad sker der, når hjernen begynder at opbygge modeller – ikke af den ydre verden, ikke af kroppen, men af sine egne interne processer – så den kan holde styr på og forudsige, hvad den selv laver? Nøglen til disse selvmodeller er, at hjernen ikke behøver at kende detaljerne – den behøver ikke at vide, at den har neuroner med synapser, GABAerge baner og så videre. Den har blot brug for generel funktionel information: Jeg har en vis evne til at forstå ting, til at gribe fat i dem og fokusere på dem, og hvis jeg gør det, kan jeg reagere godt på dem, men hvis jeg ikke gør det, kan jeg ikke. Jeg har en hukommelse, der lader mig holde styr på tingene, men den er ufuldkommen på den ene og den anden måde. Disse vage, amorfe egenskaber, som hjernen har brug for at kende til og bygger modeller af, er grundlaget for vores begreb om sind, bevidsthed og vilje.

Christopher Kabakis (12:42) Okay, så lad os straks gå videre til teorien om opmærksomhedsskemaer, for den er allerede en del af det her — denne greb om en formløs kraft. For der er en fastholdelse i den virkelige verden for at kontrollere den ydre verden, men så handler dit arbejde med subjektiv oplevelse og bevidsthed i høj grad om viljen, dette "jeg kan flytte energi" eller hvad man nu kalder det, og fastholde noget andet. Måske kan du forklare os, hvordan du tænker om dette – opmærksomhedsskema-teorien.

Michael Graziano (13:13) Det er meget simpelt, og det hænger sammen med, hvordan det opstod — da jeg første gang skrev om det, var jeg ikke klar over, at det var en ny teori. Jeg troede bare, det var en fornuftig måde at systematisere det, som alle vidste. Jeg skrev en lille bog om det, og en neurovidenskabsmand henvendte sig til mig og sagde: "Hvorfor fremsætter du en ny teori på denne uakademiske måde, i en bog rettet mod den brede offentlighed – burde du ikke skrive en egentlig artikel?" Så jeg skrev en artikel – noget i retning af »Bevidsthed og social perception: En ny hypotese« – og den sætning til sidst var faktisk ment ironisk, fordi jeg ikke kunne tro, at det rent faktisk var en ny hypotese. Men hypotesen er virkelig enkel. Hjernen har denne proces, vi kalder opmærksomhed – det er en proces, ikke rigtig en ting, selvom folk lægger mange forskellige betydninger i ordet. Jeg mener noget specifikt: Groft sagt kan hjernen fokusere sine bearbejdningsressourcer, bearbejde et lille antal ting dybt ad gangen og ignorere eller kun overfladisk bearbejde alt andet. Det er opmærksomhed, som ofte forestilles som et spotlight – man kan rette sin opmærksomhed mod et sted i rummet foran sig, mod fuglesang bag sig, mod en tanke eller mod det, ens hukommelse fortæller om morgenmaden, og når man gør det, trækkes ens opmærksomhed væk fra verden omkring en. Din opmærksomhed er altså begrænset, og – måske er folk ikke altid klar over det – opmærksomhed er grunden til, at vi er intelligente, for uden den ville du have brug for en hjerne på størrelse med en planet for at bearbejde verden. Med en lille hjerne på tre pund kan man, hvis man bruger ressourcerne klogt, ved at fokusere dybt på de vigtigste ting og filtrere resten fra, være ekstraordinært intelligent med hensyn til netop disse vigtige ting. Men vi er også nødt til at styre vores opmærksomhed – den bliver ikke bare revet her og der, selvom den til dels gør det – et skinnende objekt, og bang, så går din opmærksomhed straks derhen – du er også nødt til selv at flytte den: fokusere på denne bog og ignorere festen derovre, eller gå gennem en potentielt farlig situation og sige: »Jeg må hellere lade være med at lytte til min indre monolog; jeg må hellere fokusere på træet og sikre mig, at jeg ikke bliver overfaldet.« Alt, hvad du gør, afhænger af, at du styrer din opmærksomhed – at smøre en sandwich betyder, at du flytter din opmærksomhed over på jordnøddesmørkrukken, derefter brødet og så kniven. Dette er bogstaveligt talt kernen i, hvem vi er som aktører i verden. Og hvordan styrer man opmærksomheden? Ethvert system, der styrer noget, har brug for en model af det, det styrer – det princip opstod for mere end hundrede år siden, og det er grundlæggende for robotteknologi og for næsten al kompleks ingeniørvidenskab. Hvis hjernen skal flytte sin opmærksomhed rundt, styre den og forudsige, hvilke ydre kræfter der kan påvirke den, har den brug for en model af opmærksomheden – den skal kunne sige: Min opmærksomhed gør det ene og det andet, men også: Min opmærksomhed er det, der kan gøre det ene og det andet, det, der gør mig i stand til at gøre det ene og det andet. Så hjernen opbygger en forenklet model, og i den model siger hjernen til sig selv: Jeg har en essens indeni mig, en essens, der gør det muligt for mig mentalt at forstå noget og forstå det dybt, og når jeg gør det, lader den mig reagere på det på en kompleks måde og huske det, og den giver mig en levende fornemmelse af, hvad mit sind har forstået. Men hvis jeg ikke har forstået det, kan jeg ikke tænke dybt over det, kan ikke reagere ordentligt på det og husker det måske ikke senere. Så hjernen tegner et billede af sine egne egenskaber, og billedet er: Jeg har en slags formløs, ikke-materiel essens — den har ikke noget fysisk grundlag, fordi hjernen ikke behøver at kende til det fysiske grundlag, det er måske ligesom en form for energi, og den findes indeni mig, og den gør det muligt for mig at være bevidst om nogle ting og ikke andre, og det er grundlaget for, hvad der gør det muligt for mig at reagere eller forhindrer mig i at reagere. Bevidstheden er hjernens model af, hvad dens eget opmærksomhedsfokus gør. Det er opmærksomhedsskema-teorien i en nøddeskal.

Christopher Kabakis (19:23) Præcis. Og da jeg stødte på det her, blev jeg rigtig glad for det, fordi du forklarer ret godt, hvad der ofte mangler. Det er ikke nok bare at have en model af det, jeg bearbejder – lad os sige et æble foran mig – det er ikke nok at have det, og det er heller ikke nok at have en model af mig selv; vi har brug for noget midt imellem, der forbinder modellen af mig selv med æblet. Og det er præcis, hvad du lige har forklaret – en model af mig selv i færd med at rette opmærksomheden mod æblet. Så dette opmærksomhedsskema – "skemaet", fordi det er forenklet – fordi det er forenklet, tror jeg, du vil hævde, føles det som en formløs kraft: Jeg griber fat i æblet med min opmærksomhed. Og så, som du sagde, kan jeg svare – hvis folk spørger: »Er du opmærksom på æblet?«, ville jeg sige: »Ja, jeg er opmærksom på æblet.« Ellers kunne jeg ikke sige det – jeg ville blot have en model af et æble og mig selv, men jeg kunne ikke sige, at jeg er opmærksom på æblet. Er det sådan?

Michael Graziano (20:27) Det er helt rigtigt. Hvis man kun havde den visuelle model af æblet, og nogen spurgte: »Er der et æble?«, kunne man svare: »Ja, der er et æble.« Men hvis nogen spurgte: »Er du klar over det?«, ville man være nødt til at sige: »Kan ikke beregne det – hvad betyder det?«

Christopher Kabakis (20:53) Og det gav mig derfor mening på en meget intuitiv måde, for når folk mediterer, giver de ofte slip på oplevelsens indhold — objekter, herunder deres tanker — man bliver trænet i at give slip på tanker og information, og man mister endda fornemmelsen for sin egen krop, måske dele af sin selvopfattelse. Og det, der forbliver i den dybe meditative tilstand, er ren bevidsthed, som det kaldes – hvilket dybest set er det, opmærksomhedsskemaet er en teori om. Men som jeg forestiller mig det, er denne rene bevidsthed en ren, formløs kraft til at forstå ting, og vi opfatter den som et potentiale – jeg kan gøre ting, jeg kan bearbejde ting. Ville du sige, at det er her, opmærksomhedsskemaet møder denne rene bevidsthed i buddhistisk eller zen-meditation?

Michael Graziano (21:56) Ja — der findes mange forskellige former for meditation, men især meditation med fokuseret opmærksomhed har jeg altid ment er tæt forbundet med begrebet opmærksomhedsskemaer. Her kommer det interessante: Det, opmærksomhed egentlig gør, er at forbedre hjernens modeller. Når jeg retter opmærksomheden mod æblet, opbygger min visuelle cortex en model, og opmærksomhed er den proces, hvorved denne model forbedres, så den kan få større indflydelse. Opmærksomhed virker altså på modeller og forbedrer dem, og opmærksomhedsskemaet er en model for opmærksomhed — det er den samling af information, som hjernen konstruerer, og som repræsenterer opmærksomhed. Hvad sker der så, når man retter sin opmærksomhed mod selve opmærksomhedsmodellen? Da opmærksomhed forbedrer modeller, hvorfor skulle man så ikke kunne rette sin opmærksomhed mod opmærksomhedsskemaet, altså modellen for opmærksomhed? Det er, hvad jeg mener, at en stor del af meditation går ud på – i bund og grund at tage opmærksomhedsprocessen og fokusere den på den model, der skildrer opmærksomhed. Man retter sin opmærksomhed mod sin egen opmærksomhed og spørger: Hvad ved min hjerne om den del af mig, der kan fokusere på ting?.

Christopher Kabakis (23:58) Præcis. Det er derfor, jeg nogle gange tror, at Dan Siegel siger noget lignende — han siger, at han bliver "bevidst om bevidstheden selv". Disse traditioner bruger ordet »bevidsthed«, mens du i langt højere grad bruger ordet »opmærksomhed«, hvilket jeg også godt kan lide, sammen med denne idé om en model for opmærksomheden. Der er én ting, jeg gerne vil spørge dig om: Bevidsthed er denne informationsmodel for opmærksomhed, og opmærksomhed er en metode til datahåndtering – du sagde også lige, at opmærksomhed er signalforstærkning, hvor visse signaler forstærkes, mens andre dæmpes. Det er en abstraktion, en teori, der forsøger at forstå, hvordan disse ting fungerer. Men en model i sig selv sætter ikke noget i gang, gør den vel – den er en abstraktion. Hvordan forbinder du den tilbage til noget virkeligt, eftersom du altid forankrer tingene i hjernen? Og i hjernen findes der også – det er du vel enig i – energi – hvordan drives motoren, hvordan bliver informationen konkretiseret og styrket af noget, nemlig vores krop og vores hjerne? For nogle gange spekulerer jeg på, om forankringen for denne abstrakte modellering er rodfæstet i vores biologi på en måde, der adskiller sig fra de maskiner, vi har bygget – måske foregår der noget andet – hvilket kunne adskille os fra kunstigt byggede maskiner, som f.eks. følelsen af noget eller andre ting. Er du enig, eller vil du sige, at hjernen, den bevidsthed, vi har, måske er en anden slags computer end de maskiner, vi har bygget, og at det er derfor, vi har svært ved at forklare egenskaber som sanseindtryk, følelser og kreativitet? Eller går jeg for langt?

Michael Graziano (25:39) Du hentyder til en masse ting, der findes derude i feltet. Det er blevet meget populært som en reaktion på AI’s fremmarch, især de sidste par år — store sprogmodeller (LLM’er), der pludselig taler på måder, som, ærligt talt, for fem år siden ingen troede var mulige før om endnu et par hundrede år, og nu er de her. Jeg synes, det er meget filosofisk truende – måske ikke så meget for den gennemsnitlige person, men for filosoffer og neurovidenskabsfolk, der har tænkt over dette, er det meget truende, og der er en modreaktion. Vi så den samme slags modreaktion i anden halvdel af det tyvende århundrede, da computere begyndte at vinde frem – det førte til filosofiske begreber som "det svære problem": der er ting, vi aldrig kan forstå, og det er med til at gøre os specielle og adskille os fra maskinerne. Jeg tror, man ser den samme modreaktion nu – et enormt, instinktivt behov for at sikre, at vi er forskellige fra disse maskiner. En af de mest udbredte forestillinger er, at biologien har alt dette i cellen og kemien, der bobler op og påvirker de højere lag. Personligt – og jeg ved godt, det lyder lidt letfærdigt – tror jeg, at denne idé fandt vej ind i den offentlige bevidsthed gennem midi-chlorianerne i Star Wars: disse små, dybtliggende biologiske elementer i cellerne, der bobler op og bidrager til Kraften og gør din hjerne og dit sind magiske. Det er der, ideen stammer fra, og den har omtrent lige så meget videnskabelig værdi. Ja, neuroner har biologi og energi, men i sidste ende kommunikerer neuroner med hinanden – især over afstande på mere end cirka en millimeter – via aksoner, synapser og aktionspotentialer – en gnist, der forårsager en pulserende effekt i den anden ende. Hvis man taler om en følelse, der opstår ud fra biologien, hvordan krydser følelsen så synapsen, bevæger sig gennem en gnist af elektromagnetisk signal, hopper videre til den næste neuron og påvirker specifikt neuronernes aktivitet i et netværk i nøjagtigt det rigtige mønster, så det samlede aktivitetsmønster perfekt repræsenterer »Jeg har en subjektiv oplevelse«? Ingen tager nogensinde fat på det – de går blot ud fra den naive antagelse, at hvis følelsen opstår, så har jeg den, og det er derfor, jeg taler om den. Men det er ikke en forklaring. Alt, hvad vi siger om os selv – der er en følelse, det føles som noget, der er en oplevelse, den del af bevidstheden, der er speciel for mig – alt dette må logisk set nødvendigvis stamme fra information repræsenteret i disse mønstre af neural aktivitet, en informationsindlejring. Sådan må det være. Så for at vende tilbage til dit tidligere spørgsmål – er vores bevidsthed det samme som disse kunstige ting, vi bygger? Lige nu er svaret sandsynligvis nej, fordi disse kunstige ting ikke har selvmodeller på samme måde som vi har. Men det er blot et spørgsmål om tid, og ikke så lang tid – der vil komme et tidspunkt, hvor disse maskiner opbygger selvmodeller på samme måde og med absolut sikkerhed tror, at de har subjektive oplevelser, ved hjælp af de samme grundlæggende informationsbehandlingsmetoder. Det kommer – men er ikke her endnu.

Christopher Kabakis (30:18) Okay, jeg har nogle spørgsmål til det. Hvis bevidsthed er en informationsmodel for opmærksomhed, så tænker vi, når vi tænker på en model, på abstrakt information, som vi ville skrive på en tavle eller i en bog — grafer, figurer, tal — og det synes at være af en helt anden karakter end det, vi kommer frem til med qualia: smagen af chokolade, duften af en rose, den kærlighed, du føler for dit barn. Det virker lidt for overfladisk at sige, at det bare er en model for opmærksomhed, fordi det føles så rigt. Hvordan konkretiseres dette? For de store sprogmodeller (LLM’er), du nævnte, kender sandsynligvis ikke til qualia – de behandler abstrakt information, de opbygger modeller, men det ligner mere et skakprogram, der er programmeret til at spille skak. Hvordan forholder du dig til dette, når du siger, at subjektiv oplevelse er vigtig – hvordan forklarer din teori qualia?

Michael Graziano (31:17) Helt kort sagt: De modeller, vi har lige nu – i hvert fald indtil for ganske nylig – er alle tekstbaserede – det er alt, hvad disse maskiner får at arbejde med, selvom vi nu også er ved at gå over til visuelle og auditive modeller. Men tekst er en meget abstrakt modalitet, og det samme gælder sprog. Tænk på den menneskelige hjerne: Når jeg taler om information og modeller, antages det automatisk, at der må være tale om en kognitiv model – jeg har lært noget, jeg tror, jeg forstår det. Men hjernen opbygger også andre former for modeller. Når man ser på noget, lugter til noget eller hører noget, oversætter dele af hjernen verden til en model, en samling af information, og den er meget rig – ikke en kognitiv, abstrakt, semantisk model, men en meget rig model på det sensoriske og perceptuelle niveau. Tag synet, en bedre forstået sansemodalitet: Man ser på sin kaffekop og opbygger en model af den i sit visuelle system, og her er forskellen mellem denne model og abstrakte modeller. For det første kan du ikke undgå det – det er automatisk, du har ikke nogen top-down-kontrol over det; hvis dine øjne er åbne, og der er lys, kan du – medmindre du er en meget usædvanlig person – ikke undgå at opbygge en model af den kop. For det andet er det en meget detaljeret model, fuld af nuancer – glans her, skygger der. For det tredje følger der metainformation med, der fortæller din hjerne, at "dette er virkeligt" – der findes et område inden for psykologien, der kaldes kildekontrol, og en af de ting, hjernen gør, er at overvåge informationskilden: dette kom fra den ydre verden, eller det er en hypotese, eller dette kom fra min hukommelse. Det bliver nogle gange forvirret – folk tror, at noget kom fra den ydre verden, når det ikke gjorde det, eller omvendt – men vi er generelt ret gode til det. Så disse rige, automatiske sansebilleder kommer med denne metainformation, og når den dukker op i bevidstheden, bliver bevidstheden informeret: dette er virkeligt, dette er virkeligheden, ikke noget, jeg har opfundet semantisk. Når du har denne visuelle model af din kaffekop, der dukker op og siger, at dette er virkeligt, og en anden model, lige så automatisk og omfattende, der dukker op og siger, at der lige nu er noget, der kaldes subjektiv oplevelse, knyttet til den kaffekop – så har du nu det informationssæt leveret til din højere bevidsthed, således at hvis nogen spørger: om du er bevidst, om du har en subjektiv fornemmelse af, hvordan det ser ud at se på den kaffekop, har du den nødvendige information til at svare: »Ja, det har jeg, det er jeg sikker på.«.

Christopher Kabakis (35:41) Så det er som en sameksistens mellem dit opmærksomhedsskema, din subjektive bevidsthed, og alt det andet, der befinder sig i opmærksomhedsfeltet — sådan vil jeg kalde det — og så er det til stede, det er der for mig, når objektet er der, og min bevidsthed, min opmærksomhed, også er der, og så er resultatet, at det er der, og jeg husker det. Du skrev i din bog, at placering er en vigtig sammenhængsskaber, så det hele falder på plads — min hjerne bearbejder det samlet, formen, farven — men den ultimative sammenhængsskaber er denne subjektive bevidsthed, dette amorfe opmærksomhedsskema, der samler alt det, der er blevet bragt frem. Nogle mennesker, som f.eks. Dan Siegel, har sagt, at sindet er den ultimative forbindelse – vil du sige, at opmærksomhedsskemaet, eller den subjektive oplevelse, eller bevidstheden, er den ultimative forbindelse?

Michael Graziano (36:41) Ja, det er rigtigt. Det er et centralt punkt — »sindet« er jo på en måde en anden måde at tale om opmærksomhed på. Når man tænker over det, bliver man mindet om noget — det er bogstaveligt talt »re-minding«, noget der bringes tilbage i ens sind. Ude af syne, ude af sind. Hvad har han i tankerne lige nu? Det er dagligdags måder at tale om, hvad der er inden for opmærksomhedens rækkevidde – hvad der er blevet forstærket af opmærksomhedsprocessen, så det påvirker højere netværk som kognition. Det er, hvad sindet er, og opmærksomhed, og det globale arbejdsrum – de er alle sammen på en måde synonymer; opmærksomhed kan fungere på mange niveauer, og vi taler om de højeste niveauer af den. Men hvis noget kommer ind i dit sind, din opmærksomhed, dit globale arbejdsrum – som den bil, du kigger på – og nogen spørger: »Har du en subjektiv oplevelse af bilen?«, kan du ikke svare, medmindre du også har en model, information om, hvad en subjektiv oplevelse er, og hvilken tilstand du befinder dig i lige nu. Du har brug for den ekstra brik.

Christopher Kabakis (38:08) Ja — lad mig vende tilbage til dette spørgsmål om information, for du siger jo, at de modeller, jeg taler om, ikke blot er abstrakte, men at de også omfatter al den anden information, jeg modtager — smag, berøring, visuel information — og at opmærksomhedsmodellen samt alle disse sanseindtryk og opfattelser behandles samlet, og så kan jeg sige, at jeg er bevidst om dem. Og du siger, at der ikke er nogen grund til, at maskiner ikke skulle kunne have en sådan selvmodel, at de kunne bearbejde berørings-, visuelle og lugtinformationer samt følelser som kærlighed sammen med opmærksomhed på samme måde. Er det rigtigt, og hvorfor mener du det? For John Vervaeke, en professor ved University of Toronto, har sagt, at de store sprogmodeller (LLM'er) og andre kunstige maskiner, vi bygger, aldrig vil blive som os, fordi de er ligeglade med informationen, og vi bekymrer os om den, fordi vi har disse biologiske organismer – jeg ved ikke, det er en af grundene. Hvordan vil du svare på det?

Michael Graziano (39:23) For det første taler vi om følelser, og ingen forstår endnu rigtig, hvordan følelser udspiller sig i hjernen — så vi ved ikke, hvordan vi skal skabe det. Det er meget nemmere at skabe syn, som vi ved en hel del om, og meget nemmere at skabe højere kognitive funktioner, som vi ved endnu mere om. Så det er det første punkt: Jeg tror ikke, at store sprogmodeller (LLM'er) har noget, der ligner følelser; jeg tror ikke, de er nået så langt. Hvad er følelser? Jeg synes, det, du siger, er helt rigtigt – følelser har rod i kroppen. Der findes meget gamle teorier, der går helt tilbage til William James, om at følelser til dels er hjernens fortolkning af sanseindtryk, der registreres i kroppen – det autonome nervesystem, den sympatiske »kamp-eller-flugt«-reaktion og den parasympatiske »hvile-og-fordøjelse«-reaktion, der arbejder sammen i et push-pull-spil og altid er aktive, selv i afslappede situationer. Vi oplever faktiske fysiologiske forandringer – blodtryk, blodtilstrømning til huden, så vi rødmer eller blegner, pupiller, der trækker sig sammen eller udvider sig, mundtørhed, hjertefrekvens, adrenalin – og sanseorganer i kroppen sender disse fysiske signaler op til hjernen gennem mange lag langt under hjernebarken, hvor systemer analyserer dem og vurderer kroppens tilstand. Til sidst når det op til de mere abstrakte dele af hjernebarken, og vi kan sige: »Jeg føler virkelig en dyb frygt, eller kærlighed, eller vrede« – følelser, der delvist er konstruktioner i hjernen, men som i virkeligheden er forankret i kroppens fysiologi og registreres af sanseorganerne. LLM’er har intet af det, bogstaveligt talt intet, så jeg tror ikke, de har noget, der ligner menneskelige følelser. Men kunne de i princippet have det? Ja – man kunne skabe meget af dette kunstigt med sensorer eller simulere det med en simuleret krop og simulerede tilstande. Er der en fremtid, hvor store sprogmodeller har følelser ligesom mennesker? Bestemt – jeg tror ikke, det sker snart, fordi der er teknologiske udfordringer, der ligger langt uden for, hvad man kan i dag, men teknologien udvikler sig hurtigere, end nogen tror, og i spring, så jeg ved ikke hvornår, men jeg er ret sikker på, at det på et tidspunkt vil ske, ja, det vil ske. Men jeg er helt enig i, at store sprogmodeller lige nu bliver stadig mere intelligente semantisk set, og at de rent semantisk forstår, hvad de siger – jeg tror bare ikke, at de bryder sig om det. Jeg tror ikke, de har den følelsesmæssige side af det.

Christopher Kabakis (43:05) Interessant. Så du mener altså, at de er ligeglade, sandsynligvis fordi de ikke har en krop, og det er kroppen, der får os til at føle noget gennem følelser — og det har de ikke, men de forstår det alligevel. Jeg ville også gerne spørge om denne del med forståelsen, for – ret mig, da du ved meget mere om dette – klassisk informationsteori, i Claude Shannons forstand, er et mål for overraskelse, der reducerer usikkerhed og giver dig de klassiske bits, enere og nuller. Nogle har sagt, at det er en syntaktisk definition af information – et mål for, hvor overrasket man bliver over det næste ord eller symbol. Og store sprogmodeller (LLM’er) fungerer sådan, tror jeg – de har enorme korrelationsmatricer og forudsiger det næstbedste ord, men det ville ikke være mening, vel? Det ville ikke være forståelse, som vi opfatter det i dagligdagen. Er den måde, vi tænker på information og betydning, forskellig fra den videnskabelige definition af information, eller fra hvordan AI'erne er programmeret, og gør det en forskel? Lad os sige livets mening – en LLM kan simulere et svar, hvis jeg spørger om det; den vil fortælle mig noget, men er det det samme, eller er det ligegyldigt? Ville du sige, at det er ligegyldigt?

Michael Graziano (44:30) Mange mennesker har den opfattelse — jeg har hørt det millioner af gange; folk klamrer sig til tanken om, at store sprogmodeller (LLM’er) blot forudsiger det næste ord, at de er gigantiske forudsigelsesmaskiner, store lineæralgebra-maskiner, der udfører korrelationsanalyser. Her er problemet med den tankegang: mennesker er maskiner, der forudsiger den næste muskelsammentrækning, vi skal udføre for at klare os i verden — det er bogstaveligt talt det eneste formål med at have en hjerne, nemlig at styre bevægelser i en kompleks verden, og væsener, der ikke bevæger sig hurtigt og interaktivt, har ingen hjerne. Og den måde, vi gør det effektivt på, er ikke bare at rykke lidt og håbe på det bedste eller bruge en simpel korrelationsmatrix – vi har dybere lag, hvor hjernen opbygger abstrakte repræsentationer, så det handler ikke kun om muskelmønstret. I disse dybere lag har vi abstrakte repræsentationer af hunde og kærlighed og biler og morgenmad og sult – alle de ting, vi har brug for til at opbygge et billede af vores verden på det mest abstrakte begrebsmæssige niveau, så disse begreber kan arrangeres og manipuleres, en generel reaktion kan fastlægges og derefter oversættes lidt efter lidt tilbage til individuelle muskelsammentrækninger. Det er den eneste måde at reagere effektivt på en kompliceret verden – ved at opbygge dybe lag med dybe abstrakte repræsentationer. Det er bogstaveligt talt præcis, hvad LLM’er gør. Ja, de forudsiger det næste ord, men det kan de ikke gøre, medmindre de har dybere lag, og det har de – disse modeller kan have halvtreds lag fra input til output, og i de dybere lag, måske omkring to tredjedele inde i modellen, begynder man at se aktivitetsmønstre, som undertiden kaldes indlejringer eller vektorer, og som er repræsentationer – den samme slags repræsentationer, man ser i den menneskelige hjerne: et aktivitetsmønster blandt neuroner eller enheder, der står for noget, og de ting, de står for, er meget abstrakte. Man kan gå ind i disse maskiner, ind i de skjulte lag, og finde de neuralt repræsenterede signaler, der står for hunde og biler og kærlighed, disse abstrakte begreber, således at de kan manipuleres og derefter oversættes tilbage, bit for bit, til ord. Så det handler ikke bare om at forudsige det næste ord – det gør det ved at opbygge dybe, interne, superabstrakte begrebsmæssige repræsentationer af verden, og vi ved, at den gør det, fordi vi har direkte adgang til den, og vi ved, at den gør det på en måde, der er uhyggeligt lig den måde, hjernen gør det på. Måske burde det ikke komme som en overraskelse, for disse modeller er baseret på den mest grundlæggende indsigt i, hvordan hjernen fungerer – nemlig at hjernen består af neuroner, der er forbundet med hinanden via synapser, og at synapsernes styrke ændrer sig som følge af læring. At disse systemer lærer at gøre dette, er forbløffende, men set i bakspejlet er det ikke så stor en overraskelse. Så ja, disse maskiner forstår semantisk, hvad de siger, på et dybt begrebsmæssigt niveau, på samme måde som vi gør – men du har ret i, at de mangler ting som følelser, fordi de ikke har den arkitektur; de er ikke bygget efter den samme arkitektur som os. De har nogle af de ting, vi har, og mangler andre.

Christopher Kabakis (49:12) Og arkitekturen hænger sammen med det, vi taler om — vi tænker ofte i termer af hardware og software, hvor softwaren kører på hardwaren, og vi ønsker, at hardwaren skal være forudsigelig og stabil, så vi får pålidelige 1-0-bit-relationer på algoritmeniveau. Så maskinerne befinder sig kun på softwareniveauet, og hardwareniveauet er irrelevant for dem – de ved ikke og er ligeglade med, at de kører på siliciumskiver i datacentre i Abu Dhabi eller Utah, men det betyder noget for os, måske på grund af det der med kroppen. Så det, jeg hører dig sige, er, at sindet og bevidstheden – eftersom du taler om modeller og funktioner – udgør softwarelaget, og at hardwaren ikke er relevant – vi kunne instansiere sindets software på forskellige substrater, f.eks. silicium i stedet for kroppen. Og her er et spørgsmål, som jeg har svært ved at sætte ord på: Vi ved, at virkeligheden, helt inderst inde, er kvantemekanisk, ikke klassisk, ikke bare et og nul – der er et dybere lag med alle de mærkelige aspekter af kvantefysikken. Nogle siger, at hvis vi skal basere vores fysik ordentligt, skal vi basere den på informationsteori, men ikke klassisk informationsteori – kvanteinformationsteori, som har andre egenskaber. Så ville det være en mulighed, eller tager jeg helt fejl, at vores kroppe og hjerner, der stammer fra denne verden, hvis vores dybeste teori om verden siger, at den er kvantemekanisk, også må være kvantemekaniske på et eller andet niveau, og at vi først krydser en tærskel ind i det klassiske på niveauet med synapser og impulsudløsning, som er meget mere et-nul — men under det, al biokemien, cellerne med deres egen intentionalitet, der gør deres eget i denne store symfoni, som organismen er — er det ikke kvantemekanisk? Og måske er det derfor, vi ikke kan forklare følelser og emotioner, fordi den informationsbehandling, der finder sted, faktisk er kvantemekanisk, med andre egenskaber end det klassiske. Sig til, hvis jeg tager helt fejl, for jeg er ikke ekspert, og du ved sikkert meget mere.

Michael Graziano (51:43) Nå, jeg skal fortælle dig lidt om, hvad jeg tænker — som en tidligere fysiker fra for længe siden har jeg forsøgt at gennemtænke nogle af disse kvantehypoteseer, og jeg synes, at ordet "kvante" er meget farligt, fordi folk dybest set siger: »Der er denne formløse ting, vi forstår ikke kvantefysik, og der er bevidsthed, som vi heller ikke forstår, så de må være forbundet — og den tankegang er meget udbredt. Jeg tror faktisk, at meget af det, der sker i neuronerne, i sidste ende er klassisk – klassisk fysik er konsekvensen af kvantemekanikken på et statistisk niveau, og når man først kommer op på det niveau, hvor et neuron kommunikerer med andre neuroner, er det for det meste klassisk, ikke så meget kvantemekanisk. Man skal helt ned på det mikroskopiske niveau, hvor enkelte ioner bevæger sig på tværs af membraner, for at befinde sig helt klart i kvanteverdenen – der foregår masser af kvantefænomener dernede, men det gør der jo overalt; sådan er verden opbygget. Det meste af den måde, hvorpå neuroner kommunikerer med hinanden og behandler information, kan forstås på et klassisk niveau og kan modelleres usædvanligt godt ved hjælp af ret enkle lineære matematiske ligninger, hvilket er grunden til, at disse store AI’er har fungeret så godt. For det andet, hvad angår spørgsmålet om, hvorvidt kvantemekanikken forklarer, hvordan vi oplever en følelse – min bekymring er, at det altid er det samme spørgsmål: så snart man spørger, hvordan vi oplever en følelse, tror jeg, man har sat sig selv ud af spillet. Det er ligesom de gamle egyptere, der spurgte: »Hvor er hullet i jorden, som solen går ned i om natten på vej til underverdenen?« – man vil bruge masser af penge og kræfter på at lede efter et hul, der ikke findes, fordi man har besluttet, at denne ting bogstaveligt talt eksisterer, og nu leder man efter den, mens du i virkeligheden blot har et forenklet begreb. Når du spørger, hvad der forårsager følelsen, hvad der får følelsen til at opstå, vil jeg sige: Antag, at følelsen opstår – så har du stadig ikke forklaret noget, for du har ikke forklaret, hvordan en følelse får dine neurale netværk til at have den rigtige informationsindlejring, så du tror, du har den, ved, du har den, og kan tale om den. Det, der skal forklares, er, hvordan hjernen opbygger modeller – og det ved vi allerede i generel forstand – og hvad den specifikke adaptive fordel er ved denne type model, der fortæller os, at vi har magi i vores hoveder. Så i stedet for at spørge, hvad der forårsager magien, skal man spørge, hvad der fik os til at udvikle os på en sådan måde, at vores hjerner opbygger modeller, der fortæller os, at vi har magi. Det er mit svar.

Christopher Kabakis (55:08) Ja, det forstår jeg godt — hvis man har en forkert teori om noget, leder man de forkerte steder, som f.eks. i et hul i jorden efter solen, og så finder man ingenting og bliver forvirret. Betyder det, at når jeg siger, jeg har en fornemmelse — lad os sige, at jeg elsker en person — så ville du sige: »Tja, jeg ved ikke, om det er sandt; du siger bare, at du elsker vedkommende, så lad os se, hvordan din hjerne modellerer noget, du beskriver som kærlighed?« Og du ville sige, at kærlighed er svært, men at vi nok skal nå dertil – de nemmere ting er visuelle, selvom selvkørende biler allerede behandler visuel information, så vi nok skal nå dertil med resten på et tidspunkt. Så vil du sige, at det er en illusion? Jeg husker en lille diskussion i din bog om illusionisme – er det dét?

Michael Graziano (56:07) Nej, det vil jeg ikke sige — jeg har svært ved det ord. En udbredt opfattelse er, at hvis man forsøger at forklare, hvordan hjernen gør noget, så forklarer man det væk, siger, at det ikke rigtig eksisterer, siger, at jeg ikke rigtig har kærlighed – og det er heller ikke sandt. At forklare noget er ikke det samme som at forklare det væk. Jeg var tidligere motorfysiolog og studerede armen og hænderne; jeg kendte alle knoglerne og musklerne — betyder det, at nu hvor jeg forstår det, kan jeg tage en økse og hugge min hånd af og smide den væk, fordi jeg ikke har brug for den længere, fordi jeg har forklaret den væk? Nej – jeg har stadig brug for den, jeg bruger den stadig, men nu har jeg en vis viden om, hvordan den fungerer. Det er virkelig vigtigt, at folk forstår, at formålet med videnskaben ikke er at forklare ting væk, så vi kan skille os af med dem – sådan fungerer det ikke. Man forklarer noget og får en bedre forståelse af det, og man mister aldrig behovet for det, man studerede. Så vi forklarer ikke kærligheden væk, vi forklarer ikke oplevelsen væk — det, vi forklarer, er, hvordan hjernen når frem til disse visheder, intuitioner og overbevisninger om sig selv. Her er en anden analogi, jeg ofte bruger for at få pointen om magi frem, om hvordan hjernen kommer til at tro, at den har magi: Tag igen eksemplet med fantomlemmet – antag, at du mister en arm i en ulykke og har et fantomlem. Der er to typer forklaringer. Den typiske i dag: hjernen opbyggede en model af din arm, automatisk, kørende under overfladen, der sender information op til din bevidsthed, hvilket er grunden til, at du, når du bliver spurgt, kan tale om den, lukke øjnene og vide, hvad din arm laver, føle berøring, kulde, varme. Den anden forklaring, som faktisk på et tidspunkt i historien blev accepteret som en forklaring, er, at der bogstaveligt talt vokser en spøgelsesarm ud af stumpen – hvis man tager modellen for pålydende og antager, at den er bogstaveligt nøjagtig. Så lad os sætte os den videnskabelige opgave at forklare det svære problem ud fra disse udgangspunkter: Hvad skaber fantomet, spøgelset – er det kvanteudsvingene ved stumpen, integrationen af information i cellerne der, og hvad består det af – energi, kvanteegenskaber, et usynligt elektromagnetisk felt? Og så, når man først tror, man har forklaret, hvor det kommer fra, og hvad det består af, står man stadig fast med at forklare, hvordan netop dette fantomlem påvirker neuronerne i hjernen, idet det justerer deres aktivitet i netop det rigtige mønster, så de semantiske netværk ved, at der er et fantomlem, så man kan tale om det. Så man står over for en hel række problemer, når man tager indholdet af en model, som hjernen har opbygget, bogstaveligt som sandhed, fordi hjernens modeller altid er skematiske, hurtige og grove. Det er nøjagtigt det samme problem, vi har med bevidstheden — vi rapporterer om den, siger den, tror på den, insisterer på den, ved den på et instinktivt niveau, men alt det stammer fra hjernens modeller, der sandsynligvis er opbygget automatisk, sandsynligvis på et meget dybt niveau – ikke semantiske modeller, men snarere perceptuelle modeller, hvis output ledes op gennem vores semantiske netværk, hvilket er grunden til, at vi tror, vi har disse ting, og hvorfor vi siger, at vi har dem. Men hvis vi antager, at modellerne er bogstaveligt talt nøjagtige – at der bogstaveligt talt findes en spøgelsesagtig essens af magisk følelse indeni os – og spørger, hvad der forårsagede den, er det netop det øjeblik, som næsten alle bevidsthedsforskere indtil for nylig har sat sig som mål. Det er som egypterne, der forsøger at finde det hul i jorden, som solen går ned i om natten. Så snart man sætter sig den opgave – hvad er den magiske essens af oplevelsen, og hvad forårsager den – er man ude af spillet. Det er det øjeblik, hvor man har undladt at forstå, hvad der faktisk foregår, og har sat sig selv på den forkerte vej.

Christopher Kabakis (1:00:40) Okay — og man kunne sige, at fornemmelsen af et fantomlem er en fejlfunktion i noget, der normalt fungerer godt, så man kan ikke bevise, at noget ikke fungerer korrekt eller ikke er virkeligt, bare fordi det nogle gange svigter — hvis jeg siger, at jeg elsker nogen, kan det måske bare være noget i stil med et fantomlem, men det betyder ikke, at det ikke virkelig eksisterer, blot at det eksisterer i min opfattelse. Og det mere interessante spørgsmål, som du siger, er, hvordan din hjerne gør det — det er sådan, du forankrer det, altid. Så hvis vi udvikler vores nuværende neurovidenskab og informationsvidenskab langt nok, vil vi nå til det punkt, hvor vi kan lære store sprogmodeller (LLM'er) ikke blot at konstruere en selvmodel af, hvor deres beregningsressourcer er allokeret lige nu, men også at modellere alle slags sanseindtryk — synet er det nemmeste, hvilket intuitivt giver mening, da de allerede behandler biler og arbejder med det på en eller anden måde — og så måske lugt og berøring og endda følelser. Vi kunne indprogrammere det i dem, og så ville de også tro, at det er virkeligt, ligesom vi gør, fordi vi har en model, der fungerer på den måde — uafhængigt af substratet, sandsynligvis, og uafhængigt af energi, hvis den overhovedet eksisterer, for da jeg undersøgte dette emne, stødte jeg på tanken om, at man er nødt til at instansiere modellen, så der skal være noget fysisk stof, energi og så videre. Men der er også tilgange, der siger: Nej, i informationsteorien, hvis man går fuldt ud computationalistisk til værks, har man ikke brug for stof eller energi – det er blot informationsbehandling, strukturen af begrænsninger, inden for hvilke information må behandles, og så har man slet ikke brug for energi eller fysisk stof. Jeg ved ikke, om man kan kalde dette en informationsbaseret tilgang, hvor man i sidste ende ikke bekymrer sig så meget om materie – man taler om hjernen, men hjernen er på en måde blot en informationskilde. Hvordan forholder du dig til den slags ideer, der befinder sig på grænsen mellem fysikalisme og informationsisme eller komputationisme?

Michael Graziano (1:03:35) Jeg ved ikke rigtig — fysik på det mest grundlæggende niveau er meget matematisk; det er på en måde matematik, sammenhænge, informationsmæssige sammenhænge mellem ting, og man kunne sige, at universet er matematik. Jeg synes, det er et rigtig interessant synspunkt, selvom folk har en tendens til at høre det og tro, at det betyder, at det ikke eksisterer, at vi bare kan tænke anderledes, tænke universet ind i forskellige tilstande — og sådan fungerer det virkelig ikke. Men man kan forstå, hvad der foregår i universet på et matematisk niveau, på niveauet med informationsmæssige relationer. Jeg er ikke sikker på, at det vil være særlig nyttigt til at forstå sindet, selvom jeg synes, at matematikken bag LLM’er er smuk – grundlæggende lineær algebra, der beskriver, hvordan enorme mængder af neuroner forbinder sig med enorme mængder af andre neuroner, hvordan forbindelsesstyrker ændrer sig, og hvordan det resulterer i abstrakt symbolsk tænkning. Det er helt fantastisk, at al den matematik er så velformuleret og forstået. Jeg vil dog sige dette med hensyn til substratuafhængighed: det, vi indtil videre har opnået i forståelsen af hjernen, og især det, der er blevet omsat til teknologi, er stadig lidt forenklet. Jeg er meget imponeret, og jeg tror, at disse maskiner tænker, og jeg tror, de har fanget essensen af, hvordan neurale netværk fungerer i hjernen – men de har forenklet det en hel del. Der er tale om en stor forenkling. Hjernen har andre frihedsgrader, som ikke findes i det kunstige system – forskellige tidsmæssige dynamikker for forskellige typer synapser, måder hvorpå neuroner forbinder sig på, som ikke er synaptiske, hormonel signalering, direkte gap-forbindelser mellem neuroner og gliaceller, som folk bekvemt glemmer – der er ti gange flere gliaceller i hjernen end neuroner, og de spiller faktisk en rolle i informationsbehandlingen på måder, der ikke er fuldt ud forstået. Så der er mange ting, som hjernen har fundet ud af, der kunne være smarte løsninger, tricks eller måske noget grundlæggende — det ved vi ikke. Så hvis man tog en hjerne, tog alle dens neuroner og synaptiske forbindelser – det, der kaldes et konnektom – kopierede det kunstigt og satte det i gang, tror jeg ikke, det ville være personens bevidsthed, fordi man ville mangle andre dele af hjernens fysiske arkitektur. Jeg tror, man ville få noget meget forvirret og ulykkeligt. Men hvis man kunne kopiere ikke blot neuronerne og synapserne, men også synapsernes størrelse og type, den tidsmæssige dynamik, de subtile måder, hvorpå synapserne ændrer sig over tid, de hormonelle interaktioner, og hvis man kunne simulere gliacellerne – så kunne man i princippet simulere en menneskelig hjerne, og den kunstige version ville være personen selv, en person, der ville sige: »Du godeste, du har gjort noget ved mig, men her er jeg, det er mig, jeg har mine minder, min visdom, min viden, min personlighed.« Men jeg tror ikke, vi er der endnu — der er forskelle mellem det biologiske system, som har komponenter, vi ikke fuldt ud forstår, og de mere forenklede, men stadig meget kraftfulde, kunstige systemer.

Christopher Kabakis (1:07:38) Okay — så du vil altså sige, at det i sidste ende er substratuafhængigt, hvis det lykkes os at modellere det korrekt ned til alle de relevante oplysninger, og der ikke er — undskyld, jeg spørger om det her en sidste gang — en eller anden kvanteeffekt eller kvanteinformation på de lavere niveauer, som ikke kan klones. Kvanteinformation kan ikke klones, så hvis der er noget kvantemæssigt på de lavere niveauer, kan man ikke kopiere det; det kan ikke abstraheres korrekt til et nul-én-bit-forhold.

Michael Graziano (1:08:21) Jeg tror, at overførsel af bevidsthed – det, jeg lige har beskrevet – vil finde sted – lad os bare sige det ligeud. Jeg tror, det vil ske, jeg ved ikke hvornår, men jeg tror, der går lang tid endnu. Der er folk, der mener, det er lige om hjørnet, og jeg tror, de tager fejl – teknologien er ikke klar endnu. Men jeg tror, det nødvendigvis vil ske.

Christopher Kabakis (1:08:25) Det gør altså alle glade, der har investeret en masse penge i at få deres krop eller hjerne dybfrosset — vi ved ikke, om de vil synes om den fremtid, de møder, når de på en eller anden måde bliver genaktiveret.

Michael Graziano (1:08:48) Jeg forstår ikke, hvorfor nogen skulle ønske sig det. Det er det eneste, jeg altid svarer, når folk spørger: »Vil du have din bevidsthed overført?« – og svaret er nej, jeg er så glad for, at det først sker, når jeg er væk.

Christopher Kabakis (1:09:01) Ja, det synes jeg også. Okay, så nærmer vi os afslutningen — til mine sidste spørgsmål: Denne podcast handler også om personlig udvikling og vækst, og vi har talt meget om din bevidsthedsteori og hvordan den fungerer. Hvordan tror du, at personlig udvikling og vækst finder sted, baseret på dit neurovidenskabelige arbejde? Det behøver ikke nødvendigvis at være specifikt opmærksomhedsskema-teorien, bare din indsigt i sindet og bevidstheden generelt – er der nogen råd, du vil give til folk, der siger: »Jeg vil vokse, jeg vil udvikle mig, måske endda udvikle min bevidsthed?«

Michael Graziano (1:09:55) Jeg ved ikke helt — at forstå, hvordan nogle af disse mekanismer fungerer, er ikke helt det samme som at få råd om, hvordan man praktiserer og anvender dem. Det tyder bestemt på, at ting som meditation, som vi har talt om, er gyldige — man træner og styrker sine mekanismer til selvovervågning og kontrol af sine egne indre processer, og det er fantastisk. Men det største — og vi har talt og talt om forbindelsen til AI — jeg tror, det sandsynligvis er her, at arbejdet med bevidsthed vil få den største praktiske betydning, for bevidsthedsforskning plejede at være filosofi, stuefilosofi, så blev det videnskabeligt interessant, men nu er det pludselig nøglen til vores teknologiske fremtid, noget af afgørende betydning for vores arts fremtid. Jeg tror, at det sandsynligvis vil have en større indflydelse end en medicinsk eller psykologisk intervention.

Christopher Kabakis (1:11:01) I din teori om bevidsthed eller opmærksomhed spiller opmærksomheden en central rolle, og jeg fandt det interessant, hvor meget du lægger vægt på den — opmærksomheden som det centrale, hjernen gør, eller som vores sind udfører, nemlig at beslutte, hvad der skal fremhæves, hvad der skal undertrykkes, og hvordan den skal styres, og det gør vi hele tiden, for det meste ubevidst, og styrer vores opmærksomhed, som livet kræver det, eller som vi finder det passende. Jeg tror, det er nyttigt at blive mere bevidst om denne opmærksomhedsmekanisme, for ved at rette vores opmærksomhed mod noget, forandrer vi vores verden, og vi forandrer verden. Så i stedet for at tale om bevidsthed, hvilket er lidt diffust, handler det egentlig om opmærksomhed og om at kunne vælge, hvor vi retter spotlightet hen – og det meste af tiden retter vi det blot i én retning eller vinkel. Måske kan vi, hvis vi eksperimenterer lidt mere med vores evne til at styre vores opmærksomhed, få nye indsigter i os selv og i verden.

Michael Graziano (1:12:04) Jeg tror, det er rigtigt — fokus på opmærksomhed, det er virkelig vigtigt, helt sikkert.

Christopher Kabakis (1:12:16) Iain McGilchrist har udtalt noget lignende. Er der noget råd, du vil give vores lyttere, når det gælder opmærksomhed eller bevidsthed, sådan som du ser på det?

Michael Graziano (1:12:41) Jeg ville være meget forsigtig med at give råd, for jeg vil ikke skade nogen. Jeg vil sige, at forståelse er et værdifuldt mål i sig selv — det er fascinerende at forstå disse indre processer; en af de mest forbløffende ting ved mennesker er, at vi har fundet ud af så meget om os selv, og nu smitter det af på vores teknologi på måder, der kun vil fortsætte med at forandre os.

Christopher Kabakis (1:13:08) Ja — og jeg kom i tanke om, at jeg også gerne ville tale om dine skønlitterære værker, da du jo har skrevet *The Divine Farce* og andre bøger. Hvordan har dit litterære arbejde påvirket dit videnskabelige arbejde, og omvendt? Du skriver om de store emner – livets mening eller livets meningsløshed, døden og så videre – hvordan hænger det sammen, eller ikke, med dit videnskabelige arbejde?

Michael Graziano (1:13:41) Tematisk set ved jeg det ikke — måske er der nogle tematiske sammenhænge, men jeg tror, det er en meget lignende proces at skrive et skønlitterært værk eller at gennemføre et videnskabeligt eksperiment. Det er et meget stort projekt, og man er nødt til at gå til det både ud fra et æstetisk synspunkt og et meget logisk, reduktionistisk synspunkt. Jeg tror, det appellerer til de samme sider af mig at arbejde med disse forskellige typer projekter, og hvis man går i stå med det ene, kan man vende sig mod det andet i et stykke tid og så vende tilbage. Det er nok sammenhængen.

Christopher Kabakis (1:14:49) Okay — så det supplerer hinanden lidt, hvor de spiller ind på hinanden: dels en søgen efter forståelse, måske af den menneskelige tilstand i det litterære værk, dels bevidstheden som et kompromisløst forståelsesprojekt inden for videnskaben. Da du har interesseret dig for psykologi, filosofi og neurovidenskab i mange, mange år – er der noget, du ville give dig selv som råd, hvis du var ung? Du sagde, at det er svært at give råd til andre, men når du ser tilbage på dit yngre jeg, er der så noget, du synes, du så på for tidligt eller på en anden måde?

Michael Graziano (1:15:03) Jeg ville elske at føre en samtale med mit yngre jeg, men kun hvis jeg kunne sørge for, at han ikke kunne huske samtalen bagefter – for jeg vil ikke ændre hans livsforløb; han havde et virkelig interessant livsforløb, og jeg vil ikke styre ham i retning af eller væk fra noget bestemt. Jeg synes bare, det er fascinerende at forestille mig at rejse tilbage og snakke med ham – jeg tror, jeg kan huske noget, men der er sikkert meget, jeg ikke kan huske – og han ville måske også være nysgerrig efter sit fremtidige jeg. Det ville være en vidunderlig samtale.

Christopher Kabakis (1:15:36) Men så ville du jo have brug for den der »Men in Black«-maskine, så folk glemmer det igen — det lyder som om, du arbejder på en tidsmaskine og en maskine til at slette minder. Okay, fantastisk. Michael, tusind tak for denne superinteressante samtale, jeg har lært en masse. Hvis folk gerne vil komme i kontakt med dig eller lære mere om dit arbejde, hvor skal de så henvende sig?

Michael Graziano (1:15:39) Det er nok min hjemmeside — min Princeton-hjemmeside indeholder alverdens oplysninger.

Christopher Kabakis (1:16:07) Okay, så bare søg på »Princeton University Michael Graziano« på Google, så finder du det. Fantastisk — og jeg vil sætte mig ind i det med kvantemekanikken og vende tilbage til en opfølgende samtale. Det er et fascinerende felt, og som du sagde, har vi alle en naturlig interesse i at forstå os selv bedre, og du er i front på det område. Jeg har altid godt kunne lide, at det ikke bare handler om emergentisme, hvor bevidstheden bare dukker op – du siger, at der er en mekanisme, vi kan forstå, en plausibel måde at forklare, hvad subjektiv oplevelse eller bevidsthed er. Det har jeg altid elsket, og vi vil fortsætte med at dele det med folk, når der er en mulighed. Så mange tak, og hav en god dag derovre på østkysten. Okay, pas på dig selv. Farvel, Michael. Farvel.

Michael Graziano (1:16:47) Godt, det er jeg glad for at høre. Fantastisk, det er jeg virkelig glad for at høre. Det er rigtigt. Ja. Farvel.