Michael Graziano

Michael Graziano (00:01) Er vår bevissthet det samme som disse kunstige tingene vi bygger? Akkurat nå tror jeg nok ikke det. Men årsaken er at disse kunstige tingene ikke har selvmodeller på samme måte som vi har. Og det er bare et spørsmål om tid, og ikke så mye tid i det hele tatt – det vil komme et tidspunkt når disse maskinene bygger selvmodeller på samme måte. Med andre ord vil de tro med absolutt sikkerhet at de har subjektive opplevelser, på samme måte som vi tror at vi har det, ved å bruke de samme grunnleggende måtene å behandle informasjon på. Det kommer.

Christopher Kabakis (00:51) Du lytter til «Inner Pioneers», en podkast for nysgjerrige sjeler som ønsker å forstå hvordan man kan takle endringer, kriser eller ganske enkelt lengselen etter noe nytt. Bli med oss når vi dykker ned i ekte historier om forvandling og lærer av ledende stemmer innen psykologi, vitenskap og menneskelig utvikling hvordan man kan navigere gjennom indre forandringer og perioder med endring. Jeg heter Christopher Kabakis, og la oss nå begynne å banebryte.

Christopher Kabakis (01:20) Hei, alle sammen. Det er meg en stor glede å ønske professor Michael Graziano velkommen til podcasten vår i dag. Michael, du er professor i nevrovitenskap og psykologi ved Princeton. Du har publisert mange vitenskapelige artikler, men også noen populærvitenskapelige bøker, som jeg har lest selv om jeg ikke er noen ekspert – din nyeste, "Rethinking Consciousness", og et tidligere verk, "Consciousness and the Social Brain". Men det jeg synes er veldig interessant, er at du også har gitt ut skjønnlitterære verk, "The Divine Farce", et teaterstykke inspirert av Dantes "Den guddommelige komedie" – siden du selv har italiensk bakgrunn – og «Death My Own Way». Jeg har ikke lest dem ennå, men jeg er veldig nysgjerrig på denne sammenhengen mellom ditt vitenskapelige arbeid og ditt litterære arbeid. I tillegg til å skrive, komponerer du også musikk og spiller av og til, om enn ikke offentlig, og du driver med buktaleri som hobby. Det er et svært interessant spekter av aktiviteter for en professor. Har jeg glemt noe?

Michael Graziano (02:27) Du har gått gjennom det grunnleggende her, og tusen takk for at jeg fikk være med i podkasten din.

Christopher Kabakis (02:34) Ja – du har utviklet en av de sentrale vitenskapelige teoriene om bevissthet, vil jeg si, så jeg er veldig interessert i å snakke med deg om det i dag. Denne podkasten ser nærmere på hvordan personlig utvikling fungerer, hvordan overgangsfaser i livet fungerer, hvordan personlig vekst fungerer – og selvfølgelig handler det også om hvordan sinnet og bevisstheten fungerer. Så i dag har vi den absolutte eksperten her for å svare på dette spørsmålet: hva er bevissthet, eller hvordan fungerer den? Kanskje er det funksjonelle svaret enklere enn det essensialistiske, så la oss begynne der. Etter å ha studert bevissthet profesjonelt i rundt tretti år, og som utøver av bevissthetspraksis i over femti år, hva ville du svart hvis jeg spurte deg i dag hva bevissthet er?

Michael Graziano (03:25) Det er et veldig godt spørsmål – spørsmålet alle ønsker å stille. Det finnes en essensialistisk og en funksjonalistisk tilnærming, og å spørre hva bevissthet er, er litt som å peke på en bil og si: «Hva er kjørbarhet?» Det er noe bilen gjør. Man kan forstå komponentene og hvordan de samvirker for å få den handlingen til å skje, men det er vanskelig å peke på noe og si: «Det der er kjørbarheten, det der er bevisstheten.» Jeg tror det hemmer fremgangen litt i bevissthetsforskningen. Hvis jeg måtte oppsummere det – og dette er en oppsummering ingen noensinne liker, fordi den er så i strid med intuisjonen og krever mye utdyping før den virkelig går opp for en – ville jeg si at folk sier at de har en bevisst opplevelse fordi deres semantiske, kognitive nettverk inneholder den informasjonen. De sier det fordi de tror på det semantisk, og de tror på det fordi det finnes dypere deler av hjernen, skjult under vår kognisjon, som bygger disse informasjonsbuntene, disse selvmodellene, og sender dem opp til våre kognitive nettverk. På en måte er det forklaringen på hvorfor vi sier, tenker og insisterer på at vi har en bevisst opplevelse: svært dype strukturer i hjernen bygger disse selvmodellene og forteller i praksis vår bevissthet, vår semantiske forståelse, at dette er sant, at dette er det som skjer. Og vi, som et helhetlig system – en person, et komplekst system av informasjonsbehandling, kropp og hjerne – vet ikke noe annet. Det er alt vi vet, alt vi noensinne har tilgang til. Alt vi sier, tror og tenker om oss selv og resten av verden stammer fra denne prosessen. Så det er kjernen i det hele: bevissthet er en type selvmodell som konstrueres dypt inne i hjernen, utenfor våre kognitive nettverk, men som deretter pumpes opp i vår høyere kognisjon. Det er det grunnleggende svaret.

Christopher Kabakis (06:09) Ok, så du sier at det er en informasjonsutgang fra en tilstand i et informasjonsbehandlingssystem, men den dukker opp – det høres litt ut som teorien om det globale arbeidsområdet, altså at den kommer fra det ubevisste – er det riktig ord? – og så blir den på en eller annen måte gjort bevisst. Må du ikke også forklare hvordan overgangen skjer fra at vi ikke oppfatter noe, til at vi oppfatter noe?

Michael Graziano (06:39) Vel, din forklaring blander sammen ulike nivåer, for man kan ikke forklare bevissthet ved å henvise til bevissthet – man kan ikke si at jeg er bevisst fordi den ubevisste delen bestemte at jeg er det og deretter fortalte det til den bevisste delen; det gir bokstavelig talt ingen mening, det er bare å blande sammen nivåer. Fra mitt synspunkt som nevrovitenskapsmann er vi i siste instans store biologiske maskiner laget av nevroner koblet sammen av synapser som behandler informasjon, og når vi sier at vi har bevissthet, er det et spor – det kommer ut av munnen, og alt som kan komme ut av munnen avhenger av informasjon kodet i nevrale nettverk, ellers kan det ikke komme inn i talekretsløpet. Så det må til syvende og sist være i form av informasjon representert i nevrale nettverk, og man kan spore hvor den informasjonen befinner seg og hva som konstruerer den. Til syvende og sist, ja, vil det være noe som ligner et globalt arbeidsområde – en del av det overordnede nettverket som er tett koblet til vår taleutgang, og som vi kaller kognisjon. Når ting kommer inn i det, er det det vi kan snakke om, og noe av informasjonen som kommer inn sier at det er en bil der borte, det er et tre, jeg sitter i en stol, det er et «meg» – men det er også informasjon som sier at jeg har en subjektiv opplevelse av disse tingene. Uten all den informasjonen kan du ikke tenke tanken, du kan ikke formulere begrepet. På en eller annen måte må alt dette være representert i de nevrale nettverkene – det er nesten, sett fra en nevrovitenskapsmanns synspunkt, et logisk nødvendig sett av betingelser.

Christopher Kabakis (08:39) Jeg har så mange spørsmål, og jeg har allerede hørt litt om hva oppmerksomhetsskjemateorien går ut på – teorien du sannsynligvis er mest kjent for, og som jeg gjerne vil belyse i dag. Men først en liten avstikker til det personlige: hvordan ble du interessert i dette temaet, i å stille disse spørsmålene om hvordan bevisstheten og sinnet fungerer? Hva er din personlige historie, på en måte som forklarer hvordan du kom inn på dette fagområdet?

Michael Graziano (09:12) Det kommer an på hvor lenge du vil at jeg skal fortsette. For det første er det et spørsmål som alle er interessert i – vi har alle disse tingene, og alle som har en viss evne til selvrefleksjon lurer på hvor de kommer fra, og vi vokser alle opp med intuisjoner, fordommer og hypoteser om det. Jeg ble interessert i det som et vitenskapelig tema veldig tidlig, slik mange gjør – jeg leste mange bøker om det og tenkte: «Dette er så kult, jeg skulle ønske jeg kunne studere dette.» Jeg tror alle som blir nevrovitenskapsmann eller psykolog, har en tendens til å tenke på disse temaene. Men å virkelig studere det fra et vitenskapelig perspektiv i laboratoriet skjedde ikke før mye senere – rundt 2010, da jeg begynte å fokusere på det. Før det hadde jeg studert mange forskjellige temaer innen nevrovitenskap – helt grunnleggende temaer, som hvordan hjernen behandler sanseinntrykk og hvordan den styrer bevegelse – og en av de viktigste innsiktene i nevrovitenskapen er at hjernen bygger modeller av ting. Du ser på verden, men det du ser er egentlig modeller, informasjonsmodeller som konstrueres i synssystemet ditt bakerst i hjernen. Du beveger deg og styrer kroppen din, men det avhenger i avgjørende grad av at hjernen din bygger en modell som kontinuerlig oppdateres, av hvor lemmene dine er og hva de gjør. Et av de tydeligste eksemplene på at hjernen bygger en modell, er fenomenet fantomlem – hvis du er uheldig nok til å miste en arm, vil du sannsynligvis oppleve en fantomarm en stund, noen ganger i årevis, fordi hjernens modell av armen vedvarer. Hjernen bygger altså modeller av ting for å overvåke, forutsi og bidra til å kontrollere dem. Og denne tankegangen førte direkte til hele denne forskningsretningen: hva skjer når hjernen begynner å bygge modeller, ikke av omverdenen, ikke av kroppen, men av sine egne indre prosesser, slik at den kan holde oversikt over og forutsi hva den gjør? Nøkkelen til disse selvmodellene er at hjernen ikke trenger å kjenne til detaljene – den trenger ikke å vite at den har nevroner med synapser, GABAerge baner og så videre. Den trenger bare generell funksjonell informasjon: Jeg har en viss evne til å forstå ting, til å gripe tak i dem og fokusere på dem, og hvis jeg gjør det, kan jeg reagere godt på dem, men hvis jeg ikke gjør det, kan jeg ikke. Jeg har et minne som lar meg holde rede på ting, men det er ufullkomment på den ene og den andre måten. Disse vage, amorfe egenskapene som hjernen trenger å vite om og bygger modeller av, er grunnlaget for vårt begrep om sinn, bevissthet og vilje.

Christopher Kabakis (12:42) Ok, la oss da gå rett over til oppmerksomhetsskjemateorien, for den er allerede med der – dette grepet om en formløs kraft. For i den virkelige verden finnes det et grep for å kontrollere den ytre verden, men arbeidet ditt med subjektiv opplevelse og bevissthet handler i stor grad om viljen, dette "jeg kan bevege energi" eller hva ordene for det nå enn er, og gripe tak i noe annet. Kan du kanskje forklare for oss hvordan du tenker om dette – oppmerksomhetsskjemateorien.

Michael Graziano (13:13) Det er veldig enkelt, og det henger sammen med hvordan det oppsto – da jeg først skrev om det, var jeg ikke klar over at det var en ny teori. Jeg trodde det bare var en fornuftig måte å systematisere det alle allerede visste på. Jeg skrev en liten bok om det, og en nevrovitenskapsmann tok kontakt med meg og sa: "Hvorfor foreslår du en ny teori på denne uakademiske måten, i en bok for allmennheten – burde du ikke skrive en ordentlig artikkel?" Så jeg skrev en artikkel – noe i stil med «Bevissthet og sosial persepsjon: En ny hypotese» – og den setningen på slutten var egentlig ment ironisk, fordi jeg ikke kunne tro at det faktisk var en ny hypotese. Men hypotesen er virkelig enkel. Hjernen har en prosess vi kaller oppmerksomhet – det er en prosess, ikke egentlig en ting, selv om folk legger mange forskjellige betydninger i ordet. Jeg mener noe spesifikt: Grovt sett kan hjernen fokusere sine prosesseringsressurser, bearbeide et lite antall ting grundig om gangen, og ignorere eller bare overfladisk bearbeide alt annet. Det er oppmerksomhet, ofte tenkt på som et søkelys – du kan rette oppmerksomheten mot et sted i rommet foran deg, mot lyden av fugler bak deg, mot en tanke, eller mot det minnet ditt forteller deg om frokosten, og når du gjør det, trekkes oppmerksomheten din bort fra verden rundt deg. Oppmerksomheten din er altså begrenset, og – kanskje folk ikke alltid innser dette – oppmerksomhet er grunnen til at vi er intelligente, for uten den ville du trengt en hjerne på størrelse med en planet for å bearbeide verden. Med en liten hjerne på tre pund kan du, hvis du bruker ressursene smart, ved å fokusere dypt på viktige ting og filtrere bort resten, være ekstraordinært intelligent når det gjelder disse viktige tingene. Men vi må også kontrollere oppmerksomheten – den blir ikke bare dratt hit og dit, selv om den delvis blir det; et skinnende objekt, og vips, så går oppmerksomheten din rett til det – du må også flytte den selv: fokuser på denne boka og ignorere festen der borte, eller gå gjennom en potensielt farlig situasjon og si: «Jeg bør helst ikke bry meg om min indre monolog, jeg bør heller fokusere på treet og sørge for at jeg ikke blir overfalt.» Alt du gjør avhenger av å kontrollere oppmerksomheten din – å lage et smørbrød innebærer å flytte oppmerksomheten til peanøttsmørkrukken, deretter til brødet, deretter til kniven. Dette er bokstavelig talt kjernen i hvem vi er som aktører i verden. Og hvordan kontrollerer man oppmerksomheten? Ethvert system som styrer noe, trenger en modell av det det styrer – dette prinsippet dukket opp for mer enn hundre år siden, og det er grunnleggende for robotikk og for nesten all kompleks ingeniørkunst. Hvis hjernen skal flytte oppmerksomheten sin rundt, kontrollere den og forutsi hvilke ytre krefter som kan påvirke den, trenger den en modell av oppmerksomheten – den må si: «Oppmerksomheten min gjør dette og det, men samtidig er oppmerksomheten min det som kan gjøre dette og det, det som gjør meg i stand til å gjøre dette og det.» Så hjernen bygger en forenklet modell, og i den modellen sier hjernen til seg selv: Jeg har en essens inni meg, en essens som lar meg mentalt gripe noe og forstå det dypt, og når jeg gjør det, lar den meg reagere på det på en kompleks måte og huske det, og den gir meg en levende følelse av hva sinnet mitt har grepet. Men hvis jeg ikke har forstått det, kan jeg ikke tenke dypt over det, kan ikke reagere godt på det, og husker det kanskje ikke senere. Så hjernen tegner et bilde av sine egne egenskaper, og bildet er: Jeg har en slags formløs, ikke-materiell essens – den har ikke noe fysisk grunnlag, fordi hjernen ikke trenger å vite noe om det fysiske grunnlaget, det er kanskje akkurat som en energi, og den er inne i meg, og den lar meg være bevisst på noen ting og ikke andre, og det er selve grunnlaget for hva som lar meg reagere eller hindrer meg i å reagere. Bevisstheten er hjernens modell av hva dens eget oppmerksomhetsfokus gjør. Det er oppmerksomhetsskjemateorien i et nøtteskall.

Christopher Kabakis (19:23) Nettopp. Og da jeg kom over dette, ble jeg veldig begeistret, for du forklarer ganske godt det som ofte mangler. Det er ikke nok å bare ha en modell av det jeg bearbeider – for eksempel et eple foran meg – det er ikke nok å ha det, og det er heller ikke nok å ha en modell av meg selv; vi trenger noe i mellom som knytter modellen av meg selv til eplet. Og det er akkurat det du nettopp forklarte – en modell av meg selv i ferd med å rette oppmerksomheten mot eplet. Så dette oppmerksomhetsskjemaet – "skjemaet" fordi det er forenklet – fordi det er forenklet, tror jeg du vil hevde, føles det som en formløs kraft: Jeg griper eplet med oppmerksomheten min. Og så, som du sa, kan jeg rapportere – hvis folk spør: «Er du oppmerksom på eplet?», ville jeg si ja, jeg er oppmerksom på eplet. Ellers kunne jeg ikke si det – jeg ville bare ha en modell av et eple og meg selv, men jeg kunne ikke si at jeg er oppmerksom på eplet. Er det slik?

Michael Graziano (20:27) Det stemmer helt. Hvis du bare hadde den visuelle modellen av eplet, og noen spurte: «Er det et eple?», kunne du svare: «Ja, det er et eple.» Men hvis noen spurte: «Er du klar over det?», måtte du svare: «Kan ikke beregne det – hva mener du med det?»

Christopher Kabakis (20:53) Og dette ga mening for meg på en svært intuitiv måte, for når folk mediterer, slipper de ofte taket på innholdet i opplevelsen – objekter, inkludert tankene sine – man blir trent til å gi slipp på tanker og informasjon, og man mister til og med følelsen av sin egen kropp, kanskje deler av selvbildet sitt. Og det som gjenstår i den dype meditative tilstanden, er det man kaller ren bevissthet – noe som i grunnen er det oppmerksomhetsskjemaet handler om. Men slik jeg forestiller meg det, er denne rene bevisstheten en ren, formløs kraft til å gripe tak i ting, og vi oppfatter den som et potensial – jeg kan gjøre ting, jeg kan bearbeide ting. Vil du si at det er der oppmerksomhetsskjemaet møter denne rene bevisstheten i buddhistisk eller zen-meditasjon?

Michael Graziano (21:56) Ja – det finnes mange ulike former for meditasjon, men spesielt meditasjon med fokusert oppmerksomhet har jeg alltid ment er tett knyttet til begrepet «oppmerksomhetsskjema». Her er det interessante ved det hele: Det oppmerksomheten egentlig gjør, er å forbedre hjernens modeller. Når jeg retter oppmerksomheten mot eplet, bygger den visuelle hjernebarken min en modell, og oppmerksomhet er prosessen som forbedrer denne modellen, slik at den kan få større innvirkning. Oppmerksomhet virker altså på modeller og forbedrer dem, og oppmerksomhetsskjemaet er en modell av oppmerksomhet – det er den informasjonspakken hjernen konstruerer som representerer oppmerksomhet. Hva skjer da når du retter oppmerksomheten mot selve oppmerksomhetsmodellen? Siden oppmerksomhet forbedrer modeller, hvorfor skulle du ikke kunne rette oppmerksomheten mot oppmerksomhetsskjemaet, altså modellen for oppmerksomhet? Det er det jeg tror mye meditasjon handler om – i bunn og grunn å ta oppmerksomhetsprosessen og fokusere den på modellen som beskriver oppmerksomhet. Du retter oppmerksomheten mot din egen oppmerksomhet og spør: Hva vet hjernen min om den delen av meg som kan fokusere på ting?.

Christopher Kabakis (23:58) Nettopp. Det er derfor jeg noen ganger tenker at Dan Siegel sier noe lignende – han sier at han blir "bevisst på selve bevisstheten". Disse tradisjonene bruker ordet «bevissthet», mens du i mye større grad bruker ordet «oppmerksomhet», noe jeg også liker, med denne ideen om en modell for oppmerksomheten. Det er én ting jeg ville spørre deg om: bevissthet er denne informasjonsmodellen for oppmerksomhet, og oppmerksomhet er en måte å håndtere data på – du sa også nettopp at oppmerksomhet er signalforsterkning, der visse signaler forsterkes og andre dempes. Dette er en abstraksjon, en teori som prøver å forstå hvordan disse tingene fungerer. Men en modell i seg selv setter ikke noe i gang, gjør den vel – den er en abstraksjon. Hvordan knytter du den tilbake til noe virkelig, siden du alltid forankrer ting i hjernen? Og i hjernen finnes det også, noe du sikkert er enig i, energi – hvordan drives motoren, hvordan blir informasjonen konkretisert og styrket av noe, nemlig kroppen og hjernen vår? For noen ganger lurer jeg på om forankringen for denne abstrakte modelleringen er forankret i vår biologi på en måte som skiller seg fra maskinene vi har bygget – kanskje det foregår noe annet – noe som kan skille oss fra kunstig konstruerte maskiner, som følelsen av noe, eller andre ting. Er du enig, eller vil du si at kanskje hjernen, bevisstheten vi har, er en annen type datamaskin enn maskinene vi har bygget, og at det er derfor vi sliter med å forklare egenskaper som sansninger, følelser og kreativitet? Eller går jeg for langt?

Michael Graziano (25:39) Du henviser til mange fenomener som finnes i fagfeltet. Dette har blitt svært populært som en reaksjon på fremveksten av AI, spesielt de siste par årene – store språkmodeller (LLM-er) som plutselig snakker på måter som, ærlig talt, for fem år siden ingen trodde var mulig før om et par hundre år, og nå er de her. Jeg tror det er veldig filosofisk truende – kanskje ikke så mye for den gjennomsnittlige personen, men for filosofer og nevrovitenskapsfolk som har tenkt på dette, er det veldig truende, og det oppstår en motreaksjon. Vi så den samme typen motreaksjon i andre halvdel av det tjuende århundret da datamaskiner begynte å vinne frem – det førte til filosofiske begreper som "det vanskelige problemet": det finnes ting vi aldri kan forstå, og det bidrar til å gjøre oss spesielle og skille oss fra maskinene. Jeg tror man ser den samme motreaksjonen nå – et enormt, instinktivt press for å sikre at vi er forskjellige fra disse maskinene. En av de vanligste ideene er at biologien har alt dette i cellen og kjemien som bobler opp og påvirker de høyere lagene. Personlig – og jeg vet at dette høres lettvint ut – tror jeg denne ideen kom inn i den offentlige bevisstheten gjennom midi-klorianene i «Star Wars»: disse små, dyptliggende biologiske tingene i cellene som bobler opp og bidrar til Kraften og gjør hjernen og sinnet ditt magisk. Det er der ideen stammer fra, og den har omtrent like mye vitenskapelig hold i seg. Ja, nevroner har biologi og energi, men til syvende og sist kommuniserer nevroner med hverandre, spesielt over avstander på mer enn omtrent en millimeter, via aksoner, synapser og aksjonspotensialer – en gnist som forårsaker en pulserende effekt i den andre enden. Hvis du snakker om en følelse som oppstår fra biologien, hvordan krysser følelsen synapsen, beveger seg gjennom en gnist av elektromagnetisk signal, hopper til neste nevron og påvirker spesifikt aktiviteten til nevroner i et nettverk i akkurat det rette mønsteret, slik at det overordnede aktivitetsmønsteret perfekt representerer «Jeg har en subjektiv opplevelse»? Ingen tar noensinne opp dette – de gjør bare den naive antakelsen at hvis følelsen oppstår, så har jeg den, og det er derfor jeg snakker om den. Men det er ingen forklaring. Alt vi sier om oss selv – at det er en følelse, at det føles som noe, at det er en opplevelse, den delen av bevisstheten som er spesiell for meg – alt dette må logisk sett nødvendigvis stamme fra informasjon representert i disse mønstrene av nevral aktivitet, en informasjonsmessig innleiring. Slik må det være. Så for å komme tilbake til ditt tidligere spørsmål – er vår bevissthet det samme som disse kunstige tingene vi bygger? Akkurat nå, sannsynligvis ikke, fordi disse kunstige tingene ikke har selvmodeller på samme måte som vi har. Men det er bare et spørsmål om tid, og ikke så mye tid – det vil komme et tidspunkt når disse maskinene bygger selvmodeller på samme måte, og tror med absolutt sikkerhet at de har subjektiv opplevelse, ved å bruke de samme grunnleggende måtene å behandle informasjon på. Det kommer – men er ikke her ennå.

Christopher Kabakis (30:18) Ok, jeg har noen spørsmål om det. Hvis bevissthet er en informasjonsmodell for oppmerksomhet, så tenker vi – når vi tenker på en modell – på abstrakt informasjon som vi ville skrive på en tavle eller i en bok – grafer, figurer, tall – og det virker å være av en helt annen karakter enn det vi kommer frem til med kvalia: smaken av sjokolade, duften av en rose, kjærligheten du føler for barnet ditt. Det virker litt for enkelt å si at det bare er en modell av oppmerksomhet, fordi det føles så rikt. Hvordan konkretiseres dette? For de store språkmodellene (LLM-ene) du nevnte, vet sannsynligvis ikke noe om kvalia – de behandler abstrakt informasjon, de bygger modeller, men det er mer som et sjakkprogram som er programmert til å spille sjakk. Hvordan svarer du på dette, siden du sier at subjektiv opplevelse er viktig – hvordan forklarer teorien din kvalia?

Michael Graziano (31:17) Helt kort sagt: Modellene vi har i dag – i hvert fall helt frem til nylig – er alle tekstbaserte – det er alt disse maskinene får, selv om vi nå også går over til visuelle og auditive modeller. Men tekst er en svært abstrakt modalitet, og det samme gjelder språk. Tenk på den menneskelige hjernen: når jeg snakker om informasjon og modeller, er den automatiske antakelsen at dette må være en kognitiv modell – jeg har lært noe, jeg tror jeg forstår det. Men hjernen bygger også andre typer modeller. Når du ser på noe, eller lukter eller hører noe, oversetter deler av hjernen verden til en modell, en samling av informasjon, og den er svært rik – ikke en kognitiv, abstrakt, semantisk modell, men en svært rik modell på sansenivå og persepsjonsnivå. Ta synet, en bedre forstått sansemodalitet: du ser på kaffekoppen din og bygger en modell av den i synssystemet ditt, og her er hvordan den modellen skiller seg fra abstrakte modeller. For det første kan du ikke unngå det – det er automatisk, du har ikke top-down-kontroll over det; hvis øynene dine er åpne og det er lyst, kan du, med mindre du er en svært uvanlig person, ikke unngå å bygge en modell av den koppen. For det andre er det en svært rik modell, full av nyanser, glans her, skyggelegging der. For det tredje kommer den med metainformasjon som forteller hjernen din "dette er ekte" – det finnes et område innen psykologisk tenkning som kalles kildeovervåking, og en av tingene hjernen gjør er å overvåke informasjonskilden: dette kom fra omverdenen, eller det er en hypotese, eller dette kom fra minnet mitt. Noen ganger blir dette forvirret – folk tror at noe kom fra omverdenen når det ikke gjorde det, eller omvendt – men generelt sett er vi ganske flinke til det. Så disse rike, automatiske sansebildene kommer med denne metainformasjonen, og når den dukker opp i bevisstheten, blir bevisstheten informert: dette er ekte, dette er virkeligheten, ikke noe jeg har funnet på semantisk sett. Når du har denne visuelle modellen av kaffekoppen din som dukker opp og sier at dette er ekte, og en annen modell, like automatisk og omfattende, som dukker opp og sier at det er noe som kalles subjektiv opplevelse knyttet til den kaffekoppen akkurat nå – da har du informasjonssettet levert til din høyere bevissthet, slik at hvis noen spør: «er du bevisst, har du en subjektiv opplevelse av hvordan det er å se på den kaffekoppen?», har du den nødvendige informasjonen til å svare: «Ja, det har jeg, jeg er sikker på det.».

Christopher Kabakis (35:41) Så det er som en samtidig tilstedeværelse av oppmerksomhetsskjemaet ditt, din subjektive bevissthet, sammen med alt annet som befinner seg i oppmerksomhetsfeltet – jeg vil uttrykke det slik – og så er det til stede, det er der for meg, når objektet er der og min bevissthet, min oppmerksomhet, også er der, og da blir resultatet at det er der, og jeg husker det. Du sa i boka di at sted er en viktig kobling, så alt faller på plass – hjernen min behandler det samlet, formen, fargen – men den ultimate koblingen er denne subjektive bevisstheten, dette amorfe oppmerksomhetsskjemaet som bringer sammen alt som har blitt brakt opp til overflaten. Noen, som Dan Siegel, har sagt at sinnet er den ultimate koblingen – vil du si at oppmerksomhetsskjemaet, eller den subjektive opplevelsen, eller bevisstheten, er den ultimate koblingen?

Michael Graziano (36:41) Ja, det stemmer. Det er et sentralt poeng – «sinnet» er på en måte bare en annen måte å snakke om oppmerksomhet på. Når du tenker på det, blir du minnet om noe – det er bokstavelig talt «re-minding», noe som blir brakt tilbake til sinnet ditt. Ute av syne, ute av sinn. Hva tenker han på akkurat nå? Dette er dagligdagse måter å snakke om hva som er innenfor oppmerksomhetens rekkevidde – det som er blitt forsterket av oppmerksomhetsprosessen, slik at det påvirker høyere nettverk som kognisjon. Det er det et sinn er, og oppmerksomhet, og det globale arbeidsområdet – de er alle på en måte synonymer; oppmerksomhet kan fungere på mange nivåer, og vi snakker om de høyeste nivåene av den. Men hvis noe kommer inn i sinnet ditt, oppmerksomheten din, det globale arbeidsområdet ditt – som bilen du ser på – og noen spør: «Har du en subjektiv opplevelse av bilen?», kan du ikke svare med mindre du også har en modell, informasjon om hva en subjektiv opplevelse er og hvilken tilstand du befinner deg i akkurat nå. Du trenger den ekstra brikken.

Christopher Kabakis (38:08) Ja – la meg komme tilbake til dette spørsmålet om informasjon, for du sier at modellene jeg snakker om ikke bare er abstrakte, men at de også omfatter all den andre informasjonen jeg mottar – smak, berøring, visuell informasjon – og at oppmerksomhetsmodellen og alle disse sansene og oppfatningene blir behandlet sammen, og at jeg da kan si at jeg er klar over dem. Og du sier at det ikke er noen grunn til at maskiner ikke skal kunne ha en slik selvmodell, at de kan behandle berørings-, syns- og luktinformasjon, samt følelser som kjærlighet, sammen med oppmerksomhet, på samme måte. Er det riktig, og hvorfor tror du det? For John Vervaeke, en professor ved Universitetet i Toronto, har sagt at LLM-ene og andre kunstige maskiner vi bygger aldri vil bli som oss, fordi de ikke bryr seg om informasjonen, mens vi bryr oss fordi vi har disse biologiske organismene – jeg vet ikke, det er en av grunnene. Hvordan vil du svare på det?

Michael Graziano (39:23) For det første snakker vi om følelser, og ingen forstår egentlig ennå hvordan følelser oppstår i hjernen – så vi vet ikke hvordan vi skal bygge det. Det er mye enklere å utvikle synsfunksjonen, som vi vet svært mye om, og mye enklere å utvikle høyere kognitive evner, som vi vet enda mer om. Så det er det første poenget: Jeg tror ikke LLM-er har noe som ligner på følelser, jeg tror de ikke er på det stadiet. Hva er følelser? Jeg tror det du sier er helt riktig – følelser har sin rot i kroppen. Det finnes svært gamle teorier som går tilbake til William James om at følelser delvis er hjernens tolkning av sanseinntrykk som oppfanges i kroppen – det autonome nervesystemet, den sympatiske «kamp-eller-flukt»-responsen og den parasympatiske «hvile-og-fordøyelse»-responsen, som virker sammen i et push-pull-spill, alltid aktive selv i uformelle situasjoner. Vi opplever faktiske fysiologiske forandringer – blodtrykk, blodtilførsel til huden slik at vi rødmer eller blir bleke, pupiller som trekker seg sammen eller utvider seg, tørr munn, hjertefrekvens, adrenalin – og sanseorganene i kroppen sender denne fysiske informasjonen opp til hjernen, gjennom mange lag langt under hjernebarken, der systemer analyserer den og vurderer kroppens tilstand. Til slutt når dette opp til de mer abstrakte delene av hjernebarken, og vi kan si: «Jeg føler virkelig en dyp frykt, eller kjærlighet, eller sinne» – følelser som delvis er konstruksjoner i hjernen, men som egentlig er forankret i kroppens fysiologi og oppfanges av sanseorganene. LLM-er har ikke noe av dette, bokstavelig talt ingenting av det, så jeg tror ikke de har noe som ligner på menneskelige følelser. Men kunne de, i prinsippet? Ja – man kunne bygge mye av dette kunstig, med sensorer, eller simulere det, med en simulert kropp og simulerte tilstander. Finnes det en fremtid der LLM-er har følelser slik mennesker har? Klart – jeg ser ikke for meg at det skjer snart, fordi det er teknologiske utfordringer langt utenfor det folk klarer i dag, men teknologien utvikler seg raskere enn noen tror, og i diskontinuerlige sprang, så jeg vet ikke når, men jeg er ganske sikker på at det til slutt, ja, vil det skje. Men jeg er helt enig i at store språkmodeller akkurat nå blir stadig mer intelligente semantisk sett, og at de forstår hva de sier semantisk – jeg tror bare ikke de bryr seg. Jeg tror ikke de har den emosjonelle siden av det.

Christopher Kabakis (43:05) Interessant. Så du mener altså at de ikke bryr seg, sannsynligvis fordi de ikke har en kropp, og at det er kroppen som får oss til å bry oss, gjennom følelser – og det har de ikke, men de forstår likevel. Jeg ville også spørre om denne forståelsesdelen, fordi – korriger meg gjerne, siden du vet mye mer om dette – klassisk informasjonsteori, i Claude Shannons forstand, er et mål på overraskelse, som reduserer usikkerhet og gir deg de klassiske bitene, enere og nuller. Noen har sagt at det er en syntaktisk definisjon av informasjon – et mål på hvor overrasket du blir av det neste ordet eller symbolet. Og store språkmodeller (LLM-er) fungerer slik, tror jeg – de har enorme korrelasjonsmatriser og forutsier det nest beste ordet, men det ville vel ikke være mening, ville det, det ville ikke være forståelse slik vi tenker på det i hverdagslige termer. Er måten vi tenker på informasjon og mening på, forskjellig fra den vitenskapelige måten informasjon defineres på, eller fra hvordan AI-ene er programmert, og gjør det noen forskjell? La oss si meningen med livet – en LLM kan simulere et svar hvis jeg spør om det, den vil fortelle meg noe, men er det det samme, eller spiller det ingen rolle? Ville du si at det ikke spiller noen rolle?

Michael Graziano (44:30) Mange har dette synet – jeg har hørt det millioner av ganger: Folk klamrer seg fast til forestillingen om at store språkmodeller (LLM-er) bare forutsier neste ord, at de er gigantiske prediksjonsmotorer, store maskiner for lineær algebra som beregner korrelasjoner. Her er problemet med den tankegangen: mennesker er maskiner som forutsier den neste muskelsammentrekningen vi trenger for å klare oss i verden – det er bokstavelig talt det eneste formålet med å ha en hjerne, å kontrollere bevegelse i en kompleks verden, og skapninger som ikke beveger seg i et raskt, interaktivt tempo, har ikke hjerner. Og måten vi gjør det effektivt på, er ikke bare å rykke til og håpe, eller å bruke en enkel korrelasjonsmatrise – vi har dypere lag, der hjernen bygger abstrakte representasjoner, så det handler ikke bare om muskelmønsteret. I disse dypere lagene har vi abstrakte representasjoner av hunder og kjærlighet og biler og frokost og sult, alle de tingene vi trenger for å bygge et bilde av vår verden på det mest abstrakte begrepsnivået, slik at disse begrepene kan ordnes og manipuleres, en generell respons bestemmes, og deretter oversettes bit for bit tilbake til individuelle muskelsammentrekninger. Det er den eneste måten å reagere effektivt på en komplisert verden – ved å bygge dype lag med dype abstrakte representasjoner. Dette er bokstavelig talt akkurat det LLM-er gjør. Ja, de forutsier neste ord, men de kan ikke gjøre det uten å ha dypere lag, og det har de – disse modellene kan ha femti lag fra inngang til utgang, og i de dypere lagene, kanskje omtrent to tredjedeler ut i modellen, begynner man å se aktivitetsmønstre, noen ganger kalt «embeddings» eller vektorer, som er representasjoner – den samme typen representasjoner man ser i den menneskelige hjernen, et aktivitetsmønster blant nevroner eller enheter som står for noe, og det de står for er svært abstrakt. Man kan gå inn i disse maskinene, inn i de skjulte lagene, og finne de nevralrepresenterte signalene som står for hunder og biler og kjærlighet, disse abstrakte begrepene, slik at de kan manipuleres og deretter oversettes tilbake, bit for bit, til ord. Så det handler ikke bare om å forutsi det neste ordet – det gjøres ved å bygge dype, interne, superabstrakte begrepsmessige representasjoner av verden, og vi vet at den gjør det fordi vi har direkte tilgang til den, og vi vet at den gjør det på en måte som er uhyggelig lik den måten hjernen gjør det på. Kanskje det ikke burde være noen overraskelse, for disse modellene er basert på den mest grunnleggende innsikten i hvordan hjernen fungerer – nemlig at hjernen består av nevroner som er koblet sammen av synapser, og at synapsene endrer styrke som følge av læring. At disse systemene lærer å gjøre dette, er fantastisk, men sett i ettertid er det ikke så overraskende. Så ja, disse maskinene forstår semantisk hva de sier på et dypt konseptuelt nivå, på samme måte som vi gjør – men du har rett i at de mangler ting som følelser, fordi de ikke har den arkitekturen; de er ikke bygget etter den samme arkitekturen som oss. De har noen av de tingene vi har, og mangler andre.

Christopher Kabakis (49:12) Og arkitekturen henger sammen med det vi snakker om – vi tenker ofte i termer av maskinvare og programvare, programvaren som kjører på maskinvaren, og vi ønsker at maskinvaren skal være forutsigbar og stabil, slik at vi får pålitelige én-null-bit-relasjoner på algoritmenivå. Så maskinene befinner seg kun på programvarenivået, og maskinvarenivået er irrelevant for dem – de vet ikke og bryr seg ikke om at de kjører på silisiumskiver i datasentre i Abu Dhabi eller Utah, men vi bryr oss, kanskje på grunn av det med kroppen. Så det jeg hører deg si, er at sinn og bevissthet – siden du snakker om modeller og funksjoner – utgjør programvarelaget, og at maskinvaren ikke er relevant – vi kunne implementere sinnets programvare på ulike underlag, for eksempel silisium i stedet for kroppen. Og her er et spørsmål som er vanskelig for meg å sette ord på: vi vet at virkeligheten, innerst inne, er kvantemekanisk, ikke klassisk, ikke bare en og null – det finnes et dypere lag, med alle de merkelige aspektene ved kvantefysikken. Noen sier at hvis vi skal forankre fysikken vår riktig, må vi forankre den i informasjonsteori, men ikke klassisk informasjonsteori – kvanteinformasjonsteori, som har andre egenskaper. Så ville det være en mulighet, eller tar jeg helt feil, at kroppene og hjernene våre, som stammer fra denne verden, hvis vår dypeste teori om verden sier at den er kvantemekanisk, også må være kvantemekaniske på et eller annet nivå, og at vi først krysser en terskel inn i det klassiske på nivået av synapser og nevrale utladninger, som i mye større grad er et-null — men under det, all biokjemien, cellene med sin egen intensjonalitet, som gjør sitt eget i denne store konserten som organismen utgjør — er ikke det kvantemekanisk? Og kanskje er det derfor vi ikke kan forklare følelser og emosjoner, fordi informasjonsbehandlingen som skjer faktisk er kvantemessig, med andre egenskaper enn det klassiske. Si ifra hvis jeg tar helt feil, for jeg er ingen ekspert, og du vet sikkert mye mer.

Michael Graziano (51:43) Vel, jeg skal fortelle deg litt om hva jeg mener — som en tidligere fysiker fra en svunnen tid har jeg prøvd å tenke gjennom noen av disse kvanteforslagene, og jeg mener at ordet "kvante" er svært farlig, fordi folk i bunn og grunn sier: «Det finnes denne udefinerbare tingen, vi forstår ikke kvantefysikk, og så er det bevissthet, som vi heller ikke forstår, så de må henge sammen – og det er mye av den tankegangen der ute. Jeg tror faktisk at mye av hvordan nevroner fungerer, til syvende og sist, er klassisk – klassisk fysikk er konsekvensen av kvantemekanikk på et statistisk nivå, og når man kommer opp på nivået der et nevron kommuniserer med andre nevroner, er det for det meste klassisk, ikke så veldig kvantemessig. Man må ned på det bittesmå nivået der enkeltstående ioner beveger seg over membraner for å være helt og holdent i kvanteverdenen – det foregår mye kvantefysikk der nede, men det gjør det jo overalt; det er slik verden er bygget opp. Det meste av hvordan nevroner kommuniserer med hverandre og behandler informasjon, kan forstås på et klassisk nivå og kan modelleres utrolig godt ved hjelp av ganske enkle lineære matematiske ligninger, og det er grunnen til at disse store AI-systemene har fungert så bra. For det andre, når det gjelder spørsmålet om kvantefysikken forklarer hvordan vi opplever en følelse – min bekymring er at det alltid er det samme spørsmålet: så snart du spør hvordan vi opplever en følelse, tror jeg du har satt deg selv ut av spill. Det er som da de gamle egypterne spurte: «Hvor er hullet i bakken som solen går inn i om natten på vei til underverdenen?» – du vil bruke mye penger og krefter på å lete etter et hull som ikke finnes, fordi du har bestemt deg for at dette bokstavelig talt eksisterer, og nå leter du etter det, mens du i virkeligheten bare har et forenklet begrep. Når du spør hva som forårsaker følelsen, hva som får følelsen til å oppstå, vil jeg si: La oss anta at følelsen oppstår – da har du fremdeles ikke forklart noe, fordi du ikke har forklart hvordan en følelse får nevrale nettverkene dine til å ha den riktige informasjonsinnebyggingen, slik at du tror du har den, vet at du har den og kan snakke om den. Det som må forklares, er hvordan hjernen bygger modeller – og det vet vi allerede, i generell forstand – og hva den spesifikke adaptive fordelen er med denne typen modell som forteller oss at vi har magi i hodene våre. Så i stedet for å spørre hva som forårsaker magien, bør du spørre hva som fikk oss til å utvikle oss slik at hjernene våre bygger modeller som forteller oss at vi har magi. Det er mitt svar.

Christopher Kabakis (55:08) Ja, det skjønner jeg helt og holdent – hvis man har en feil teori om noe, leter man på feil steder, som for eksempel i et hull i bakken etter solen, og man finner ingenting og blir forvirret. Betyr det at når jeg sier at jeg har en følelse – la oss si at jeg elsker en person – så vil du si: «Vel, jeg vet ikke om det er sant, du sier bare at du elsker dem, så la oss se hvordan hjernen din modellerer noe du beskriver som kjærlighet?» Og du ville si at kjærlighet er vanskelig, men at vi skal komme dit – de enklere tingene er visuelle, selv om selvkjørende biler allerede behandler visuell informasjon, så vi skal nok komme dit til slutt med resten også. Så vil du si at det er en illusjon? Jeg husker en liten diskusjon i boka di om illusjonisme – er det det?

Michael Graziano (56:07) Nei, det vil jeg ikke si — jeg har problemer med det ordet. En vanlig oppfatning er at hvis man prøver å forklare hvordan hjernen gjør noe, så forklarer man det bort, sier at det egentlig ikke eksisterer, sier at jeg egentlig ikke har kjærlighet — og det er heller ikke sant. Å forklare noe er ikke det samme som å forklare det bort. Jeg var tidligere motorfysiolog og studerte armen og hendene, kjente alle beinene og musklene — betyr det at nå som jeg forstår det, kan jeg ta en øks og hugge av meg hånden og kaste den bort fordi jeg ikke trenger den lenger, fordi jeg har forklart den bort? Nei – jeg trenger den fortsatt, jeg bruker den fortsatt, men nå har jeg litt kunnskap om hvordan den fungerer. Det er veldig viktig at folk forstår at formålet med vitenskapen ikke er å bortforklare ting slik at vi kan forkaste dem – det er ikke det som skjer. Man forklarer noe og får en bedre forståelse av det, og man mister aldri behovet for det man studerte. Så vi forklarer ikke bort kjærlighet, vi forklarer ikke bort opplevelser – det vi forklarer, er hvordan hjernen kommer frem til disse visshetene, intuisjonene og troene om seg selv. Her er en annen analogi jeg ofte bruker for å få frem poenget om magi, om hvordan hjernen kommer til å tro at den har magi: Ta igjen eksemplet med fantomlemmet – tenk deg at du mister en arm i en ulykke og får et fantomlem. Det finnes to typer forklaringer. Den typiske i dag: hjernen har bygget en modell av armen din, automatisk, som kjører under overflaten og sender informasjon opp til bevisstheten din, og det er derfor du, når du blir spurt, kan snakke om den, lukke øynene og vite hva armen din gjør, føle berøring, kulde og varme. Den andre forklaringen, som faktisk ble akseptert som en forklaring på et tidspunkt i historien, er at det bokstavelig talt vokser en spøkelsesarm ut av stumpen – hvis man tar modellen for god fisk og antar at den er bokstavelig talt nøyaktig. La oss altså sette oss den vitenskapelige oppgaven å forklare det vanskelige problemet ut fra disse premissene: hva skaper fantomet, spøkelset – er det kvantebevegelsene ved stumpen, integrasjonen av informasjon i cellene der, og hva består det av, energi, kvanteegenskaper, et usynlig elektromagnetisk felt? Og så, når du først tror du har forklart hvor det kommer fra og hva det består av, står du fortsatt fast med å forklare hvordan akkurat dette fantomlemmet påvirker nevronene i hjernen din, og justerer aktiviteten deres i akkurat det rette mønsteret slik at de semantiske nettverkene dine vet at det finnes et fantomlem, slik at du kan snakke om det. Så du får en hel rekke problemer når du tar innholdet i en modell hjernen har bygget bokstavelig talt for god fisk, fordi hjernens modeller alltid er skjematiske, raske og ufullkomne. Det er nøyaktig det samme problemet vi har med bevisstheten – vi rapporterer om den, sier den, tror på den, insisterer på den, kjenner den på et instinktivt nivå, men alt dette kommer fra hjernens modeller, som sannsynligvis er bygget automatisk, sannsynligvis på et svært dypt nivå – ikke semantiske modeller, men snarere perseptuelle modeller, hvis utdata ledes opp gjennom vårt semantiske nettverk, og det er derfor vi tror vi har disse tingene, hvorfor vi sier at vi har dem. Men hvis vi antar at modellene er bokstavelig talt nøyaktige – at det bokstavelig talt finnes en spøkelsesaktig essens av magisk følelse inni oss – og spør hva som forårsaket den, er det akkurat det øyeblikket nesten alle bevissthetsforskere, inntil nylig, har satt seg som mål. Det er som egypterne som prøver å finne hullet i bakken som solen går ned i om natten. Så snart du setter deg den oppgaven – hva er den magiske essensen av opplevelsen og hva forårsaker den – er du ute av bildet. Det er det øyeblikket du har mislyktes i å forstå hva som faktisk foregår og har satt deg selv på feil spor.

Christopher Kabakis (1:00:40) Ok – og man kan si at følelsen av fantomlemmet er en feilfunksjon i noe som vanligvis fungerer bra, så man kan ikke bevise at noe ikke fungerer som det skal, eller ikke er ekte, bare fordi det av og til svikter – hvis jeg sier at jeg elsker noen, kan det jo bare være en slags fantomlem-fenomen, men det betyr ikke at den ikke virkelig eksisterer, bare at den eksisterer i min oppfatning. Og det mer interessante spørsmålet, som du sier, er hvordan hjernen din gjør det – det er slik du forankrer det, alltid. Så hvis vi utvikler vår nåværende nevrovitenskap og informasjonsvitenskap langt nok, vil vi komme til et punkt der vi kan lære store språkmodeller (LLM-er) å konstruere ikke bare en selvmodell av hvor deres beregningsressurser er allokert akkurat nå, men også å modellere alle slags sansninger – syn er det enkleste, noe som intuitivt gir mening siden de allerede behandler biler og jobber med det på en eller annen måte – og så kanskje lukt og berøring, og til og med følelser. Vi kunne modellere det inn i dem, og da ville de også tro at det er ekte, slik vi gjør, fordi vi har en modell som fungerer på den måten – uavhengig av substratet, sannsynligvis, og uavhengig av energi, hvis det i det hele tatt eksisterer, for da jeg undersøkte dette forberedelsesarbeidet, kom jeg over ideen om at man må instansiere modellen, så det må finnes noe fysisk materiale, energi og så videre. Men det finnes også tilnærminger som sier: nei, i informasjonsteorien, hvis man går fullt ut for en beregningsbasert tilnærming, trenger man ikke materie eller energi – det er bare informasjonsbehandling, strukturen av begrensninger der informasjon kan behandles, og da trenger man ikke engang energi eller fysisk materie. Jeg vet ikke om man kan kalle dette en informasjonsbasert tilnærming, der man til syvende og sist ikke bryr seg så mye om materie – man snakker om hjernen, men hjernen er på en måte bare en informasjonskilde. Hvordan forholder du deg til slike ideer, på grensen mellom fysikalisme og informasjonisme eller komputasjonisme?

Michael Graziano (1:03:35) Jeg vet ikke helt – fysikk på det mest grunnleggende nivået er veldig matematisk; det er på en måte matematikk, sammenhenger, informasjonsmessige sammenhenger mellom ting, og man kan si at universet er matematikk. Jeg synes det er et veldig interessant synspunkt, selv om folk har en tendens til å høre det og tro at det betyr at det ikke eksisterer, at vi bare kan tenke annerledes, tenke universet inn i forskjellige tilstander – og det er virkelig ikke slik det fungerer. Men man kan forstå hva som skjer i universet på et matematisk nivå, på nivået av informasjonsmessige sammenhenger. Jeg er ikke sikker på at det vil være så nyttig for å forstå sinnet, selv om jeg synes matematikken bak LLM-er er vakker – grunnleggende lineær algebra som beskriver hvordan enorme mengder nevroner kobler seg til enorme mengder andre nevroner, hvordan styrken på forbindelsene endres, og hvordan det resulterer i abstrakt symbolsk tenkning. Det er helt utrolig at all den matematikken er så godt formulert og forstått. Jeg vil imidlertid si dette når det gjelder substratuavhengighet: det vi har så langt når det gjelder forståelsen av hjernen, og spesielt det som er blitt omgjort til teknologi, er fremdeles ganske forenklet. Jeg er veldig imponert, og jeg tror disse maskinene tenker, og jeg tror de har fanget essensen av hvordan nevrale nettverk fungerer i hjernen – men de har forenklet det ganske mye. Det er mye forenkling. Hjernen har andre frihetsgrader som ikke finnes i det kunstige systemet – ulike tidsdynamikker for ulike typer synapser, måter nevroner kobler seg sammen på som ikke er synaptiske, hormonell signalering, direkte gap-forbindelser mellom nevroner og gliaceller, som folk gjerne glemmer – det er ti ganger flere gliaceller i hjernen enn nevroner, og de spiller faktisk en rolle i informasjonsbehandlingen på måter som ikke er fullt ut forstått. Så det er mye der inne som hjernen har funnet ut av, som kan være «hacks», triks eller noe grunnleggende – vi vet ikke. Så hvis du tok en hjerne, tok alle nevronene og de synaptiske forbindelsene – det som kalles et konnektom – kopierte det kunstig og satte det i gang, tror jeg ikke det ville være personens sinn, fordi du da ville mangle andre deler av hjernens fysiske arkitektur. Jeg tror man ville ende opp med noe veldig forvirret og ulykkelig. Men hvis man kunne kopiere ikke bare nevronene og synapsene, men også størrelsen og typen av synaps, den tidsmessige dynamikken, de subtile måtene synapsene endrer seg over tid på, de hormonelle interaksjonene, og hvis man kunne simulere gliacellene – så kunne man i prinsippet simulere en menneskehjerne, og den kunstige versjonen ville være personen selv, en som ville si: «Herregud, du har gjort noe med meg, men her er jeg, dette er meg, jeg har mine minner, min visdom, min kunnskap, min personlighet.» Men jeg tror ikke vi er der ennå – det er forskjeller mellom det biologiske systemet, som har komponenter vi ikke forstår fullt ut, og de mer forenklede, men likevel svært kraftige, kunstige systemene.

Christopher Kabakis (1:07:38) Ok – så du vil si at det i siste instans er substratuavhengig, hvis vi klarer å modellere det riktig ned til all relevant informasjon, og det ikke finnes – unnskyld, jeg skal spørre om dette én siste gang – noen kvanteeffekt eller kvanteinformasjon på de lavere nivåene som ikke lar seg klone. Kvanteinformasjon kan ikke klones, så hvis det finnes noe kvantemessig på de lavere nivåene, kan man ikke kopiere det; det kan ikke abstraheres riktig til et null-én-bit-forhold.

Michael Graziano (1:08:21) Jeg tror at «mind uploading», som jeg nettopp beskrev, vil skje – la oss bare si det rett ut. Jeg tror det vil skje, jeg vet ikke når, men jeg tror det er lenge til. Det er folk som tror det er rett rundt hjørnet, og jeg tror de tar feil – teknologien er ikke på plass ennå. Men jeg tror det nødvendigvis vil skje.

Christopher Kabakis (1:08:25) Det gjør altså alle glade som har investert mye penger i å få kroppen eller hjernen sin dypfrosset — vi vet ikke om de vil like den fremtiden de møter når de på en eller annen måte blir reaktivert.

Michael Graziano (1:08:48) Jeg vet ikke hvorfor noen skulle ønske seg det. Det er det eneste jeg alltid sier når folk spør: «Vil du at bevisstheten din skal lastes opp?» – og svaret er nei, jeg er så glad for at dette skal skje etter at jeg er borte.

Christopher Kabakis (1:09:01) Ja, det tror jeg også. Ok, så vi nærmer oss slutten – og nå til mine siste spørsmål: Denne podkasten handler også om personlig utvikling og vekst, og vi har snakket mye om din teori om bevissthet og hvordan den fungerer. Hvordan tror du personlig utvikling og vekst skjer, basert på ditt nevrovitenskapelige arbeid? Det trenger ikke å være spesifikt oppmerksomhetsskjemateorien, bare din innsikt i sinnet og bevisstheten generelt – er det noen råd du vil gi til folk som sier: «Jeg vil vokse, jeg vil utvikle meg, kanskje til og med utvikle bevisstheten min?»

Michael Graziano (1:09:55) Jeg vet ikke helt – å forstå hvordan enkelte av delene fungerer, er ikke helt det samme som å få råd om hvordan man skal praktisere og ta i bruk disse delene. Det tyder absolutt på at ting som meditasjon, som vi har snakket om, er gyldige — du trener opp og styrker mekanismene dine for selvovervåking og kontroll av dine egne indre prosesser, og det er flott. Men det viktigste — og vi har snakket og snakket om AI-sammenhengen – jeg tror det sannsynligvis er der arbeidet med bevissthet vil ha den største praktiske innvirkningen, fordi bevissthetsforskning pleide å være filosofi, sofafilosofi, så ble det vitenskapelig interessant, men nå er det plutselig nøkkelen til vår teknologiske fremtid, noe av dyptgripende betydning for vår arts fremtid. Jeg tror det sannsynligvis vil ha større innvirkning enn en medisinsk eller psykologisk intervensjon.

Christopher Kabakis (1:11:01) I din teori om bevissthet eller oppmerksomhet spiller oppmerksomheten en sentral rolle, og jeg syntes det var interessant hvor mye vekt du legger på den – oppmerksomheten som det sentrale elementet i hjernens funksjon, eller det vårt sinn utfører, ved å bestemme hva som skal fremheves, hva som skal undertrykkes, og hvordan den skal styres, og vi gjør dette hele tiden, for det meste ubevisst, og styrer oppmerksomheten vår slik livet krever det, eller slik vi selv finner det passende. Å bli mer bevisst på denne oppmerksomhetsmekanismen er nyttig, tror jeg, for ved å rette oppmerksomheten vår mot noe, forandrer vi vår egen verden, og vi forandrer verden. Så i stedet for å snakke om bevissthet, som er litt uklart, handler det egentlig om oppmerksomhet, og om å kunne velge hvor vi skal rette søkelyset – og mesteparten av tiden retter vi det bare i én retning eller vinkel. Kanskje hvis vi eksperimenterer litt mer med vår evne til å styre oppmerksomheten, kan vi få nye innsikter i oss selv og i verden.

Michael Graziano (1:12:04) Jeg tror det stemmer – å fokusere på oppmerksomhet, det er virkelig viktig, absolutt.

Christopher Kabakis (1:12:16) Iain McGilchrist har sagt noe lignende. Er det noe råd du vil gi lytterne våre når det gjelder oppmerksomhet eller bevissthet, slik du ser på det?

Michael Graziano (1:12:41) Jeg ville være svært forsiktig med å gi råd, for jeg vil ikke skade noen. Jeg vil si at forståelse er et verdig mål i seg selv – å forstå disse indre prosessene er fascinerende; noe av det mest fantastiske ved mennesker er at vi har funnet ut så mye om oss selv, og nå siver dette inn i teknologien vår på måter som bare vil fortsette å forandre oss.

Christopher Kabakis (1:13:08) Ja – og jeg kom på at jeg også ville snakke om dine skjønnlitterære verk, siden du har skrevet *The Divine Farce* og andre bøker. Hvordan har ditt litterære arbeid påvirket ditt vitenskapelige arbeid, og omvendt? Du skriver om de store temaene – meningen med livet, eller meningsløsheten i livet, døden og så videre – hvordan henger det sammen, eller ikke, med ditt vitenskapelige arbeid?

Michael Graziano (1:13:41) Jeg vet ikke tematisk sett – kanskje det finnes noen tematiske sammenhenger, men jeg tror det er en svært lik prosess å skrive et skjønnlitterært verk og å gjennomføre et vitenskapelig eksperiment. Det er et svært omfattende prosjekt, og man må nærme seg det både fra et estetisk synspunkt og fra et svært logisk, reduksjonistisk synspunkt. Jeg tror det appellerer til de samme sidene av meg å jobbe med disse ulike prosjekttypene, og hvis man går fast i det ene, kan man vende seg mot det andre en stund og så komme tilbake. Det er sannsynligvis sammenhengen.

Christopher Kabakis (1:14:49) Ok – så det utfyller hverandre på en måte, de spiller på hverandre: både en søken etter forståelse – kanskje av den menneskelige tilstanden i litteraturen – og bevisstheten som et kompromissløst forståelsesprosjekt innen vitenskapen. Siden du har vært interessert i psykologi, filosofi og nevrovitenskap i mange, mange år – er det noe du ville gitt deg selv som råd som ung mann? Du sa at det er vanskelig å gi råd til andre, men når du ser tilbake på ditt yngre jeg, er det noe du vil si at du så på for tidlig, eller på en annen måte?

Michael Graziano (1:15:03) Jeg skulle gjerne hatt en samtale med mitt yngre jeg, men jeg tror det bare ville vært mulig hvis jeg kunne ordne det slik at han ikke husket samtalen etterpå, for jeg vil ikke endre livsløpet hans – han hadde et virkelig interessant livsløp, og jeg vil ikke lede ham mot eller bort fra noe spesifikt. Jeg synes bare det er fascinerende å forestille meg å reise tilbake i tid og snakke med ham – jeg tror jeg husker noe, men det er sikkert mye jeg ikke husker – og kanskje han også er nysgjerrig på sitt fremtidige jeg. Det ville vært en fantastisk samtale.

Christopher Kabakis (1:15:36) Men da trenger du jo den «Men in Black»-enheten, slik at folk glemmer det igjen — det høres ut som om du jobber med en tidsmaskin og en enhet for å slette minner. Ok, fantastisk. Michael, tusen takk for denne superinteressante samtalen, jeg har lært mye. Hvis folk ønsker å ta kontakt med deg eller lære mer om arbeidet ditt, hvor vil du henvise dem?

Michael Graziano (1:15:39) Sannsynligvis nettsiden min – nettsiden min fra Princeton inneholder all slags informasjon.

Christopher Kabakis (1:16:07) Ok, så bare søk på «Princeton University Michael Graziano» på Google, så finner du det. Fantastisk – og jeg skal sette meg inn i kvantefysikken og komme tilbake for en oppfølgingssamtale. Det er et fascinerende felt, og som du sa, har vi alle en naturlig interesse i å forstå oss selv bedre, og du er i forkant av det arbeidet. Jeg har alltid likt at det ikke bare handler om emergentisme, der bevisstheten bare dukker opp – du sier at det finnes en mekanisme vi kan forstå, en plausibel måte å forklare hva subjektiv opplevelse eller bevissthet er. Det har jeg alltid elsket, og vi skal fortsette å dele det med folk når muligheten byr seg. Så tusen takk, og ha en fin dag der borte på østkysten. Ok, ha det bra. Ha det, Michael. Ha det.

Michael Graziano (1:16:47) Bra, det er jeg glad for å høre. Flott, det er jeg så glad for å høre. Det stemmer. Ja. Ha det.