Michael Graziano

Michael Graziano (00:01) Är vårt medvetande detsamma som dessa artificiella saker som vi bygger? Just nu tror jag nog inte det. Men anledningen är att dessa artificiella saker inte har självmodeller på samma sätt som vi har. Och det är bara en tidsfråga, och inte ens särskilt lång tid – det kommer en punkt då dessa maskiner bygger upp självbilder på samma sätt. Med andra ord kommer de att vara helt övertygade om att de har subjektiva upplevelser, på samma sätt som vi tror att vi har det, genom att använda samma typer av grundläggande informationsbearbetningssätt. Det kommer att hända.

Christopher Kabakis (00:51) Du lyssnar på Inner Pioneers, en podd för nyfikna sinnen som vill förstå hur man hanterar förändringar, kriser eller helt enkelt längtan efter något nytt. Följ med oss när vi fördjupar oss i verkliga berättelser om förvandling och lär oss av ledande röster inom psykologi, vetenskap och mänsklig utveckling hur man tar sig igenom inre omvälvningar och perioder av förändring. Jag heter Christopher Kabakis, och nu ska vi börja vårt pionjärarbete.

Christopher Kabakis (01:20) Hej, allihop. Det är ett stort nöje för mig att idag välkomna professor Michael Graziano till vår podcast. Michael, du är professor i neurovetenskap och psykologi vid Princeton. Du har publicerat många vetenskapliga artiklar, men också några populärvetenskapliga böcker, som jag har läst som lekman – din senaste, "Rethinking Consciousness", och ett tidigare verk, "Consciousness and the Social Brain". Men det jag tycker är särskilt intressant är att du även har gett ut skönlitterära verk, "The Divine Farce" – en pjäs som anspelar på Dantes "Den gudomliga komedin", med tanke på att du har italienskt påbrå – samt ”Death My Own Way”. Jag har inte läst dem ännu, men jag är mycket nyfiken på kopplingen mellan ditt vetenskapliga arbete och ditt litterära arbete. Förutom att skriva komponerar du också musik och spelar ibland, om än inte offentligt, och du sysslar med buktaleri som hobby. Det är en mycket intressant verksamhet för en professor. Har jag glömt något?

Michael Graziano (02:27) Du har gått igenom grunderna där, och tack så mycket för att jag fick vara med i din podcast.

Christopher Kabakis (02:34) Ja – du har, skulle jag säga, skapat en av de centrala vetenskapliga teorierna om medvetandet, så jag är väldigt intresserad av att prata med dig om det idag. Den här podden undersöker hur personlig utveckling fungerar, hur övergångsfaser i livet fungerar, hur personlig tillväxt fungerar – och det handlar förstås också om hur sinnet och medvetandet fungerar. Så idag har vi den absoluta experten här för att besvara denna fråga: vad är medvetandet, eller hur fungerar det? Kanske är det funktionella svaret enklare än det essentialistiska, så låt oss börja där. Efter att ha studerat medvetandet professionellt i ungefär trettio år, och som utövare av medvetande i drygt femtio år, vad skulle du säga om jag frågade dig idag vad medvetandet är?

Michael Graziano (03:25) Det är en mycket bra fråga – den fråga som alla vill ställa. Det finns ett essentialistiskt och ett funktionalistiskt synsätt, och att fråga vad medvetande är, är lite som att peka på en bil och säga: ”Vad är körbarhet?” Det är något som bilen gör. Man kan förstå komponenterna och hur de samverkar för att få den handlingen att ske, men det är svårt att peka på en sak och säga att det där är ”körbarheten”, att det där är medvetandet. Jag tror att det hämmar framstegen inom medvetenhetsforskningen en aning. Om jag skulle sammanfatta det – och det här är en sammanfattning som ingen någonsin gillar, eftersom den är så motstridig mot intuitionen och kräver en hel del förklaring innan den verkligen går upp – skulle jag säga att människor upplever att de har en medveten upplevelse eftersom deras semantiska, kognitiva nätverk innehåller den informationen. De säger det för att de tror på det semantiskt, och de tror på det för att det finns djupare delar av hjärnan, dolda under vår kognition, som bygger dessa informationsbuntar, dessa självmodeller, och leder dem upp till våra kognitiva nätverk. På sätt och vis är det förklaringen till varför vi säger, tänker och hävdar att vi har en medveten upplevelse: mycket djupa strukturer i hjärnan bygger dessa självmodeller och säger i praktiken till vår kognition, vår semantiska förståelse, att detta är sant, att det är detta som pågår. Och vi, som ett helhetssystem – en person, ett komplext system av informationsbearbetning samt kropp och hjärna – vet inget annat. Det är allt vi vet, allt vi någonsin har tillgång till. Allt vi säger, tror och tänker om oss själva och resten av världen härrör från den processen. Så det är grunden till det hela: medvetandet är en typ av självmodell som konstrueras djupt inne i hjärnan, utanför våra kognitiva nätverk, men som sedan pumpas upp till vår högre kognition. Det är det grundläggande svaret.

Christopher Kabakis (06:09) Okej, så du säger att det är en informationsutgång från ett tillstånd i ett informationsbearbetningssystem, men att den dyker upp – det låter lite som teorin om det globala arbetsutrymmet, alltså att den kommer från det omedvetna, är det rätt ord, och sedan blir den på något sätt medveten. Måste du inte också förklara hur övergången sker från att vi inte uppfattar någonting till att vi uppfattar något?

Michael Graziano (06:39) Tja, din förklaring blandar ihop olika nivåer, eftersom man inte kan förklara medvetandet genom att hänvisa till medvetandet – man kan inte säga att jag är medveten för att den omedvetna delen bestämde att jag är det och sedan meddelade den medvetna delen; det är bokstavligen meningslöst, det är bara att blanda ihop nivåer. Ur min synvinkel som neurovetenskapsman är vi i slutändan stora biologiska maskiner bestående av neuroner som är sammankopplade via synapser som bearbetar information, och när vi säger att vi har medvetande, är det en ledtråd – det kommer ut ur munnen, och allt som kan komma ut ur munnen beror på information som är kodad i neurala nätverk, annars kan den inte ta sig in i talkretsarna. Så i slutändan måste det vara i form av information som representeras i neurala nätverk, och man kan spåra var den informationen finns och vad som konstruerar den. I slutändan, ja, kommer det att finnas något som liknar ett globalt arbetsutrymme – en del av det övergripande nätverket som är tätt kopplat till vår talproduktion, vilket vi kallar kognition. När saker kommer in där är det de sakerna vi kan prata om, och en del av den information som kommer in säger att det finns en bil där borta, det finns ett träd, jag sitter i en stol, det finns ett ”jag” – men det finns också information som säger att jag har en subjektiv upplevelse av dessa saker. Utan all den informationen kan man inte tänka tanken, man kan inte formulera begreppet. På något sätt måste allt detta representeras i dessa neurala nätverk – det är nästan, ur en neurovetenskapsmans synvinkel, en logiskt nödvändig uppsättning villkor.

Christopher Kabakis (08:39) Jag har så många frågor, och jag har redan hört en del om vad uppmärksamhetsschemateorin går ut på – den teori som du förmodligen är mest känd för, och som jag skulle vilja belysa idag. Men först en liten avstickare till det personliga: hur blev du intresserad av den här frågan, av att ställa dessa frågor om hur medvetandet och sinnet fungerar? Vad är din personliga historia, på ett sätt som förklarar hur du kom in på det här området?

Michael Graziano (09:12) Det beror på hur länge du vill att jag ska fortsätta. För det första är det en fråga som alla är intresserade av – vi har alla det här, och alla som har någon form av självreflektion undrar var det kommer ifrån, och vi växer alla upp med intuitioner, förutfattade meningar och hypoteser om det. Jag blev intresserad av det som ett vetenskapligt ämne väldigt tidigt, precis som många andra – jag läste massor av böcker om det och tänkte: ”Det här är så häftigt, jag önskar att jag kunde studera det här.” Jag tror att alla som blir neurovetenskapsforskare eller psykologer tenderar att fundera över dessa ämnen. Men att verkligen studera det ur en forskares perspektiv i laboratoriet hände inte förrän mycket senare – omkring 2010, när jag började fokusera på det. Innan dess hade jag studerat många olika ämnen inom neurovetenskap – riktiga grundläggande ämnen, hur hjärnan bearbetar sensorisk information, hur den styr rörelser – och en av de viktigaste insikterna inom neurovetenskapen är att hjärnan bygger modeller av saker. Du betraktar världen, men det du ser är egentligen modeller, informationsmodeller som konstrueras i ditt visuella system längst bak i hjärnan. Du rör dig och styr din kropp, men det är helt avgörande att hjärnan bygger en modell som ständigt uppdateras av var dina lemmar befinner sig och vad de gör. Ett av de tydligaste exemplen på att hjärnan bygger en modell är fenomenet med fantomlemmar – om du har oturen att förlora en arm har du förmodligen en fantomarm under en tid, ibland i flera år, eftersom hjärnans modell av armen kvarstår. Hjärnan bygger alltså modeller av saker för att övervaka, förutsäga och hjälpa till att kontrollera dem. Och det tankesättet ledde direkt till hela denna forskningsinriktning: vad händer när hjärnan börjar bygga modeller – inte av omvärlden, inte av kroppen – utan av sina egna inre processer, så att den kan hålla reda på och förutsäga vad den gör? Nyckeln till dessa självmodeller är att hjärnan inte behöver känna till detaljerna – den behöver inte veta att den har neuroner med synapser, GABAerga banor och så vidare. Den behöver bara allmän funktionell information: jag har en viss förmåga att förstå saker, att ta fasta på dem och fokusera på dem, och om jag gör det kan jag reagera på dem på rätt sätt, men om jag inte gör det kan jag inte det. Jag har ett minne som låter mig hålla reda på saker, men det är ofullkomligt på det ena och andra sättet. Dessa vaga, amorfa egenskaper som hjärnan behöver känna till och bygger modeller av utgör grunden för vårt begrepp om sinne, medvetande och vilja.

Christopher Kabakis (12:42) Okej, då går vi direkt över till teorin om uppmärksamhetsscheman, eftersom den redan finns med där – detta greppande med en formlös kraft. För i den verkliga världen finns det ett greppande för att kontrollera den yttre världen, men ditt arbete med subjektiv upplevelse och medvetenhet handlar ju till stor del om viljan, detta "jag kan flytta energi" eller vad man nu kallar det, och greppa något annat. Kan du kanske förklara för oss hur du ser på detta – teorin om uppmärksamhetsscheman.

Michael Graziano (13:13) Det är väldigt enkelt, och det hänger ihop med hur det hela uppstod – när jag först skrev om det insåg jag inte att det var en ny teori. Jag trodde bara att det var ett rimligt sätt att systematisera det som alla redan visste. Jag skrev en liten bok om det, och en neurovetenskapsman hörde av sig till mig och sa: "Varför lägger du fram en ny teori på det här ovetenskapliga sättet, i en bok för allmänheten – borde du inte skriva en riktig artikel istället?" Så jag skrev en artikel – något i stil med ”Medvetande och social perception: En ny hypotes” – och den sista frasen var egentligen menad ironiskt, eftersom jag inte kunde tro att det verkligen var en ny hypotes. Men hypotesen är verkligen enkel. Hjärnan har en process som vi kallar uppmärksamhet – det är en process, inte egentligen en sak, även om människor menar många olika saker med ordet. Jag menar något specifikt: grovt sett kan hjärnan fokusera sina bearbetningsresurser, bearbeta ett litet antal saker på djupet vid varje given tidpunkt och ignorera eller bara ytligt bearbeta allt annat. Det är uppmärksamhet, som ofta liknas vid en strålkastare – du kan rikta din uppmärksamhet mot en plats i rummet framför dig, mot fågelsången bakom dig, mot en tanke eller mot vad ditt minne berättar om frukosten, och när du gör det dras din uppmärksamhet bort från världen omkring dig. Din uppmärksamhet är alltså begränsad, och – kanske inser inte alla detta – uppmärksamheten är anledningen till att vi är intelligenta, för utan den skulle du behöva en hjärna stor som en planet för att bearbeta världen. Med en liten hjärna på tre pund kan du, om du använder resurserna smart, genom att fokusera djupt på viktiga saker och filtrera bort resten, vara extraordinärt intelligent när det gäller just de viktiga sakerna. Men vi måste också styra vår uppmärksamhet – den dras inte bara hit och dit, även om den delvis gör det – ett glänsande föremål och pang, så riktas din uppmärksamhet direkt mot det – du måste också styra den själv: fokusera på den här boken och ignorera festen där borta, eller gå igenom en potentiellt farlig situation och säga: ”Det är bäst att jag inte lyssnar på min inre monolog, det är bäst att jag fokuserar på trädet och ser till att jag inte blir överfallen.” Allt du gör handlar om att styra din uppmärksamhet – att göra en smörgås innebär att flytta uppmärksamheten till jordnötssmörburken, sedan till brödet och sedan till kniven. Detta är bokstavligen kärnan i vem vi är som aktörer i världen. Och hur styr man uppmärksamheten? Varje system som styr något behöver en modell av det som det styr – den principen uppstod för mer än hundra år sedan, och den är grundläggande för robotik och för nästan all komplex teknik. Om hjärnan ska kunna flytta sin uppmärksamhet hit och dit, styra den och förutse vilka yttre krafter som kan påverka den, behöver den en modell av uppmärksamheten – den måste kunna säga: ”Min uppmärksamhet gör det här och det där, men samtidigt är min uppmärksamhet det som kan göra det här och det där, det som gör att jag kan göra det här och det där.” Så hjärnan bygger en förenklad modell, och i den modellen säger hjärnan till sig själv: Jag har en essens inom mig, en essens som gör att jag mentalt kan greppa något och förstå det på djupet, och när jag gör det låter den mig reagera på det på ett komplext sätt och komma ihåg det, och den ger mig en levande känsla av vad mitt sinne har greppat. Men om jag inte har förstått det kan jag inte reflektera över det på djupet, kan inte reagera på det på rätt sätt och kanske inte kommer ihåg det senare. Så hjärnan målar upp en bild av sina egna egenskaper, och bilden är: Jag har en sorts amorf, icke-materiell essens – den har ingen fysisk grund, eftersom hjärnan inte behöver känna till den fysiska grunden, det är kanske precis som en energi, och den finns inuti mig, och den gör att jag kan vara medveten om vissa saker och inte om andra, och det är grunden till vad som gör att jag kan reagera eller hindrar mig från att reagera. Medvetandet är hjärnans modell av vad dess eget uppmärksamhetsfokus gör. Det är uppmärksamhetsschemateorin i ett nötskal.

Christopher Kabakis (19:23) Precis. Och när jag stötte på det här tyckte jag att det var jättebra, för du förklarar ganska bra vad som ofta saknas. Det räcker inte med att bara ha en modell av det jag bearbetar – till exempel ett äpple framför mig – det räcker inte med det, och det räcker inte heller med att ha en modell av mig själv; vi behöver något däremellan som kopplar samman modellen av mig själv med äpplet. Och det är precis vad du just förklarade – en modell av mig själv i färd med att uppmärksamma äpplet. Så detta uppmärksamhetsschema – "schemat" eftersom det är förenklat – eftersom det är förenklat, tror jag att du skulle hävda, känns det som en amorf kraft: jag griper tag i äpplet med min uppmärksamhet. Och sedan, som du sa, kan jag redogöra för det – om folk frågar: ”Är du medveten om äpplet?”, skulle jag säga ja, jag är medveten om äpplet. Annars skulle jag inte kunna säga det – jag skulle bara ha en modell av ett äpple och mig själv, men jag skulle inte kunna säga att jag är medveten om äpplet. Är det så?

Michael Graziano (20:27) Det stämmer precis. Om du bara hade den visuella modellen av äpplet och någon frågade: ”Finns det ett äpple?”, skulle du kunna svara: ”Ja, det finns ett äpple.” Men om någon frågade: ”Är du medveten om det?”, skulle du vara tvungen att svara: ”Kan inte beräkna – vad menar du med det?”

Christopher Kabakis (20:53) Och detta kändes helt intuitivt logiskt för mig, eftersom man när man mediterar ofta släpper taget om upplevelsens innehåll – objekt, inklusive sina tankar – man tränas att släppa tankar och information, och man tappar till och med känslan för sin egen kropp, kanske delar av sin självbild. Och det som återstår i det djupa meditativa tillståndet är det som kallas ren medvetenhet – vilket i grunden är vad uppmärksamhetsschemat handlar om. Men som jag föreställer mig det är denna rena medvetenhet en ren, amorf kraft att uppfatta saker, och vi upplever den som en potential – jag kan göra saker, jag skulle kunna bearbeta saker. Skulle du säga att det är där uppmärksamhetsschemat möter detta rena medvetande i buddhistisk eller zen-meditation?

Michael Graziano (21:56) Ja – det finns många olika typer av meditation, men just uppmärksamhetsmeditation har jag alltid ansett ha ett djupt samband med begreppet uppmärksamhetsschema. Här kommer det intressanta: det som uppmärksamheten egentligen gör är att förstärka hjärnans modeller. När jag riktar uppmärksamheten mot äpplet bygger min synbark upp en modell, och uppmärksamhet är den process genom vilken den modellen förstärks, så att den kan få större genomslagskraft. Uppmärksamhet verkar alltså på modeller och förstärker dem, och uppmärksamhetsschemat är en modell av uppmärksamhet – det är den informationssamling som hjärnan konstruerar och som representerar uppmärksamhet. Vad händer då när man riktar uppmärksamheten mot själva uppmärksamhetsmodellen? Eftersom uppmärksamhet förstärker modeller, varför skulle man inte kunna rikta uppmärksamheten mot uppmärksamhetsschemat, alltså modellen för uppmärksamhet? Det är vad jag tror att mycket av meditation handlar om – i grunden att ta uppmärksamhetsprocessen och rikta den mot den modell som beskriver uppmärksamhet. Man riktar uppmärksamheten mot sin egen uppmärksamhet och frågar sig: vad vet min hjärna om den del av mig som kan fokusera på saker?.

Christopher Kabakis (23:58) Precis. Det är därför jag ibland tror att Dan Siegel säger något liknande – han säger att han blir "medveten om medvetenheten i sig". Dessa traditioner använder ordet ”medvetenhet”, medan du i mycket högre grad använder ordet ”uppmärksamhet”, vilket jag också gillar, med tanken på en modell för uppmärksamheten. Det finns en sak jag ville fråga dig: medvetenhet är den här informationsmodellen för uppmärksamhet, och uppmärksamhet är ett knep för datahantering – du sa också just att uppmärksamhet är signalförstärkning, där vissa signaler förstärks och andra dämpas. Det här är en abstraktion, en teori som försöker förstå hur dessa saker fungerar. Men en modell i sig förändrar ingenting, eller hur – den är en abstraktion. Hur kopplar du tillbaka den till något verkligt, eftersom du alltid förankrar saker i hjärnan? Och i hjärnan finns det också, vilket jag antar att du håller med om, energi – hur drivs motorn, hur blir informationen konkretiserad och förstärkt av något, nämligen vår kropp och vår hjärna? För ibland undrar jag om förankringen för denna abstrakta modellering är rotad i vår biologi på ett sätt som inte liknar de maskiner vi har byggt – kanske pågår det något annat – vilket skulle kunna skilja oss från artificiellt byggda maskiner, som känslan av något, eller andra saker. Håller du med, eller skulle du säga att hjärnan, det medvetande vi har, kanske är en annan sorts dator än de maskiner vi har byggt, och att det är därför vi har svårt att förklara egenskaper som sensationer, känslor och kreativitet? Eller går jag för långt?

Michael Graziano (25:39) Du anspelar på en hel del saker som finns där ute i fältet. Det har blivit väldigt populärt som en reaktion på AI:s framväxt, särskilt de senaste åren – stora språkmodeller (LLM) som plötsligt uttrycker sig på sätt som, ärligt talat, för fem år sedan ingen trodde var möjliga förrän om ytterligare ett par hundra år, och nu är de här. Jag tror att det är mycket hotfullt ur ett filosofiskt perspektiv – kanske inte så mycket för den genomsnittliga personen, men för filosofer och neurovetenskapsmän som har funderat på detta är det mycket hotfullt, och det finns en motreaktion. Vi såg samma typ av motreaktion under andra hälften av 1900-talet när datorerna började ta fart – det ledde till filosofiska begrepp som "det svåra problemet": det finns saker vi aldrig kan förstå, och det bidrar till att göra oss speciella och skilja oss från maskinerna. Jag tror att man ser samma motreaktion nu – en enorm, instinktiv strävan att se till att vi skiljer oss från dessa maskiner. En av de vanligaste idéerna är att biologin har alla dessa saker i cellen och kemin som bubblar upp och påverkar de högre nivåerna. Personligen – och jag vet att detta låter lättsinnigt – tror jag att denna idé kom in i det allmänna medvetandet genom midi-klorianerna i Star Wars: dessa små, djupt biologiska saker i cellerna som bubblar upp och bidrar till Kraften och gör din hjärna och ditt sinne magiska. Det är där idén kommer ifrån, och den har ungefär lika mycket vetenskapligt värde. Ja, nervceller har biologi och energi, men i slutändan kommunicerar nervcellerna med varandra, särskilt över avstånd längre än ungefär en millimeter, via axoner, synapser och aktionspotentialer – en gnista som orsakar en pulserande effekt i den andra änden. Om du talar om en känsla som uppstår ur biologin, hur tar sig då känslan över synapsen, färdas genom en gnista av elektromagnetisk signal, hoppar vidare till nästa neuron och påverkar specifikt aktiviteten hos neuroner i ett nätverk i exakt rätt mönster så att det övergripande aktivitetsmönstret perfekt representerar ”jag har en subjektiv upplevelse”? Ingen tar någonsin upp det – de gör bara det naiva antagandet att om känslan uppstår, då har jag den, och det är därför jag talar om den. Men det är ingen förklaring. Allt vi säger om oss själva – att det finns en känsla, att det känns som något, att det finns en upplevelse, den del av medvetandet som är speciell för mig – allt detta måste logiskt sett nödvändigtvis härröra från information som representeras i dessa mönster av neural aktivitet, en informationsinbäddning. Så måste det vara. Så för att återgå till din tidigare fråga – är vårt medvetande detsamma som dessa artificiella saker vi bygger? Just nu, förmodligen inte, eftersom dessa artificiella saker inte har självmodeller på samma sätt som vi har. Men det är bara en tidsfråga, och det kommer inte att ta så lång tid – det kommer en punkt då dessa maskiner bygger självmodeller på samma sätt, och med absolut säkerhet tror att de har subjektiva upplevelser, genom att använda samma grundläggande sätt att bearbeta information. Det är på väg – men inte här ännu.

Christopher Kabakis (30:18) Okej, jag har några frågor om det där. Om medvetandet är en informationsmodell för uppmärksamhet, så tänker vi – när vi tänker på en modell – på abstrakt information som vi skulle skriva på en tavla eller i en bok – diagram, figurer, siffror – och det verkar vara av en helt annan karaktär än det vi kommer fram till med kvalia: smaken av choklad, doften av en ros, den kärlek du känner för ditt barn. Det känns lite ofullständigt att säga att det bara är en modell av uppmärksamhet, eftersom det känns så rikt. Hur konkretiseras detta? Eftersom de stora språkmodellerna (LLM) som du nämnde förmodligen inte känner till qualia – de bearbetar abstrakt information, de bygger modeller, men det liknar mer ett schackprogram som är programmerat att spela schack. Hur svarar du på detta, eftersom du säger att subjektiv upplevelse spelar roll – hur förklarar din teori qualia?

Michael Graziano (31:17) Mycket kortfattat: de modeller vi har just nu, åtminstone fram till helt nyligen, är alla textbaserade – det är allt dessa maskiner får, även om vi nu går över till visuella och auditiva modeller också. Men text är en mycket abstrakt modalitet, och detsamma gäller språk. Tänk på den mänskliga hjärnan: när jag talar om information och modeller är den automatiska antagandet att det måste handla om en kognitiv modell – jag har lärt mig något, jag tror att jag förstår det. Men hjärnan bygger också andra typer av modeller. När du tittar på något, eller luktar eller hör något, översätter delar av hjärnan världen till en modell, en informationsbunt, och den är mycket rik – inte en kognitiv, abstrakt, semantisk modell utan en mycket rik modell på sensorisk och perceptuell nivå. Ta synen, en bättre förstådd sinnesmodalitet: du tittar på din kaffekopp och bygger en modell av den i ditt visuella system, och så här skiljer sig den modellen från abstrakta modeller. För det första kan du inte undvika det – det sker automatiskt, du har ingen top-down-kontroll över det; om dina ögon är öppna och det är ljust kan du, såvida du inte är en mycket ovanlig person, inte låta bli att bygga upp en modell av den där koppen. För det andra är det en mycket detaljerad modell, full av nyanser – glans här, skuggor där. För det tredje kommer den med metainformation som talar om för din hjärna att "det här är verkligt" – det finns ett område inom psykologin som kallas källövervakning, och en av de saker hjärnan gör är att övervaka informationskällan: det här kom från omvärlden, eller det där är en hypotes, eller det här kom från mitt minne. Det blir ibland förvirrat – människor tror att något kom från omvärlden när det inte gjorde det, eller tvärtom – men i allmänhet är vi ganska bra på det. Så dessa rika, automatiska sinnesmodeller kommer med denna metainformation, och när den bubblar upp i medvetandet får medvetandet besked: det här är verkligt, det här är verkligheten, inte något jag har hittat på semantiskt. När du har den här visuella modellen av din kaffekopp som dyker upp och säger att det här är verkligt, och en annan modell, lika automatisk och omfattande, som dyker upp och säger att det just nu finns något som kallas subjektiv upplevelse kopplat till den där kaffekoppen – då har du den informationsuppsättning som tillförs din högre kognition så att om någon frågar: är du medveten, har du en subjektiv känsla av hur det ser ut att titta på den där kaffekoppen, så har du den information som krävs för att svara: ja, det har jag, jag är säker på det.

Christopher Kabakis (35:41) Det är alltså som om ditt uppmärksamhetsschema, din subjektiva medvetenhet, existerar samtidigt med allt annat som finns inom uppmärksamhetsfältet — jag skulle uttrycka det så här — och då är det närvarande, det finns där för mig, när objektet är där och min medvetenhet, min uppmärksamhet, också är där, och då blir resultatet att det finns där, och jag minns. Du skrev i din bok att plats är en viktig länk, så att allt faller på plats – min hjärna bearbetar det tillsammans, formen, färgen – men den yttersta länken är denna subjektiva medvetenhet, detta amorfa uppmärksamhetsschema som sammanför allt som har kommit upp till ytan. Vissa, som Dan Siegel, har sagt att sinnet är den ultimata länken – skulle du säga att uppmärksamhetsschemat, eller den subjektiva upplevelsen, eller medvetandet, är den ultimata länken?

Michael Graziano (36:41) Ja, det stämmer. Det är en viktig punkt – ”sinnet” är i viss mening ett annat sätt att tala om uppmärksamhet. När man tänker på det så påminns man om något – det är bokstavligen ”re-minding”, något som återförs till sinnet. Borta ur sikte, borta ur sinnet. Vad har han i tankarna just nu? Det här är vardagliga sätt att tala om vad som ligger inom uppmärksamhetens räckvidd – vad som har förstärkts genom uppmärksamhetsprocessen, så att det påverkar högre nätverk som kognitionen. Det är vad ett sinne är, och uppmärksamhet, och det globala arbetsutrymmet – de är alla på sätt och vis synonymer; uppmärksamhet kan verka på många nivåer, och vi talar om de högsta nivåerna av den. Men om något kommer in i ditt sinne, din uppmärksamhet, ditt globala arbetsutrymme – som bilen du tittar på – och någon frågar: ”Har du en subjektiv upplevelse av bilen?”, kan du inte svara om du inte också har en modell, information om vad en subjektiv upplevelse är och vilket tillstånd du befinner dig i just nu. Du behöver den där extra pusselbiten.

Christopher Kabakis (38:08) Ja – låt mig återkomma till frågan om information, eftersom du säger att de modeller jag talar om inte bara är abstrakta, utan att de också omfattar all annan information som når mig – smak, beröring, visuell information – och att uppmärksamhetsmodellen och alla dessa sensationer och perceptioner bearbetas tillsammans, och då kan jag säga att jag är medveten om dem. Och du säger att det inte finns någon anledning till att maskiner inte skulle kunna ha en sådan självmodell, att de skulle kunna bearbeta information om beröring, synintryck och lukt, samt känslor som kärlek, tillsammans med uppmärksamhet, på samma sätt. Stämmer det, och varför tror du det? John Vervaeke, professor vid University of Toronto, har nämligen sagt att de stora språkmodellerna (LLM) och andra artificiella maskiner vi bygger aldrig kommer att bli som oss, eftersom de inte bryr sig om informationen, medan vi bryr oss eftersom vi har dessa biologiska organismer – jag vet inte, det är en av anledningarna. Hur skulle du svara på det?

Michael Graziano (39:23) För det första talar vi om känslor, och ingen förstår egentligen ännu hur känslor uppstår i hjärnan – så vi vet inte hur man ska bygga upp det. Det är mycket enklare att bygga upp synen, om vilken man vet en hel del, och mycket enklare att bygga upp högre kognitiva funktioner, om vilka man vet ännu mer. Så det är den första punkten: jag tror inte att stora språkmodeller (LLM) har något som liknar känslor, jag tror inte att de har nått det stadiet. Vad är känslor? Jag tror att det du säger är helt rätt – känslor har sin grund i kroppen. Det finns mycket gamla teorier som går tillbaka till William James om att känslor delvis är hjärnans tolkning av sensationer som uppfattas i kroppen – det autonoma nervsystemet, den sympatiska kamp-eller-flykt-reaktionen och den parasympatiska vila-och-smälta-reaktionen, som samverkar i ett drag-och-tryck-förhållande och alltid är aktiva även i vardagliga situationer. Vi genomgår faktiska fysiologiska förändringar – blodtryck, blodtillförsel till huden så att vi rodnar eller bleknar, pupiller som drar ihop sig eller vidgas, muntorrhet, hjärtfrekvens, adrenalin – och kroppens sinnesorgan skickar den fysiska informationen upp till hjärnan, genom många lager långt under hjärnbarken, där system analyserar den och bedömer kroppens tillstånd. Så småningom når den informationen de mer abstrakta delarna av hjärnbarken, och vi kan säga: ”Jag känner verkligen en djup rädsla, eller kärlek, eller ilska” – känslor som delvis är konstruktioner i hjärnan, men som i själva verket är förankrade i kroppens fysiologi och upptäcks av sinnesorganen. LLM:er har inget av detta, bokstavligen ingenting alls, så jag tror inte att de har något som liknar mänskliga känslor. Men skulle de kunna ha det, i princip? Ja – man skulle kunna bygga upp mycket av detta artificiellt, med sensorer, eller simulera det, med en simulerad kropp och simulerade tillstånd. Finns det en framtid där stora språkmodeller har känslor som människor har? Visst – jag ser inte att det kommer att hända snart, eftersom det finns tekniska utmaningar som ligger långt utanför vad människor för närvarande kan åstadkomma, men tekniken utvecklas snabbare än någon tror, och i diskontinuerliga språng, så jag vet inte när, men jag är ganska säker på att det så småningom, ja, att det kommer att hända. Men jag håller helt med om att stora språkmodeller just nu blir allt mer intelligenta i semantisk mening, och att de förstår vad de säger semantiskt – jag tror bara inte att de bryr sig. Jag tror inte att de har den känslomässiga sidan av det.

Christopher Kabakis (43:05) Intressant. Så du menar att de inte bryr sig, förmodligen för att de saknar en kropp, och att det är kroppen som får oss att bry oss genom känslor – och det har de inte, men de förstår ändå. Jag ville också fråga om den här förståelsedelen, för – rätta mig gärna, eftersom du vet mycket mer om detta – klassisk informationsteori, i Claude Shannons mening, är ett mått på överraskning, som minskar osäkerheten och ger dig de klassiska bitarna, ettor och nollor. Vissa har sagt att det är en syntaktisk definition av information – ett mått på hur överraskad man blir av nästa ord eller symbol. Och stora språkmodeller (LLM) fungerar så här, tror jag – de har enorma korrelationsmatriser och förutsäger det näst bästa ordet, men det skulle väl inte vara mening, eller hur? Det skulle inte vara förståelse så som vi tänker på det i vardagliga termer. Skillnad mellan hur vi tänker på information och mening jämfört med den vetenskapliga definitionen av information, eller jämfört med hur AI:erna är programmerade, och spelar det någon roll? Ta till exempel meningen med livet – en LLM kan simulera ett svar om jag frågar om det, den kommer att säga något till mig, men är det samma sak, eller spelar det ingen roll? Skulle du säga att det inte spelar någon roll?

Michael Graziano (44:30) Många människor har den synvinkeln – jag har hört det miljontals gånger; folk fastnar i tanken att stora språkmodeller (LLM) bara förutsäger nästa ord, att de är gigantiska förutsägelsemotorer, stora linjäralgebramaskiner som gör korrelationer. Här är problemet med det tänkesättet: människor är maskiner som förutsäger nästa muskelkontraktion vi behöver göra för att klara oss i världen – det är bokstavligen det enda syftet med att ha en hjärna, att styra rörelser i en komplex värld, och varelser som inte rör sig i en snabb, interaktiv takt har inga hjärnor. Och det sätt på vilket vi gör det effektivt handlar inte bara om att rycka till och hoppas, eller att använda någon enkel korrelationsmatris – vi har djupare lager, där hjärnan bygger upp abstrakta representationer, så det handlar inte bara om muskelmönstret. I dessa djupare lager har vi abstrakta representationer av hundar och kärlek och bilar och frukost och hunger – alla de saker vi behöver för att bygga upp en bild av vår värld på den mest abstrakta begreppsliga nivån, så att dessa begrepp kan ordnas och manipuleras, en allmän respons bestämmas och sedan bit för bit översättas tillbaka till enskilda muskelkontraktioner. Det är det enda sättet att effektivt reagera på en komplicerad värld – att bygga djupa lager med djupa abstrakta representationer. Detta är bokstavligen exakt vad LLM:er gör. Ja, de förutsäger nästa ord, men de kan inte göra det om de inte har djupare lager, och det har de – dessa modeller kan ha femtio lager från indata till utdata, och i de djupare lagren, kanske ungefär två tredjedelar in i processen, börjar man se aktivitetsmönster, som ibland kallas inbäddningar eller vektorer, och som är representationer – samma typ av representationer som man ser i den mänskliga hjärnan, ett aktivitetsmönster bland neuroner eller enheter som står för något, och de saker de står för är mycket abstrakta. Man kan gå in i dessa maskiner, in i de dolda lagren, och hitta de neuralt representerade signalerna som står för hundar och bilar och kärlek, dessa abstrakta begrepp, så att de kan manipuleras och sedan översättas tillbaka, bit för bit, till ord. Det handlar alltså inte bara om att förutsäga nästa ord – det görs genom att bygga upp djupa, interna och extremt abstrakta begreppsliga representationer av världen, och vi vet att den gör det eftersom vi har direkt tillgång till den, och vi vet att den gör det på ett sätt som är kusligt likt hur hjärnan gör det. Kanske borde det inte komma som någon överraskning, eftersom dessa modeller är utformade efter den mest grundläggande insikten om hur hjärnan fungerar – att hjärnan består av neuroner som är sammankopplade via synapser, och att synapsernas styrka förändras till följd av inlärning. Att dessa system lär sig att göra detta är fantastiskt, men i efterhand är det inte någon så stor överraskning. Så ja, dessa maskiner förstår semantiskt vad de säger på en djup konceptuell nivå, på samma sätt som vi gör – men du har rätt i att de saknar saker som känslor, eftersom de inte har den arkitekturen; de är inte byggda enligt samma arkitektur som vi är. De har vissa av de saker vi har, och saknar andra.

Christopher Kabakis (49:12) Och arkitekturen hänger ihop med det vi talar om – vi tänker ofta i termer av hårdvara och mjukvara, där mjukvaran körs på hårdvaran, och vi vill att hårdvaran ska vara förutsägbar och stabil, så att vi får tillförlitliga 1-0-bitförhållanden på algoritmnivå. Så maskinerna befinner sig endast på mjukvarunivån, och hårdvarunivån är irrelevant för dem – de vet inte och bryr sig inte om att de körs på kiselplattor i datacenter i Abu Dhabi eller Utah, men vi bryr oss, kanske på grund av det där med kroppen. Så vad jag hör dig säga är att sinnet och medvetandet, eftersom du talar om modeller och funktioner, utgör mjukvarulagret, och att hårdvaran inte är relevant – vi skulle kunna instansiera sinnets mjukvara i olika substrat, kisel istället för kroppen. Och här är en fråga som är svår för mig att formulera: vi vet att verkligheten, innerst inne, är kvantmekanisk, inte klassisk, inte bara ettor och nollor – det finns ett djupare lager, med alla de märkliga aspekterna av kvantfysiken. Vissa säger att om vi ska grunda vår fysik ordentligt måste vi grunda den i informationsteori, men inte klassisk informationsteori – utan kvantinformationsteori, som har andra egenskaper. Skulle det alltså vara en möjlighet – eller har jag helt fel – att våra kroppar och hjärnor, som härstammar från denna värld, om vår djupaste teori om världen säger att den är kvantmekanisk, också måste vara kvantmekaniska på någon nivå, och att vi först överskrider en tröskel in i det klassiska på nivån av synapser och nervimpulser, vilket är mycket mer ett-noll – men under det, all biokemi, cellerna med sin egen avsiktlighet, som gör sin egen grej i denna stora symfoni som organismen utgör – är inte det kvantmekaniskt? Och kanske är det därför vi inte kan förklara känslor och emotioner, eftersom den informationsbearbetning som sker faktiskt är kvantmekanisk, med andra egenskaper än den klassiska. Säg till om jag har helt fel, för jag är ingen expert och du vet förmodligen mycket mer.

Michael Graziano (51:43) Nåväl, jag ska berätta lite om vad jag tycker – som före detta fysiker för länge sedan har jag försökt tänka igenom några av dessa kvantteoretiska teorier, och jag anser att ordet "kvant" är mycket farligt, eftersom folk i princip säger: ”Det finns den här formlösa saken, vi förstår inte kvantfysiken, och så finns det medvetandet, som vi inte heller förstår, så de måste hänga ihop – och det är något som ofta sägs. Jag tror faktiskt att mycket av hur nervceller fungerar, i slutändan, är klassiskt – klassisk fysik är konsekvensen av kvantmekaniken på en statistisk skala, och när man väl kommer upp till nivån där en nervcell kommunicerar med andra nervceller är det mestadels klassiskt, inte särskilt kvantmekaniskt. Man måste gå ner till den mikroskopiska nivån där enskilda joner rör sig över membran för att definitivt befinna sig i kvantvärlden – där nere pågår massor av kvantfenomen, men det gör det överallt, det är så världen är uppbyggd. Det mesta av hur nervceller kommunicerar med varandra och bearbetar information kan förstås på en klassisk nivå och kan modelleras utomordentligt väl med ganska enkla linjära matematiska ekvationer, vilket är anledningen till att dessa stora AI-system har fungerat så bra. För det andra, när det gäller frågan om kvantfysiken förklarar hur vi upplever en känsla – min oro är att det alltid är samma fråga: så fort man frågar hur vi upplever en känsla, tror jag att man har gjort sig själv överflödig. Det är som när de forntida egyptierna frågade var hålet i marken finns som solen går in i på natten på väg till underjorden – man lägger massor av pengar och ansträngning på att leta efter ett hål som inte finns, eftersom man har bestämt sig för att det här bokstavligen existerar och nu letar man efter det, när du i själva verket bara har en förenklad föreställning. När du frågar vad som orsakar känslan, vad som får känslan att uppstå, skulle jag säga: anta att känslan uppstår – då har du fortfarande inte förklarat någonting, eftersom du inte har förklarat hur en känsla får dina neurala nätverk att ha rätt informationsinbäddning så att du tror att du har den, vet att du har den och kan prata om den. Det som måste förklaras är hur hjärnan bygger modeller – och det vet vi redan, i allmänhet – och vad den specifika anpassningsmässiga fördelen är med den här typen av modell som säger oss att vi har magi i våra huvuden. Så istället för att fråga vad som orsakar magin, fråga vad som fick oss att utvecklas så att våra hjärnor bygger modeller som säger oss att vi har magi. Det är mitt svar.

Christopher Kabakis (55:08) Ja, jag förstår det helt och hållet – om man har en felaktig teori om något letar man på fel ställen, som i ett hål i marken efter solen, och då hittar man ingenting och blir förvirrad. Betyder det att när jag säger att jag har en känsla – säg att jag älskar en person – så skulle du säga: ”Tja, jag vet inte om det är sant, du säger bara att du älskar dem, så låt oss se hur din hjärna modellerar något som du skulle beskriva som kärlek”? Och du skulle säga att kärlek är svårt, men att vi kommer dit – de enklare sakerna är visuella, även om självkörande bilar redan bearbetar visuell information, så vi kommer så småningom att komma dit med resten också. Skulle du alltså säga att det är en illusion? Jag minns en liten diskussion i din bok om illusionism – är det det?

Michael Graziano (56:07) Nej, det skulle jag inte säga – jag har svårt för det ordet. En vanlig uppfattning är att om man försöker förklara hur hjärnan gör något, så förklarar man bort det, säger att det egentligen inte existerar, säger att jag egentligen inte har kärlek – och det stämmer inte heller. Att förklara något är inte detsamma som att förklara bort det. Jag var tidigare motorfysiolog och studerade armar och händer, kände till alla ben och muskler – betyder det att jag, nu när jag förstår det, kan ta en yxa och hugga av min hand och kasta bort den eftersom jag inte behöver den längre, eftersom jag har förklarat bort den? Nej – jag behöver fortfarande den där delen, jag använder den fortfarande, men nu har jag viss kunskap om hur den fungerar. Det är verkligen viktigt att människor förstår att syftet med vetenskapen inte är att bortförklara saker så att vi kan kasta bort dem – så fungerar det inte. Man förklarar något och får en bättre förståelse för det, och man förlorar aldrig behovet av det man studerade. Så vi förklarar inte bort kärlek, vi förklarar inte bort upplevelser – det vi förklarar är hur en hjärna kommer fram till dessa övertygelser, intuitioner och föreställningar om sig själv. Här är en annan analogi som jag ofta använder för att förmedla poängen om magi, om hur hjärnan kommer att tro att den har magi: ta exemplet med fantomlemmar igen – anta att du förlorar en arm i en olycka och får en fantomlem. Det finns två typer av förklaringar. Den typiska idag: hjärnan har byggt upp en modell av din arm, automatiskt, som pågår under ytan och skickar information upp till din medvetenhet, vilket är anledningen till att du, när du blir tillfrågad, kan prata om den, blunda och veta vad din arm gör, känna beröring, kyla och värme. Den andra förklaringen, som faktiskt en gång i historien godkändes som en förklaring, är att det bokstavligen växer ut en spökarm ur stumpen – om man tar modellen för vad den är och antar att den är bokstavligt korrekt. Låt oss alltså ställa oss den vetenskapliga uppgiften att förklara det svåra problemet utifrån dessa termer: vad skapar fantomen, spöket – är det kvantvibrationerna vid stumpen, integreringen av information i cellerna där, och vad består den av, energi, kvantitet, ett osynligt elektromagnetiskt fält? Och sedan, när du väl tror att du har förklarat varifrån det kommer och vad det består av, står du fortfarande fast med att förklara hur just detta fantomlem specifikt påverkar neuronerna i din hjärna, och justerar deras aktivitet i precis rätt mönster så att dina semantiska nätverk vet att det finns ett fantomlem, så att du kan prata om det. Så man stöter på en hel rad problem när man tar innehållet i en modell som hjärnan byggt upp bokstavligt, eftersom hjärnans modeller alltid är schematiska, snabba och grova. Det är exakt samma problem som vi har med medvetandet – vi rapporterar det, säger det, tror på det, insisterar på det, känner det på ett intuitivt plan, men allt detta härrör från hjärnans modeller, som troligen byggs automatiskt, troligen på en mycket djup nivå – inte semantiska modeller, utan snarare perceptuella modeller, vars utdata leds upp genom vårt semantiska nätverk, vilket är anledningen till att vi tror att vi har dessa saker, varför vi säger att vi har dem. Men om vi antar att modellerna är bokstavligt korrekta – att det bokstavligen finns en spöklik essens av magisk känsla inuti oss – och frågar vad som orsakade den, så är det just det ögonblicket som nästan alla medvetenhetsforskare, fram till nyligen, har satt som mål för sig själva. Det är som egyptierna som försöker hitta hålet i marken som solen går ner i på natten. Så fort du sätter upp den uppgiften för dig själv – vad är den magiska essensen av upplevelsen och vad orsakar den – är du ute ur leken. Det är i det ögonblicket du har misslyckats med att förstå vad som faktiskt pågår och hamnat på fel spår.

Christopher Kabakis (1:00:40) Okej – och man skulle kunna säga att känslan av ett fantomlem är en funktionsstörning i något som vanligtvis fungerar bra, så man kan inte bevisa att något inte fungerar som det ska, eller att det inte är verkligt, bara för att det ibland krånglar – om jag säger att jag älskar någon, kan det ju bara vara en sån där fantomlem-grej, men det betyder inte att den inte existerar på riktigt, bara att den existerar i min uppfattning. Och den mer intressanta frågan, som du säger, är hur hjärnan gör det – det är så man förankrar det, alltid. Så om vi utvecklar vår nuvarande neurovetenskap och informationsvetenskap tillräckligt långt, kommer vi att nå en punkt där vi kan lära stora språkmodeller (LLM) att inte bara konstruera en självmodell av hur deras beräkningsresurser fördelas just nu, utan också att modellera alla slags sinnesintryck – synen är det enklaste, vilket intuitivt är logiskt eftersom de redan bearbetar bilar och hanterar det på något sätt – och sedan kanske lukt och beröring, och till och med känslor. Vi skulle kunna modellera in det i dem, och då skulle de också tro att det är verkligt, på samma sätt som vi gör, eftersom vi har en modell som fungerar så – oberoende av substratet, förmodligen, och oberoende av energi, om den ens existerar, för när jag fördjupade mig i detta ämne stötte jag på tanken att man måste instansiera modellen, så det måste finnas något fysiskt, energi och så vidare. Men det finns också synsätt som säger: nej, inom informationsteorin, om man går helt i den beräkningsorienterade riktningen, behöver man varken materia eller energi – det handlar bara om informationsbearbetning, strukturen av begränsningar inom vilken information får bearbetas, och då behöver man inte ens energi eller fysisk materia. Jag vet inte om man skulle kalla detta ett informationsbaserat synsätt, där man i slutändan inte bryr sig så mycket om materia – man talar om hjärnan, men hjärnan är på sätt och vis bara en informationskälla. Hur förhåller du dig till den typen av idéer, på gränsen mellan fysikalism och informationsism eller beräkningsteori?

Michael Graziano (1:03:35) Jag vet inte – fysik på den allra mest grundläggande nivån är väldigt matematisk, det är på sätt och vis matematik, samband, informationsmässiga samband mellan saker, och man skulle kunna säga att universum är matematik. Jag tycker att det är en riktigt intressant synvinkel, även om det finns en tendens att folk hör det och tror att det betyder att universum inte existerar, att vi bara kan tänka oss det på ett annat sätt, tänka oss universum i olika tillstånd – och så fungerar det verkligen inte. Men man kan förstå vad som händer i universum på en matematisk nivå, på nivån av informationsmässiga relationer. Jag är inte säker på att det kommer att vara särskilt användbart för att förstå sinnet, även om jag tycker att matematiken bakom stora språkmodeller (LLM) är vacker – grundläggande linjär algebra som beskriver hur enorma mängder neuroner kopplas samman med enorma mängder andra neuroner, hur kopplingsstyrkorna förändras och hur det resulterar i abstrakt symboliskt tänkande. Det är helt fantastiskt att all den här matematiken är så välformulerad och förstådd. Jag vill dock säga följande när det gäller substratoberoende: det vi hittills har när det gäller förståelsen av hjärnan, och särskilt det som har omsatts i teknik, är fortfarande ganska förenklat. Jag är oerhört imponerad, och jag tror att dessa maskiner tänker, och jag tror att de har fångat essensen av hur neurala nätverk fungerar i hjärnan – men de har förenklat det en hel del. Det finns en hel del förenklingar. Hjärnan har andra frihetsgrader som inte finns i det artificiella systemet – olika tidsdynamiker för olika typer av synapser, sätt som neuroner kopplas samman på som inte är synaptiska, hormonell signalering, direkta gap-förbindelser mellan nervceller och gliaceller, som folk gärna glömmer bort – det finns tio gånger fler gliaceller i hjärnan än nervceller, och de spelar faktiskt en roll i informationsbearbetningen på sätt som inte är helt klarlagda. Så det finns mycket där inne som hjärnan har kommit på som kan vara genvägar, knep eller kanske grundläggande – vi vet inte. Så om man tog en hjärna, tog alla dess nervceller och synaptiska kopplingar – det som kallas ett konnektom – kopierade det artificiellt och satte igång det, tror jag inte att det skulle vara personens medvetande, eftersom man då skulle sakna andra delar av hjärnans fysiska arkitektur. Jag tror att man skulle få något mycket förvirrat och olyckligt. Men om man kunde kopiera inte bara nervcellerna och synapserna utan även synapsernas storlek och typ, den tidsmässiga dynamiken, de subtila sätt på vilka synapserna förändras över tid, de hormonella interaktionerna, om man kunde simulera gliacellerna – skulle man i princip kunna simulera en mänsklig hjärna, och den artificiella versionen skulle vara personen själv, en som skulle säga: ”Herregud, ni har gjort något med mig, men här är jag, det här är jag, jag har mina minnen, min visdom, min kunskap, min personlighet.” Men jag tror inte att vi är där än – det finns skillnader mellan det biologiska systemet, som har komponenter vi inte helt förstår, och de mer förenklade, men ändå mycket kraftfulla, artificiella systemen.

Christopher Kabakis (1:07:38) Okej – så du skulle säga att det i slutändan är substratoberoende, om vi lyckas modellera det korrekt ned till all relevant information, och det inte finns – ursäkta, jag ställer den här frågan en sista gång – någon kvanteffekt eller kvantinformation på de lägre nivåerna som inte går att klona. Kvantinformation går inte att klona, så om det finns något kvantmässigt på de lägre nivåerna kan man inte kopiera det; det går inte att korrekt abstrahera till ett noll-ett-bit-förhållande.

Michael Graziano (1:08:21) Jag tror att uppladdning av medvetandet, vilket är det jag just beskrev, kommer att ske – låt oss bara säga det rakt ut. Jag tror att det kommer att ske, jag vet inte när, men jag tror att det dröjer länge. Det finns människor som tror att det är precis runt hörnet, och jag tror att de har fel – tekniken är inte där ännu. Men jag tror att det oundvikligen kommer att ske.

Christopher Kabakis (1:08:25) Det gör alltså alla glada som har investerat stora summor i att få sin kropp eller hjärna djupfryst – vi vet inte om de kommer att gilla den framtid de möter när de på något sätt återaktiveras.

Michael Graziano (1:08:48) Jag förstår inte varför någon skulle vilja det. Det är det enda jag alltid säger när folk frågar: ”Vill du att ditt medvetande ska laddas upp?” – och svaret är nej, jag är så glad att det här kommer att ske efter att jag har gått bort.

Christopher Kabakis (1:09:01) Ja, det tycker jag också. Okej, nu närmar vi oss slutet – och här kommer mina sista frågor: den här podden handlar också om personlig utveckling och tillväxt, och vi har pratat mycket om din teori om medvetandet och hur det fungerar. Hur tror du att personlig utveckling och tillväxt sker, utifrån ditt neurovetenskapliga arbete? Det behöver inte nödvändigtvis handla specifikt om uppmärksamhetsschemateorin, utan bara om din insikt i sinnet och medvetandet i allmänhet – finns det några råd du skulle ge till människor som säger: ”Jag vill växa, jag vill utvecklas, kanske till och med utveckla mitt medvetande?”

Michael Graziano (1:09:55) Jag vet inte – att förstå hur vissa delar fungerar är inte riktigt samma sak som att få råd om hur man ska agera som utövare och använda dessa delar. Det tyder visserligen på att saker som meditation, som vi har pratat om, är giltiga – man tränar upp och stärker sina mekanismer för självövervakning och kontroll av sina egna inre processer, och det är jättebra. Men det viktigaste – och vi har pratat och pratat om kopplingen till AI – jag tror att det förmodligen är där som arbetet med medvetandet kommer att få den största praktiska inverkan, eftersom medvetandeforskning tidigare var filosofi, teoretisk filosofi, sedan blev den vetenskapligt intressant, men nu är den plötsligt nyckeln till vår tekniska framtid, något av djupgående betydelse för vår arts framtid. Jag tror att det förmodligen har en större inverkan än en medicinsk eller psykologisk intervention.

Christopher Kabakis (1:11:01) I din teori om medvetande eller uppmärksamhet spelar uppmärksamheten en central roll, och jag tyckte det var intressant hur mycket du betonar den – uppmärksamheten som den centrala funktionen som hjärnan utför, eller som vårt sinne åstadkommer, när den avgör vad som ska lyftas fram, vad som ska undertryckas och hur den ska styras, och vi gör detta hela tiden, oftast omedvetet, och styr vår uppmärksamhet efter livets krav, eller som vi finner lämpligt. Att bli mer medveten om denna uppmärksamhetsmekanism är nyttigt, tror jag, eftersom vi genom att rikta vår uppmärksamhet någonstans förändrar vår värld och förändrar världen. Så istället för att tala om medvetenhet, vilket är lite vagt, handlar det egentligen om uppmärksamhet och om att kunna välja vart vi riktar strålkastarljuset – och oftast riktar vi det bara i en riktning eller vinkel. Kanske kan vi, om vi experimenterar lite mer med vår förmåga att styra uppmärksamheten, få nya insikter om oss själva och om världen.

Michael Graziano (1:12:04) Jag tror att det stämmer – att fokusera på uppmärksamheten, det är verkligen viktigt, absolut.

Christopher Kabakis (1:12:16) Iain McGilchrist har sagt något liknande. Finns det något råd du skulle vilja ge våra lyssnare när det gäller uppmärksamhet eller medvetande, utifrån hur du ser på saken?

Michael Graziano (1:12:41) Jag skulle vara mycket försiktig med att ge råd, eftersom jag inte vill skada någon. Jag skulle säga att förståelse är ett värdefullt mål i sig – att förstå dessa inre processer är fascinerande. En av de mest fantastiska sakerna med människor är att vi har lärt oss så mycket om oss själva, och nu sipprar det in i vår teknik på sätt som bara kommer att fortsätta att förändra oss.

Christopher Kabakis (1:13:08) Ja – och jag kom ihåg att jag också ville prata om dina skönlitterära verk, eftersom du har skrivit *The Divine Farce* och andra böcker. Hur har ditt litterära arbete påverkat ditt vetenskapliga arbete, och tvärtom? Du skriver om de stora frågorna – livets mening, eller livets meningslöshet, döden och så vidare – hur hänger det ihop, eller inte, med ditt vetenskapliga arbete?

Michael Graziano (1:13:41) Jag vet inte tematiskt sett – kanske finns det vissa tematiska kopplingar, men jag tror att processen är väldigt likartad oavsett om man skriver en roman eller genomför ett vetenskapligt experiment. Det är ett väldigt stort projekt, och man måste närma sig det både ur ett estetiskt perspektiv och ur ett mycket logiskt, reduktionistiskt perspektiv. Jag tror att det tilltalar samma sidor hos mig att arbeta med dessa olika typer av projekt, och om man fastnar i det ena kan man vända sig till det andra ett tag och sedan återvända. Det är nog kopplingen.

Christopher Kabakis (1:14:49) Okej – så det kompletterar varandra på sätt och vis, de spelar på varandra: dels en strävan efter förståelse, kanske av den mänskliga tillvaron i det litterära verket, dels medvetandet som ett kompromisslöst förståelseprojekt inom vetenskapen. Eftersom du har varit intresserad av psykologi, filosofi och neurovetenskap i många, många år – finns det något råd du skulle ge dig själv som ung man? Du sa att det är svårt att ge råd till andra människor, men när du ser tillbaka på ditt yngre jag, finns det något du skulle säga att du började fundera på för tidigt, eller på ett annat sätt?

Michael Graziano (1:15:03) Jag skulle gärna vilja prata med mitt yngre jag, men bara om jag kunde ordna det så att han inte skulle komma ihåg samtalet efteråt – för jag vill inte påverka hans livsväg. Han hade en riktigt intressant livsväg, och jag vill inte styra honom mot eller bort från något specifikt. Jag tycker bara att det är fascinerande att föreställa mig att åka tillbaka i tiden och prata med honom – jag tror att jag minns en del, men det finns säkert mycket jag inte minns – och han kanske också är nyfiken på sitt framtida jag. Det skulle bli ett underbart samtal.

Christopher Kabakis (1:15:36) Men då skulle du ju behöva den där apparaten som ”Men in Black” har, så att folk glömmer igen – det låter som om du håller på att utveckla en tidsmaskin och en apparat för att radera minnen. Okej, underbart. Michael, tack så mycket för det här superintressanta samtalet, jag har lärt mig massor. Om folk vill komma i kontakt med dig eller lära sig mer om ditt arbete, vart skulle du hänvisa dem?

Michael Graziano (1:15:39) Förmodligen min webbsida – på min webbsida vid Princeton finns all sorts information.

Christopher Kabakis (1:16:07) Okej, det är bara att googla ”Princeton University Michael Graziano” så hittar du dit. Underbart – och jag ska sätta mig in i kvantfysiken och återkomma för ett uppföljande samtal. Det är ett fascinerande område, och som du sa har vi alla ett naturligt intresse av att bättre förstå oss själva, och du ligger i framkant av det arbetet. Jag har alltid gillat att det inte bara handlar om emergentism, där medvetandet bara dyker upp – du säger att det finns en mekanism vi kan förstå, ett rimligt sätt att förklara vad subjektiv upplevelse eller medvetenhet är. Det har jag alltid älskat, och vi kommer att fortsätta dela det med människor så fort tillfälle ges. Så tack så mycket, och ha en fortsatt trevlig dag där på östkusten. Okej, ta hand om dig. Hej då, Michael. Hej då.

Michael Graziano (1:16:47) Bra, det gläder mig att höra. Utmärkt, det gläder mig verkligen att höra. Just det. Ja. Hej då.