Michael Graziano

Michael Graziano (00:01) Ist unser Bewusstsein dasselbe wie das dieser künstlichen Dinge, die wir bauen? Im Moment denke ich, wahrscheinlich nicht. Aber der Grund dafür ist, dass diese künstlichen Dinge keine Selbstmodelle in derselben Weise haben wie wir. Und das ist nur eine Frage der Zeit – und zwar nicht einmal besonders viel Zeit: Es wird ein Punkt kommen, an dem diese Maschinen Selbstmodelle auf dieselbe Weise entwickeln. Mit anderen Worten: Sie werden mit absoluter Gewissheit glauben, dass sie subjektive Erfahrungen haben – genauso wie wir das glauben – und dabei dieselben grundlegenden Informationsverarbeitungsmechanismen nutzen. Das wird kommen.

Christopher Kabakis (00:51) Du hörst gerade „Inner Pioneers“, einen Podcast für neugierige Köpfe, die verstehen wollen, wie man mit Veränderungen, Krisen oder einfach dem Wunsch nach etwas Neuem umgeht. Begleite uns, wenn wir in echte Geschichten der Transformation eintauchen und von führenden Experten aus den Bereichen Psychologie, Wissenschaft und menschliche Entwicklung lernen, wie man innere Wandlungen und Phasen des Wandels meistert. Ich bin Christopher Kabakis, und jetzt lasst uns gemeinsam Pionierarbeit leisten.

Christopher Kabakis (01:20) Hallo, ihr alle. Es ist mir eine große Freude, heute Professor Michael Graziano hier bei unserem Podcast begrüßen zu dürfen. Michael, du bist Professor für Neurowissenschaften und Psychologie in Princeton. Du hast viele wissenschaftliche Artikel veröffentlicht, aber auch einige populärwissenschaftliche Bücher, die ich als Laie gelesen habe – dein neuestes, "Rethinking Consciousness", und ein früheres Werk, "Consciousness and the Social Brain". Was ich aber besonders interessant finde, ist, dass du auch Belletristik veröffentlicht hast: "The Divine Farce", ein Theaterstück, das auf Dantes "Göttliche Komödie" anspielt – da du ja italienischer Abstammung bist – und „Death My Own Way“. Die habe ich noch nicht gelesen, aber ich bin sehr neugierig auf diesen Zusammenhang zwischen deiner wissenschaftlichen und deiner literarischen Arbeit. Neben dem Schreiben komponierst du auch Musik und spielst manchmal, wenn auch nicht öffentlich, und du bist Hobby-Bauchredner. Das ist ein sehr interessantes Spektrum für einen Professor. Habe ich etwas vergessen?

Michael Graziano (02:27) Du hast da die Grundlagen abgedeckt, und vielen Dank, dass ich bei deinem Podcast zu Gast sein durfte.

Christopher Kabakis (02:34) Ja – du hast, wie ich sagen würde, eine der zentralen wissenschaftlichen Theorien zum Bewusstsein entwickelt, deshalb bin ich sehr daran interessiert, heute mit dir darüber zu sprechen. In diesem Podcast geht es darum, wie persönliche Entwicklung funktioniert, wie Übergangsphasen im Leben ablaufen, wie persönliches Wachstum funktioniert – und natürlich ist das auch eine Frage danach, wie der Verstand und das Bewusstsein funktionieren. Mit dir haben wir heute also den absoluten Experten an Bord, um diese Frage zu beantworten: Was ist Bewusstsein, oder wie funktioniert es? Vielleicht ist die funktionale Antwort einfacher als die essenzialistische, also fangen wir damit an. Nachdem du dich beruflich etwa dreißig Jahre lang mit dem Bewusstsein beschäftigt hast und dich seit über fünfzig Jahren praktisch damit auseinandersetzt – was würdest du sagen, wenn ich dich heute fragen würde, was Bewusstsein ist?

Michael Graziano (03:25) Das ist eine sehr gute Frage – die Frage, die jeder stellen möchte. Es gibt einen essentialistischen und einen funktionalistischen Ansatz, und die Frage, was Bewusstsein ist, ist ein bisschen so, als würde man auf ein Auto zeigen und fragen: Was ist „Herumfahrbarkeit“? Es ist etwas, was das Auto tut. Man kann die Komponenten verstehen und wie sie zusammenwirken, um diese Aktion zu ermöglichen, aber es ist schwer, auf etwas zu zeigen und zu sagen: „Das ist das ‚Herumfahren‘, das ist das Bewusstseinsding.“ Ich glaube, das behindert den Fortschritt in der Bewusstseinsforschung ein wenig. Wenn ich es zusammenfassen müsste – und das ist eine Zusammenfassung, die niemand mag, weil sie so sehr der Intuition widerspricht und viel Erläuterung erfordert, bevor man sie wirklich versteht –, würde ich sagen: Menschen sagen, sie hätten eine bewusste Erfahrung, weil ihre semantischen, kognitiven Netzwerke diese Informationen enthalten. Sie sagen es, weil sie es semantisch glauben, und sie glauben es, weil es tiefere Teile des Gehirns gibt, die unter unserer Kognition verborgen sind, diese Informationsbündel, diese Selbstmodelle, aufbauen und sie in unsere kognitiven Netzwerke weiterleiten. In gewisser Weise ist das die Erklärung dafür, warum wir sagen, denken und darauf bestehen, dass wir eine bewusste Erfahrung haben: Sehr tiefe Strukturen im Gehirn bauen diese Selbstmodelle auf und teilen unserem Bewusstsein, unserem semantischen Verständnis, praktisch mit: Das ist wahr, genau das passiert gerade. Und wir als Gesamtsystem – ein Mensch, ein komplexes System aus Informationsverarbeitung, Körper und Gehirn – wissen nichts anderes. Das ist alles, was wir wissen, alles, worauf wir jemals Zugriff haben. Alles, was wir über uns selbst und den Rest der Welt sagen, glauben und denken, entspringt diesem Prozess. Das ist also der Kern der Sache: Bewusstsein ist eine Art Selbstmodell, das tief im Gehirn konstruiert wird, außerhalb unserer kognitiven Netzwerke, aber dann in unsere höhere Kognition hochgepumpt wird. Das ist die grundlegende Antwort.

Christopher Kabakis (06:09) Okay, du sagst also, es handelt sich um eine Informationsausgabe aus dem Zustand eines informationsverarbeitenden Systems, aber sie taucht plötzlich auf – das klingt ein bisschen nach der Global-Workspace-Theorie, also kommt sie aus dem Unbewussten, ist das der richtige Begriff, und wird dann irgendwie ins Bewusstsein gebracht. Müsstest du nicht auch erklären, wie der Übergang von dem Zustand, in dem wir nichts wahrnehmen, zu dem Zustand, in dem wir etwas wahrnehmen, zustande kommt?

Michael Graziano (06:39) Tja, deine Erklärung vermischt verschiedene Ebenen, denn man kann das Bewusstsein nicht erklären, indem man sich auf das Bewusstsein selbst beruft – man kann nicht sagen: „Ich bin bei Bewusstsein, weil der unbewusste Teil entschieden hat, dass ich es bin, und das dann dem bewussten Teil mitgeteilt hat.“ Das ergibt buchstäblich keinen Sinn, das ist einfach nur eine Vermischung der Ebenen. Aus meiner Sicht als Neurowissenschaftler sind wir letztendlich große biologische Maschinen aus Neuronen, die über Synapsen miteinander verbunden sind und Informationen verarbeiten, und wenn wir sagen, wir hätten Bewusstsein, ist das ein Hinweis – es kommt aus dem Mund, und alles, was aus dem Mund kommen kann, hängt von Informationen ab, die in neuronalen Netzwerken kodiert sind; sonst kann es nicht in die Sprachschaltkreise gelangen. Es muss also letztendlich in Form von Informationen vorliegen, die in neuronalen Netzwerken repräsentiert sind, und man kann zurückverfolgen, wo sich diese Informationen befinden und was sie aufbaut. Letztendlich gibt es also tatsächlich so etwas wie einen globalen Arbeitsbereich – einen Teil des übergreifenden Netzwerks, der eng mit unserer Sprachausgabe verbunden ist und den wir Kognition nennen. Wenn Informationen dort hineingelangen, sind das die Dinge, über die wir sprechen können, und ein Teil der Informationen besagt: Da drüben steht ein Auto, da steht ein Baum, ich sitze auf einem Stuhl, da bin ich – aber es gibt auch Informationen, die besagen: Ich habe eine subjektive Erfahrung dieser Dinge. Ohne all diese Informationen kannst du den Gedanken nicht denken, kannst du das Konzept nicht artikulieren. Irgendwie muss all das in diesen neuronalen Netzwerken dargestellt sein – das ist aus Sicht eines Neurowissenschaftlers fast schon eine logisch notwendige Voraussetzung.

Christopher Kabakis (08:39) Ich habe so viele Fragen, und ich habe bereits einiges darüber gehört, was die Aufmerksamkeitsschema-Theorie ist – die Theorie, für die du wahrscheinlich am bekanntesten bist und die ich heute gerne näher beleuchten möchte. Aber zuerst ein kleiner Abstecher in den persönlichen Bereich: Wie bist du auf dieses Thema gekommen, wie bist du dazu gekommen, diese Fragen darüber zu stellen, wie Bewusstsein und der Geist funktionieren? Wie sieht deine persönliche Geschichte aus, die erklärt, wie du zu diesem Arbeitsgebiet gekommen bist?

Michael Graziano (09:12) Das hängt davon ab, wie lange ich darauf eingehen soll. Zunächst einmal ist es ein Thema, das jeden interessiert – wir alle haben diese Dinge, und jeder, der auch nur ein bisschen selbstreflektiert ist, fragt sich, woher sie kommen, und wir alle wachsen mit Intuitionen, Vorurteilen und Hypothesen darüber auf. Ich habe mich schon sehr früh dafür als wissenschaftliches Thema interessiert, wie viele andere auch – ich habe viele Bücher darüber gelesen und dachte: Das ist so cool, ich wünschte, ich könnte das studieren. Ich glaube, jeder, der Neurowissenschaftler oder Psychologe wird, neigt dazu, über diese Themen nachzudenken. Aber es erst richtig aus der Perspektive eines Wissenschaftlers im Labor zu erforschen, kam erst viel später – so um 2010, als ich begann, mich darauf zu konzentrieren. Davor hatte ich mich schon mit vielen verschiedenen Themen in den Neurowissenschaften beschäftigt – mit ganz grundlegenden Fragen, wie das Gehirn Sinneseindrücke verarbeitet, wie es Bewegungen steuert – und eine der zentralen Erkenntnisse in den Neurowissenschaften ist, dass das Gehirn Modelle von Dingen erstellt. Du betrachtest die Welt, aber was du siehst, sind eigentlich Modelle – Informationsmodelle, die in deinem visuellen System im hinteren Teil des Gehirns konstruiert werden. Du bewegst dich und steuerst deinen Körper, aber das hängt entscheidend davon ab, dass dein Gehirn ein ständig aktualisiertes Modell davon erstellt, wo sich deine Gliedmaßen befinden und was sie gerade tun. Eines der deutlichsten Beispiele dafür, wie das Gehirn ein Modell erstellt, ist das Phänomen der Phantomgliedmaßen – wenn du das Pech hast, einen Arm zu verlieren, hast du wahrscheinlich eine Zeit lang, manchmal sogar jahrelang, einen Phantomarm, weil das Modell des Arms im Gehirn weiterbesteht. Das Gehirn erstellt also Modelle von Dingen, um sie zu überwachen, vorherzusagen und zu steuern. Und dieser Gedankengang führte direkt zu diesem gesamten Forschungszweig: Was passiert, wenn das Gehirn anfängt, Modelle nicht von der Außenwelt, nicht vom Körper, sondern von seinen eigenen inneren Prozessen zu erstellen, damit es den Überblick behalten und vorhersagen kann, was es gerade tut? Der Schlüssel zu diesen Selbstmodellen liegt darin, dass das Gehirn die Details nicht kennen muss – es muss nicht wissen, dass es Neuronen mit Synapsen, GABAerge Bahnen und so weiter hat. Es braucht lediglich allgemeine funktionale Informationen: Ich habe eine gewisse Fähigkeit, Dinge zu verstehen, sie zu erfassen und mich auf sie zu konzentrieren, und wenn ich das tue, kann ich gut darauf reagieren, wenn nicht, dann nicht. Ich habe ein Gedächtnis, das es mir ermöglicht, den Überblick über Dinge zu behalten, aber es ist in der einen oder anderen Hinsicht unvollkommen. Diese vagen, formlosen Eigenschaften, die das Gehirn kennen muss und von denen es Modelle erstellt, bilden die Grundlage für unser Konzept von Geist, Bewusstsein und Willen.

Christopher Kabakis (12:42) Okay, dann lass uns gleich zur Aufmerksamkeitsschema-Theorie übergehen, denn das ist ja schon darin enthalten – dieses Greifen nach einer formlosen Kraft. Denn in der realen Welt gibt es dieses Greifen, um die Außenwelt zu kontrollieren, aber in deiner Arbeit über subjektive Erfahrung und Bewusstheit geht es viel um den Willen, dieses "Ich kann Energie bewegen" oder wie auch immer man das nennen mag, und darum, etwas anderes zu ergreifen. Vielleicht erklärst du uns bitte, wie du darüber denkst – über die Aufmerksamkeitsschema-Theorie.

Michael Graziano (13:13) Es ist ganz einfach und hängt damit zusammen, wie es entstanden ist – als ich zum ersten Mal darüber schrieb, war mir gar nicht bewusst, dass es sich um eine neue Theorie handelte. Ich dachte, es wäre einfach eine vernünftige Art, das zu systematisieren, was jeder wusste. Ich habe ein kleines Buch darüber geschrieben, und ein Neurowissenschaftler meldete sich bei mir und sagte: "Warum stellst du eine neue Theorie auf diese unwissenschaftliche Art und Weise vor, in einem Buch für die breite Öffentlichkeit – solltest du nicht lieber einen richtigen Artikel schreiben?" Also schrieb ich einen Artikel – so etwas wie „Bewusstsein und soziale Wahrnehmung: Eine neuartige Hypothese“ – und dieser Satz am Ende war eigentlich ironisch gemeint, weil ich nicht glauben konnte, dass es sich tatsächlich um eine neuartige Hypothese handelte. Aber die Hypothese ist wirklich einfach. Das Gehirn verfügt über diesen Prozess, den wir Aufmerksamkeit nennen – es ist ein Prozess, nicht wirklich ein Ding, auch wenn die Leute mit diesem Wort viele verschiedene Dinge meinen. Ich meine etwas Bestimmtes: Grob gesagt kann das Gehirn seine Verarbeitungsressourcen bündeln, eine kleine Anzahl von Dingen gleichzeitig intensiv verarbeiten und alles andere ignorieren oder nur oberflächlich verarbeiten. Das ist Aufmerksamkeit, die oft mit einem Scheinwerfer verglichen wird – du kannst deine Aufmerksamkeit auf einen Ort im Raum vor dir richten, auf das Zwitschern der Vögel hinter dir, auf einen Gedanken oder darauf, was dir dein Gedächtnis über das Frühstück erzählt, und während du das tust, zieht sich deine Aufmerksamkeit aus der Welt um dich herum zurück. Deine Aufmerksamkeit ist also begrenzt, und – vielleicht ist das den Leuten nicht immer bewusst – Aufmerksamkeit ist der Grund, warum wir intelligent sind, denn ohne sie bräuchtest du ein Gehirn von der Größe eines Planeten, um die Welt zu verarbeiten. Mit einem kleinen, drei Pfund schweren Gehirn kannst du – wenn du deine Ressourcen klug einsetzt, dich intensiv auf das Wesentliche konzentrierst und den Rest ausblendest – in Bezug auf diese wesentlichen Dinge außerordentlich intelligent sein. Aber wir müssen unsere Aufmerksamkeit auch steuern – sie wird nicht einfach nur hin und her gerissen, obwohl das teilweise der Fall ist: Ein glänzendes Objekt, und zack, schon richtet sich deine Aufmerksamkeit darauf – du musst sie auch selbst lenken: Konzentriere dich auf dieses Buch und ignoriere die Party dort drüben, oder gehe durch eine potenziell gefährliche Situation und sage dir: Ich sollte besser nicht auf meinen inneren Monolog achten, sondern mich lieber auf den Baum konzentrieren und sicherstellen, dass ich nicht überfallen werde. Alles, was du tust, hängt davon ab, deine Aufmerksamkeit zu steuern – ein Sandwich zu machen bedeutet, deine Aufmerksamkeit erst auf das Erdnussbutterglas, dann auf das Brot und dann auf das Messer zu lenken. Das ist buchstäblich der Kern dessen, wer wir als Akteure in der Welt sind. Und wie steuerst du deine Aufmerksamkeit? Jedes System, das etwas steuert, braucht ein Modell dessen, was es steuert – dieses Prinzip entstand vor mehr als hundert Jahren und ist grundlegend für die Robotik und für fast jede komplexe Technik. Wenn das Gehirn seine Aufmerksamkeit hin und her lenken, sie steuern und vorhersagen will, welche äußeren Kräfte sie beeinflussen könnten, braucht es ein Modell der Aufmerksamkeit – es muss sich sagen: Meine Aufmerksamkeit tut dies und das, aber auch: Meine Aufmerksamkeit ist das, was dies und das tun kann, das, was mich dazu befähigt, dies und das zu tun. Also erstellt das Gehirn ein vereinfachtes Modell, und in diesem Modell sagt sich das Gehirn: Ich habe ein Wesen in mir, ein Wesen, das es mir ermöglicht, etwas gedanklich zu erfassen und tief zu verstehen, und wenn ich das tue, lässt es mich auf komplexe Weise darauf reagieren und mich daran erinnern, und es gibt mir ein lebhaftes Gefühl dafür, was mein Verstand erfasst hat. Aber wenn ich es nicht erfasst habe, kann ich nicht tief darüber nachdenken, kann nicht gut darauf reagieren und erinnere mich später vielleicht nicht mehr daran. Das Gehirn malt sich also ein Bild von seinen eigenen Eigenschaften, und dieses Bild sieht so aus: Ich habe eine Art amorphe, immaterielle Essenz – sie hat keine physische Grundlage, denn das Gehirn muss nichts über die physische Grundlage wissen, es ist vielleicht einfach wie eine Energie, und sie ist in mir, und sie ermöglicht es mir, mir einiger Dinge bewusst zu sein und anderer nicht, und das ist die Grundlage dafür, was mich reagieren lässt oder mich am Reagieren hindert. Diese Bewusstseinssache ist das Modell des Gehirns dafür, was sein eigener Aufmerksamkeitsfokus bewirkt. Das ist die Aufmerksamkeitsschema-Theorie in Kurzform.

Christopher Kabakis (19:23) Genau. Und als ich darauf gestoßen bin, fand ich es toll, weil du ziemlich gut erklärst, was oft fehlt. Es reicht nicht aus, nur ein Modell davon zu haben, was ich gerade verarbeite – sagen wir, einen Apfel vor mir –, das allein reicht nicht, und es reicht auch nicht aus, ein Modell von mir selbst zu haben; wir brauchen etwas dazwischen, das das Modell von mir selbst mit dem Apfel verbindet. Und genau das hast du gerade erklärt – ein Modell von mir selbst, während ich meine Aufmerksamkeit auf den Apfel richte. Dieses Aufmerksamkeitsschema – das "Schema", weil es vereinfacht ist – weil es vereinfacht ist, würdest du wohl sagen, fühlt es sich wie eine formlose Kraft an: Ich ergreife den Apfel mit meiner Aufmerksamkeit. Und dann, wie du gesagt hast, kann ich darüber berichten – wenn mich jemand fragt: „Bist du dir des Apfels bewusst?“, würde ich sagen: „Ja, ich bin mir des Apfels bewusst.“ Sonst könnte ich das nicht sagen – ich hätte nur ein Modell von einem Apfel und mir selbst, aber ich könnte nicht sagen, dass ich mir des Apfels bewusst bin. Ist das richtig?

Michael Graziano (20:27) Das stimmt genau. Wenn du nur das visuelle Modell des Apfels hättest und jemand fragen würde: „Gibt es einen Apfel?“, könntest du sagen: „Ja, da ist ein Apfel.“ Aber wenn jemand fragen würde: „Bist du dir dessen bewusst?“, müsstest du antworten: „Kann ich nicht berechnen – was soll das heißen?“

Christopher Kabakis (20:53) Und das ergab für mich auf eine sehr intuitive Weise Sinn, denn wenn Menschen meditieren, lassen sie oft den Inhalt ihrer Erfahrung los – Objekte, einschließlich ihrer Gedanken – man wird darin geschult, Gedanken und Informationen loszulassen, und man verliert sogar den Bezug zum eigenen Körper, vielleicht zu Teilen des Selbstmodells. Und was im tiefen meditativen Zustand übrig bleibt, ist das sogenannte reine Bewusstsein – worum es im Grunde genommen bei der Theorie des Aufmerksamkeitsschemas geht. Aber so wie ich es mir vorstelle, ist dieses reine Bewusstsein eine reine, formlose Kraft, Dinge zu erfassen, und wir nehmen es als Potenzial wahr – ich kann Dinge tun, ich könnte Dinge verarbeiten. Würdest du sagen, dass sich das Aufmerksamkeitsschema genau dort mit diesem reinen Bewusstsein in der buddhistischen oder Zen-Meditation trifft?

Michael Graziano (21:56) Ja – es gibt viele verschiedene Arten der Meditation, aber gerade die Meditation mit fokussierter Aufmerksamkeit habe ich schon immer als eng mit dem Thema Aufmerksamkeitsschemata verbunden angesehen. Hier kommt der interessante Knackpunkt: Was Aufmerksamkeit eigentlich tut, ist, die Modelle des Gehirns zu verbessern. Wenn ich meine Aufmerksamkeit auf den Apfel richte, erstellt mein visueller Kortex ein Modell, und Aufmerksamkeit ist der Prozess, durch den dieses Modell verbessert wird, sodass es eine größere Wirkung entfalten kann. Aufmerksamkeit wirkt also auf Modelle ein und verbessert sie, und das Aufmerksamkeitsschema ist ein Modell der Aufmerksamkeit – es ist das Bündel an Informationen, das das Gehirn aufbaut und das die Aufmerksamkeit repräsentiert. Was passiert nun, wenn du deine Aufmerksamkeit auf das Modell der Aufmerksamkeit selbst richtest? Da Aufmerksamkeit Modelle verbessert, warum solltest du deine Aufmerksamkeit nicht auf das Aufmerksamkeitsschema, also das Modell der Aufmerksamkeit, richten? Ich glaube, genau das macht einen Großteil der Meditation aus – im Grunde genommen den Prozess der Aufmerksamkeit zu nehmen und ihn auf das Modell zu fokussieren, das die Aufmerksamkeit darstellt. Du richtest deine Aufmerksamkeit auf deine Aufmerksamkeit und fragst dich: Was weiß mein Gehirn über das in mir, das sich auf Dinge konzentrieren kann?.

Christopher Kabakis (23:58) Genau. Deshalb denke ich manchmal, dass Dan Siegel etwas Ähnliches sagt – er sagt, er werde sich "des Bewusstseins selbst bewusst". Diese Traditionen verwenden den Begriff „Bewusstsein“, und du benutzt viel häufiger das Wort „Aufmerksamkeit“, was mir auch gefällt, mit dieser Idee eines Modells der Aufmerksamkeit. Da gibt’s eine Sache, die ich dich fragen wollte: Bewusstsein ist dieses informationsbasierte Modell der Aufmerksamkeit, und Aufmerksamkeit ist ein Trick zur Datenverarbeitung – du hast gerade auch gesagt, Aufmerksamkeit sei Signalverstärkung, wobei bestimmte Signale verstärkt und andere heruntergeregelt werden. Das ist eine Abstraktion, eine Theorie, die versucht zu verstehen, wie diese Dinge funktionieren. Aber ein Modell an sich bewirkt doch nichts, oder? – Es ist eine Abstraktion. Wie verbindest du es wieder mit etwas Realem, da du Dinge immer im Gehirn verankerst? Und im Gehirn gibt es auch – da wirst du mir wohl zustimmen – Energie: Wie wird der Motor angetrieben, wie werden die Informationen durch etwas – nämlich unseren Körper und unser Gehirn – konkretisiert und mit Kraft versorgt? Denn manchmal frage ich mich, ob der Anker für diese abstrakte Modellierung in unserer Biologie verwurzelt ist, und zwar auf eine Weise, die sich von den Maschinen unterscheidet, die wir gebaut haben – vielleicht spielen da noch andere Dinge eine Rolle –, was uns von künstlich gebauten Maschinen unterscheiden könnte, wie zum Beispiel das Empfinden von etwas oder andere Dinge. Würdest du dem zustimmen, oder würdest du sagen, dass vielleicht das Gehirn, das Bewusstsein, das wir haben, eine andere Art von Computer ist als die Maschinen, die wir gebaut haben, und dass wir deshalb Schwierigkeiten haben, Eigenschaften wie Empfindungen, Emotionen und Kreativität zu erklären? Oder gehe ich zu weit?

Michael Graziano (25:39) Du spielst auf viele Dinge an, die in diesem Bereich gerade im Gespräch sind. Das Thema ist als Reaktion auf den Aufstieg der KI sehr populär geworden, besonders in den letzten paar Jahren – große Sprachmodelle (LLMs), die plötzlich auf eine Art und Weise kommunizieren, von der, ehrlich gesagt, vor fünf Jahren noch niemand geglaubt hätte, dass sie in den nächsten paar hundert Jahren möglich wäre, und jetzt sind sie da. Ich finde, das ist philosophisch gesehen sehr bedrohlich – vielleicht nicht so sehr für den Durchschnittsbürger, aber für Philosophen und Neurowissenschaftler, die sich damit beschäftigt haben, ist es sehr bedrohlich, und es gibt eine Gegenreaktion. Eine ähnliche Gegenreaktion gab es in der zweiten Hälfte des 20. Jahrhunderts, als Computer aufkamen – das führte zu philosophischen Konzepten wie dem "harten Problem": Es gibt Dinge, die wir niemals verstehen können, und das trägt dazu bei, uns besonders zu machen und von den Maschinen abzugrenzen. Ich glaube, du siehst jetzt dieselbe Gegenreaktion – einen enormen, instinktiven Drang, sicherzustellen, dass wir uns von diesen Maschinen unterscheiden. Eine der gängigsten Vorstellungen ist, dass die Biologie all diese Dinge in der Zelle und in der Chemie hat, die nach oben sprudeln und die höheren Ebenen beeinflussen. Ich persönlich – und ich weiß, das klingt etwas leichtfertig – glaube, dass diese Vorstellung durch die Midi-Chlorianer in „Star Wars“ ins öffentliche Bewusstsein gelangt ist: diese winzigen, tief in den Zellen verborgenen biologischen Dinge, die nach oben sprudeln, zur Macht beitragen und dein Gehirn und deinen Geist magisch machen. Dort hat diese Vorstellung ihren Ursprung, und sie hat ungefähr genauso viel wissenschaftlichen Wert. Ja, Neuronen bestehen aus Biologie und Energie, aber letztendlich kommunizieren Neuronen miteinander – insbesondere über Entfernungen von mehr als etwa einem Millimeter – über Axone, Synapsen und Aktionspotenziale: einen Funken, der am anderen Ende einen pulsierenden Effekt auslöst. Wenn du von einem Gefühl sprichst, das aus der Biologie entsteht, wie überquert dieses Gefühl dann die Synapse, wandert durch einen Funken elektromagnetischer Signale, springt zum nächsten Neuron und beeinflusst gezielt die Aktivität der Neuronen in einem Netzwerk genau nach dem richtigen Muster, sodass das Gesamtmuster der Aktivität perfekt „Ich habe eine subjektive Erfahrung“ widerspiegelt? Darauf geht niemand jemals ein – man geht einfach naiv davon aus: Wenn das Gefühl entsteht, dann habe ich es, und deshalb spreche ich darüber. Aber das ist keine Erklärung. Alles, was wir über uns selbst sagen – da ist ein Gefühl, es fühlt sich nach etwas an, da ist eine Erfahrung, der Teil des Bewusstseins, der für mich besonders ist –, all das muss logischerweise zwangsläufig aus Informationen stammen, die in diesen Mustern neuronaler Aktivität dargestellt sind, einer informativen Einbettung. Das muss einfach so sein. Um also auf deine frühere Frage zurückzukommen – ist unser Bewusstsein dasselbe wie diese künstlichen Dinge, die wir bauen? Im Moment wahrscheinlich nicht, denn diese künstlichen Dinge haben keine Selbstmodelle in derselben Weise wie wir. Aber das ist nur eine Frage der Zeit, und zwar nicht allzu viel Zeit – es wird ein Punkt kommen, an dem diese Maschinen auf dieselbe Weise Selbstmodelle entwickeln und mit absoluter Gewissheit glauben, dass sie subjektive Erfahrungen haben, wobei sie dieselben grundlegenden Informationsverarbeitungsmodi nutzen. Das wird kommen – ist aber noch nicht da.

Christopher Kabakis (30:18) Okay, dazu hab ich ein paar Fragen. Wenn das Bewusstsein ein Informationsmodell der Aufmerksamkeit ist, dann denken wir bei einem Modell doch an abstrakte Informationen, die wir an die Tafel oder in ein Buch schreiben würden – Grafiken, Abbildungen, Zahlen – und das scheint von ganz anderer Qualität zu sein als das, was wir bei den Qualia erleben: der Geschmack von Schokolade, der Duft einer Rose, die Liebe, die du für dein Kind empfindest. Es scheint ein bisschen zu kurz gegriffen, zu sagen, es sei nur ein Modell der Aufmerksamkeit, denn es fühlt sich so reichhaltig an. Wie lässt sich das konkretisieren? Denn die von dir erwähnten LLMs wissen wahrscheinlich nichts über Qualia – sie verarbeiten abstrakte Informationen, sie erstellen Modelle, aber es ist eher wie bei einem Schachprogramm, das darauf programmiert ist, Schach zu spielen. Wie reagierst du darauf, da du sagst, dass subjektive Erfahrung wichtig ist – wie erklärt deine Theorie Qualia?

Michael Graziano (31:17) Ganz kurz: Die Modelle, die wir derzeit haben – zumindest bis vor kurzem –, basieren alle auf Text – das ist alles, was diese Maschinen bekommen, auch wenn wir uns jetzt zunehmend auch visuellen und auditiven Modellen zuwenden. Aber Text ist eine sehr abstrakte Modalität, ebenso wie Sprache. Denk mal an das menschliche Gehirn: Wenn ich von Informationen und Modellen spreche, geht man automatisch davon aus, dass es sich um ein kognitives Modell handeln muss – ich habe etwas gelernt, ich glaube, ich verstehe es. Aber das Gehirn baut auch andere Arten von Modellen auf. Wenn du etwas ansiehst, riechst oder hörst, übersetzen Teile des Gehirns die Welt in ein Modell, ein Bündel von Informationen, und das ist sehr reichhaltig – kein kognitives, abstraktes, semantisches Modell, sondern ein sehr reichhaltiges Modell auf sensorischer und wahrnehmungsbezogener Ebene. Nehmen wir das Sehen, eine besser verstandene Sinnesmodalität: Du schaust auf deine Kaffeetasse und baust in deinem visuellen System ein Modell davon auf, und hier zeigt sich, wie sich dieses Modell von abstrakten Modellen unterscheidet. Erstens kannst du nichts dagegen tun – es läuft automatisch ab, du hast keine Top-down-Kontrolle darüber; wenn deine Augen offen sind und es hell ist, kannst du – sofern du kein ganz ungewöhnlicher Mensch bist – gar nicht anders, als ein Modell dieser Tasse zu erstellen. Zweitens ist es ein sehr facettenreiches Modell, voller Nuancen – hier ein Glanz, dort ein Schatten. Drittens enthält es Metainformationen, die deinem Gehirn sagen: "Das ist real" – es gibt einen Bereich der Psychologie, der sich „Quellenüberwachung“ nennt, und eine der Aufgaben des Gehirns ist es, die Quelle von Informationen zu überwachen: Das kam aus der Außenwelt, oder das ist eine Hypothese, oder das stammt aus meinem Gedächtnis. Das gerät manchmal durcheinander – Menschen glauben, etwas stamme aus der Außenwelt, obwohl das nicht der Fall ist, oder umgekehrt –, aber im Allgemeinen sind wir darin ziemlich gut. Diese reichhaltigen, automatischen Sinnesmodelle kommen also mit diesen Metainformationen daher, und wenn sie in die Wahrnehmung aufsteigen, wird die Wahrnehmung darüber informiert: Das ist echt, das ist die Realität, nicht etwas, das ich semantisch erfunden habe. Wenn du dieses visuelle Modell deiner Kaffeetasse hast, das auftaucht und sagt, das ist echt, und ein anderes Modell, ebenso automatisch und umfassend, das auftaucht und sagt, dass es gerade etwas gibt, das man subjektive Erfahrung nennt und das mit dieser Kaffeetasse verbunden ist – dann hast du den Informationssatz, der deiner höheren Wahrnehmung zur Verfügung steht, sodass du, wenn dich jemand fragt: „Bist du bei Bewusstsein? Hast du ein subjektives Gefühl dafür, wie es sich anfühlt, diese Kaffeetasse anzusehen?“, dann hast du die notwendigen Informationen, um zu antworten: „Ja, das habe ich, da bin ich mir sicher.“.

Christopher Kabakis (35:41) Es ist also so, als ob dein Aufmerksamkeitsschema, dein subjektives Bewusstsein, gemeinsam mit allem anderen im Aufmerksamkeitsfeld vorhanden wäre – so würde ich es nennen – und dann ist es präsent, es ist für mich da, wenn das Objekt da ist und mein Bewusstsein, meine Aufmerksamkeit, ebenfalls da ist, und dann ist das Ergebnis da, und ich erinnere mich. Du hast in deinem Buch gesagt, dass der Ort ein großartiger Verbindungsfaktor ist, sodass alles zusammenkommt – mein Gehirn verarbeitet es gemeinsam, die Form, die Farbe –, aber der ultimative Verbindungsfaktor ist dieses subjektive Bewusstsein, dieses amorphe Aufmerksamkeitsschema, das alles zusammenführt, was nach oben gedrängt wurde. Manche Leute, wie Dan Siegel, haben gesagt, der Geist sei das ultimative Bindeglied – würdest du sagen, das Aufmerksamkeitsschema oder die subjektive Erfahrung oder das Bewusstsein ist das ultimative Bindeglied?

Michael Graziano (36:41) Ja, genau. Das ist ein wichtiger Punkt – „Verstand“ ist gewissermaßen eine andere Bezeichnung für Aufmerksamkeit. Wenn du darüber nachdenkst, fällt dir etwas wieder ein – das ist wörtlich „wieder in den Sinn kommen“, etwas, das wieder in deinen Verstand zurückgebracht wird. Aus den Augen, aus dem Sinn. Was geht ihm gerade durch den Kopf? Das sind umgangssprachliche Ausdrücke dafür, was im Fokus der Aufmerksamkeit steht – was durch den Prozess der Aufmerksamkeit verstärkt wurde, sodass es höhere Netzwerke wie die Kognition beeinflusst. Das ist es, was das Bewusstsein, die Aufmerksamkeit und der globale Arbeitsbereich ausmachen – sie sind alle gewissermaßen synonym; Aufmerksamkeit kann auf vielen Ebenen wirken, und wir sprechen hier von den höchsten Ebenen davon. Aber wenn etwas in deinen Geist, deine Aufmerksamkeit, deinen globalen Arbeitsbereich gelangt – wie das Auto, das du gerade betrachtest – und dich jemand fragt: „Hast du eine subjektive Erfahrung mit dem Auto?“, kannst du das nicht beantworten, es sei denn, du hast auch ein Modell, also Informationen darüber, was eine subjektive Erfahrung ist und in welchem Zustand du dich gerade befindest. Du brauchst dieses zusätzliche Puzzleteil.

Christopher Kabakis (38:08) Ja – lass mich noch mal auf diese Frage nach den Informationen zurückkommen, denn du sagst ja, dass die Modelle, von denen ich rede, nicht nur abstrakt sind, sondern sie umfassen auch all die anderen Informationen, die auf mich einströmen – Geschmack, Tastsinn, visuelle Informationen – und das Aufmerksamkeitsmodell sowie all diese Empfindungen und Wahrnehmungen werden gemeinsam verarbeitet, und dann kann ich sagen, dass ich mir ihrer bewusst bin. Und du sagst, es gäbe keinen Grund, warum Maschinen nicht in der Lage sein sollten, ein solches Selbstmodell zu haben, dass sie taktile, visuelle und Geruchsinformationen sowie Emotionen wie Liebe zusammen mit der Aufmerksamkeit auf dieselbe Weise verarbeiten könnten. Stimmt das, und warum denkst du das? Denn John Vervaeke, ein Professor an der Universität Toronto, hat gesagt, dass die LLMs und andere künstliche Maschinen, die wir bauen, niemals so sein werden wie wir, weil ihnen die Informationen egal sind, und uns sind sie wichtig, weil wir diese biologischen Organismen haben – ich weiß nicht, das ist einer der Gründe. Wie würdest du darauf antworten?

Michael Graziano (39:23) Erstens geht es hier um Emotionen, und noch versteht niemand so richtig, wie Emotionen im Gehirn entstehen – wir wissen also nicht, wie man das nachbauen kann. Es ist viel einfacher, das Sehen nachzubilden, über das man schon viel weiß, und noch viel einfacher, höhere kognitive Fähigkeiten nachzubilden, über die man noch viel mehr weiß. Das ist also der erste Punkt: Ich glaube nicht, dass LLMs so etwas wie Emotionen haben; ich denke, sie sind noch nicht so weit. Was sind Emotionen? Ich finde, du hast vollkommen recht – Emotionen haben ihre Wurzeln im Körper. Es gibt sehr alte Theorien, die bis zu William James zurückreichen, wonach Emotionen zum Teil die Interpretation unseres Gehirns von im Körper wahrgenommenen Empfindungen sind – das autonome Nervensystem, die sympathische „Kampf-oder-Flucht“-Reaktion und die parasympathische „Ruhe-und-Verdauung“-Reaktion, die in einem Wechselspiel zusammenwirken und selbst in alltäglichen Situationen stets aktiv sind. Es finden tatsächliche physiologische Veränderungen statt – Blutdruck, Durchblutung der Haut, sodass wir erröten oder blass werden, sich die Pupillen verengen oder erweitern, Mundtrockenheit, Herzfrequenz, Adrenalin – und die Sinnesorgane im Körper leiten diese körperlichen Informationen durch viele Schichten tief unterhalb der Großhirnrinde hinauf ins Gehirn, wo Systeme sie analysieren und den Zustand des Körpers bewerten. Schließlich gelangt das in die abstrakteren Bereiche der Großhirnrinde, und wir können sagen: „Ich spüre wirklich tief in meinem Innersten Angst, Liebe oder Wut“ – Emotionen, die zum Teil Konstrukte des Gehirns sind, aber tatsächlich in der Physiologie des Körpers verankert sind und von den Sinnesorganen wahrgenommen werden. LLMs haben nichts davon, buchstäblich gar nichts, daher glaube ich nicht, dass sie irgendetwas haben, das menschlichen Emotionen ähnelt. Aber könnten sie es prinzipiell? Ja – man könnte vieles davon künstlich mit Sensoren nachbauen oder es mit einem simulierten Körper und simulierten Zuständen nachbilden. Gibt es eine Zukunft, in der LLMs Emotionen haben wie Menschen? Sicher – ich sehe das nicht so bald passieren, denn es gibt technologische Probleme, die weit über das hinausgehen, was Menschen derzeit leisten können, aber die Technologie entwickelt sich schneller, als irgendjemand denkt, und zwar in sprunghaften Sprüngen. Ich weiß also nicht, wann, aber ich bin mir ziemlich sicher, dass es irgendwann, ja, wird das passieren. Aber ich stimme vollkommen zu, dass LLMs derzeit semantisch immer intelligenter werden und sie verstehen, was sie semantisch sagen – ich glaube nur nicht, dass es ihnen etwas ausmacht. Ich glaube nicht, dass sie die emotionale Seite davon haben.

Christopher Kabakis (43:05) Interessant. Du würdest also sagen, dass es ihnen egal ist, wahrscheinlich weil sie keinen Körper haben, und der Körper sorgt dafür, dass es uns nicht egal ist – durch Emotionen –, und das haben sie nicht, aber sie verstehen es. Ich wollte auch nach diesem Verständnisaspekt fragen, denn – korrigier mich, da du dich damit viel besser auskennst – die klassische Informationstheorie im Sinne von Claude Shannon ist ein Maß für Überraschung, das Unsicherheit verringert und dir die klassischen Bits liefert, also Einsen und Nullen. Manche sagen, das sei eine syntaktische Definition von Information – ein Maß dafür, wie überrascht du vom nächsten Wort oder Symbol bist. Und LLMs funktionieren meiner Meinung nach so – sie haben riesige Korrelationsmatrizen und sagen das nächstbeste Wort voraus, aber das wäre doch keine Bedeutung, oder? Es wäre kein Verständnis, wie wir es im Alltag verstehen. Unterscheidet sich unsere Art, über Information und Bedeutung nachzudenken, von der wissenschaftlichen Definition von Information oder davon, wie die KIs programmiert sind, und macht das einen Unterschied? Nehmen wir mal den Sinn des Lebens – ein LLM kann eine Antwort simulieren, wenn ich danach frage; es wird mir etwas sagen, aber ist das dasselbe, oder spielt es keine Rolle? Würdest du sagen, dass es keine Rolle spielt?

Michael Graziano (44:30) Viele Leute sehen das so – ich hab’s schon millionenfach gehört: Die Leute klammern sich an die Vorstellung, dass LLMs einfach nur das nächste Wort vorhersagen, dass sie riesige Vorhersagemaschinen sind, große lineare Algebra-Maschinen, die Korrelationen berechnen. Das Problem bei dieser Denkweise ist: Menschen sind Maschinen, die die nächste Muskelkontraktion vorhersagen, die wir ausführen müssen, um in der Welt zurechtzukommen – das ist buchstäblich der einzige Zweck eines Gehirns: Bewegungen in einer komplexen Welt zu steuern, und Lebewesen, die sich nicht schnell und interaktiv bewegen, haben kein Gehirn. Und die Art und Weise, wie wir das effektiv tun, besteht nicht nur darin, zu zucken und zu hoffen oder eine einfache Korrelationsmatrix zu verwenden – wir haben tiefere Schichten, in denen das Gehirn abstrakte Repräsentationen aufbaut, es geht also nicht nur um das Muskelmuster. In diesen tieferen Schichten haben wir abstrakte Repräsentationen von Hunden und Liebe und Autos und Frühstück und Hunger – all die Dinge, die wir brauchen, um uns auf der abstraktesten konzeptuellen Ebene ein Bild von unserer Welt zu machen, damit diese Konzepte angeordnet und manipuliert, eine allgemeine Reaktion festgelegt und dann Stück für Stück wieder in einzelne Muskelkontraktionen übersetzt werden können. Das ist der einzige Weg, effektiv auf eine komplexe Welt zu reagieren – tiefe Schichten mit tiefgreifenden abstrakten Repräsentationen aufzubauen. Das ist buchstäblich genau das, was LLMs tun. Ja, sie sagen das nächste Wort voraus, aber das können sie nur, wenn sie tiefere Schichten haben – und die haben sie auch: Diese Modelle können von der Eingabe bis zur Ausgabe fünfzig Schichten umfassen, und in den tieferen Schichten vielleicht etwa nach zwei Dritteln des Weges, beginnen sich Aktivitätsmuster abzuzeichnen, die manchmal als „Embeddings“ oder „Vektoren“ bezeichnet werden und Darstellungen sind – dieselbe Art von Darstellungen, die man im menschlichen Gehirn sieht: ein Aktivitätsmuster unter Neuronen oder Einheiten, das für etwas steht, und die Dinge, für die sie stehen, sind sehr abstrakt. Man kann in diese Maschinen hineingehen, in diese verborgenen Schichten, und die neuronal dargestellten Signale finden, die für Hunde und Autos und Liebe stehen – diese abstrakten Konzepte –, sodass sie bearbeitet und dann Stück für Stück wieder in Wörter übersetzt werden können. Es geht also nicht nur darum, das nächste Wort vorherzusagen – es geschieht durch den Aufbau tiefer, innerer, extrem abstrakter konzeptueller Repräsentationen der Welt, und wir wissen, dass es das tut, weil wir direkten Zugriff darauf haben, und wir wissen, dass es das auf eine Weise tut, die unheimlich ähnlich ist wie die Funktionsweise des Gehirns. Vielleicht sollte das keine Überraschung sein, denn diese Modelle orientieren sich an der grundlegendsten Erkenntnis darüber, wie das Gehirn funktioniert – nämlich dass das Gehirn aus Neuronen besteht, die über Synapsen miteinander verbunden sind, und dass sich die Stärke dieser Synapsen durch Lernen verändert. Dass diese Systeme lernen, das zu tun, ist erstaunlich, aber im Nachhinein betrachtet keine allzu große Überraschung. Also ja, diese Maschinen verstehen semantisch auf einer tiefen konzeptionellen Ebene, was sie sagen, genauso wie wir – aber du hast recht, dass ihnen Dinge wie Emotionen fehlen, weil ihnen die entsprechende Architektur fehlt; sie sind nicht nach derselben Architektur aufgebaut wie wir. Sie haben einige der Dinge, die wir haben, und andere fehlen ihnen.

Christopher Kabakis (49:12) Und die Architektur knüpft an das an, worüber wir gerade sprechen – wir denken oft in Begriffen wie Hardware und Software, also der Software, die auf der Hardware läuft, und wir wollen, dass die Hardware vorhersehbar und stabil ist, damit wir auf Algorithmusebene zuverlässige Eins-Null-Bit-Beziehungen erhalten. Die Maschinen befinden sich also nur auf der Software-Ebene, und die Hardware-Ebene ist für sie irrelevant – sie wissen nicht und es ist ihnen egal, ob sie auf Siliziumwafern in Rechenzentren in Abu Dhabi oder Utah laufen, aber uns ist es nicht egal, vielleicht wegen dieser Körper-Sache. Was ich also aus deinen Worten heraushöre, ist, dass Geist und Bewusstsein – da du von Modellen und Funktionen sprichst – die Software-Ebene sind und die Hardware irrelevant ist – wir könnten die Software des Geistes auf verschiedenen Substraten instanziieren, auf Silizium statt auf dem Körper. Und hier ist eine Frage, die mir schwer in Worte zu fassen fällt: Wir wissen, dass die Realität im Grunde genommen quantenphysikalisch ist, nicht klassisch, nicht nur Eins und Null – es gibt eine tiefere Ebene mit all den seltsamen Aspekten der Quantenphysik. Manche sagen, wenn wir unsere Physik richtig begründen wollen, müssen wir sie auf der Informationstheorie aufbauen, aber nicht auf der klassischen Informationstheorie – sondern auf der Quanteninformationstheorie, die andere Eigenschaften hat. Wäre es also eine Möglichkeit – oder liege ich völlig falsch –, dass unsere Körper und Gehirne, die aus dieser Welt stammen, auf einer bestimmten Ebene ebenfalls quantenhaft sein müssen, wenn unsere tiefste Theorie über die Welt besagt, dass sie quantenhaft ist, und dass wir erst auf der Ebene der Synapsen und der Impulsentladung eine Schwelle zum Klassischen überschreiten, wo es viel mehr um Eins-Null geht – aber darunter, die gesamte Biochemie, die Zellen mit ihrer eigenen Intentionalität, die in diesem großen Konzert des Organismus ihr eigenes Ding machen – ist das nicht quantenhaft? Und vielleicht können wir deshalb Gefühle und Emotionen nicht erklären, weil die Informationsverarbeitung, die dabei stattfindet, tatsächlich quantenhaft ist und andere Eigenschaften hat als die klassische. Sag mir, wenn ich völlig falsch liege, denn ich bin kein Experte und du weißt wahrscheinlich viel mehr darüber.

Michael Graziano (51:43) Na ja, ich erzähl dir mal ein bisschen, was ich davon halte – als ehemaliger Physiker von vor langer Zeit hab ich versucht, einige dieser Quanten-Theorien zu durchdenken, und ich finde, das Wort "Quanten" ist sehr gefährlich, weil die Leute im Grunde sagen: Da gibt’s dieses formlose Ding, wir verstehen die Quantenphysik nicht, und es gibt das Bewusstsein, das verstehen wir auch nicht, also müssen die beiden miteinander zusammenhängen – und so etwas hört man sehr oft. Ich glaube tatsächlich, dass ein Großteil der Funktionsweise von Neuronen letztendlich klassisch ist – klassische Physik ist die Folge der Quantenmechanik auf statistischer Ebene, und sobald man auf die Ebene gelangt, auf der ein Neuron mit anderen Neuronen kommuniziert, ist das größtenteils klassisch, nicht so sehr quantenhaft. Man muss bis auf die winzige Ebene einzelner Ionen vordringen, die sich über Membranen bewegen, um definitiv im Quantenbereich zu sein – dort unten spielt sich viel Quantenzeug ab, aber das ist überall so, so ist die Welt nun mal aufgebaut. Der Großteil der Art und Weise, wie Neuronen miteinander kommunizieren und Informationen verarbeiten, lässt sich auf klassischer Ebene verstehen und durch relativ einfache lineare mathematische Gleichungen außerordentlich gut modellieren – weshalb diese großen KI-Systeme so gut funktioniert haben. Zweitens, zur Frage, ob die Quantenphysik erklärt, wie wir ein Gefühl haben – meine Sorge ist, dass es immer dieselbe Frage ist: Sobald du fragst, wie wir ein Gefühl haben, hast du dich meiner Meinung nach selbst ins Abseits manövriert. Das ist so, als würden die alten Ägypter fragen: „Wo ist das Loch im Boden, in das die Sonne nachts auf ihrem Weg in die Unterwelt verschwindet?“ – Du wirst viel Geld und Mühe darauf verwenden, nach einem Loch zu suchen, das gar nicht existiert, weil du beschlossen hast, dass dieses Ding buchstäblich existiert, und nun suchst du danach, obwohl du in Wirklichkeit nur ein vereinfachtes Konzept hast. Wenn du fragst, was das Gefühl verursacht, was das Gefühl entstehen lässt, würde ich sagen: Angenommen, das Gefühl entsteht – du hast immer noch nichts erklärt, denn du hast nicht erklärt, wie ein Gefühl bewirkt, dass deine neuronalen Netzwerke die richtigen Informationen einbetten, sodass du glaubst, es zu haben, weißt, dass du es hast, und darüber sprechen kannst. Was erklärt werden muss, ist, wie das Gehirn Modelle aufbaut – und das wissen wir im Allgemeinen bereits – und worin der konkrete adaptive Vorteil dieser Art von Modell besteht, das uns sagt, dass wir Magie in unseren Köpfen haben. Anstatt also zu fragen, was die Magie verursacht, frag lieber, was dazu geführt hat, dass wir uns so entwickelt haben, dass unsere Gehirne Modelle erstellen, die uns sagen, dass wir Magie haben. Das ist meine Antwort.

Christopher Kabakis (55:08) Ja, das verstehe ich total – wenn du eine falsche Vorstellung von etwas hast, suchst du an den falschen Stellen, wie zum Beispiel in einem Loch im Boden nach der Sonne, und du findest nichts und bist verwirrt. Heißt das, wenn ich sage, ich habe ein Gefühl – sagen wir, ich liebe jemanden –, würdest du sagen: „Na ja, ich weiß nicht, ob das stimmt, du sagst ja nur, dass du diese Person liebst, also lass uns mal schauen, wie dein Gehirn etwas modelliert, das du als Liebe bezeichnest?“ Und du würdest sagen, Liebe ist schwierig, wir kommen schon noch dahin – die einfacheren Dinge sind visuell, obwohl selbst selbstfahrende Autos bereits visuelle Informationen verarbeiten, also werden wir irgendwann auch beim Rest hinkommen. Würdest du also sagen, es ist eine Illusion? Ich erinnere mich an eine kleine Diskussion in deinem Buch über Illusionismus – ist es das?

Michael Graziano (56:07) Nein, das würde ich nicht sagen – ich habe Probleme mit diesem Wort. Eine verbreitete Ansicht ist, dass man, wenn man versucht zu erklären, wie das Gehirn etwas tut, es weg erklärt, so als gäbe es das gar nicht wirklich, als hätte ich eigentlich gar keine Liebe – und das stimmt auch nicht. Etwas zu erklären ist nicht dasselbe wie es wegzuerklären. Ich war früher Motorphysiologe und habe den Arm und die Hände untersucht, kannte alle Knochen und Muskeln – heißt das etwa, dass ich, jetzt wo ich das verstehe, eine Axt nehmen und mir die Hand abhacken und wegwerfen kann, weil ich sie nicht mehr brauche, weil ich sie weg erklärt habe? Nein – ich brauche das Ding immer noch, ich benutze es immer noch, aber jetzt weiß ich ein bisschen darüber, wie es funktioniert. Es ist wirklich wichtig, dass die Leute verstehen, dass der Zweck der Wissenschaft nicht darin besteht, Dinge wegzuerklären, damit wir sie verwerfen können – so läuft das nicht. Man erklärt etwas und gewinnt dadurch ein besseres Verständnis dafür, und man verliert nie das Bedürfnis nach dem, was man untersucht hat. Wir erklären also weder die Liebe noch die Erfahrung weg – was wir erklären, ist, wie ein Gehirn zu diesen Gewissheiten, Intuitionen und Überzeugungen über sich selbst gelangt. Hier ist eine weitere Analogie, die ich oft verwende, um den Punkt bezüglich Magie zu verdeutlichen, nämlich wie ein Gehirn zu der Annahme gelangt, es besitze magische Kräfte: Nehmen wir wieder das Beispiel des Phantomglieds – angenommen, du verlierst bei einem Unfall einen Arm und hast ein Phantomglied. Es gibt zwei Arten von Erklärungen. Die heute übliche: Das Gehirn hat ein Modell deines Arms erstellt, automatisch, im Hintergrund ablaufend, das Informationen an dein Bewusstsein weiterleitet. Deshalb kannst du, wenn du danach gefragt wirst, darüber sprechen, die Augen schließen und wissen, was dein Arm gerade tut, Berührungen, Kälte und Wärme spüren. Die andere Erklärung, die zu einem bestimmten Zeitpunkt in der Geschichte tatsächlich als Erklärung galt, lautet, dass buchstäblich ein Geisterarm aus dem Stumpf wächst – wenn man das Modell für bare Münze nimmt und davon ausgeht, dass es wörtlich genommen zutreffend ist. Stellen wir uns also die wissenschaftliche Aufgabe, das schwierige Problem unter diesen Gesichtspunkten zu erklären: Was erzeugt das Phantom, den Geist – sind es die Quantenfluktuationen am Stumpf, die Integration von Informationen in den dortigen Zellen, und woraus besteht es – aus Energie, Quantenphänomenen, einem unsichtbaren elektromagnetischen Feld? Und selbst wenn du glaubst, erklärt zu haben, woher es kommt und woraus es besteht, stehst du immer noch vor der Aufgabe zu erklären, wie dieses Phantomglied konkret die Neuronen in deinem Gehirn beeinflusst und deren Aktivität genau nach dem richtigen Muster anpasst, damit deine semantischen Netzwerke wissen, dass es ein Phantomglied gibt, und du darüber sprechen kannst. Man stößt also auf eine ganze Reihe von Problemen, wenn man den Inhalt eines vom Gehirn erstellten Modells wörtlich als wahr nimmt, denn die Modelle des Gehirns sind immer schematisch, schnell und ungenau. Das ist genau dasselbe Problem, das wir mit dem Bewusstsein haben – wir berichten davon, sagen es, glauben es, bestehen darauf, wissen es instinktiv, aber all das entspringt den Modellen des Gehirns, die wahrscheinlich automatisch erstellt werden, wahrscheinlich auf einer sehr tiefen Ebene – keine semantischen Modelle, sondern eher Wahrnehmungsmodelle, deren Ergebnisse durch unser semantisches Netzwerk weitergeleitet werden; deshalb glauben wir, dass wir diese Dinge haben, deshalb sagen wir, dass wir sie haben. Aber wenn wir annehmen, dass die Modelle wörtlich genommen korrekt sind – dass es buchstäblich eine geisterhafte Essenz magischen Gefühls in uns gibt – und fragen, was sie verursacht hat, dann ist das genau der Moment, den sich fast alle Bewusstseinsforscher bis vor kurzem zum Ziel gesetzt haben. Das ist so, als würden die Ägypter versuchen, das Loch im Boden zu finden, in das die Sonne nachts hineingeht. Sobald du dir diese Aufgabe stellst – was ist die magische Essenz der Erfahrung und was verursacht sie –, bist du auf dem Holzweg. Das ist der Moment, in dem du nicht verstanden hast, was tatsächlich vor sich geht, und dich auf den falschen Weg begeben hast.

Christopher Kabakis (1:00:40) Okay – und man könnte sagen, das Gefühl des Phantomglieds ist eine Fehlfunktion von etwas, das normalerweise gut funktioniert; man kann also nicht beweisen, dass etwas nicht richtig funktioniert oder nicht real ist, nur weil es manchmal Fehlfunktionen aufweist – wenn ich sage, dass ich jemanden liebe, könnte das einfach so eine Art Phantomglied-Sache sein, aber das bedeutet nicht, dass es nicht wirklich existiert, sondern nur, dass es in meiner Wahrnehmung existiert. Und die interessantere Frage ist, wie du sagst, wie dein Gehirn das macht – so verankerst du es, immer. Wenn wir also unsere aktuelle Neurowissenschaft und Informationswissenschaft weit genug vorantreiben, kommen wir an einen Punkt, an dem wir LLMs beibringen könnten, nicht nur ein Selbstmodell davon zu erstellen, wo ihre Rechenressourcen gerade zugewiesen sind, sondern auch alle möglichen Empfindungen zu modellieren – das Sehen ist dabei am einfachsten, was intuitiv Sinn ergibt, da sie bereits Autos verarbeiten und irgendwie damit umgehen – und dann vielleicht Geruch und Tastsinn und sogar Gefühle. Wir könnten ihnen das einprogrammieren, und dann würden sie es auch für real halten, so wie wir es tun, denn wir haben ein Modell, das so funktioniert – wahrscheinlich unabhängig vom Substrat und unabhängig von Energie, falls es die überhaupt gibt, denn als ich mich mit dieser Thematik befasste, stieß ich auf die Idee, dass man das Modell instanziieren muss, also muss es irgendeine physikalische Substanz geben, Energie und so weiter. Aber es gibt auch Ansätze, die sagen: Nein, in der Informationstheorie braucht man, wenn man einen rein computationalistischen Ansatz verfolgt, weder Materie noch Energie – es geht nur um Informationsverarbeitung, um die Struktur von Rahmenbedingungen, innerhalb derer Informationen verarbeitet werden dürfen, und dann braucht man nicht einmal Energie oder physikalische Materie. Ich weiß nicht, ob man das als informationsbasierten Ansatz bezeichnen würde, bei dem es einem letztendlich nicht so sehr um Materie geht – man spricht zwar vom Gehirn, aber das Gehirn ist in gewisser Weise nur eine Informationsquelle. Wie stehst du zu solchen Ideen an der Grenze zwischen Physikalismus und Informationismus bzw. Computationalismus?

Michael Graziano (1:03:35) Ich weiß nicht – Physik auf der grundlegendsten Ebene ist sehr mathematisch, sie ist gewissermaßen Mathematik, Beziehungen, informative Beziehungen zwischen Dingen, und man könnte sagen, das Universum sei Mathematik. Ich finde, das ist eine wirklich interessante Sichtweise, auch wenn viele Leute das hören und denken, es bedeute, dass es nicht existiert, dass wir es einfach anders denken können, das Universum in verschiedene Zustände hineindenken können – und so funktioniert das wirklich nicht. Aber man kann auf mathematischer Ebene verstehen, was im Universum vor sich geht, auf der Ebene der Informationsbeziehungen. Ich bin mir nicht sicher, ob das für das Verständnis des Geistes besonders nützlich sein wird, obwohl ich die Mathematik der LLMs wunderschön finde – grundlegende lineare Algebra, die beschreibt, wie riesige Mengen von Neuronen sich mit riesigen Mengen anderer Neuronen verbinden, wie sich die Verbindungsstärken ändern und wie das zu abstraktem symbolischem Denken führt. Es ist absolut erstaunlich, dass all diese Mathematik so gut formuliert und verstanden wird. Was die Substratunabhängigkeit angeht, möchte ich jedoch Folgendes sagen: Was wir bisher über das Gehirn wissen – und vor allem, was davon in Technologie umgesetzt wurde –, ist immer noch ziemlich vereinfacht. Ich bin super beeindruckt, und ich glaube, dass diese Maschinen denken, und ich glaube, sie haben das Wesentliche davon erfasst, wie neuronale Netze im Gehirn funktionieren – aber sie haben es ziemlich stark vereinfacht. Es gibt jede Menge Vereinfachungen. Das Gehirn verfügt über weitere Freiheitsgrade, die im künstlichen System nicht vorhanden sind – unterschiedliche zeitliche Dynamiken für verschiedene Arten von Synapsen, nicht-synaptische Verbindungswege zwischen Neuronen, hormonelle Signalübertragung, direkte Gap-Junctions zwischen Neuronen und Gliazellen, die man gerne mal vergisst – es gibt zehnmal mehr Gliazellen im Gehirn als Neuronen, und sie spielen tatsächlich eine Rolle bei der Informationsverarbeitung, die noch nicht vollständig verstanden ist. Es gibt also eine Menge Dinge, die das Gehirn herausgefunden hat, die Hacks oder Tricks sein könnten – oder aber grundlegend – wir wissen es nicht. Wenn du also ein Gehirn nehmen würdest, all seine Neuronen und synaptischen Verbindungen – das sogenannte Konnektom – künstlich kopieren und in Betrieb nehmen würdest, glaube ich nicht, dass das der Verstand dieser Person wäre, denn dir würden andere Teile der physischen Architektur des Gehirns fehlen. Ich glaube, man hätte dann ein sehr verwirrtes und unglückliches Gebilde. Aber wenn man nicht nur die Neuronen und Synapsen kopieren könnte, sondern auch die Größe und Art der Synapsen, die zeitliche Dynamik, die subtilen Veränderungen der Synapsen im Laufe der Zeit, die hormonellen Wechselwirkungen und wenn man die Gliazellen simulieren könnte – dann könnte man im Prinzip ein menschliches Gehirn simulieren, und diese künstliche Version wäre die Person selbst, eine, die sagen würde: „Mein Gott, du hast mir etwas angetan, aber hier bin ich, das bin ich, ich habe meine Erinnerungen, meine Weisheit, mein Wissen, meine Persönlichkeit.“ Aber ich glaube nicht, dass wir schon so weit sind – es gibt Unterschiede zwischen dem biologischen System, das Komponenten enthält, die wir noch nicht vollständig verstehen, und den vereinfachten, aber dennoch sehr leistungsfähigen künstlichen Systemen.

Christopher Kabakis (1:07:38) Okay – du würdest also sagen, es ist letztendlich substratunabhängig, wenn wir es schaffen, es bis hin zu allen relevanten Informationen richtig zu modellieren, und es gibt keinen – sorry, ich frag das jetzt noch ein letztes Mal – Quanteneffekt oder Quanteninformation auf den unteren Ebenen, der nicht klonbar ist. Quanteninformation ist nicht klonbar. Wenn es also auf den unteren Ebenen etwas Quantenhaftes gibt, kannst du das nicht kopieren; es lässt sich nicht richtig in eine Null-Eins-Bit-Beziehung abstrahieren.

Michael Graziano (1:08:21) Ich glaube, dass das „Mind Uploading“, das ich gerade beschrieben habe, passieren wird – lass uns das einfach mal so festhalten. Ich glaube, es wird passieren, ich weiß nur nicht, wann; ich denke, es dauert noch eine ganze Weile. Es gibt Leute, die glauben, es stünde schon kurz bevor, und ich glaube, die liegen falsch – die Technologie ist noch nicht so weit. Aber ich glaube, es wird zwangsläufig passieren.

Christopher Kabakis (1:08:25) Das freut also alle, die viel Geld in die Tiefkühlung ihres Körpers oder Gehirns investiert haben – wir wissen ja nicht, ob ihnen die Zukunft gefallen wird, die sie vorfinden, wenn sie auf irgendeine Weise wieder zum Leben erweckt werden.

Michael Graziano (1:08:48) Ich weiß nicht, warum irgendjemand das wollen sollte. Das ist das Einzige, was ich immer sage, wenn mich Leute fragen: „Willst du, dass dein Bewusstsein hochgeladen wird?“ – und die Antwort lautet: Nein, ich bin so froh, dass das erst passieren wird, wenn ich nicht mehr da bin.

Christopher Kabakis (1:09:01) Ja, das finde ich auch. Okay, wir nähern uns dem Ende – zu meinen letzten Fragen: In diesem Podcast geht es auch um persönliche Entwicklung und Wachstum, und wir haben viel über deine Theorie des Bewusstseins und deren Funktionsweise gesprochen. Wie laufen deiner Meinung nach persönliche Entwicklung und Wachstum ab, basierend auf deiner neurowissenschaftlichen Arbeit? Es muss nicht unbedingt speziell die Aufmerksamkeitsschema-Theorie sein, sondern einfach deine Einsichten in den Geist und das Bewusstsein im Allgemeinen – gibt es irgendwelche Ratschläge, die du Leuten geben würdest, die sagen: „Ich möchte wachsen, ich möchte mich weiterentwickeln, vielleicht sogar mein Bewusstsein erweitern?“

Michael Graziano (1:09:55) Ich weiß nicht – zu verstehen, wie manche dieser Aspekte funktionieren, ist nicht wirklich dasselbe wie Ratschläge zu bekommen, wie man sie in der Praxis anwendet. Es deutet sicherlich darauf hin, dass Dinge wie Meditation, über die wir gesprochen haben, sinnvoll sind – du trainierst und stärkst deine Mechanismen zur Selbstbeobachtung und zur Steuerung deiner eigenen inneren Prozesse, und das ist großartig. Aber das Wichtigste – und wir haben schon so oft über den Zusammenhang mit KI gesprochen – ich glaube, das ist wahrscheinlich der Bereich, in dem die Bewusstseinsforschung die größten praktischen Auswirkungen haben wird, denn Bewusstseinsforschung war früher Philosophie, „Sesselphilosophie“, dann wurde sie wissenschaftlich interessant, aber jetzt ist sie plötzlich der Schlüssel zu unserer technologischen Zukunft, etwas von tiefgreifender Bedeutung für die Zukunft unserer Spezies. Ich denke, das hat wahrscheinlich größere Auswirkungen als eine medizinische oder psychologische Intervention.

Christopher Kabakis (1:11:01) In deiner Theorie des Bewusstseins oder der Wahrnehmung spielt die Aufmerksamkeit eine zentrale Rolle, und ich fand es interessant, wie sehr du sie hervorhebst – Aufmerksamkeit als die zentrale Funktion des Gehirns oder als das, was unser Geist vollbringt: zu entscheiden, was hervorgehoben, was unterdrückt und wie es gelenkt werden soll, und das tun wir ständig, meist unbewusst, wir lenken unsere Aufmerksamkeit so, wie es das Leben erfordert oder wie wir es für richtig halten. Sich dieses Aufmerksamkeitsmechanismus bewusster zu werden, ist meiner Meinung nach nützlich, denn indem wir unsere Aufmerksamkeit auf etwas richten, verändern wir unsere Welt und wir verändern die Welt. Anstatt also von „Bewusstsein“ zu sprechen, was ein bisschen vage ist, geht es eigentlich um Aufmerksamkeit und darum, wählen zu können, wohin wir den Scheinwerfer richten – und meistens richten wir ihn einfach nur in eine Richtung oder aus einem bestimmten Blickwinkel. Wenn wir vielleicht ein bisschen mehr mit unserer Fähigkeit experimentieren, unsere Aufmerksamkeit einzusetzen, können wir neue Einblicke in uns selbst und in die Welt gewinnen.

Michael Graziano (1:12:04) Ich glaube, das stimmt – Aufmerksamkeit für Aufmerksamkeit, das ist wirklich wichtig, auf jeden Fall.

Christopher Kabakis (1:12:16) Iain McGilchrist hat etwas Ähnliches gesagt. Gibt es einen Rat, den du unseren Zuhörern geben würdest, wenn es um Aufmerksamkeit oder um das Bewusstsein geht, so wie du darüber denkst?

Michael Graziano (1:12:41) Ich wäre sehr vorsichtig damit, Ratschläge zu geben, denn ich möchte niemandem schaden. Ich würde sagen, Verständnis ist ein Ziel, das an sich schon wertvoll ist – diese inneren Prozesse zu verstehen, ist faszinierend. Eines der erstaunlichsten Dinge am Menschen ist, dass wir so viel über uns selbst herausgefunden haben, und jetzt fließt das in unsere Technologie ein – auf eine Weise, die uns immer weiter verändern wird.

Christopher Kabakis (1:13:08) Ja – und mir ist eingefallen, dass ich auch über deine Belletristik sprechen wollte, da du ja „The Divine Farce“ und andere Werke geschrieben hast. Inwiefern hat dein literarisches Schaffen deine wissenschaftliche Arbeit beeinflusst und umgekehrt? Du schreibst über die großen Themen – den Sinn des Lebens oder die Sinnlosigkeit des Lebens, den Tod und so weiter – wie hängt das mit deiner wissenschaftlichen Arbeit zusammen oder auch nicht?

Michael Graziano (1:13:41) Thematisch weiß ich es nicht – vielleicht gibt es da einige thematische Verbindungen, aber ich glaube, es ist ein sehr ähnlicher Prozess, einen Roman zu schreiben oder ein wissenschaftliches Experiment durchzuführen. Es ist ein sehr großes Projekt, und man muss es sowohl aus ästhetischer Sicht als auch aus einer sehr logischen, reduktionistischen Perspektive angehen. Ich glaube, es spricht dieselben Seiten in mir an, an diesen unterschiedlichen Projekten zu arbeiten, und wenn man bei einem nicht weiterkommt, kann man sich eine Weile dem anderen zuwenden und dann wieder zurückkommen. Das ist wahrscheinlich die Verbindung.

Christopher Kabakis (1:14:49) Okay – es ergänzt sich also ein bisschen, beides bedingt sich gegenseitig: zum einen das Streben nach Verständnis, vielleicht nach dem menschlichen Dasein in der Literatur, und zum anderen das Bewusstsein als knallhartes Verständnisprojekt in der Wissenschaft. Da du dich schon seit vielen, vielen Jahren für Psychologie, Philosophie und Neurowissenschaften interessierst – gibt es etwas, das du dir selbst als junger Mann raten würdest? Du hast gesagt, es sei schwierig, anderen Menschen Ratschläge zu geben, aber wenn du auf dein jüngeres Ich zurückblickst: Gibt es etwas, von dem du sagen würdest, dass du dich damit zu früh oder anders beschäftigt hast?

Michael Graziano (1:15:03) Ich würde mich total gerne mal mit meinem jüngeren Ich unterhalten, aber ich glaube, nur, wenn ich es so einrichten könnte, dass er sich hinterher nicht mehr an das Gespräch erinnert – denn ich möchte seinen Lebensweg nicht beeinflussen. Er hatte einen wirklich interessanten Lebensweg, und ich möchte ihn nicht zu irgendetwas Bestimmtem hinlenken oder davon abbringen. Ich finde es einfach faszinierend, mir vorzustellen, in die Vergangenheit zu reisen und mit ihm zu plaudern – ich glaube, ich erinnere mich an einiges, aber vieles weiß ich wahrscheinlich gar nicht mehr –, und vielleicht wäre er ja auch neugierig auf sein zukünftiges Ich. Das wäre ein wunderbares Gespräch.

Christopher Kabakis (1:15:36) Aber dann bräuchtest du ja das „Men in Black“-Gerät, damit die Leute wieder alles vergessen – klingt so, als würdest du an einer Zeitmaschine und einem Gerät zum Löschen von Erinnerungen arbeiten. Okay, wunderbar. Michael, vielen Dank für dieses superinteressante Gespräch, ich habe viel gelernt. Wenn die Leute mit dir in Kontakt treten oder mehr über deine Arbeit erfahren wollen, wohin würdest du sie verweisen?

Michael Graziano (1:15:39) Wahrscheinlich auf meiner Webseite – auf meiner Princeton-Webseite gibt’s alle möglichen Infos dazu.

Christopher Kabakis (1:16:07) Okay, dann gib einfach „Princeton University Michael Graziano“ bei Google ein, dann kommst du schon hin. Wunderbar – und ich werde mich in die Quantenphysik einarbeiten und dann für ein Folgegespräch wieder vorbeischauen. Es ist ein faszinierendes Gebiet, und wie du schon gesagt hast, haben wir alle ein natürliches Interesse daran, uns selbst besser zu verstehen, und du bist an der Spitze dieser Forschung. Mir hat immer gefallen, dass es nicht nur um Emergentismus geht, bei dem das Bewusstsein einfach nur auftaucht – du sagst, es gibt einen Mechanismus, den wir verstehen können, eine plausible Erklärung dafür, was subjektive Erfahrung oder Bewusstsein ist. Das hat mir schon immer gefallen, und wir werden es weiterhin mit den Leuten teilen, wann immer sich die Gelegenheit ergibt. Also vielen Dank, und noch einen schönen Tag dort an der Ostküste. Okay, mach’s gut. Tschüss, Michael. Tschüss.

Michael Graziano (1:16:47) Gut, das freut mich zu hören. Super, das freut mich wirklich sehr. Genau. Ja. Tschüss.