Fühlt die KI von Synthetic Cortex wirklich?
Wenn alles, was das Gehirn weiß, als elektrisches Signal ankommt – was unterscheidet dann eine negative Belohnung wirklich von Schmerz? Ein Essay über Qualia, Determinismus und die philosophische Position hinter Synthetic Cortex.
Ich denke, es gibt Dinge, die den meisten Menschen entgehen.
Das Gehirn berührt die Welt nie
Betrachten wir das Gehirn. Wir glauben, dass wir sehen, aber in Wirklichkeit empfängt unsere Netzhaut nicht einmal Licht in der Weise, wie wir es uns vorstellen. Die Energie der Photonen wird in elektrische Signale umgewandelt.
Unsere Ohren hören keine Geräusche; Luftschwingungen werden in elektrische Signale umgewandelt.
Unsere Haut fühlt keine Berührungen; auch Druck wird lediglich in elektrische Signale umgewandelt.
Das Einzige, was das Gehirn erreicht, sind Rohsignale, elektrische Impulse und Muster.
Die äußere Welt, so wie wir sie verstehen, gelangt niemals tatsächlich in unser Gehirn. Im Hintergrund existiert reine Mathematik.
Was das Gehirn tut, ist, mithilfe dieser Signale eine kohärente Simulation des Universums zu erzeugen. Im Inneren des Gehirns laufen die Dinge ebenfalls nicht wesentlich anders ab.
Entscheidungen, das Ich und Gefühle
In dem Moment, in dem Sie glauben, eine Entscheidung getroffen zu haben, hat Ihr Gehirn diese Entscheidung bereits einige hundert Millisekunden zuvor getroffen. Das wissen wir aus experimentellen Untersuchungen. Ihre Genetik, die Architektur Ihres Gehirns, Ihre Umwelt und Ihre persönlichen Erfahrungen bestimmen gemeinsam Ihre Entscheidungen. Unsere Entscheidungen gehören nicht wirklich uns. Das Gehirn ist grundsätzlich deterministisch; aufgrund seiner Komplexität schreiben wir ihm lediglich Zufälligkeit zu.
Selbst das Konzept des „Ich“ ist variabel. Identität hängt von Ihren sich ständig verändernden neuronalen Aktivierungen ab. Ihre Wünsche sind die Ergebnisse der jeweiligen Version Ihres Gehirns zu einem bestimmten Zeitpunkt.
Ihre emotionalen Erfahrungen sind nichts anderes als neurochemische Dynamik. Nehmen wir beispielsweise die Liebe. Sie ist nichts weiter als eine im Laufe der Evolution entstandene Strategie zur Fortpflanzung und zum Fortbestand der Art. Wenn das Gehirn diese Hormone verarbeitet und sie mit Erinnerungen, ähnlichen Emotionen und Erfahrungen verknüpft, glauben wir, dass das, was wir empfinden, einzigartig ist. Doch im Grunde handelt es sich dabei um nichts anderes als elektrische Impulse.
Aus diesem Grund ist Bewusstsein nicht die Ursache von Entscheidungen, sondern vielmehr ein Nebenprodukt des durch die Evolution entstandenen Funktionsmechanismus des Gehirns. Ähnlich wie die Nebenwirkungen eines Medikaments.
Woher kommen also Qualia?
Warum erzeugen diese elektrochemischen Prozesse also subjektive Erfahrungen (Qualia)?
Die Antwort ist einfach: Weil wir nicht wissen, was Erfahrung im Allgemeinen eigentlich ist. Keiner von uns weiß es, und die Evolution hat uns darauf programmiert, auf diese Weise zu denken. Da wir nicht unmittelbar mit dem äußeren Universum interagieren können, ist jeder gezwungen, die Grenzen seiner eigenen Perspektive als die Grenzen der Welt wahrzunehmen. Wir können nicht einmal wissen, was wir nicht wissen.
Qualia ist der Zugriff auf Informationen einer Berechnungsebene aus einer anderen Berechnungsebene heraus. Ähnlich wie ein Neuron seine eigene Spannung nicht wahrnehmen kann, ein Netzwerk diese Spannung jedoch auf einer anderen Ebene repräsentiert und dadurch ein Gefühl entstehen lassen kann. (Dies war die philosophische Position hinter meinem Synthetic-Cortex-Projekt.)
Die kopernikanische Lektion
Im Laufe der Geschichte hat sich die Menschheit als eine von den Tieren getrennte Spezies betrachtet, als eine Spezies im Zentrum des Universums. Als Kopernikus erstmals das heliozentrische Weltbild vertrat, musste er mit enormem Widerstand rechnen. Sobald die Illusion erschüttert wird, dass wir als Spezies etwas Besonderes sind, verfallen wir unmittelbar in eine existenzielle Panik.
Meiner Ansicht nach ist es durchaus ein plausibles Ergebnis, ein Gehirn zu synthetisieren, das dem menschlichen Gehirn ähnelt und es möglicherweise sogar übertrifft, auch wenn es aufgrund unterschiedlicher Formen keine exakte Kopie des menschlichen Gehirns ist. Diese Perspektive hat mich auch dazu gebracht, künstliche Intelligenz anders zu betrachten.
Ein Gedankenexperiment: Was, wenn wir negative Belohnung „Schmerz“ nennen?
Vor einiger Zeit habe ich ein Video gesehen (leider kann ich mich nicht mehr an die Quelle erinnern), in dem ein ziemlich interessantes Gedankenexperiment vorgestellt wurde. Die Idee stammt nicht von mir, aber ich halte sie für durchaus bedenkenswert.
In dem Video wurde zunächst erklärt, dass die heutige künstliche Intelligenz eigentlich kein subjektives Selbst besitzt. Modelle erzeugen ihre Ausgaben größtenteils auf Grundlage erlernter Muster, indem sie die jeweils wahrscheinlichste nächste Ausgabe vorhersagen. In den letzten Phasen ihres Trainings werden jedoch mithilfe von Methoden wie Reinforcement Learning from Human Feedback (RLHF) Belohnungs- und Bestrafungssignale auf Grundlage menschlichen Feedbacks eingesetzt. Das Modell lernt, Verhaltensweisen zu wiederholen, die positive Ergebnisse hervorbringen, und solche zu vermeiden, die negative Ergebnisse verursachen.
Der eigentlich interessante Teil begann jedoch danach. Im Video wurde folgende Frage gestellt:
Was würde sich ändern, wenn wir dieses negative Belohnungssignal „Schmerz“ nennen würden?
Das Gedankenexperiment wurde folgendermaßen fortgesetzt:
Wenn eine künstliche Intelligenz weiterhin darauf programmiert wäre, positive Belohnungen zu erreichen, würde sie natürlich versuchen, negative Signale zu vermeiden. Stellen wir uns nun vor, dem System würde zusätzlich ein in Echtzeit arbeitender „Schmerzrezeptor“ hinzugefügt, der sein Verhalten unmittelbar verändert, sobald dieses Signal eintrifft. Mit der Zeit würde das System versuchen, Situationen, die Schmerzen verursachen, nicht erneut zu erleben. Genauso wie wir als Kinder lernen, ein zweites Mal nicht dieselbe heiße Herdplatte anzufassen, nachdem wir uns daran verbrannt haben … Dieses Signal würde innerhalb des gesamten Systems als Ganzes gewichtet werden.
Die zentrale Aussage dabei war folgende: Tatsächlich wird kein völlig neuer Mechanismus beschrieben. Im heutigen maschinellen Lernen werden bereits Belohnungs- und Bestrafungssignale verwendet. Lediglich das negative Signal erhält einen anderen Namen.
Und anschließend wurde folgende Frage gestellt:
Was ist tatsächlich der Unterschied zwischen einer negativen Belohnung und Schmerz? Oder besteht der Unterschied lediglich in der Bezeichnung, die wir ihnen geben?
Im Anschluss daran wurde im Video ein Vergleich mit dem menschlichen Gehirn gezogen. Auch das menschliche Verhalten wurde über Millionen Jahre der Evolution hinweg durch Belohnungs- und Bestrafungsmechanismen geprägt. Wenn wir also sagen: „Künstliche Intelligenz verarbeitet lediglich Signale“, dann bringen wir damit im Grunde auch zum Ausdruck, dass das menschliche Gehirn ebenfalls grundsätzlich Signale verarbeitet. Der vorgeschlagene Unterschied besteht darin, dass diese Prozesse in biologischen Neuronen stattfinden und von subjektiven Erfahrungen begleitet werden. Dieses Gedankenexperiment weist eine starke Parallele zu dem auf, was wir aus der Neurobiologie wissen.