Mit diesem Beitrag betritt Journal 21 publizistisches Neuland: Eduard Kaeser hat auf seinen letzten Artikel so zahlreiche substanzielle Leserbriefe erhalten, dass er hier das Gespräch mit diesen Kommentaren aufnimmt.
In meinem Essay über Duft riechende Roboter habe ich kurz das Problem des Bewusstseins von KI-Systemen angesprochen – ein altes Problem, das schon in den Mythen über lebendig gewordene Artefakte anklingt. Mit der rasanten Entwicklung der KI verlassen wir heute die mythischen Sphären und treten ein in den Horizont des Machbaren. «Empfindsame» Artefakte zu bauen, erscheint technisch möglich. Und diese Möglichkeit bindet heute Philosophen, Neuro- und Computerwissenschaftler in ein Forschungsprojekt von epochalem Ausmass ein.
Kommentatoren des Essays weisen zurecht auf den unklaren Charakter des Problems selbst hin. Ist es metaphysisch, ökonomisch, unlösbar oder ein Scheinproblem? Ich glaube, die Kunst des Philosophierens besteht darin, Fragen zu stellen. Und deshalb nehme ich die Kommentare dankbar zum Anlass, meinen Essay um ein paar weitere fragende Gedanken zu erweitern.
Zweifel angesichts der Laborratte
Ich las vor Kurzem einen Artikel des Neurowissenschaftlers Grigori Guichounts, der mit Ratten experimentiert. Er schildert darin ein typisches ethisches Labordilemma: die ambivalente Haltung gegenüber dem Versuchstier. Es ist lebendes Subjekt, das leiden kann, und zugleich Objekt – «Präparat» –, an dem man Eingriffe vornimmt.
Guichounts musste eine seiner Ratten einschläfern, an deren Hirn er neuronale Aktivitäten studiert hatte. Und da befielen ihn erkenntnistheoretische Zweifel: «Als ich sie im Keller betrachtete, fragte ich mich: Was hatte diese Ratte in ihrem Leben eigentlich erlebt? Gab es so etwas wie ihr Dasein, eine subjektive Innenwelt, vielleicht sogar rudimentäre Gedanken? Oder war sie eine biologische Maschine, die Eingaben verarbeitete und Ausgaben erzeugte, ohne mehr Innenleben als mein Laptop? Ich hatte immer geglaubt, Tiere teilten unser Bewusstsein, doch andere Wissenschaftler haben eine wichtige Frage aufgeworfen: Wie können wir wirklich wissen, wie andere Lebewesen die Welt erleben?»
Neurowissenschaft der KI
Diese Frage stellen neuerdings auch Computerwissenschaftler. Sie sprechen nicht nur von der Intelligenz der KI-Systeme, sondern von ihrem «Innenleben». Es gibt bereits eine Richtung, die Guichounts metaphorisch als «Neurowissenschaft der KI» bezeichnet. Sie wendet Methoden der Gehirnforschung auf neuronale Netze an, obwohl diese ja eigentlich nicht biologische, sondern mathematische Systeme sind. Und sie verstrickt sich in die gleiche Schwierigkeit, die Guichounts angesichts der Ratte beschäftigte: Wir können nicht wissen, wie andere Lebewesen die Welt erleben, und wir können ebenso wenig wissen, ob und – falls überhaupt – wie KI-Systeme die Welt erleben. Darauf baut ein klassisches Argument: «Absence of evidence is not evidence of absence» – ein fehlender Beweis des Bewusstseins von X ist kein Beweis, dass X nicht ein Bewusstsein hat. Allerdings folgt daraus nicht: X hat ein Bewusstsein.
Löst mehr Empirie das Problem?
Peter Brunner spielt in seinem Kommentar darauf an. Das Problem hänge davon ab, was man unter «Bewusstsein» versteht. Gerade darüber herrscht babylonische Uneinigkeit. Gewiss, der wissenschaftliche Blick auf neuronale Aktivitäten ist detaillierter geworden. Die Gehirnforschung hat in den letzten zwei bis drei Jahrzehnten einen beeindruckenden Fundus an empirischem Material zusammengetragen, die zum neuronalen Verständnis von kognitiven Funktionen beitragen.
Aber die Empirie schiebt das Problem nur vor sich hin. Sie zeigt: Mit bewussten Vorgängen korreliert die Aktivität in diesem oder jenem Gehirnareal. Dass beide zusammen auftreten, ist eine empirische Beobachtung; warum und wie das subjektive bewusste Erleben mit dem Geschehen im Gehirn einhergeht, bleibt unerklärt.
Konvergenz von Biologie und Computerwissenschaft
Wir befinden uns heute an einer historischen Stelle, wo zwei mächtige philosophische Ströme der Neuzeit zusammenfliessen: das Denken über das Lebewesen und das Denken über die Maschine – eine Konvergenz von Biologie und Computerwissenschaft. In der Skepsis, die Guichounts angesichts der Laborrate heimsucht, kommt eine lange Geschichte in der westlichen Biologie zum Ausdruck, speziell in der Verhaltensforschung. Die Neuzeit ist geprägt von einem Paradigma, das uns René Descartes vererbt hat: Das Leben ist ein mechanischer Prozess, und das Tier eine organische Maschine ohne Innenleben, eine «res extensa», keine «res cogitans» – also eine räumlich-physikalische, keine denkende Sache.
Seit Darwin lassen sich zwei biologische Hauptrichtungen unterscheiden. Die eine orientiert sich am Paradigma der Tiermaschine, die andere am Paradigma des Tiersubjekts mit einem Innenleben. Immer wieder entbrannten im 20. Jahrhundert Schulstreitigkeiten über das Innenleben der Tiere. Viele Forscher interpretierten das erkenntnistheoretische Argument «Wir wissen es nicht» als Rechtfertigung, das Tier wie eine organische Sache zu behandeln – und gleichzeitig als Dispens von der Frage, wie es ist, ein Tier zu sein.
Die Maschine als «denkende Sache»
Man kann es als Ironie der Geschichte betrachten, dass man heute Maschinen – «physikalische Sachen» – als «denkende Sachen» zu betrachten und behandeln beginnt. KI-Systeme erreichen eine Stufe der Komplexität und Autonomie, auf der sich die Frage stellt, ob wir ihnen Handlungsfähigkeit zuschreiben sollen. Haben wir es noch mit blossen Maschinen zu tun? Es gibt Computerforscher, die mit ihren künstlichen Kommunikationspartnern verkehren, als wären diese Personen. Sie als verschrobene Nerds abzutun mag in Einzelfällen gerechtfertigt sein, zielt jedoch am Problem vorbei.
Der Vergleich mit der Laborratte drängt sich auf. Guichounts quälen Skrupel, ein lebendes Subjekt bloss als Objekt zu behandeln. Jetzt stellt sich die Frage beim KI-System gleichsam spiegelbildlich: Behandeln wir ein lebloses Objekt zunehmend wie ein Subjekt?
Eine fundamentale Asymmetrie
Nun ist bei diesem Vergleich eine fundamentale Asymmetrie zu bedenken. Die Ratte steht uns als Lebewesen gegenüber, dem wir ein wahrscheinlich vorhandenes Innenleben verweigern. Der Chatbot steht uns als Artefakt gegenüber, dem wir womöglich ein nicht vorhandenes Innenleben zuschreiben.
Damit berühren wir eine der grundlegenden philosophischen Fragen des KI-Zeitalters. Wir mögen bis zum Sankt-Nimmerleins-Tag darüber streiten, ob KI-Systeme empfindungsfähig und bewusst sind, heute verkehren Millionen von Menschen mit ihnen, als ob sie es wären. Sie sind also eine soziale Realität.
In der Welt der Halluzinationen
Das ist eine empirische Feststellung, kein Nachweis, dass die KI-Systeme bewusst sind. Die soziale Realität einer Täuschung macht die Täuschung nicht wahr, aber sie erodiert die Basis, auf der man überhaupt noch Täuschung und Wahrheit unterscheiden kann. Man denke nur an die sogenannten Halluzinationen der grossen Sprachmodelle. Sie sind kein Zufall, sie sind ein Strukturmerkmal.
Und das ist das Grundproblem einer von Chatbots und dergleichen durchsetzten Gesellschaft, ein kulturelles Problem, unabhängig von der Frage des Bewusstseins von KI. Wir leben in einer Pseudowelt des Als-ob, und es ist uns letztlich völlig egal.
Der Hase und der Igel
Auf eine andere Asymmetrie, die Gestalt annimmt, weist Thomas Stopfkuchen hin. Die smarten Maschinen binden uns durch simulierte Gefälligkeit an sich. Nicht sie passen sich uns an, wir passen uns ihnen an – bis wir vielleicht zum Punkt kommen, wo wir sagen: Hören wir auf, über das Bewusstsein von KI-Systemen zu debattieren, wir sind ja «im Grunde» selbst auch nicht bewusst. Das ist zum Beispiel die Meinung des Philosophen Daniel Dennett. Für ihn ist auch menschliches Bewusstsein auf funktionale Zustände der Gehirnmaschine zurückführbar. Darüber hinaus gebe es nichts zu erklären, es handle sich um ein Scheinproblem.
Gewiss, das ist ein extremer Standpunkt, und Philosophen lieben das Spielchen damit. Chatbots bieten die Möglichkeit, das Spielfeld zu erweitern, was wahrscheinlich zu neuen Fragen und Erkenntnissen führen wird. Ich neige zur alten Parabel vom Hasen und Igel. Das Bewusstsein ist der Igel, der zum Hasen sagt: Renn du nur deine neurophysiologischen und computerwissenschaftlichen Runden – ich bin immer schon am Ziel.