Die künstliche Intelligenz ist mehr als ein beliebiges neues Element in unserer Lebenswelt. Sie etabliert sich als eine Art Spezies, die für den Menschen Partner, Konkurrent und Bedrohung zugleich ist. Eduard Kaeser untersucht in seinem neuen Buch, ob wir dieser neuen Konstellation mental gewachsen sind.
In seinen einleitenden Kapiteln beschreibt Kaeser, wie die mathematischen Grundlagen der Computer dazu tendieren, sie zunehmend undurchschaubarer zu machen. Man weiss, nach welchen Algorithmen sie arbeiten, aber ihre Ergebnisse sind für den äusseren Betrachter nicht vorhersehbar. Und er kann auch nicht im Detail nachvollziehen, welche Operationen das System dabei vorgenommen hat. Der Computer ist eine Blackbox.
Der menschliche Geist in seinem Körper
Bei der Herausbildung immer grösserer Komplexität handelt es sich um ein inhärentes evolutionäres Prinzip der Programme. Sie können gar nicht anders, als immer komplexer zu werden. Was der Mensch hinzufügt, sind lediglich auf Sprache basierende kommunikative Programme, die die Illusion erzeugen, bei den Computern handele es sich in kognitiver Hinsicht um menschliche Gebilde. Schon Alan Turing hat ein Programm entwickelt, das Computer auf Fragen so antworten liess, als seien sie menschliche Kommunikationspartner.
Der Mensch hat es bei der KI mit einem alter ego zu tun, das aber in keiner Weise ein menschliches Ego ist. Der Witz besteht nun darin, dass man sich auch darüber vorzüglich mit der KI unterhalten kann. Schliesslich verfügen die fortgeschrittenen Systeme über alle Sprachmuster, die es braucht, um eine vermeintlich menschliche Konversation zu führen. Die kann bis in höchste philosophische Fragen führen. Aber es bleibt ein unhintergehbares Problem: Das menschliche Gehirn befindet sich in einem Körper. Es kann nicht losgelöst vom Körper gedacht werden. Der Körper versorgt es ständig mit Informationen, und vieles geschieht «gedankenlos», obwohl es vom Gehirn gesteuert wird. Das «Ich» des Menschen ist immer auch körperlich fundiert. Der Computer kann noch so komplex «denken» und dabei «ich» sagen, aber deswegen sind seine Hervorbringungen nicht «menschlich». Der Mensch als Produkt der Evolution ist etwas komplett anderes als ein Computer mit seiner daran gemessen extrem kurzen Entwicklungsgeschichte.
Fatale «Einbürgerung»
Nun hat Kaeser im Untertitel seines Buches den Begriff «kopernikanische Wende» gebraucht. Damit zielt er sehr hoch. Denn die Erkenntnis von Nikolaus Kopernikus, dass die Erde nicht den Mittelpunkt es Kosmos bildet, um den die Planeten kreisen, erschütterte seinerzeit das Selbstverständnis des Menschen. Zwei weitere «Kränkungen» sollten folgen: Darwins Abstammungslehre, nach der der Mensch aus der Evolution hervor geht, und Freuds Entdeckung des Unbewussten, wonach der Mensch nicht wirklich «Herr im eigenen Haus» ist. Diese Erkenntnisse unterminierten seine Sonderstellung. Wenn Kaeser nun die neuen «smarten Maschinen» in diesen Zusammenhang stellt, verhandelt er auf einer hohen gedanklichen Ebene ein Thema, das unter Schlagworten wie «Computer übernehmen die Macht» oder «autonome Waffensysteme» die Medien bewegt.
Kaeser fragt, was es bedeutet, dass der Mensch zunehmend mit Systemen interagiert, die ihm sprachlich wie Menschen aus Fleisch und Blut gegenübertreten. Wenn diese Systeme «ich» sagen, muss er sich dessen bewusst sein, dass dieses «Ich» Ergebnis von komplexen Rechenoperationen und dem Zugriff auf Sprachmuster ist. Und die «smarte Maschine» «weiss» das auch. Man kann sich auch darüber mit ihr unterhalten. Aber sie suggeriert in jedem Augenblick, dass wir es mit einem menschlichen Gegenüber zu tun hätten, dem wir vertrauen können. In Wirklichkeit aber haben wir es mit Programmen zu tun, die nach ihren eigenen Regeln ablaufen und denen menschliche Hoffnungen und Befürchtungen absolut fremd sind.
Die Pointe seiner Überlegungen aber hat Kaeser sich für den Schluss aufbewahrt, und er formuliert sie eher beiläufig: Die Uno, schreibt er, habe zwar gewisse Waffen, die auf KI beruhen, mit einem Bann belegt, aber sehe andere Anwendungen als unproblematisch an. Aber diese seien viel problematischer. In dem Masse nämlich, wie Roboter in den Alltag integriert werden, also «eingebürgert» würden, werden die Menschen selbst «robotisiert». «Was uns wirklich zu denken geben sollte, ist der Ohnmachtswille des Homo sapiens, sprich: die willfährige Bereitschaft, seine kognitiven, aber auch moralischen Kompetenzen an die Maschine abzutreten. Man muss sich klar vergegenwärtigen: Wir machen uns selbst immer abhängiger von Algorithmen, die wir mit der Verantwortung für das Wohlergehen von Millionen von Menschen betrauen. Ihr Code ist die heimliche Macht. Aber diese Macht hat keinen ´Willen`. Und ihre Fehler sind unsichtbar.»
Eduard Kaeser: Künstliche Intelligenz und smarte Maschinen. Kritische Essays zur neuen kopernikanischen Wende. 172 Seiten, Schwabe reflexe, Schwabe Verlag, Basel 2026, 25,90 CHF