Macht Not erfinderisch? In der Entwicklung der Technologie läuft es oft andersrum: Innovationen schaffen neue Nöte und Probleme. Als «rein technische» Lösungen sind sie – anders als behauptet – nicht disruptiv, sondern verharren in herkömmlichen Denkweisen.
Nach einer vorherrschenden Auffassung löst Technik Probleme nach der Devise «Not macht erfinderisch». Notwendigkeit wäre somit die Mutter der Erfindung. Da ist ein Problem und durch eine Erfindung lösen wir es, sprich: verschwindet es. Diese Ansicht kursiert heute unter der Bezeichnung des «Technological Fix»: Verwandle ein Problem in ein ingenieurales und löse es durch die Erfindung oder Verbesserung einer entsprechenden Technik.
Die Ansicht erweist sich bei näherem Betrachten als einseitig, mehr noch: als Paradox. Technik ist ambivalent. Der technische Fortschritt hat einen Konstruktionsfehler: Er produziert oft die Probleme, die er zu lösen verspricht. Der amerikanische Technikhistoriker Melvin Kranzberg hat deshalb vor vierzig Jahren den obigen Spruch umgekehrt und als «Kranzberg-Gesetz» formuliert: Erfindung ist die Mutter der Notwendigkeit. Er schlug damit – nicht ohne Ironie – ein anderes Narrativ vor: Innovationen schaffen neue Nöte, machen in der Regel weitere Zusatzerfindungen notwendig, um wirklich effizient zu werden. Das heisst, Erfindungen setzen einen innovativen Zyklus in Bewegung, der gewissermassen eine kranzberg’sche Eigendynamik entwickelt.
«Die Macht des Computers und die Ohnmacht der Vernunft»
Die Computertechnologie macht diese Eigengesetzlichkeit exemplarisch sichtbar. Etwa in der Mitte des letzten Jahrhunderts sahen sich industrielle Produktion, Verkehr, Planung, ja, Politik mit einer Informationsflut konfrontiert, deren Management die menschliche Kapazität überstieg. Das war die Notwendigkeit, die den Computer auf den Plan rief. Und er präsentierte sich zunächst als wunderbarer Technological Fix.
Aber schon anfangs der 1970er Jahre schrieb der Computerwissenschaftler Joseph Weizenbaum vom MIT sein vieldiskutiertes Buch«Die Macht des Computers und die Ohnmacht der Vernunft». Dem mulmigen Gefühl, eine maschinelle Intelligenz könnte der Kontrolle der menschlichen Intelligenz entgleiten, begegneten die Informatiker mit der Beschwichtigung, das Problem liesse sich durch mehr Rechenleistung bewältigen. Und die Beschwichtigung hält bis heute an, im Mantra: Wartet nur, bis wir den richtigen Algorithmus gefunden haben!
Technologie geschieht, weil sie möglich ist
Und damit sind wir beim eigentlichen Glaubensbekenntnis der «Techno-Fixer»: «Technologie geschieht, weil sie möglich ist.» Dieser Satz von Sam Altman – CEO von OpenAI – echot einen berühmten anderen Satz, jenen von Robert Oppenheimer, Leiter des Atombombenbaus im Manhattan-Projekt: «Wenn man etwas sieht, das technisch verlockend ist (‘technically sweet’), macht man es einfach, und man diskutiert erst später darüber, was man damit anfangen soll – nachdem man den technischen Erfolg erzielt hat. So war es mit der Atombombe.» Und einer der Pioniere des «Deep Learning» – Geoffrey Hinton – wiederholte den Satz fast wortwörtlich mit Bezug auf die KI.
Anders gesagt: Man konzentriert sich auf die Erfindung – um die «Nöte», die aus ihr folgen, kümmert man sich später. Erst wird geschraubt, dann wird gedacht. Im Idealfall. Meist entfällt das Denken ganz.
Die Erfindung ist die Mutter des Bedürfnisses
Kranzbergs Gesetz hat – vor allem im Zeitalter der KI-Technologie und ihrer monopolistischen Firmen – einen anderen, einen psychologischen Aspekt. Lesen wir «Notwendigkeit» als «Bedürfnis», dann lässt sich das Gesetz so formulieren: Die Erfindung ist die Mutter des Bedürfnisses. Sie schafft Bedürfnisse, die vorher nicht existierten.
Die Technikgeschichte zeigt ein wiederkehrendes Phänomen: Erfindungen haben es oft schwer. Ihre Durchsetzung als Innovation muss einem Bedürfnis entsprechen, und ein solches existiert oft aufgrund sozial und kulturell verwurzelter Interessen nicht.
Zu Gutenbergs Zeiten ertönten nicht Jubelschreie «Endlich gedruckte Texte!»; vielmehr beeilten sich die Kopisten, die Presseprodukte mit einem lokalen Bann zu belegen. Der erste Verbrennungsmotor, um 1860 von Nicolaus Otto gebaut, führte nicht zur Produktion entsprechender Vehikel; die Leute waren mit Pferden und Eisenbahnen zufrieden. Edison erfand einen Phonographen, von dem er nicht wusste, wozu er gut war. Er stellte eine Liste möglicher Verwendungen auf, darunter den Zweck, die letzten Worte von Sterbenden aufzunehmen. Als Unternehmer seine Erfindung dazu benutzten, Musik zu hören, sah Edison darin eine Abirrung von seiner Idee.
«There’s a That for this App»
KI-Technologie ist primär eine Bedürfnisproduktion. Sie braucht den Kunden als Bedürftigen. Zu beobachten am rezenten Hype der KI, den Textgeneratoren. Sie helfen uns nicht einfach, Texte zu schreiben, sie wecken das Bedürfnis, Texte schneller, mit weniger Recherchier- und Intelligenzaufwand zu schreiben, im Sinne von: Schreibe einen Essay von 8000 Zeichen über die Paradoxie der technologischen Entwicklung. (Zur Orientierung: Der vorliegende Text entstammt nicht einem solchen Prompt.) Die Unmasse maschinell erzeugter Texte treibt eine Hochskalierung des Bedarfs an weiterer technischer Aufrüstung voran.
«There’s an App for That» lautete der Werbespruch von Apple 2009. Aber er sollte eigentlich lauten: «There’s a That for this App». Besessen vom nächsten neuen Ding hetzt heute die Entwicklung in einer Endlosschleife der Innovationen manisch vorwärts. Mit all dem Schnickschnack und seinen laufenden Updates verkaufen die Firmen Verhaltensweisen, und sie dressieren uns immer neue Bedürfnisse an.
Der Ingenieur als Sisyphos
Gibt es einen Ausstieg? Die Technikhistorikerin Martina Hessler ruft in ihrem Buch «Sisyphos im Maschinenraum» eine mythische Figur auf den Plan. Der moderne Sisyphos ist der vom Technological Fix beherrschte Mensch. Er wälzt den Stein der technischen Lösungen immer höher, aber er erreicht dadurch nur, dass der ersehnte Gipfel sich weiter entfernt. Er hat seine Strafe selber gewählt, getrieben vom Wunsch, die Welt allein mit Technik zu verbessern, ja, zu vervollkommnen.
Technological Fix sagt alles: Befestigung einer bestimmten Vorgehensweise; die Abhängigkeit vom Pfad, den man eingeschlagen hat. Das Sisyphoshafte ist dieser Art von Entwicklung inhärent. Wie Martina Hessler bemerkt, verbleiben «technologische Lösungen in der Regel in einer Logik, die das Bisherige fortsetzt (…) Die vermeintlich disruptiven Technologien erweisen sich aus dieser Perspektive gar nicht als disruptiv, sondern lösen das Problem in der Logik des Problems, anstatt es kreativ völlig neu zu denken».
Das ist der springende Punkt. Nichts spricht gegen ingenieurale Lösungen, sofern die Probleme technisch sind. Aber die drängenden gegenwärtigen Probleme sind meist nicht «rein technisch». Dass sie als «rein technisch» behandelt werden, stellt sich als das eigentliche Problem heraus.
Die «Hinterlist» der Geräte
Technik ist mehr als ein Gerätepark. Die neuen smarten Maschinen bilden ein Dispositiv, das unser Fragen immer schon in eine ganz bestimmte Richtung lenkt. Technik wirkt dadurch wie eine Art von Vorsehung. Niemand zwingt mich, ein Gerät zu verwenden. Aber wenn es den Verwendungszusammenhang definiert, aus dem ich nicht einfach so aussteigen kann, dann bin ich seinem verdeckten Zwang unterworfen. Die KI-Systeme nisten sich ein in unserem Blick, werden zu einem Stück unserer selbst.
Sam Altman schwadronierte 2021 von einer vierten «KI-Revolution» nach den drei anderen technologischen Revolutionen: der landwirtschaftlichen, der industriellen und der computerbasierten. Er betonte dabei, dass diese vierte Revolution «sich auf die beeindruckendste unserer Fähigkeiten konzentriert: die phänomenale Fähigkeit zu denken, zu erschaffen, zu verstehen und zu schlussfolgern».
Die Bemerkung ist entlarvend, denn Altman verschwieg die tiefe Paradoxie, dass uns die KI-Industrie ja gerade diese Fähigkeit abzunehmen, uns algorithmisch zu entmündigen sucht. Wir haben sehr viel Intelligenz in Geräte gesteckt, und diese Geräte erweisen sich als «hinterlistig», indem sie uns zum Nichtgebrauch unserer Intelligenz verleiten – zu einer selbst herbeigeführten Gattungsverdummung, die sich als Triumph zelebriert.