Wenn Mathematik zur Waffe wird

Eduard Kaeser's picture

Wenn Mathematik zur Waffe wird

Von Eduard Kaeser, 13.10.2019

Modelle sind nicht identisch mit der realen Welt. Das zu lernen, zu verstehen und auch zu beherzigen, wäre ein Zeichen reifer Wissenschaft.

Die amerikanische Mathematikerin Cathy O’Neil betreibt den Blog MathBabe, in dem sie schon seit einiger Zeit auf fragwürdige Praktiken im Big-Data-Universum aufmerksam macht. Ein wertvoller Beobachtungsposten in einer Welt, die zunehmend von unsichtbaren und undurchschaubaren Informationsströmen und Algorithmen beherrscht wird. 

„Weapons of Math Destruction“

Frau O’Neil hat 2017 ein Buch mit dem Titel „Weapons of Math Destruction“ veröffentlicht (deutsch „Angriff der Algorithmen – ein unmissverständliches Wortspiel, denn das Akronym WMD erinnert an Massenvernichtungswaffen (Weapons of Mass Destruction). Die martialische Analogie mag etwas gar effekthascherisch anmuten, nichtsdestoweniger öffnet das Buch Einblicke in ein verstörendes Zeitphänomen: Ein immaterielles Wettrüsten findet statt, das für Normalbürger unsichtbar bleibt, ihn aber doch als Kollateralopfer zurücklässt.

Dass Mathematik zu einer Waffe werden kann, ist beileibe keine neue Beobachtung, sondern offenbarte sich schon im Zweite Weltkrieg, zu dessen Verkürzung Code knackende Genies wie Alan Turing einen entscheidenden Beitrag leisteten. Das war die Geburtsstunde der modernen Kryptoanalyse, die eigentlich erst jetzt richtig in Blüte steht. Und hier kann man sich der Ironie nicht enthalten: Wenn Verschlüsselungsprobleme ein typisches Charakteristikum des Kriegs waren, leben wir dann heute – gemessen an der Bedeutung der Verschlüsselung – nicht auch in kriegsmässigen Zuständen? Auf jeden Fall in einer Zeit, da ein Code womöglich die gleichen Verheerungen anrichten kann wie eine Atombombe.

„Die“ Mathematik gibt es nicht

Das Nervensystem modernen telekommunikativen Lebens ist zutiefst mathematischer Natur. Die Vordenker heutiger Technologien waren Mathematiker: Alan Turing, Claude Shannon, Norbert Wiener, John von Neumann. Allerdings muss man hier sogleich differenzieren. „Die“ Mathematik gibt es nicht, es gibt eine Unzahl mathematischer Disziplinen. Und darin gewinnen jene Sparten zunehmend an Bedeutung, die sich mit Datenanalysen befassen. Weil Algorithmen im Grunde menschliche Denk- und Entscheidungsprozesse in Formeln und automatischen Abläufen darstellen, wachsen sie in eine immer bedeutendere Rolle hinein, nicht nur in der Verschlüsselung, sondern auf fast allen sozialen Gebieten, in Medien, Politik, Wirtschaft, Beruf, Schulen, Gefängnissen, Spitälern. 

Die Suggestion im englischen wie im deutschen Titel des Buches lenkt indes vom eigentlichen Problem ab. Nicht Algorithmen sind per se schädlich, sie werden genau dann zu WMDs, wenn man ihre verborgenen und oft fehlerhaften Annahmen nicht zur Kenntnis nimmt – wenn man ihnen blind vertraut. 

Fehlerhaftes Rating von Lehrern

Hiezu ein Beispiel. Wir alle kennen das Rating, bis zum Überdruss. Evaluation von Arbeit ist allenthalben angesagt. Und der Grund liegt natürlich darin, dass hier Daten, Statistik und Algorithmen ein immer unerlässlicheres Instrument darstellen. Besonders in Schulen, den traditionellen Orten der Benotung. Beurteilt werden vermehrt auch die Lehrer, denn Schulen sind schon längst keine Spielplätze der mussevollen Bildung mehr, sondern nehmen am Wertschöpfungsprozess teil. Und ganz im Geist der Betriebsökonomisierung gibt es in den USA ein „Mehrwert-Modell“ („value-added model“) der Lehrerevaluation. Die Leistung des Lehrers – sein Score – bemisst sich an einer standardisierten statistischen Rangordnung von Schülerleistungen. 

Frau O’Neil erzählt den Fall von Tim Clifford, eines erfahrenen Englischlehrers an einer Middle School in New York City. Bei einem Test mit besagtem Modell erhielt er abgrundtiefe 6 von 100 „Mehrwertpunkten“. Niemand sagte ihm, was das bedeutete und wie er sich zu verbessern hätte, also fuhr er fort, wie immer zu unterrichten. In der nächsten Testrunde attestierte ihm das Modell 96 Punkte. 

Warum eine solche Schwankung? Tim Clifford unterrichtet vielleicht insgesamt eine Hundertschaft von Schülern. Das ist eine viel zu kleine Kohorte, um verlässliche Aussagen zu stützen. Die Evaluation hängt empfindlich von der Zusammensetzung der Klassen ab. Beim zweiten Test hatte Clifford Klassen mit weniger „Ausreissern“, also mit mehr Schülern im Mittelbereich zwischen den Extremwerten. Der Algorithmus führte stur seine Schritte durch und errechnete einen höheren Durchschnitt. Aufs Ganze gesehen verdankte Tim Clifford seinen Aufstieg von der Niete zum Glanzstück der Didaktik also nicht seinen Fähigkeiten, sondern der unachtsamen, ja stümperhaften Anwendung eines Evaluationsmodells und dessen Algorithmus. 

Modellgläubigkeit

Cathy O’Neil führt ähnliche Beispiele aus anderen Bereichen wie Arbeitsmarkt, Krankenversicherung, Kriminalitätsprognose, politisches Mikrotargeting an – Beispiele, die ein allgemeines Phänomen unseres Big-Data-Zeitalters an den Tag fördern: die Modellgläubigkeit. Sie ist umso fataler, als sie ein fast schon gemeingefährliches Vertrauen in computergenerierte Entscheidungen fördert. Aus diesem Grund haben Emanuel Derman und Paul Wilmotts, zwei Vertreter der quantitativen Finanzanalyse – im Jargon auch „Quants“ genannt –, 2009 einen „Eid des Finanzmodellierens“, analog zum Hippokratischen Eid für Ärzte gefordert. Er umfasst fünf Punkte:

  • Ich werde stets daran denken, dass ich die Welt nicht erschaffen habe, und dass sie sich nicht an meine Gleichungen hält.
  • Obwohl ich Modelle unerschrocken verwenden werde, um quantitative Werte einzuschätzen, werde ich mich von Mathematik nicht übertrieben beeindrucken lassen.
  • Ich werde nie die Realität der Eleganz opfern, ohne zu erklären, warum ich das gemacht habe.
  • Ich werde die Menschen, die mein Modell nutzen, mit seiner Genauigkeit nicht in falscher Sicherheit über seine Richtigkeit wiegen. Vielmehr werde ich auf seine Annahmen und auf das, was es durch die Annahmen übersieht, hinweisen.
  • Mir ist klar, dass meine Arbeit gewaltige ökonomische und soziale Auswirkungen haben kann, von denen viele mein Verständnis übersteigen.

Der „Sündenfall“ der Mathematik

Es geht hier nicht um ein Bashing von ökonomischen Modellierern. Jeder, der zum Beispiel mathematische Physik studiert hat, kennt die Verführungsmacht von Modellen, diesen starken seltsamen Zauber, der einen ergreift, wenn man zum ersten Mal einen theoretischen Zusammenhang begriffen und berechnet hat. Es ist, als offenbarte sich die Welt in ihrer ideellen Reinheit. Diese „platonische“ Erfahrung – man könnte sie geradezu als Initiation bezeichnen – lässt die meisten nicht mehr los. Umso mehr muss sie durch eine Komplementärerfahrung ernüchtert werden: Diese Modellwelt ist nicht unsere Welt! Je gebieterischer sich diese Komplementärerfahrung durchsetzt, desto reifer wird der Wissenschafter.

Man möchte sagen, dass die Mathematik im Zeitalter von Big Data ihren „Sündenfall“ erlebt, wie schon früher die Physik mit der Atombombe und die Biologie mit der Gen-Sequenzierung. Das kann ihr nur guttun, denn dadurch erwacht die Data Science zu einem kritischen Modell-Bewusstsein, ja, wird sie überhaupt zur „reifen“ Disziplin, die sie bisher nicht war. Und man kann sich im Weiteren fragen, ob es nicht von allgemeinem Nutzen wäre, an Hochschulen ein einschlägiges Propädeutikum über Probleme des prekären Modellierens einzurichten, bevor man all die akademischen Spunde mit ihren ehrgeizigen Modellen auf die Welt loslässt. 

Cathy O’Neil: Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufsschancen zerstören und unsere Gesundheit gefährden, München: Hanser Verlag, 2017.

Ähnliche Artikel

Kommentare

Die Redaktion von Journal21.ch prüft alle Kommentare vor der Veröffentlichung. Ehrverletzende, rassistische oder anderweitig gegen geltendes Recht verstossende Äusserungen zu verbreiten, ist uns verboten. Da wir presserechtlich auch für Weblinks verantwortlich sind, löschen wir diese im Zweifelsfall. Unpubliziert bleiben ausserdem sämtliche Kommentare, die sich nicht konkret auf den Inhalt des entsprechenden Artikels oder eines bereits aufgeschalteten Leserkommentars beziehen. Im Interesse einer für die Leserschaft attraktiven, sachlichen und zivilisierten Diskussion lassen wir aggressive oder repetitive Statements nicht zu. Über Entscheide der Redaktion führen wir keine Korrespondenz.

Die Mathematiker, mit denen ich im Verlaufe meines Lebens Bekanntschaft machte, hatten alle etwas gemeinsam: sie wurden durch anspruchsvolle Aufgaben angezogen (da konnten sie ihre Intelligenz aktivieren und zeigen). Einen verantwortungsbewussten Umgang mit der Mathematik zu lernen, ist zweifellos eine anspruchsvolle Aufgabe (allerdings auf eine andere Weise anspruchsvoll als die Lösung einer Differentialgleichung zweiter Ordnung). Es ist zu hoffen, dass sich möglichst viele dieser Aufgabe mit ganzem Ernst und ganzer Intelligenz widmen. Wie dringend dies ist, macht auf eindrückliche Weise dieser Artikel deutlich.
Für alle, denen die Entwicklung unserer Kultur Sorge bereitet - Mathematiker und Nicht-Mathematiker -, ist es sinnvoll, über die Bedeutung der Mathematik vertieft nachzudenken. Man könnte sich zum Beispiel wieder einmal die basale Frage stellen: Was ist Mathematik. Für die Beantwortung dieser Frage können Analogien hilfreich sein. Mathematik ist...: eine Sprache, in der die Natur zu uns spricht; ein Spiegel, in dem das menschliche Denken sich wiedererkennt; ein Werkzeug, mit dem wir die Natur und die Menschen unter Kontrolle bringen; eine Waffe, mit der wir das soziale Leben schädigen können. Ich glaube, jede dieser Analogien hat etwas Zutreffendes - je nachdem wie die Menschen denken und handeln.
(Übrigens gehöre ich zu der Gruppe der Ex-Mathematiker. Vor 30 Jahren absolvierte ich die Ausbildung zum Sekundarlehrer, wechselte aber bald darauf den Beruf und hatte von da an fast nichts mehr mit Mathematik zu tun. Wenn ich mich richtig erinnere, wurde während meiner Lehrerausbildung nie thematisiert, dass die Mathematik eine ambivalente Angelegenheit ist.)

„Professor Gottfried Bombach beklagt «die Kühnheit und Leichtfertigkeit beim Umgang mit dynamischen Modellen» und stellte schon vor fast 50 Jahren die Frage: «Kann es legitim sein, dass der Wissenschaftler vor gefährlichen Entwicklungen warnt, und zwar betont als Wissenschaftler unter Berufung auf wissenschaftlich gesicherte Erkenntnisse, auch wenn diese sichere Basis noch gar nicht vorhanden ist?» Bombach kritisiert den Wissenschaftler, der versuche, «mit seinen Erkenntnisse auf propagandistische Wirkung abzuzielen, die Massen zu mobilisieren, und zwar selbst dann, wenn er sich der Fundamente noch nicht vollkommen sicher ist». Wer heute so denkt, ist ein «Klimaleugner».“ (Silvio Borner emeritierter Professor für Volkswirtschaft an der Uni Basel in der BaZ vom 8.10.19)

SRF Archiv

Newsletter kostenlos abonnieren