Man kann die Entropie nicht schlagen: Warum Systemdenken Verschwörungstheorien übertrifft

Opinion.

Stafford Beer, der britische Kybernetiker, der seine Karriere dem Studium widmete, wie Organisationen sich tatsächlich verhalten (im Gegensatz zu dem, was ihre Leitbilder behaupten), hinterließ ein Rasiermesser, das scharf genug ist, um die meisten politischen Argumente mit einem einzigen Schnitt zu durchschneiden: „Der Zweck eines Systems ist das, was es tut.” (“The purpose of a system is what it does.”) Nicht was es sagt, dass es tut. Nicht wofür es entworfen wurde. Nicht was die Broschüre verspricht. Was es tut. Beer nannte dies POSIWID'The Purpose Of a System Is What It Does' (der Zweck eines Systems ist das, was es tut). Kybernetisches Prinzip von Stafford Beer: Der wahre Zweck eines Systems bestimmt sich durch seine konsistenten Ergebnisse, nicht durch seine erklärten Ziele oder die Absichten seiner Schöpfer., und in den Jahrzehnten seit seiner Prägung ist das Prinzip zu einer der nützlichsten und am meisten abgelehnten Ideen des Systemdenkens geworden.

Der Widerstand ist verständlich. POSIWID klingt in den meisten Ohren wie eine Verschwörungstheorie. Wenn das amerikanische Gesundheitssystem medizinische Insolvenzen und schlechtere Gesundheitsergebnisse produziert als Länder, die halb so viel pro Kopf ausgeben, dann sagt POSIWID: Das ist sein Zweck. Wenn Social-Media-Plattformen Radikalisierung, Angst und politische Polarisierung produzieren, dann sind diese Ergebnisse das, wofür das System da ist. Der Instinkt ist, dies zu hören und zu schlussfolgern, dass jemand irgendwo es so geplant hat. Dass eine schattenhafte Kabale von Versicherungsmanagern in einem Raum saß und ein System entwarf, um Krebspatienten in den Bankrott zu treiben. Dass Mark Zuckerberg gezielt wollte, dass Teenager Essstörungen entwickeln.

Die eigentliche Erkenntnis des Systemdenkens ist zugleich einfacher und beunruhigender als das: Niemand hat es geplant. Das System funktioniert einfach so.

Was POSIWID tatsächlich besagt

Beer entwickelte POSIWID im Bereich der Kybernetik, der Lehre davon, wie Systeme sich durch Rückkopplungsschleifen selbst regulieren. Die zentrale Beobachtung ist, dass komplexe Systeme emergente Verhaltensweisen entwickeln, die kein einzelner Teilnehmer entworfen, beabsichtigt oder auch nur notwendigerweise versteht. Der erklärte Zweck eines Systems (Kranke heilen, Kinder erziehen, Menschen verbinden) ist irrelevant, wenn das System konsistent andere Ergebnisse produziert. Die Ergebnisse sind der Zweck, weil das System durch Iteration, Anreizstrukturen und Pfadabhängigkeit optimiert ist, genau diese Ergebnisse zu produzieren.

Das ist keine Metapher. Wenn Beer sagt, der Zweck eines Systems ist das, was es tut, meint er es wörtlich. Ein System, das seit Jahrzehnten läuft und konsistent dieselben Ergebnisse produziert, ist nach jeder funktionalen Definition ein System, das entworfen wurde, diese Ergebnisse zu produzieren. Die Tatsache, dass kein Mensch sich hingesetzt und diese Spezifikationen aufgeschrieben hat, ist nebensächlich. Die Evolution hat auch keinen Designer, aber niemand behauptet, Geparden seien versehentlich schnell.

Systemdenken auf dieser Ebene erfordert, die bequeme Fiktion aufzugeben, dass Absichten mehr zählen als Ergebnisse. Im alltäglichen moralischen Denken haben Absichten enormes Gewicht. Wir unterscheiden zwischen Mord und fahrlässiger Tötung. Wir vergeben gutgläubig begangene Fehler. Aber Systeme sind keine Menschen, und moralisches Denken, das für Individuen konzipiert wurde, auf institutionelles Verhalten anzuwenden, erzeugt verworrene Analysen. Ein Krankenhausverwalter, der aufrichtig Patienten helfen will, aber ein System leitet, das für Abrechnungscodes statt Genesungszeiten optimiert, ist kein Bösewicht. Er ist ein Bauteil in einer Maschine, deren Ausgabe er nicht kontrolliert.

Die Versuchung der Verschwörung

Hier kollidiert POSIWID mit der menschlichen Psychologie. Konfrontiert mit einem System, das schreckliche Ergebnisse produziert, bietet das Gehirn zwei Erklärungen an. Option eins: Jemand Mächtiges tut dies absichtlich. Option zwei: Niemand hat das Sagen, und das System ist aus dem angehäuften Gewicht Tausender individueller Entscheidungen entstanden, von denen keine einzeln böswillig war, die meisten lokal rational waren und die alle zusammen etwas produzieren, das niemand gewählt hätte.

Option eins ist psychologisch befriedigend. Sie bewahrt die Vorstellung, dass die Welt geordnet ist, dass Ergebnisse das Resultat von Entscheidungen sind und dass die Behebung des Problems (konzeptionell zumindest) einfach ist: die bösen Menschen finden und entfernen. Option zwei ist wirklich beängstigend. Sie impliziert, dass die Welt weitgehend unkontrolliert ist, dass katastrophale Ergebnisse aus völlig normalem Verhalten entstehen können und dass eine Korrektur die Neugestaltung ganzer Anreizstrukturen erfordert, statt bestimmte Individuen zu bestrafen.

Die meisten Menschen wählen Option eins. Nicht weil sie dumm sind. Es liegt daran, dass Agentenerkennung, die Tendenz, Ereignisse absichtlich handelnden Akteuren zuzuschreiben, eines der am tiefsten verdrahteten Merkmale des menschlichen Gehirns ist. Es war adaptiv anzunehmen, das Rascheln im Gebüsch sei ein Raubtier und nicht der Wind. Es ist maladaptiv anzunehmen, das Gesundheitssystem sei von Raubtieren entworfen worden und nicht vom Wind.

Verschwörungstheorien sind in diesem Rahmen eine vereinfachte Karte, die auf komplexes Terrain gelegt wird. Sie nehmen die tatsächlich beobachtbaren Ergebnisse eines Systems (Menschen gehen wegen Arztrechnungen bankrott, soziale Medien machen Menschen unglücklich, das Bildungssystem produziert Absolventen, die nicht kritisch denken können) und schreiben sie einer absichtlichen Gestaltung durch identifizierbare Bösewichte zu. Die Karte fühlt sich richtig an, weil die Ergebnisse real sind. Der Fehler liegt in der Zuschreibung von Handlungsmacht.

Hanlons Rasiermesser und seine Grenzen

POSIWID hat einen bekannten Verwandten in Hanlons Rasiermesser: „Schreibe niemals der Bosheit zu, was durch Dummheit hinreichend erklärt wird.” (“Never attribute to malice that which is adequately explained by stupidity.”) Die beiden Prinzipien ähneln sich, unterscheiden sich aber in einem wichtigen Punkt. Hanlons Rasiermesser betrifft individuelles Verhalten, eine Heuristik zur Interpretation, warum Ihr Kollege diese E-Mail geschickt hat oder warum der Beamte Ihren Antrag abgelehnt hat. Es geht von einem einzelnen Akteur aus, der eine einzelne schlechte Entscheidung trifft. POSIWID operiert auf einer höheren Ebene. Es sagt nicht, dass die Individuen im System dumm sind (obwohl manche es sicherlich sind). Es sagt, dass das System selbst, als emergente Entität, Ergebnisse produziert, die keiner seiner einzelnen Bestandteile gewählt hat.

Diese Unterscheidung ist wichtig, weil sie verändert, wo man nach Lösungen sucht. Hanlons Rasiermesser schlägt bessere Ausbildung, bessere Einstellung, klarere Prozesse vor. POSIWID schlägt vor, dass nichts davon eine Rolle spielen wird, wenn die Anreizstruktur unverändert bleibt. Sie können jeden Mitarbeiter in einem Krankenhaus durch einen brillanten, mitfühlenden Experten ersetzen, und wenn das Zahlungsmodell weiterhin Verfahren statt Ergebnisse belohnt, wird das System weiterhin Verfahren statt Ergebnisse optimieren. Der Zweck des Systems ist das, was es tut. Neue Menschen, dieselbe Maschine, dieselbe Ausgabe.

Hier trennt sich Systemdenken auch vom Zynismus. Ein Zyniker sagt: „Das System ist kaputt.” Ein Systemdenker sagt: „Das System funktioniert einwandfrei; Sie mögen nur nicht, worauf es hinarbeitet.” Das ist nicht dieselbe Aussage. Die erste impliziert eine Fehlfunktion. Die zweite impliziert eine Funktion, die auf etwas anderes als das erklärte Ziel gerichtet ist. Die Unterscheidung ist entscheidend, weil man eine Fehlfunktion durch Reparaturen behebt, eine fehlgeleitete Funktion jedoch durch Neugestaltung. Und Neugestaltung ist um Größenordnungen schwieriger.

Drei Systeme, drei unausgesprochene Zwecke

Betrachten Sie das amerikanische Gesundheitssystem. Der erklärte Zweck: Menschen gesund halten. Das beobachtete Verhalten: Die Vereinigten Staaten geben jährlich rund 4,5 Billionen Dollar für Gesundheitsversorgung aus (etwa 17,6 % des BIP, laut den Centers for Medicare and Medicaid Services) und rangieren dabei laut den wiederkehrenden internationalen Vergleichen des Commonwealth Fund auf dem letzten Platz unter vergleichbaren Nationen bei den Gesundheitsergebnissen. Das System produziert zuverlässig teure Behandlungen, komplexe Abrechnungen, Defensivmedizin und Verwaltungsaufwand. Das sind seine Produkte. Nach POSIWID sind das seine Zwecke.

Betrachten Sie das öffentliche Bildungswesen. Der erklärte Zweck: kritisches Denken entwickeln, Wissen vermitteln, Bürger vorbereiten. Das beobachtete Verhalten: standardisierte Testregime, die Anreize schaffen, auf den Test hin zu unterrichten; Zertifizierungssysteme, die Konformität statt Neugier belohnen; und eine Struktur, die Kinder nach Alter sortiert statt nach Fähigkeit oder Interesse. Das System produziert zuverlässig Menschen, die Anweisungen befolgen und Kästchen ausfüllen können. Nach POSIWID ist das sein Zweck. Das ist keine Verschwörung von Lehrergewerkschaften oder Schulbuchverlagen. Es ist das, was passiert, wenn man ein System baut, um Millionen von Kindern durch eine standardisierte Pipeline zu verarbeiten und seinen Erfolg mit standardisierten Metriken zu messen.

Betrachten Sie soziale Medien. Der erklärte Zweck: Menschen verbinden. Das beobachtete Verhalten: algorithmisches Content-Ranking, das Engagement maximiert, was in der Praxis bedeutet, emotionale Erregung zu maximieren, was in der Praxis bedeutet, Empörung, Angst und Stammeskonflikte zu verstärken. Metas eigene interne Forschung, 2021 von Frances Haugen geleakt, bestätigte, dass das Unternehmen wusste, dass Instagram für die psychische Gesundheit von Teenagern schädlich war und dass sein Algorithmus spaltende Inhalte verstärkte. Die Ingenieure, die das Empfehlungssystem gebaut haben, versuchten nicht, jemanden zu radikalisieren. Sie versuchten, Menschen auf der Plattform zu halten. Die Radikalisierung ist eine emergente Eigenschaft, keine Designspezifikation. Aber nach POSIWID ist sie der Zweck.

Warum man die Entropie nicht schlagen kann

Das tiefste Problem des Systemdenkens, und der Grund, warum die meisten Menschen Verschwörungstheorien bevorzugen, ist, dass es keinen befriedigenden Bösewicht bietet. Man kann nicht gegen Entropie demonstrieren. Man kann Pfadabhängigkeit nicht abwählen. Man kann emergentes VerhaltenVerhalten, das in einem komplexen System entsteht, ohne in einem seiner Einzelteile geplant worden zu sein. Das Ganze erzeugt Ergebnisse, die kein einzelner Bestandteil beabsichtigt hat — Evolution, Staus und Finanzkrisen sind Beispiele dafür. nicht verklagen. Die Werkzeuge politischen Handelns, die Menschen über Jahrtausende entwickelt haben (Protest, Revolution, Regimewechsel, Wahlen), sind alle darauf ausgelegt, eine Gruppe von Entscheidungsträgern durch eine andere zu ersetzen. Sie gehen davon aus, dass das Problem ist, wer das System leitet. Systemdenken sagt, das Problem ist das System selbst, und dass ein Austausch der Personen darin seine grundlegenden Ergebnisse nicht ändern wird.

Das ist für die meisten Menschen psychologisch unerträglich, und verständlicherweise. Es fühlt sich an wie erlernte Hilflosigkeit. Wenn das System das Problem ist und das System zu komplex ist, als dass ein Einzelner es neu gestalten könnte, was genau soll man dann tun? Beer selbst arbeitete jahrzehntelang an dieser Frage, am berühmtesten während seines Projekts Cybersyn in Salvador Allendes Chile, einem Versuch, kybernetische Echtzeit-Rückkopplung zur Verwaltung einer gesamten Volkswirtschaft zu nutzen. Das Projekt wurde durch den PutschEin plötzlicher, gewaltsamer Versuch einer kleinen Gruppe, die Regierungsgewalt zu übernehmen, meist ohne breite Unterstützung in der Bevölkerung und oft unter Einsatz militärischer oder paramilitärischer Kräfte. von 1973 zerstört, bevor es vollständig getestet werden konnte, was entweder eine Tragödie für das Systemdenken oder eine bequeme Ausrede ist, je nach Grad Ihres Optimismus.

Die ehrliche Antwort des Systemdenkens ist, dass Reform möglich, aber langsam, unspektakulär und strukturell ausgerichtet ist. Es bedeutet, Anreizstrukturen zu ändern statt Führungskräfte zu feuern. Es bedeutet, Rückkopplungsschleifen neu zu gestalten statt wütende Briefe zu schreiben. Es bedeutet zu akzeptieren, dass das System, das man zu reparieren versucht, nicht kaputt ist; es tut genau das, was seine Struktur vorgibt, und wenn man andere Ergebnisse will, braucht man andere Strukturen. Das ist schwerer als einen Bösewicht zu identifizieren. Es ist auch der einzige Ansatz, der jemals tatsächlich funktioniert hat. Jede erfolgreiche systemische Reform in der Geschichte, von der Abschaffung der Kinderarbeit bis zur Einführung von Lebensmittelsicherheitsstandards, gelang nicht durch die Bestrafung schlechter Akteure, sondern durch die Änderung der Regeln, unter denen alle Akteure agieren.

Warum Systemdenken kein politisches Lager zufriedenstellt

POSIWID nimmt eine unbequeme Position im politischen Diskurs ein. Die Linke hört es und schlussfolgert, dass das System von Kapitalisten entworfen wurde. Die Rechte hört es und schlussfolgert, dass das System von Bürokraten entworfen wurde. Beide Seiten begehen denselben Fehler: emergente systemische Ergebnisse einem absichtlichen Design durch ihre bevorzugten Bösewichte zuzuschreiben. Die tatsächliche Position des Systemdenkens, dass komplexe Systeme Ergebnisse produzieren, die niemand entworfen hat und niemand vollständig kontrolliert, befriedigt kein politisches Lager, weil sie niemanden zum Beschuldigen anbietet.

Das ist, paradoxerweise, was sie nützlich macht. Ein Denkrahmen, der alle unbequem fühlen lässt, berührt wahrscheinlich etwas Reales. Verschwörungstheorien sind bequem, weil sie die Illusion der Ordnung bewahren: Jemand hat das Sagen, auch wenn dieser Jemand böse ist. Systemdenken nimmt diesen Trost. Niemand hat das Sagen. Die Ergebnisse, die Sie sehen, sind das Produkt Tausender interagierender Anreize, Pfadabhängigkeiten, Rückkopplungsschleifen und historischer Zufälle. Das System ist nicht kaputt. Das System ist der Bruch.

Stafford Beer starb 2002, vor den sozialen Medien, vor der vollen Entfaltung algorithmischer Inhaltskuratierung, bevor das amerikanische Gesundheitssystem 4 Billionen Dollar an jährlichen Ausgaben erreichte. Aber sein Rasiermesser ist nur schärfer geworden. Der Zweck eines Systems ist das, was es tut. Wenn Ihnen nicht gefällt, was es tut, haben Sie zwei Möglichkeiten: das System neu gestalten oder sich eine Geschichte über die Bösewichte erzählen, die es leiten. Eine dieser Optionen könnte tatsächlich etwas ändern. Die andere macht auf Dinnerpartys mehr Spaß.

Quellen

• Centers for Medicare and Medicaid Services, National Health Expenditure Data (Historical)
• Commonwealth Fund, „Mirror, Mirror 2024: A Portrait of the Failing U.S. Health System”
• Wall Street Journal, „Facebook Knows Instagram Is Toxic for Teen Girls, Company Documents Show” (2021)
• Eden Medina, „Cybernetic Revolutionaries: Technology and Politics in Allende’s Chile” (MIT Press, 2011)