Meinung.
Alfred Korzybski sagte es 1931: Die Karte ist nicht das Gebiet. Fast ein Jahrhundert später haben wir Karten im Zivilisationsmaßstab gebaut und die Fähigkeit verloren, das Gebiet dahinter zu sehen. Jedes Informationssystem, mit dem Sie interagieren, von einem Wikipedia-Artikel über eine BIP-Prognose bis zum Wort „Gluten”, ist eine verlustbehaftete Kompression von etwas Komplizierterem, als das Etikett vermuten lässt. Das Karte-Gebiet-Problem ist keine philosophische Kuriosität mehr. Es ist der zentrale Fehlermodus unserer Informationsverarbeitung.
Verlustbehaftete Kompression ist kein Fehler
Alle Modelle komprimieren. Das ist keine Kritik, es ist eine Definition. Ein statistisches Modell nimmt tausend Variablen und reduziert sie auf einen Koeffizienten. Ein neuronales Netz nimmt eine Milliarde Parameter und reduziert menschliche Sprache auf Wahrscheinlichkeitsverteilungen über Tokens. Ein Wikipedia-Artikel nimmt Jahrzehnte der Forschung und verdichtet sie zu einigen tausend Wörtern mit blauen Links. Sprache selbst nimmt das kontinuierliche, verworrene Durcheinander der Realität und zerteilt es in diskrete Kategorien mit sauberen Grenzen.
Kompression ist nützlich. Man kann sich nicht mit einer Karte im Maßstab 1:1 durch eine Stadt bewegen. Das Problem beginnt, wenn die Kompression unsichtbar wird, wenn die Karte-Gebiet-Lücke aus dem Bewusstsein verschwindet und das Modell sich anfühlt wie die Sache, die es repräsentiert.
KI-Konfidenz: Wenn Zahlen sich wie Gewissheit anfühlen
Ein maschineller Lernklassifikator sagt Ihnen, es bestehe eine Wahrscheinlichkeit von 0,97, dass ein Bild eine Katze enthält. Diese Zahl fühlt sich wie nahezu sichere Gewissheit an. Das ist sie nicht. Sie ist ein Maß dafür, wie gut die gelernten Muster des Modells mit der Eingabe übereinstimmen, berechnet relativ zur Trainingsverteilung. Sie sagt Ihnen nichts darüber, ob das Modell jemals etwas Ähnliches wie dieses bestimmte Bild gesehen hat. Sie sagt Ihnen nichts darüber, was es mit einer für Ihre Augen unsichtbaren adversarialen Störung tun würde. Die 0,97 ist ein Karte-Gebiet-Artefakt: eine Zahl, die wie Konfidenz aussieht, aber etwas weit Engeres misst als das, was wir intuitiv unter „sicher” verstehen.
Das ist wichtig, weil Systeme, die auf diesen Scores aufgebaut sind, reale Entscheidungen treffen. Kreditbewertungsmodelle geben eine Zahl aus, und diese Zahl bestimmt, ob jemand eine Hypothek bekommt. Rückfallmodelle geben eine Wahrscheinlichkeit aus, und diese Wahrscheinlichkeit beeinflusst die Strafzumessung. Die Menschen, die nachgelagert mit diesen Systemen arbeiten, behandeln die Ausgabe als Messung der Realität. Das ist sie nicht. Sie ist eine Messung des internen Zustands des Modells, der selbst eine verlustbehaftete Kompression eines Trainingsdatensatzes ist, der wiederum eine verlustbehaftete Kompression der Welt ist. Jede Kompressionsschicht führt Verzerrungen ein, die die endgültige Zahl nicht ausdrücken kann.
Die Kalibrierungsforschung von Guo et al. (2017) zeigte, dass moderne neuronale Netze trotz ihrer Genauigkeit schlecht kalibriert sind, was bedeutet, dass ihre Konfidenzwerte nicht zuverlässig den tatsächlichen Korrektheitswahrscheinlichkeiten entsprechen. Ein Modell, das 0,97 anzeigt, könnte bei diesem Konfidenzniveau nur in 85 % der Fälle richtig liegen. Die Karte-Gebiet-Unterscheidung ist hier nicht abstrakt. Sie ist die Lücke zwischen dem, was die Zahl sagt, und dem, was die Zahl bedeutet.
Wikipedia: Wenn Zusammenfassungen sich wie Wahrheit anfühlen
Wikipedia ist eines der beeindruckendsten kollaborativen Wissensprojekte der Geschichte. Es ist zugleich, ganz bewusst, eine Kompressionsmaschine. Jede redaktionelle Entscheidung darüber, was aufgenommen wird, was weggelassen wird, welche Formulierung verwendet wird und welche Quellen bevorzugt werden, ist eine verlustbehaftete Operation. Das Ergebnis ist ein Artikel, der mit der Autorität eines Lexikoneintrags gelesen wird, während er notwendigerweise die Voreingenommenheiten, die Verfügbarkeit und die redaktionellen Interessen seiner Beitragenden widerspiegelt.
Die Karte-Gebiet-Verwechslung bei Wikipedia funktioniert auf einer bestimmten Ebene: Menschen behandeln es als Primärquelle, obwohl es bestenfalls eine sekundäre Synthese ist. Ein Wikipedia-Artikel über ein historisches Ereignis sagt Ihnen nicht, was geschehen ist; er sagt Ihnen, was Wikipedias redaktioneller Prozess hervorgebracht hat, gegeben die Quellen, die seine Redakteure gefunden haben, gewichtet nach der Energie und Ausdauer derjenigen, die sich die Mühe machten, die Seite zu bearbeiten. Bei kontroversen Themen spiegelt der Artikel nicht den Stand des Wissens wider, sondern das Ergebnis von Bearbeitungskriegen.
Das ist wichtig, weil Wikipedia zur faktischen Hintergrundwissensschicht des Internets geworden ist. Große Sprachmodelle trainieren darauf. Googles Wissensboxen speisen sich daraus. Studierende zitieren es (oder zitieren seine Quellen, was auf dieselbe Abhängigkeit hinausläuft). Wenn ein Wikipedia-Artikel einen Fehler oder eine eigenwillige redaktionelle Entscheidung enthält, pflanzt sich diese Verzerrung durch jedes System fort, das Wikipedia als Grundwahrheit behandelt. Die Karte versagt nicht nur darin, das Gebiet abzubilden; sie formt aktiv um, wie Menschen das Gebiet wahrnehmen. Wie unsere Analyse darüber, wie Denkmuster die Wahrnehmung filtern, untersucht hat, wird die Linse zur Landschaft.
Ökonomische Modelle: Wenn Projektionen sich wie Vorhersagen anfühlen
Zentralbanken veröffentlichen BIP-Wachstumsprognosen. Die Märkte reagieren darauf, als wären es Vorhersagen. Es sind keine Vorhersagen. Es sind die Ergebnisse von Modellen, die davon ausgehen, dass bestimmte strukturelle Zusammenhänge bestehen bleiben, dass historische Korrelationen fortbestehen und dass sich die nicht im Modell enthaltenen Variablen ungefähr so verhalten werden wie bisher. Jedes ökonomische Modell ist, ausdrücklich, eine Vereinfachung, die „ceteris paribus” gilt. Die Wirtschaft hält aber niemals alles andere gleich.
Die Projektionen des World Economic Outlook des Internationalen Währungsfonds wurden auf systematische Verzerrungen hin untersucht: Sie unterschätzen konsequent die Schwere von Rezessionen und überschätzen die Geschwindigkeit der Erholung. Das liegt nicht daran, dass der IWF schlechte Ökonomen beschäftigt. Es liegt daran, dass die Modelle Kompressionen sind, die unter normalen Bedingungen gut funktionieren und genau dann versagen, wenn man sie am dringendsten braucht: bei Strukturbrüchen, Extremereignissen und Regimewechseln. Die Karte-Gebiet-Lücke in der Ökonomie ist genau dann am größten, wenn am meisten auf dem Spiel steht.
Das Konfidenzintervall einer Wirtschaftsprognose ist selbst eine Karte-Gebiet-Illusion. Es zeigt Ihnen die Bandbreite der Ergebnisse, die das Modell für plausibel hält, gegeben seine Annahmen. Es kann die Szenarien nicht berücksichtigen, die seine Annahmen ausschließen, also genau die Szenarien, die alle überraschen.
Sprachliche Kategorien: Wenn Wörter sich wie natürliche Grenzen anfühlen
Dies ist vielleicht die tiefgreifendste Ausprägung des Karte-Gebiet-Problems, denn Sprache ist die Karte, mit der wir denken. Jedes Substantiv zieht eine Grenze. Jede Kategorie impliziert, dass die Dinge in ihr etwas Wesentliches teilen, das den Dingen außerhalb fehlt. Manchmal stimmt das. Oft stimmt es nicht.
Nehmen wir „Gluten”. Das Wort suggeriert eine einzelne Substanz, und die Diätindustrie hat ein Imperium auf seiner Vermeidung aufgebaut. Doch der tatsächliche Mechanismus der Zöliakie involviert Prolamine, eine Klasse von Speicherproteinen, die in unterschiedlichen Formen in verschiedenen Getreidesorten vorkommen. Weizenprolamine (Gliadine) lösen Zöliakiereaktionen aus. Reisprolamine tun dies in der Regel nicht. Quinoaprolamine besetzen eine tatsächlich unsichere Grauzone, wobei einige Studien eine potenzielle Immunreaktivität bei einer Untergruppe von Zöliakiepatienten nahelegen. Das Wort „Gluten” komprimiert diese biochemische Vielfalt in eine einzige Kategorie, und „glutenfrei” komprimiert die Lösung in ein binäres Etikett. Die Karte-Gebiet-Lücke hat hier praktische gesundheitliche Folgen: Menschen meiden Weizen und essen Quinoa in der Annahme, das binäre Etikett erfasse die zugrunde liegende Biologie. Das Etikett ist eine verlustbehaftete Kompression einer komplexen immunologischen Realität.
Sprache tut dies überall. „Depression” umfasst ein Spektrum neurologischer Zustände mit unterschiedlichen Mechanismen und unterschiedlichen Therapieantworten. „Demokratie” umfasst so verschiedene Systeme wie die schweizerische direkte Demokratie und russische gelenkte Wahlen. „KI” umfasst alles von einer linearen Regression bis zu einem großen Sprachmodell. Jedes Wort ist eine Grenze, die auf einer kontinuierlichen Landschaft gezogen wird, und jede Grenze macht bestimmte Fragen leicht zu stellen und andere nahezu unsichtbar.
Die Karte-Gebiet-Disziplin
Korzybskis Einsicht war nicht, dass Karten schlecht sind. Sie war, dass die Verwechslung der Karte mit dem Gebiet die Quelle einer spezifischen, identifizierbaren Fehlerklasse ist. Die Disziplin, die er vorschlug, war im Prinzip einfach: das Bewusstsein der Abstraktion aufrechterhalten. Wissen, dass man ein Modell benutzt. Wissen, was es komprimiert. Wissen, wo es wahrscheinlich versagt.
In der Praxis bedeutet das, eine Reihe von Fragen zu stellen, für deren Beantwortung die meisten Informationssysteme nicht ausgelegt sind. Wenn eine KI Ihnen einen Konfidenzwert gibt: Konfidenz worin genau, kalibriert gegen welche Verteilung? Wenn Wikipedia Ihnen etwas sagt: welche Redakteure, auf Basis welcher Quellen, mit welchen redaktionellen Anreizen? Wenn ein ökonomisches Modell Wachstum projiziert: unter welchen Annahmen, und was passiert, wenn diese Annahmen nicht mehr gelten? Wenn ein Wort etwas kategorisiert: was schließt diese Grenze fälschlicherweise ein, und was schließt sie aus, das relevant ist?
Das sind keine bequemen Fragen. Sie machen Entscheidungen langsamer und unsicherer. Aber die Alternative ist, nach Karten zu navigieren, die genau deshalb autoritativ wirken, weil sie die Spuren ihrer eigenen Kompression getilgt haben. Das ist keine Effizienz. Das ist die Art von Zuversicht, die zerbricht, wenn die Realität aufhört, ins Modell zu passen, was sie früher oder später unweigerlich tut.
Quellen
- Korzybski, Alfred. “A Non-Aristotelian System and its Necessity for Rigour in Mathematics and Physics.” Science and Sanity, 1933. The original formulation of the map territory distinction in general semantics.
- Guo, Chuan, et al. “On Calibration of Modern Neural Networks.” Proceedings of the 34th International Conference on Machine Learning, 2017. Demonstrates that modern deep neural networks are poorly calibrated despite high accuracy.
- International Monetary Fund. “World Economic Outlook.” Recurring publication. See independent evaluations of IMF forecast accuracy, including the IMF’s own Independent Evaluation Office reports on forecast bias during crises.
