Opinion.
Stafford Beer, el cibernético británico que dedicó su carrera a estudiar cómo se comportan realmente las organizaciones (en contraposición a lo que afirman sus declaraciones de misión), dejó tras de sí una navaja lo suficientemente afilada como para cortar la mayoría de los argumentos políticos de un solo tajo: «El propósito de un sistema es lo que hace.» (“The purpose of a system is what it does.”) No lo que dice que hace. No para lo que fue diseñado. No lo que promete el folleto. Lo que hace. Beer llamó a esto POSIWID'The Purpose Of a System Is What It Does' (el propósito de un sistema es lo que hace). Principio cibernético de Stafford Beer: el verdadero propósito de un sistema se mide por sus resultados consistentes, no por sus objetivos declarados ni las intenciones de sus diseñadores., y en las décadas transcurridas desde que acuñó el término, el principio se ha convertido en una de las ideas más útiles y más resistidas del pensamiento sistémico.
La resistencia es comprensible. POSIWID suena, para la mayoría, como una teoría conspirativa. Si el sistema de salud estadounidense produce quiebras médicas y peores resultados sanitarios que países que gastan la mitad per cápita, entonces POSIWID dice: ese es su propósito. Si las plataformas de redes sociales producen radicalización, ansiedad y polarización política, entonces esos resultados son para lo que el sistema sirve. El instinto es escuchar esto y concluir que alguien, en algún lugar, lo planeó así. Que una cábala oculta de ejecutivos de seguros se sentó en una sala y diseñó un sistema para arruinar a los pacientes con cáncer. Que Mark Zuckerberg quiso específicamente que las adolescentes desarrollaran trastornos alimentarios.
La verdadera lección del pensamiento sistémico es a la vez más simple y más perturbadora: nadie lo planeó. El sistema simplemente funciona así.
Lo que POSIWID realmente dice
Beer desarrolló POSIWID dentro del campo de la cibernética, el estudio de cómo los sistemas se autorregulan mediante bucles de retroalimentación. La observación central es que los sistemas complejos desarrollan comportamientos emergentes que ningún participante individual diseñó, pretendió, ni siquiera comprende necesariamente. El propósito declarado de un sistema (curar enfermos, educar niños, conectar personas) es irrelevante si el sistema produce consistentemente resultados diferentes. Los resultados son el propósito, porque el sistema está optimizado, a través de la iteración, las estructuras de incentivos y la dependencia de la trayectoria, para producir exactamente esos resultados.
Esto no es una metáfora. Cuando Beer dice que el propósito de un sistema es lo que hace, lo dice literalmente. Un sistema que ha funcionado durante décadas y produce consistentemente los mismos resultados es, por cualquier definición funcional, un sistema diseñado para producir esos resultados. El hecho de que ningún ser humano se sentara a redactar esas especificaciones es irrelevante. La evolución tampoco tiene diseñador, pero nadie sostiene que los guepardos sean rápidos por accidente.
El pensamiento sistémico a este nivel requiere abandonar la ficción cómoda de que las intenciones importan más que los resultados. En el razonamiento moral cotidiano, las intenciones tienen un peso enorme. Distinguimos entre asesinato y homicidio involuntarioCargo penal por causar la muerte mediante conducta imprudente o gravemente negligente, sin intención de matar — legalmente distinto del asesinato, que requiere intención de causar daño o muerte.. Perdonamos errores cometidos de buena fe. Pero los sistemas no son personas, y aplicar un razonamiento moral diseñado para individuos al comportamiento institucional produce análisis confusos. Un administrador hospitalario que genuinamente quiere ayudar a los pacientes pero dirige un sistema optimizado para códigos de facturación en vez de tiempos de recuperación no es un villano. Es un componente en una máquina cuya producción no controla.
La tentación conspirativa
Aquí es donde POSIWID colisiona con la psicología humana. Confrontado con un sistema que produce resultados terribles, el cerebro ofrece dos explicaciones. Opción uno: alguien poderoso está haciendo esto a propósito. Opción dos: nadie está al mando y el sistema emergió del peso acumulado de miles de decisiones individuales, ninguna de las cuales fue individualmente malintencionada, la mayoría de las cuales fueron localmente racionales, y que todas juntas producen algo que nadie habría elegido.
La opción uno es psicológicamente satisfactoria. Preserva la idea de que el mundo está ordenado, de que los resultados son producto de decisiones, y de que solucionar el problema es (conceptualmente, al menos) sencillo: encontrar a los malos y eliminarlos. La opción dos es genuinamente aterradora. Implica que el mundo está en gran medida fuera de control, que resultados catastróficos pueden emerger de comportamientos perfectamente normales, y que arreglar las cosas requiere rediseñar estructuras de incentivos completas en lugar de castigar a individuos específicos.
La mayoría elige la opción uno. No porque sean estúpidos. Es porque la detección de agentes, la tendencia a atribuir eventos a actores intencionales, es una de las características más profundamente cableadas del cerebro humano. Era adaptativo suponer que el crujido en los arbustos era un depredador y no el viento. Es desadaptativo suponer que el sistema de salud fue diseñado por depredadores y no por el viento.
Las teorías conspirativas son, en este marco, un mapa simplificado impuesto sobre un territorio complejo. Toman los resultados genuinamente observables de un sistema (la gente quiebra por facturas médicas, las redes sociales hacen infeliz a la gente, el sistema educativo produce graduados incapaces de pensar críticamente) y los atribuyen a un diseño deliberado por villanos identificables. El mapa parece correcto porque los resultados son reales. El error está en la atribución de agencia.
La navaja de Hanlon y sus límites
POSIWID tiene un primo bien conocido en la navaja de Hanlon: «Nunca atribuyas a la malicia lo que se explica adecuadamente por la estupidez.» (“Never attribute to malice that which is adequately explained by stupidity.”) Los dos principios riman pero difieren en un punto importante. La navaja de Hanlon trata sobre comportamiento individual, una heurística para interpretar por qué su colega envió ese correo o por qué el burócrata rechazó su solicitud. Supone un solo actor tomando una sola mala decisión. POSIWID opera a un nivel superior. No dice que los individuos en el sistema sean estúpidos (aunque algunos ciertamente lo son). Dice que el sistema mismo, como entidad emergente, produce resultados que ninguno de sus componentes individuales eligió.
Esta distinción importa porque cambia dónde se buscan las soluciones. La navaja de Hanlon sugiere mejor formación, mejores contrataciones, procesos más claros. POSIWID sugiere que nada de eso importará si la estructura de incentivos permanece inalterada. Puede reemplazar a cada empleado de un hospital por un experto brillante y compasivo, y si el modelo de pago sigue recompensando procedimientos sobre resultados, el sistema seguirá optimizando procedimientos sobre resultados. El propósito del sistema es lo que hace. Nuevas personas, misma máquina, misma producción.
Aquí es también donde el pensamiento sistémico se separa del cinismo. Un cínico dice «el sistema está roto». Un pensador sistémico dice «el sistema funciona perfectamente; simplemente no le gusta hacia qué funciona». No es la misma afirmación. La primera implica disfunción. La segunda implica función dirigida hacia algo distinto del objetivo declarado. La distinción es crucial porque se corrige la disfunción con reparaciones, pero se corrige la función mal dirigida con rediseño. Y el rediseño es órdenes de magnitud más difícil.
Tres sistemas, tres propósitos tácitos
Considere el sistema de salud estadounidense. El propósito declarado: mantener sana a la gente. El comportamiento observado: Estados Unidos gasta aproximadamente 4,5 billones de dólares anuales en atención sanitaria (alrededor del 17,6 % del PIB, según los Centers for Medicare and Medicaid Services) mientras se sitúa en el último lugar entre naciones comparables en resultados de salud, según las comparaciones internacionales recurrentes del Commonwealth Fund. El sistema produce confiablemente tratamientos caros, facturación compleja, medicina defensiva y gastos administrativos. Esos son sus productos. Según POSIWID, esos son sus propósitos.
Considere la educación pública. El propósito declarado: desarrollar pensamiento crítico, transmitir conocimiento, preparar ciudadanos. El comportamiento observado: regímenes de pruebas estandarizadas que incentivan enseñar para el examen, sistemas de certificación que recompensan la conformidad sobre la curiosidad, y una estructura que clasifica a los niños por edad en vez de por capacidad o interés. El sistema produce confiablemente personas que pueden seguir instrucciones y rellenar casillas. Según POSIWID, ese es su propósito. No es una conspiración de sindicatos de maestros ni de editoriales de libros de texto. Es lo que sucede cuando se construye un sistema para procesar millones de niños a través de un conducto estandarizado y se mide su éxito con métricas estandarizadas.
Considere las redes sociales. El propósito declarado: conectar personas. El comportamiento observado: clasificación algorítmica de contenido que maximiza el engagement, lo que en la práctica significa maximizar la excitación emocional, lo que en la práctica significa amplificar la indignación, el miedo y el conflicto tribal. La propia investigación interna de Meta, filtrada en 2021 por Frances Haugen, confirmó que la empresa sabía que Instagram era dañino para la salud mental de los adolescentes y que su algoritmo amplificaba el contenido divisivo. Los ingenieros que construyeron el sistema de recomendación no intentaban radicalizar a nadie. Intentaban mantener a la gente en la plataforma. La radicalización es una propiedad emergente, no una especificación de diseño. Pero según POSIWID, es el propósito.
Por qué no se puede golpear a la entropía
El problema más profundo del pensamiento sistémico, y la razón por la que la mayoría prefiere las teorías conspirativas, es que no ofrece un villano satisfactorio. No se puede marchar contra la entropía. No se puede votar para sacar la dependencia de trayectoria. No se puede presentar una demanda contra el comportamiento emergenteComportamiento que surge en un sistema complejo sin haber sido diseñado en ninguno de sus componentes individuales. El conjunto produce resultados que ninguna parte por sí sola podría generar — la evolución, los atascos y las crisis financieras son ejemplos.. Las herramientas de acción política que los humanos han desarrollado durante milenios (protesta, revolución, cambio de régimen, elecciones) están todas diseñadas para reemplazar un conjunto de tomadores de decisiones por otro. Asumen que el problema es quién dirige el sistema. El pensamiento sistémico dice que el problema es el sistema mismo, y que reemplazar a las personas dentro de él no cambiará sus producciones fundamentales.
Esto es psicológicamente insoportable para la mayoría, y comprensiblemente. Se siente como indefensión aprendida. Si el sistema es el problema y el sistema es demasiado complejo para que un individuo lo rediseñe, entonces ¿qué se supone que hay que hacer? El propio Beer trabajó en esta pregunta durante décadas, más célebremente durante su Proyecto Cybersyn en el Chile de Salvador Allende, un intento de usar retroalimentación cibernética en tiempo real para gestionar toda una economía nacional. El proyecto fue destruido por el golpe de Estado de 1973 antes de poder ser plenamente probado, lo que es o una tragedia para el pensamiento sistémico o una excusa conveniente, dependiendo de su nivel de optimismo.
La respuesta honesta del pensamiento sistémico es que la reforma es posible pero lenta, poco glamurosa y estructuralmente enfocada. Significa cambiar estructuras de incentivos en vez de despedir ejecutivos. Significa rediseñar bucles de retroalimentación en vez de escribir cartas airadas. Significa aceptar que el sistema que se intenta arreglar no está roto; hace exactamente lo que su estructura dicta, y si se quieren resultados diferentes, se necesitan estructuras diferentes. Es más difícil que identificar un villano. También es el único enfoque que ha funcionado alguna vez. Cada reforma sistémica exitosa en la historia, desde la abolición del trabajo infantil hasta el establecimiento de normas de seguridad alimentaria, tuvo éxito no castigando a los malos actores sino cambiando las reglas bajo las que todos los actores operan.
Por qué el pensamiento sistémico no satisface a ningún bando
POSIWID ocupa una posición incómoda en el discurso político. La izquierda lo escucha y concluye que el sistema fue diseñado por los capitalistas. La derecha lo escucha y concluye que el sistema fue diseñado por los burócratas. Ambos lados cometen el mismo error: atribuir resultados sistémicos emergentes a un diseño intencional por sus villanos preferidos. La posición real del pensamiento sistémico, que los sistemas complejos producen resultados que nadie diseñó y nadie controla plenamente, no satisface a ningún bando político porque no ofrece a nadie a quien culpar.
Esto es, paradójicamente, lo que lo hace útil. Un marco conceptual que incomoda a todos probablemente está tocando algo real. Las teorías conspirativas son cómodas porque preservan la ilusión de orden: alguien está al mando, aunque ese alguien sea malvado. El pensamiento sistémico elimina ese consuelo. Nadie está al mando. Los resultados que se observan son el producto de miles de incentivos interactuantes, dependencias de trayectoria, bucles de retroalimentación y accidentes históricos. El sistema no está roto. El sistema es la rotura.
Stafford Beer murió en 2002, antes de las redes sociales, antes del pleno florecimiento de la curación algorítmica de contenido, antes de que el sistema de salud estadounidense alcanzara los 4 billones de dólares en gasto anual. Pero su navaja solo se ha afilado más. El propósito de un sistema es lo que hace. Si no le gusta lo que hace, tiene dos opciones: rediseñar el sistema, o contarse una historia sobre los villanos que lo dirigen. Una de esas opciones podría realmente cambiar algo. La otra es más divertida en las cenas.
Fuentes
- Centers for Medicare and Medicaid Services, National Health Expenditure Data (Historical)
- Commonwealth Fund, «Mirror, Mirror 2024: A Portrait of the Failing U.S. Health System»
- Wall Street Journal, «Facebook Knows Instagram Is Toxic for Teen Girls, Company Documents Show» (2021)
- Eden Medina, «Cybernetic Revolutionaries: Technology and Politics in Allende’s Chile» (MIT Press, 2011)
