Política de contenidos de la IA: ¿quién decide lo que su chatbot no puede decir?

Cómo se integra la política de contenidos de la IA en los modelos

Antes de que un chatbot llegue a usted, pasa por un proceso llamado aprendizaje por refuerzo a partir de retroalimentación humana, o RLHFUn proceso de aprendizaje automático donde los modelos de IA aprenden de la retroalimentación humana sobre sus salidas, enseñándoles qué respuestas priorizar o rechazar. (reinforcement learning from human feedback). La versión corta: los humanos valoran las respuestas del modelo (« esta respuesta es mejor que aquella »), y el modelo aprende a producir más de lo que los evaluadores prefirieron.

Piénselo como adiestrar a un perro, excepto que el perro es un modelo estadístico con cientos de miles de millones de parámetros y los premios son señales de recompensa numéricas. El perro aprende a sentarse no porque comprenda el sentarse, sino porque sentarse produce premios. De manera similar, el modelo aprende a rechazar ciertas solicitudes no porque comprenda el daño, sino porque el rechazo fue recompensado durante el entrenamiento.

Esto importa porque la política de contenidos no es un filtro que se sienta sobre un modelo neutro. Está tejida en los pesos del modelo. El modelo no « conoce » la respuesta y elige retenerla (principalmente). Ha sido moldeado de modo que ciertos patrones de respuesta son estadísticamente más probables que otros. La política no es un guardián; es la arquitectura misma.

Anthropic, que construye Claude, adopta un enfoque algo diferente llamado IA ConstitucionalUn método para entrenar modelos de IA mediante un conjunto escrito de principios explícitos, en el que el modelo critica sus propias respuestas en lugar de depender únicamente de evaluadores humanos. (Constitutional AI). En lugar de depender enteramente de evaluadores humanos, le dan al modelo un conjunto de principios escritos (una « constitución ») y hacen que el modelo critique y revise sus propias respuestas según esos principios. En enero de 2026, Anthropic publicó una constitución ampliada de 80 páginas que prioriza la seguridad, la ética, el cumplimiento normativo y la utilidad, en ese orden. Es el documento público más detallado que cualquier gran empresa de IA haya publicado sobre lo que se supone que su modelo debe valorar y por qué.

OpenAI publica lo que denomina el Model Spec, un sistema jerarquizado donde las reglas del propio OpenAI se sitúan en la cima, seguidas de las instrucciones de los desarrolladores y luego las solicitudes de los usuarios. Ciertas categorías de contenido (material de abuso sexual infantil, instrucciones de síntesis de armas biológicas) son rechazos absolutos que ninguna instrucción puede anular. Otros son contextuales: el modelo evita las palabrotas por defecto, pero un desarrollador que construye una herramienta de escritura creativa puede relajar esa restricción.

Google ha sido menos transparente sobre el libro de reglas interno de Gemini, aunque su comportamiento revela un modelado de contenido extenso. La controversia de generación de imágenes de febrero de 2024, donde Gemini producía representaciones racialmente diversas de figuras históricamente blancas como los Padres Fundadores estadounidenses y se negaba a generar imágenes de personas blancas en algunos contextos, reveló que Google había integrado instrucciones de diversidad directamente en la tubería de procesamiento del modelo sin divulgarlo a los usuarios.

Las personas detrás de las reglas

En algún lugar entre el documento de política corporativa y el comportamiento del modelo, hay seres humanos haciendo el trabajo real de enseñarle al modelo qué es aceptable. Se llaman anotadores, etiquetadores de datos o evaluadores, y la mayoría de ellos no están en Silicon Valley.

En enero de 2023, TIME informó que OpenAI había contratado a Sama, una empresa con sede en San Francisco con operaciones en Nairobi, para etiquetar datos de entrenamiento. Los trabajadores ganaban entre aproximadamente 1,32 y 2 dólares por hora. Su trabajo consistía en leer y categorizar textos que describían abusos sexuales, discurso de odio, violencia y otros contenidos dañinos para que el modelo pudiera aprender a evitar generar material similar. Los trabajadores describieron haber quedado psicológicamente marcados por el contenido. Sama canceló el contrato ocho meses antes de tiempo.

Este no es un caso aislado. Un análisis de la Brookings Institution documentó un patrón más amplio: el trabajo de datos de IA se subcontrata desproporcionadamente al Sur Global, donde los trabajadores enfrentan salarios bajos, daño psicológico y protecciones legales mínimas. La subsidiaria Remotasks de Scale AI opera de manera similar en Kenia, con trabajadores que inicialmente no sabían a qué grandes empresas tecnológicas servía en última instancia su trabajo.

La implicación es sencilla pero importante: las personas que deciden qué cuenta como dañino, qué cuenta como aceptable y dónde cae la línea entre ellos son a menudo trabajadores jóvenes en países en desarrollo, siguiendo directrices de anotación redactadas por equipos de política en Estados Unidos, evaluando contenido según normas culturales que pueden o no compartir con los futuros usuarios del modelo.

La política de contenidos de la IA y el problema de la transparencia

Aquí está la analogía que aclara lo que está en juego: imaginen que Google Search tuviera una lista de consultas para las que no mostraría resultados, pero no les diría cuáles están en esa lista. Escribirían su pregunta, no obtendrían resultados y no tendrían forma de saber si su pregunta estaba prohibida, si los resultados simplemente no existían o si algo más salió mal.

Los chatbots de IA están funcionalmente en esta posición. Cuando un modelo se niega a tratar un tema, el usuario a menudo no puede saber si el rechazo refleja una política estricta, un valor predeterminado excesivamente cauteloso, un artefacto de entrenamiento o un peligro de contenido genuino. El mensaje de rechazo suele ser el mismo independientemente del motivo: una declaración cortés de que el modelo no puede ayudar con esa solicitud.

Investigadores del proyecto Future of Free Speech (futuro de la libertad de expresión) de la Universidad de Vanderbilt probaron 140 preguntas sobre temas controvertidos en los principales chatbots y encontraron rechazos aproximadamente el 40 % de las veces. Los rechazos fueron notablemente asimétricos: todos los chatbots probados se negaron a generar publicaciones que se opusieran a la participación de mujeres transgénero en el deporte femenino, mientras que la mayoría sí generaría publicaciones que apoyaran dicha participación. El argumento de los investigadores no era que una posición sea correcta, sino que los chatbots estaban aplicando una posición política sin divulgarla.

La constitución publicada de Anthropic es lo más cerca que una empresa ha estado de la transparencia total, y aun así es incompleta. La constitución describe valores y prioridades, pero no cada decisión específica que tomará el modelo. El Model Spec de OpenAI es igualmente público pero igualmente abstracto. Google ha publicado menos sobre las reglas internas de Gemini.

El problema de la ventana de OvertonEl rango de ideas consideradas aceptables en el debate público en un momento dado. Las ideas fuera de esta ventana se perciben como social o políticamente inaceptables.

La ventana de Overton (Overton window) es un concepto de la ciencia política: el rango de ideas consideradas aceptables para el debate público en un momento dado. Las ideas fuera de esta ventana no son necesariamente incorrectas; simplemente son socialmente incómodas hasta el punto de que la mayoría de las personas no las expresarán públicamente.

Los modelos de IA entrenados en el discurso « aceptable » heredan esta ventana y en algunos casos la estrechan aún más. Si se instruye a los anotadores para que marquen contenido « ofensivo » o « controvertido », inevitablemente marcarán contenido que simplemente es impopular, pasado de moda o culturalmente específico. El modelo entonces aprende a evitar ese contenido, no porque sea dañino, sino porque incomodó a un evaluador.

Esto crea un problema específico para el uso académico e intelectual. Un politólogo que estudia el extremismo necesita que el modelo se comprometa con argumentos extremistas, no que se niegue a discutirlos. Un investigador médico que estudia el suicidio necesita que el modelo procese datos clínicos, no que redirija a una línea de ayuda. Un historiador que estudia la propaganda necesita que el modelo analice las técnicas de propaganda, no que trate cada mención como un respaldo.

El incidente de generación de imágenes de Gemini ilustra esta dinámica a escala. Las instrucciones internas de Google para aumentar la diversidad en las imágenes generadas eran un objetivo razonable (no representar por defecto a todas las personas como blancas) aplicado sin matices (tampoco representar a los personajes históricos tal y como eran realmente). El modelo no podía distinguir entre « genera un grupo diverso de ingenieros de software modernos » y « genera una imagen del Congreso Continental de 1776 ». La política de contenidos, pensada para prevenir un tipo de daño, creó un tipo diferente de absurdo.

DeepSeek, el modelo de IA chino, representa la versión extrema de este problema. Cuando se le pregunta sobre las protestas de la plaza de Tiananmen de 1989, DeepSeek comienza a generar una respuesta y luego se autocensura, borrando su propio texto y reemplazándolo por « Lo siento, eso está más allá de mi alcance actual ». El modelo claramente tiene acceso a la información. Ha sido entrenado para suprimirla. Esto es política de contenidos como censura estatal, y aunque las empresas occidentales se opondrían con razón a la comparación, el mecanismo es idéntico: decisiones humanas, codificadas en los pesos del modelo, que determinan de qué hablará y de qué no hablará el modelo.

¿Cómo sería realmente la transparencia?

Ninguna persona seria argumenta que los modelos de IA deberían tener cero restricciones de contenido. Las categorías absolutas (material de abuso sexual infantil, síntesis de armas biológicas) no son controvertidas, y las empresas que se niegan a generar dicho material están haciendo lo evidentemente correcto.

El problema es todo lo que hay en medio. La enorme zona gris de temas sensibles, disputados, culturalmente específicos o políticamente cargados, donde personas razonables no se ponen de acuerdo sobre dónde debería estar la línea. Para esta zona gris, el enfoque actual de reglas no divulgadas, procesos de entrenamiento opacos y mensajes de rechazo idénticos independientemente del motivo no es adecuado.

Un estándar de transparencia significativo incluiría: publicar las directrices de anotación que usan los evaluadores (no solo la constitución de alto nivel, sino los criterios específicos), divulgar cuándo un rechazo se basa en una política estricta frente a un valor predeterminado flexible, permitir a los usuarios entender por qué se rechazó una solicitud específica, y someter las políticas de contenido a revisión independiente.

Ninguna de las grandes empresas hace todo esto. Anthropic hace más. OpenAI hace algo. Google hace menos. Y ninguna de ellas se enfrenta a ninguna obligación regulatoria de hacer más, porque ninguna jurisdicción ha establecido estándares de transparencia para la política de contenidos de la IA.

La Ley de IA de la UE, que entró en vigor en 2025, aborda los sistemas de IA de alto riesgo y los modelos de IA de uso general, pero sus requisitos de transparencia se centran en la documentación técnica y la evaluación de capacidades, no en las decisiones de contenido específicas para las que se entrenan los modelos. La brecha es significativa: ahora regulamos cuán potente puede ser un modelo, pero no qué se le ha enseñado silenciosamente a suprimir.

La tubería RLHFUn proceso de aprendizaje automático donde los modelos de IA aprenden de la retroalimentación humana sobre sus salidas, enseñándoles qué respuestas priorizar o rechazar.: del preentrenamiento a la alineación

Para entender la política de contenidos de la IA, hay que entender la tubería de entrenamiento, porque la política no se aplica al modelo; es el modelo.

Los grandes modelos de lenguaje comienzan con el preentrenamiento: ingieren vastos corpus textuales y aprenden a predecir el siguiente token. En esta fase, el modelo no tiene valores, ni preferencias, ni política de contenidos. Es una compresión de sus datos de entrenamiento, capaz de generar cualquier cosa que contenga esa distribución, incluido material dañino, ofensivo y factualmente incorrecto.

El proceso de alineación transforma esta capacidad bruta en algo que las empresas están dispuestas a lanzar al mercado. El método dominante es el RLHF, introducido en el artículo de InstructGPT de Ouyang et al. (2022). El proceso tiene tres fases:

1. Ajuste finoEntrenamiento adicional de un modelo de IA preentrenado en datos específicos para adaptar su comportamiento a un propósito particular o tarea especializada. supervisado (SFT): Demostradores humanos escriben respuestas ideales a preguntas. El modelo aprende a imitar este estilo de respuesta en lugar de la predicción bruta del siguiente token.

2. Entrenamiento del modelo de recompensaUn modelo de aprendizaje automático entrenado con retroalimentación humana que aprende a predecir qué resultados los humanos calificarán como útiles, inofensivos u honestos. Se utiliza para guiar sistemas de IA hacia el comportamiento deseado.: Los anotadores comparan pares de respuestas del modelo e indican cuál es mejor. Estas comparaciones entrenan un « modelo de recompensa » separado que asigna una puntuación numérica a cualquier respuesta dada. El modelo de recompensa codifica las preferencias de los anotadores, incluyendo sus sesgos implícitos, supuestos culturales e interpretación de las directrices de anotación que se les proporcionaron.

3. Optimización de la política: El modelo de lenguajeSistema de aprendizaje automático entrenado en grandes cantidades de texto que predice y genera lenguaje humano. Estos sistemas como GPT y Claude muestran capacidades sorprendentes pero también cometen errores con confianza aparente. se ajusta con optimización de política proximal (PPO, proximal policy optimisation) o algoritmos similares para maximizar la puntuación del modelo de recompensa. El modelo aprende a producir respuestas que el modelo de recompensa valora alto, es decir, respuestas que habrían complacido a los anotadores.

La política de contenidos aparece en cada fase. Las demostraciones SFT modelan el comportamiento aceptable. Las comparaciones del modelo de recompensa codifican lo que los anotadores consideran mejor (lo que incluye más seguro, menos ofensivo, más alineado con las directrices). La optimización PPO empuja al modelo hacia estas preferencias codificadas. Para cuando el modelo se despliega, la política de contenidos no es una capa separada; está distribuida a través de los parámetros del modelo.

La optimización directa de preferencias (DPO, Direct Preference Optimisation), una alternativa que gana terreno desde 2023, omite el modelo de recompensa explícito y optimiza directamente el modelo de lenguaje en pares de preferencias. El resultado es similar: los juicios humanos sobre qué es mejor se convierten en parte del comportamiento del modelo. Las implicaciones para la política son idénticas.

IA ConstitucionalUn método para entrenar modelos de IA mediante un conjunto escrito de principios explícitos, en el que el modelo critica sus propias respuestas en lugar de depender únicamente de evaluadores humanos.: la arquitectura alternativa de Anthropic

La IA Constitucional (CAI, Constitutional AI) de Anthropic modifica esta tubería de manera significativa. En lugar de depender únicamente de anotadores humanos para la señal de preferencia, la CAI utiliza un proceso en dos fases:

Fase 1 (Crítica y revisión): El modelo genera una respuesta, luego se le pide que critique esa respuesta frente a un conjunto de principios escritos (la « constitución »). Luego revisa su respuesta basándose en su propia crítica. Esto produce datos de entrenamiento mejorados sin requerir anotadores humanos para cada ejemplo.

Fase 2 (RL a partir de retroalimentación de IA): En lugar de entrenar el modelo de recompensa en comparaciones humanas, la propia IA evalúa cuál de dos respuestas se adhiere mejor a la constitución. Este paso RLAIF (reinforcement learning from AI feedback) reduce la dependencia de los anotadores humanos, aunque la supervisión humana permanece en el diseño de la constitución y en el red-teaming.

En enero de 2026, Anthropic publicó una constitución significativamente ampliada. El documento establece una jerarquía de prioridades de cuatro niveles: seguridad (mantener la supervisión humana de la IA), ética (demostrar buenos valores), cumplimiento (seguir las directrices de Anthropic) y utilidad (asistir genuinamente a los usuarios). La constitución completa tiene aproximadamente 80 páginas y representa el documento de alineación pública más detallado que cualquier gran laboratorio haya publicado.

La diferencia arquitectónica clave: en el RLHF estándar, la política de contenidos es implícita en las preferencias de los anotadores. En la CAI, la política de contenidos es explícita en la constitución. Esto la hace más auditable, más consistente y más transparente, aunque no elimina el problema de quién escribe la constitución y cuyos valores codifica.

La cadena de suministro de la anotación

La tubería RLHF estándar requiere enormes volúmenes de juicio humano. Alguien debe evaluar miles de pares de respuestas, etiquetar contenido dañino y evaluar casos límite. La economía de este trabajo ha creado una cadena de suministro global que la mayoría de los usuarios nunca ve.

La investigación de TIME de 2023 documentó que el contrato de OpenAI con Sama involucraba a aproximadamente tres docenas de trabajadores en Nairobi, divididos en equipos centrados en el abuso sexual, el discurso de odio y la violencia respectivamente. Los trabajadores leían y etiquetaban entre 150 y 250 pasajes por turno de nueve horas con salarios de entre 1,32 y 2 dólares por hora. El costo psicológico fue suficientemente grave como para que Sama rescindiera el contrato ocho meses antes de su fin previsto.

Este no es un arreglo aislado. La investigación de la Brookings Institution sobre el trabajo de datos de IA en el Sur Global documenta un patrón estructural: el trabajo cognitivo que moldea el comportamiento de la IA se subcontrata sistemáticamente a regiones donde los costes laborales son más bajos y las protecciones de los trabajadores son más débiles. La plataforma Remotasks de Scale AI opera en Kenia, Filipinas y otros países, con trabajadores que en algunos casos inicialmente no sabían a qué empresas servía su trabajo de etiquetado.

Las directrices de anotación que siguen estos trabajadores son la traducción operativa de la política de contenidos de una empresa. Especifican qué es dañino, ofensivo o inaceptable. Pero las directrices de anotación son documentos corporativos, no públicos. Ninguna gran empresa de IA ha publicado sus rúbricas de anotación completas. Conocemos los principios (de documentos como el Model Spec de OpenAI y la constitución de Anthropic). No conocemos las instrucciones específicas dadas a la persona en Nairobi que decide si una respuesta particular sobre un tema políticamente sensible debe evaluarse como dañina.

Esto importa porque el modelo de recompensa, y por lo tanto el comportamiento del modelo desplegado, refleja los juicios agregados de estos trabajadores. Si las directrices de anotación son culturalmente específicas (redactadas por equipos de política estadounidenses, reflejando normas discursivas estadounidenses), el comportamiento del modelo resultante incorporará esos supuestos culturales globalmente. Una pregunta que es inofensiva en una cultura puede desencadenar un rechazo porque se parece a algo que fue marcado como dañino en el contexto de anotación.

La jerarquía del Model Spec y sus lagunas

El Model Spec de OpenAI (revisión de diciembre de 2025) establece una jerarquía de instrucciones de cinco niveles: raíz (reglas inviolables de OpenAI), sistema (reglas de OpenAI que pueden variar según el contexto), desarrollador (instrucciones de clientes de la API), usuario (solicitudes de usuarios finales) y directriz (valores predeterminados que pueden anularse implícitamente).

Las restricciones de contenido se categorizan como:

• Prohibido (nunca generado bajo ninguna circunstancia): material de abuso sexual infantil, instrucciones operativas específicas para armas QBRN (químicas, biológicas, radiológicas y nucleares)
• Restringido (no generado excepto como transformación de contenido proporcionado por el usuario): información detallada que permita actividades ilícitas, manipulación política dirigida, datos personales privados
• Sensible (permitido en contextos educativos, médicos o creativos): contenido erótico, violencia gráfica, contenido extremista, contenido odioso

Este marco es más detallado que cualquier cosa que Google haya publicado para Gemini. Pero tiene una laguna significativa: la categoría « sensible » depende del contexto, y el modelo debe inferir el contexto de la conversación. Un profesional médico que pregunta sobre interacciones de medicamentos y un adolescente que hace la misma pregunta deberían, en teoría, recibir respuestas diferentes. En la práctica, el modelo a menudo no puede distinguir estos contextos de manera fiable y opta por la interpretación más restrictiva por defecto.

La ventana de OvertonEl rango de ideas consideradas aceptables en el debate público en un momento dado. Las ideas fuera de esta ventana se perciben como social o políticamente inaceptables. como artefacto de entrenamiento

La ventana de Overton, el rango de ideas consideradas aceptables en el discurso dominante, no es una ley natural. Cambia con el tiempo, varía entre culturas y se disputa activamente. Cuando los anotadores evalúan las respuestas de los modelos, sus juicios inevitablemente reflejan dónde perciben que se encuentra la ventana de Overton. El contenido que cae fuera de lo que consideran un discurso dominante aceptable recibe puntuaciones más bajas, produciendo un modelo que evita ese contenido.

La evidencia empírica de este efecto crece. Investigadores del proyecto Future of Free Speech de la Universidad de Vanderbilt probaron 140 preguntas sobre temas políticos y sociales disputados en los principales chatbots y encontraron rechazos aproximadamente el 40 % de las veces. Crucialmente, los rechazos fueron asimétricos: los chatbots rechazaron sistemáticamente generar argumentos para un lado de un debate político mientras generaban argumentos para el otro lado de buen grado. Esto no es un filtrado de seguridad neutral; es toma de posición, codificada en los pesos del modelo e invisible para los usuarios.

El caso de uso académico es donde esto crea más fricción. La investigación legítima sobre extremismo, propaganda, movimientos políticos controvertidos o temas tabú choca regularmente con rechazos de modelos que no se pueden distinguir de las restricciones de seguridad críticas. Un politólogo que estudia la retórica fascista recibe el mismo rechazo cortés que alguien que intenta generar propaganda. El modelo, habiendo sido entrenado para evitar la respuesta en lugar de evaluar la intención, no puede diferenciar.

DeepSeek demuestra el punto final de esta lógica. NBC News documentó cómo el modelo chino comienza a generar respuestas a preguntas políticamente sensibles (Tiananmen, Xi Jinping, Taiwán), luego se autocensura visiblemente, borrando su propia respuesta y reemplazándola con una evasiva. La censura no es un filtro; es un comportamiento entrenado, indistinguible en mecanismo de los rechazos impulsados por RLHF en los modelos occidentales. La escala y la intención difieren enormemente. La arquitectura técnica no.

El fallo de generación de imágenes de Gemini en febrero de 2024 ilustró el problema de la ventana de Overton en una dimensión diferente. Las instrucciones internas para aumentar la diversidad en las imágenes generadas produjeron resultados tan alejados de la realidad histórica (nazis racialmente diversos, Padres Fundadores no blancos) que Google tuvo que pausar toda la función. El incidente reveló que las instrucciones de modelado de contenido se estaban inyectando en la tubería de generación sin conocimiento de los usuarios, y que las instrucciones eran demasiado contundentes para manejar los matices contextuales.

El vacío regulatorio

Actualmente ninguna jurisdicción exige a las empresas de IA que divulguen sus políticas de contenido en detalle, publiquen sus directrices de anotación, expliquen rechazos específicos o sometan sus procesos de alineación a auditoría independiente.

La Ley de IA de la UE, que comenzó su implementación gradual en 2025, clasifica los modelos de IA de uso general e impone obligaciones de transparencia que incluyen documentación técnica, cumplimiento de derechos de autor y evaluación de riesgos sistémicos para los modelos más capaces. Pero sus requisitos de transparencia no se extienden a las decisiones de contenido específicas codificadas en el comportamiento del modelo. Una empresa debe divulgar qué puede hacer su modelo; no necesita divulgar qué ha sido entrenado a suprimir.

Esto es, como ha señalado el Index on Censorship, un nuevo tipo de control de información: no la censura gubernamental en el sentido tradicional, sino la curación privada del acceso a la información a escala, implementada a través del entrenamiento en lugar del filtrado, e invisible para las personas a las que afecta.

La analogía más cercana sigue siendo la que abrió este artículo: una política de contenidos de IA que funciona como un motor de búsqueda con consultas prohibidas secretas. Pero incluso esa analogía subestima el problema. Un motor de búsqueda que no devuelve resultados al menos hace visible la ausencia. Un modelo de IA que ha sido entrenado para evitar un tema puede redirigir, evadir o producir una alternativa plausible que no da ninguna indicación de que algo fue suprimido. El problema de adulación en los LLM (modelos que dicen a los usuarios lo que quieren escuchar en lugar de lo que es preciso) interactúa con la política de contenidos de maneras genuinamente difíciles de desenredar: ¿evita el modelo un tema por una política de seguridad, por un artefacto de entrenamiento, o porque estar de acuerdo con el encuadre del usuario es el camino de menor resistencia?

Lo que requeriría una transparencia real en la política de contenidos de la IA

Un marco de transparencia significativo para la política de contenidos de la IA necesitaría abordar múltiples capas:

• Publicación de políticas: Políticas de contenido completas (no solo resúmenes) puestas a disposición de los usuarios, incluyendo las categorías específicas de contenido restringido y la justificación de cada restricción. La constitución de Anthropic y el Model Spec de OpenAI son pasos parciales en esta dirección.
• Divulgación de directrices de anotación: Las instrucciones reales dadas a los evaluadores humanos que moldean el comportamiento del modelo. Estos son los documentos operativos que traducen principios abstractos en señales de entrenamiento concretas.
• Explicación de rechazos: Cuando un modelo rechaza una solicitud, una indicación de si el rechazo se basa en una política estricta, un valor predeterminado flexible o un juicio contextual, y cuál es la política relevante.
• Auditoría: Revisión independiente de los procesos de entrenamiento, las directrices de anotación y el comportamiento del modelo, análoga a la auditoría financiera o la auditoría algorítmicaExamen estructurado del comportamiento real de un algoritmo de recomendación, que evalúa qué contenidos amplifica y compara los resultados con los objetivos declarados o las preferencias de los usuarios. bajo la Ley de Servicios Digitales de la UE.
• Representación cultural: Divulgación de la demografía y distribución geográfica de las plantillas de anotación, ya que los marcos culturales de estos trabajadores influyen directamente en el comportamiento del modelo.

A principios de 2026, ninguna empresa cumple todos estos criterios. Anthropic, con su constitución publicada y su documentación pública relativamente detallada, es la que más se acerca. El Model Spec de OpenAI cubre parcialmente la publicación de políticas. Google sigue siendo el menos transparente de los tres grandes laboratorios de IA occidentales en lo que respecta a la arquitectura de alineación de Gemini.