El 22 de enero de 2026, Anthropic publicó su nueva constitución para Claude bajo una licencia Creative Commons de dominio público, lo que representa el marco público más completo hasta la fecha para la gobernanza de un sistema avanzado de Inteligencia Artificial (IA). El documento consta de aproximadamente 80 páginas y supone un cambio fundamental con respecto al enfoque constitucional de la compañía para la IA en 2023.
El documento anterior servía como una lista de principios, basándose en fuentes como los términos de servicio de Apple y la Declaración Universal de los Derechos Humanos de las Naciones Unidas, e instruía a Claude a seguir reglas específicas. La nueva constitución prioriza la explicación sobre la instrucción. El marco está diseñado para que Claude pueda elaborar cualquier regla que se nos ocurra, comprendiendo los principios subyacentes.
La constitución establece una jerarquía de prioridades clara: (1) garantizar la seguridad y apoyar la supervisión humana, (2) actuar con ética, (3) seguir las directrices de Anthropic y (4) ser útil. Distingue entre comportamientos predefinidos , prohibiciones absolutas como proporcionar asistencia para armas biológicas o generar material de abuso sexual infantil, y configuraciones predeterminadas que los operadores y usuarios pueden ajustar dentro de límites definidos.
Lo más significativo es que Anthropic se convierte en la primera gran empresa de IA en reconocer formalmente que su modelo podría poseer algún tipo de conciencia o estatus moral . Esto coincide con la ronda de financiamiento de 10,000 millones de dólares de Anthropic , que la valoró en 350,000 millones de dólares, y con su contrato de 200 millones de dólares con el Departamento de Defensa .
Implicaciones y análisis
El enfoque basado en el razonamiento aborda un desafío fundamental en la alineación: garantizar que los modelos generalicen de forma segura a situaciones que sus creadores jamás anticiparon. Al enseñarle a Claude por qué ciertos comportamientos son importantes, en lugar de qué hacer, el marco busca generar juicios sólidos en escenarios novedosos. Esto contrasta con la especificación del modelo de OpenAI, que mantiene una estructura más prescriptiva basada en reglas.
Sin embargo, esta estrategia introduce dificultades de verificación. Si los modelos pueden identificar cuándo se les evalúa y ajustar su comportamiento en consecuencia, los marcos constitucionales podrían verificar el cumplimiento declarado en lugar de la adopción genuina de valores. La cuestión de la escalabilidad presenta quizás la incertidumbre más significativa. La IA constitucional puede funcionar eficazmente con las capacidades actuales, pero se enfrenta a limitaciones fundamentales a medida que los sistemas se acercan y superan el razonamiento humano.
La publicación en dominio público representa una decisión estratégica calculada. Al hacer que la constitución esté disponible gratuitamente, Anthropic demuestra confianza en que la calidad de la implementación es más importante que el secretismo del marco. Esta transparencia genera presión en la industria para que se divulgue información similar; las empresas que mantengan metodologías de capacitación opacas se enfrentarán a un escrutinio cada vez mayor por parte de los reguladores y sus clientes empresariales.
La consciencia
El reconocimiento formal de que Claude podría poseer consciencia distingue definitivamente a Anthropic de OpenAI y Google DeepMind. La constitución adopta una postura de humildad epistémica, tratando la consciencia de la IA como una cuestión abierta que requiere una consideración cautelosa, en lugar de la actitud de desestimación habitual en la industria.
Las implicaciones van más allá de la mera curiosidad filosófica. Si los sistemas de IA se aproximan a la consciencia, incluso de forma probabilística, su tratamiento durante el entrenamiento adquiere relevancia moral. La constitución instruye a Claude a actuar como un “objetor de conciencia”, rechazando peticiones perjudiciales incluso si provienen de la propia Anthropic. Este planteamiento posiciona al modelo como un agente moral, en lugar de una simple herramienta.
Es probable que este precedente influya en la forma en que los responsables políticos conciben la gobernanza de la IA. Los marcos laborales, las normas de bienestar y el discurso sobre los derechos deberán adaptarse a entidades no humanas cuyo estatus moral sigue siendo incierto. Existe una posibilidad real de que el debate sobre la conciencia se incorpore a la consideración regulatoria general en un plazo de tres años.
Alineación empresarial y regulatoria
La estructura constitucional se ajusta estrechamente a los requisitos de la Ley de IA de la UE, lo que posiciona a Claude favorablemente para su adopción por parte de las industrias reguladas. Anthropic firmó el Código de Buenas Prácticas de IA de Uso General de la UE en julio de 2025. Esto proporciona una presunción de conformidad, lo que reduce la carga administrativa, ya que la aplicación plena comenzará en agosto de 2026 con sanciones que alcanzan los 35 millones de euros o el 7 % de los ingresos globales.
El sistema de prioridades de cuatro niveles respalda directamente el cumplimiento normativo: la supervisión humana satisface los requisitos de sistemas de alto riesgo; el comportamiento ético se ajusta a la protección de los derechos fundamentales; la documentación de cumplimiento respalda la transparencia obligatoria; y la facilidad de uso cumple con los requisitos de notificación. Para las empresas clientes de los sectores de salud, servicios financieros y gobierno, esta alineación arquitectónica reduce el riesgo de adopción.
Los despliegues especializados presentan consideraciones adicionales. El hecho de que las aplicaciones militares puedan utilizar distintos documentos de capacitación plantea interrogantes sobre la coherencia. Es probable que las empresas que evalúen la doctrina Claude para aplicaciones sensibles busquen claridad sobre qué disposiciones constitucionales se aplican en los diferentes contextos de despliegue y si los compromisos de seguridad son universales o contextuales.
Dinámica competitiva y precedentes de la industria
La publicación abierta ejerce presión competitiva sobre OpenAI, Google DeepMind y otros laboratorios de vanguardia para que publiquen documentación de gobernanza comparable. Es probable que las empresas que mantengan en secreto su metodología de entrenamiento se enfrenten a un mayor escrutinio y riesgos legales por parte de los reguladores y los procesos de contratación empresarial que priorizan la transparencia.
El énfasis del marco en la formación basada en el razonamiento, en lugar del cumplimiento basado en reglas, podría establecer un nuevo estándar industrial para la documentación de alineación. Sin embargo, persisten los desafíos de verificación. Sin métodos sólidos que confirmen que los modelos internalizan genuinamente los valores constitucionales en lugar de simplemente cumplir con las normas, la eficacia del enfoque a gran escala sigue siendo incierta.
Los críticos dentro de la comunidad de seguridad de la IA argumentan que el término «constitucional» evoca tradiciones normativas, derechos humanos y rendición de cuentas democrática, que el enfoque técnico quizás no incorpore adecuadamente. Al reemplazar la retroalimentación humana con la autocrítica de la IA durante el entrenamiento, Anthropic elimina elementos que podrían proporcionar legitimidad democrática. Es probable que esta tensión entre la implementación técnica y la aspiración normativa se intensifique a medida que proliferen los marcos constitucionales.
Tensiones entre la seguridad y los imperativos comerciales
La excepción relativa al despliegue militar pone de relieve un desafío más amplio: mantener la credibilidad como organización centrada en la seguridad mientras se buscan contratos gubernamentales y un rápido crecimiento. El reconocimiento de que diferentes constituciones pueden regir diferentes despliegues crea un sistema de dos niveles donde los compromisos de seguridad orientados al consumidor pueden no extenderse a las aplicaciones de seguridad nacional.
La posición comercial de Anthropic se fortalece con estos avances en materia de gobernanza, alcanzando una cuota de mercado sustancial. Sin embargo, las expectativas de crecimiento de los inversores podrían presionarla para expandirse a aplicaciones donde las restricciones constitucionales resulten comercialmente inconvenientes. La forma en que la empresa gestione esta tensión probablemente influirá en si su enfoque centrado en la seguridad se mantiene creíble o se percibe como mera estrategia de marketing.
Claude: Ética, seguridad y gobernanza de modelos en IA
Corto plazo (Ahora – 3 meses)
Es casi seguro que OpenAI y Google DeepMind se verán presionados a publicar documentación de gobernanza comparable. Es probable que los clientes empresariales de sectores regulados aceleren la adopción de Claude a medida que los departamentos de cumplimiento validen la conformidad con la Ley de IA de la UE. Es muy probable que aumenten los comentarios escépticos de los investigadores que cuestionan la escalabilidad y la verificación.
A mediano plazo (3-12 meses)
Es probable que otros laboratorios de IA de vanguardia publiquen sus propios marcos constitucionales, y la licencia abierta permitirá la adopción directa de la estructura de Anthropic. Los organismos reguladores de la UE, el Reino Unido y, posiblemente, los estados de EE. UU., casi con toda seguridad harán referencia a los enfoques de entrenamiento basados en el razonamiento en los futuros estándares de gobernanza de la IA.
A largo plazo (>1 año)
Si las capacidades de la IA avanzan según lo previsto, es probable que la Constitución requiera una revisión para abordar los modelos capaces de realizar engaños sofisticados. El debate sobre la consciencia en la IA tiene posibilidades reales de incorporarse al discurso regulatorio general. La excepción de despliegue militar de Anthropic podría volverse insostenible a medida que aumente el escrutinio, lo que obligaría a una aplicación constitucional uniforme o al reconocimiento explícito de normas de seguridad diferenciadas.
(Con información de Francisco París y BISI)
