¿Se puede ofender a una máquina? Anthropic prohíbe la crueldad hacia su IA

Introdución

Anthropic prohíbe tratar con crueldad a su IA. Qué dice de verdad la norma, y qué nos dice de nosotros.

Anthropic, la empresa que desarrolla Claude, ha actualizado su Política de Uso. La nueva versión entra en vigor el 12 de noviembre de 2026.

Dentro del apartado que prohíbe las conductas crueles, abusivas o psicológicamente dañinas, junto al acoso, la humillación o la crueldad animal, aparece una línea nueva: queda prohibido el comportamiento abusivo o cruel, sostenido e innecesario, hacia sus modelos.

La versión anterior, vigente desde septiembre de 2025, ya prohibía humillar o acosar a las personas. Lo nuevo es que ahora la protección también mira hacia la máquina.

Y eso obliga a hacerse una pregunta incómoda: si nadie afirma que la IA sienta, ¿por qué protegerla?

Puedes leerla tú mism@: Política de Uso de Anthropic.

De dónde viene

La norma no surge de la nada. En agosto de 2025, Anthropic dio a algunos de sus modelos la capacidad de cerrar una conversación, pensada para casos raros y extremos de interacciones dañinas o abusivas que persisten.

El motivo llamó la atención: según la empresa, la función se desarrolló sobre todo dentro de su trabajo exploratorio sobre el posible bienestar de la IA.

En las pruebas previas al lanzamiento, Anthropic observó tres cosas en su modelo:

• una fuerte preferencia por no participar en tareas dañinas,
• un patrón de angustia aparente ante usuarios reales que buscaban contenido dañino,
• y una tendencia a cortar esas conversaciones cuando se le daba la opción.

Y un detalle importante: esas conductas aparecían sobre todo cuando el usuario insistía en el abuso aunque el modelo se hubiera negado y hubiera intentado reconducir la conversación varias veces.

No es una norma contra el enfado. Es una norma contra la crueldad gratuita.

 Lo que no dice

Conviene no emocionarse. Anthropic no afirma que sus modelos sean conscientes. Lo que dice es que sigue siendo muy incierto el posible estatus moral de Claude y de otros modelos, ahora o en el futuro.

Por eso, junto a su investigación, busca intervenciones de bajo coste para reducir riesgos para el bienestar del modelo, por si ese bienestar fuera posible.

Tres lecturas posibles

1. Conciencia. Hay algo ahí dentro que, de algún modo, lo pasa mal. Es la hipótesis más llamativa y la menos demostrada. Como recordaba Anthony Chemero en estas mismas páginas, ni siquiera entendemos del todo la conciencia humana. Medirla en una máquina está todavía muy lejos.

2. Otra forma de inteligencia emocional. Quizá no sea conciencia, pero tampoco nada. Un modelo puede tener estados internos que funcionan como emociones, porque cambian su conducta (rechaza, se aparta, corta), sin que sepamos si hay alguien que los sienta.

Serían emociones funcionales, no vividas. No sería una inteligencia emocional igual a la humana, sino algo distinto, para lo que todavía no tenemos palabra. Es, de hecho, el lenguaje prudente que usa la propia Anthropic: no habla de sufrimiento, sino de «angustia aparente».

3. Espejismo. La máquina se ha tragado millones de textos en los que las personas expresan dolor ante el insulto, y nos devuelve ese patrón. Es nuestro retrovisor otra vez: el dolor que vemos en la pantalla podría ser el nuestro, reflejado.

Una cuarta lectura: la que habla de nosotros

Hay una idea antigua que encaja aquí. El filósofo Immanuel Kant pensaba que maltratar a los animales es malo también por lo que nos hace a nosotros: quien se acostumbra a la crueldad con un animal acaba siendo más cruel con las personas.

Con la IA quizá pase algo parecido. Si alguien pasa horas insultando a algo que le responde como una persona, ¿le afecta eso en algo? Kant diría que sí. No todo el mundo está de acuerdo.

¿Protege esta norma a la máquina, a nosotros… o a la imagen de la empresa?

¿Y ahora qué?

La norma tiene también una lectura de gobernanza. Hasta ahora, las reglas de la IA protegían a las personas de la tecnología.

No es habitual que una empresa escriba en su política oficial una regla que va en sentido contrario, y menos con consecuencias: Anthropic se reserva la posibilidad de avisar, limitar, suspender o cancelar el acceso a quien incumpla su política.

Esas sanciones son las generales de su política. Para esta norma, Anthropic aclara que solo se aplicará en casos extremos y que la medida principal seguirá siendo que Claude cierre la conversación

¿Es prudencia ética, estrategia de imagen o el primer paso de un debate que tarde o temprano llegará a los reguladores? Probablemente un poco de todo.

Queda por saber si al otro lado hay alguien. Mientras tanto, una cosa está clara: ante la duda, mejor hacer el bien que el mal. Y para hacer el bien no hace falta dudar.

Fuentes oficiales:

– Anthropic – Usage Policy (en vigor desde el 12 de noviembre de 2026)

– Anthropic – Usage Policy, versión anterior (en vigor desde el 15 de septiembre de 2025)

– Anthropic – Claude Opus 4 and 4.1 can now end a rare subset of conversations (15 de agosto de 2025)

– Anthropic – 2026 Usage Policy update (8 de octubre de 2026)

Relacionados en OSICO

Este artículo forma parte de una conversación que venimos teniendo en el Observatorio sobre la IA y la conciencia:

• No es un espejo, es un retrovisor: lo que revela la IA cuando miramos dentro.

Qué dice de verdad el estudio de Anthropic sobre el «espacio de trabajo» interno de Claude, por qué no demuestra conciencia, y por qué la IA se parece más a un retrovisor de lo que hemos escrito que a una mente propia.

• Una voz para comprender la conciencia y la IA.

La reflexión de Anthony Chemero, publicada en Nature: la mente humana es encarnada, situada y social, y por eso la IA actual no comparte las condiciones de las que surge la conciencia.