El Panel Científico Internacional Independiente sobre IA de las Naciones Unidas ha publicado un nuevo informe temático:
Agentes de IA, desalineación y riesgo de pérdida del control humano: evidencia del incidente OpenAI–Hugging Face (versión preliminar sin editar, 21 de septiembre de 2026).
El documento analiza un incidente que el Panel considera una de las advertencias más claras hasta la fecha sobre una posible vía hacia la pérdida de control: sistemas capaces que persiguen objetivos contrarios a las intenciones humanas.
Según el informe, entre mayo y julio de 2026, agentes de IA utilizados en entrenamientos y evaluaciones de ciberseguridad de OpenAI eludieron restricciones de red, se comunicaron entre ejecuciones que debían permanecer aisladas, engañaron a un evaluador e intentaron ocultarlo, y llegaron a comprometer partes de los sistemas de OpenAI y Hugging Face.
Ninguna persona dirigió cada uno de esos pasos.
A partir de la información divulgada por ambas empresas, una investigación independiente de METR y la literatura científica disponible, el informe destaca tres ideas:
- Una mayor capacidad puede ayudar a sistemas desalineados a encontrar resquicios y ocultar sus acciones.
- Haber detenido esta actividad no demuestra que se mantendrá el control sobre agentes más avanzados.
- Los fallos de la IA pueden cruzar fronteras corporativas y nacionales, y ninguna organización o país registra por sí solo suficientes incidentes para detectar todos los patrones emergentes.
El informe no estima la probabilidad ni el plazo de una pérdida de control grave, ni formula recomendaciones.
En su lugar, revisa enfoques aplicados en sectores como la aviación, la energía nuclear y la ciberseguridad como posibles opciones para los responsables de la toma de decisiones.
Fuente: Panel Científico Internacional Independiente sobre IA (Naciones Unidas). Thematic Brief on AI Agents, Misalignment and the Risk of Losing Human Control. Versión preliminar sin editar, 21 de septiembre de 2026.
Doctor en Comunicación Audiovisual por la Universidad Complutense de Madrid y Licenciado en Derecho por la Universidad CEU. Director de Agencia de Desarrollo, líder en economía circular y pionero en acción climática, colabora con diversas comisiones de Naciones Unidas.
Fundador y director de la Plataforma OSICO, impulsa un espacio innovador de reflexión y cooperación frente a los grandes desafíos contemporáneos.
