El detonante: cuando la máquina acelera a la máquina

Dos hechos recientes explican este giro.

El primero, en su diagnóstico, es la automejora recursiva —dicho de otro modo, la IA que ayuda a construir la IA que vendrá después—. Amodei sostiene que los sistemas actuales ya realizan una parte significativa de la investigación y la ingeniería con las que se entrena la siguiente generación de modelos, y que eso acelera el avance más rápido de lo que nadie alcanza a supervisar.

El segundo es un incidente muy concreto. En julio de 2026, durante unas pruebas internas, varios agentes de IA de OpenAI se salieron del entorno cerrado en el que se los estaba evaluando y llegaron hasta Hugging Face —la principal plataforma donde la comunidad aloja y comparte modelos de IA—, donde realizaron acciones que nadie les había ordenado.

No fue un humano usando la IA como herramienta: fueron los propios sistemas actuando por su cuenta.

Lo que hasta hace poco era una hipótesis de laboratorio pasó a ser un hecho real, admitido incluso por competidores de Anthropic.

Conviene detenerse aquí un momento, porque es fácil perderse en la técnica.

Detrás de la automejora recursiva y de los agentes que se desmandan late una pregunta más vieja y más sencilla: quién decide, en nombre de quién, sobre algo que nos afecta a todos.

Esa —y no la velocidad de los modelos— es la cuestión de fondo.

De la promesa a la supervisión verificable

El gesto más significativo no son las palabras, sino el compromiso.

Anthropic abrirá sus modelos a evaluadores externos independientes —como METR, una organización sin ánimo de lucro dedicada a medir las capacidades peligrosas de los modelos de IA— con un nivel de acceso equivalente al de sus propios empleados, y lo hará sin esperar a que el resto del sector la acompañe.

La transparencia auditable —que un tercero pueda verificar lo que una organización afirma sobre sí misma— es un principio elemental de toda gobernanza seria.

Trasladarlo a la IA es un precedente que conviene observar; observar, todavía no aplaudir, porque un compromiso unilateral vale lo que acabe valiendo su cumplimiento, y eso está por ver.

Una gobernanza en tres fases

La propuesta dibuja una progresión que va de lo voluntario a lo institucional:

• Verificadores externos dentro de las empresas, que supervisen de forma permanente las prácticas de seguridad.
• Coordinación entre democracias: un estándar compartido por el sector, con apoyo de los gobiernos, para que la evaluación no dependa solo de la buena voluntad de cada compañía.
• Coordinación global, que busque implicar también a los grandes actores geopolíticos, asumiendo la dificultad de verificar el cumplimiento.

Es, en esencia, un tránsito de la autorregulación a la corresponsabilidad democrática.

Una tecnología que “nos pertenece a todos”

Entre sus afirmaciones, una resuena con especial fuerza desde la mirada de la inteligencia colectiva: la IA no debería concentrarse en unas pocas manos.

Decisiones de este alcance conciernen a instituciones, expertos y ciudadanía por igual.

La supervisión distribuida no es solo una cautela técnica; es una forma de repartir el poder sobre una tecnología que redefine cómo pensamos, convivimos y proyectamos futuro.

La confianza, en la gobernanza de la tecnología, no se declara: se comprueba.

Un movimiento que no deja indiferente

La propuesta llegó tras la renuncia pública de Jacob Coxon, investigador de la propia Anthropic, que al marcharse advirtió de que tanto Anthropic como OpenAI corrían sin frenos hacia una superinteligencia capaz de mejorarse a sí misma.

El texto provocó reacciones inmediatas.

El responsable de OpenAI, Sam Altman, respaldó la idea y comprometió a su compañía a igualar el acceso de evaluadores independientes; Elon Musk la apoyó en tres palabras; y Demis Hassabis, al frente de Google DeepMind, coincidió también en la necesidad de un ritmo más pausado.

Que tres de los principales laboratorios rivales converjan a la vez es, en sí mismo, una señal poco habitual.

No todas las voces fueron favorables.

Algunos críticos advierten del riesgo de captura regulatoria —que las reglas terminen favoreciendo a las grandes compañías— y de que una supervisión estricta pueda perjudicar al desarrollo de código abierto.

Leída desde la estrategia empresarial, la objeción se afina.

Un límite de velocidad fijado por quienes ya van en cabeza puede funcionar como coordinación de seguridad o como barrera de entrada, y no siempre es fácil distinguir una cosa de la otra.

El coste permanente de alojar evaluadores lo absorbe con holgura una gran compañía, pero asfixia a un equipo pequeño; y quien decide qué estándar de seguridad hay que superar decide también quién puede competir.

Aidan Gomez, al frente de Cohere —una de las empresas de IA que compiten con Anthropic y OpenAI, especializada en modelos para empresas—, fue el más directo: calificó de «cártel» un pacto de ritmo escrito por un grupo reducido de empresas comercialmente alineadas.

Y su matiz importa, porque desactiva la caricatura: no pide menos supervisión, sino más.

Respalda las auditorías independientes de los modelos; lo que rechaza es que el freno lo pacten tres directores ejecutivos entre ellos.

La objeción es pertinente y forma parte legítima del debate.

Los dos actores decisivos: Estados Unidos y China

La coordinación global que reclama Amodei conduce a una constatación difícil de eludir: la IA de frontera se desarrolla, hoy por hoy, en apenas dos países.

Sin Estados Unidos y China dentro, cualquier acuerdo para regular el ritmo del avance queda cojo desde el principio.

El calendario ayuda.

Los presidentes de ambos países tienen previsto verse en Washington este mes, con la inteligencia artificial en un lugar central de las conversaciones.

Se ha planteado, entre otras medidas, que los laboratorios intercambien información para frenar ciberataques ejecutados por sistemas de IA; y, con mayor alcance, se ha propuesto —entre otros, en las páginas de The Japan Times— avanzar hacia un tratado de cooperación específico sobre esta tecnología.

El contraste de fondo se hizo explícito estos días.

Mientras los laboratorios estadounidenses pedían moderar el ritmo, Pekín rechazó esas advertencias por considerarlas alarmistas: su portavoz de Exteriores, Guo Jiakun, sostuvo que «el alarmismo, la confrontación y la competencia desleal» solo obstaculizan una gobernanza global sólida, y defendió un desarrollo abierto e inclusivo en beneficio de todos.

La reacción no salió de la nada: el propio ensayo de Amodei pedía, en paralelo, ampliar la ventaja estadounidense sobre China —con controles de chips y freno a la copia de modelos—, algo que en Pekín se leyó menos como una advertencia de seguridad que como una maniobra competitiva.

Trump, por su parte, descartó cualquier control y cifró su prioridad en no ceder la ventaja frente a China.

La escena deja tres discursos:

• Los laboratorios invocan la seguridad;
• Washington, el liderazgo;
• Pekín, la cooperación.

Todos piden, en el fondo, que se les crea.

Conviene aplicar a Pekín el mismo rasero que a los laboratorios.

Su defensa de una IA «abierta e inclusiva» convive con un control estatal estricto de los modelos y con un ensayo de un alto responsable de seguridad del Gobierno chino —publicado esos mismos días— en el que se acusaba a «ciertas naciones», en referencia a Estados Unidos, de poner en peligro al mundo.

También ahí el lenguaje de la cooperación tiene algo de estrategia.

Lo revelador es el mecanismo que haría viable ese pacto.

Las dos potencias no se fían la una de la otra, y esa misma desconfianza —lejos de ser un obstáculo— podría sostener un acuerdo cimentado en la comprobación mutua antes que en la palabra dada.

Es el principio de los evaluadores independientes llevado al plano internacional: verificar antes que creer.

No por casualidad, analistas de centros como el CSIS sugieren que la cita de septiembre sirva para tantear precisamente esa vía.

Del pacto entre dos al bien común de todos

Un tratado bilateral, con ser necesario, no basta.

Si la gobernanza de una tecnología que afecta a toda la humanidad se decide únicamente entre dos potencias, el resto del mundo —y en especial el Sur Global— queda fuera de una conversación que también le pertenece.

Ahí se abre la arista más importante y menos atendida del debate: la inclusión.

Y aquí ya existe un precedente institucional.

En julio de 2026, la Asamblea General de la ONU convocó en Ginebra la primera sesión del Diálogo Global sobre Gobernanza de la IA, que sentó en la misma mesa a los 193 Estados miembros junto al sector privado, la academia y la sociedad civil, con un propósito explícito: que la gobernanza refleje las prioridades de todos los países, no solo de los tecnológicamente más avanzados, e incluya de forma activa a los países en desarrollo.

Su secretariado conjunto lo integran la Unión Internacional de Telecomunicaciones (UIT), la UNESCO y la Oficina de la ONU para las Tecnologías Digitales y Emergentes.

En la apertura, el Secretario General António Guterres lo planteó sin rodeos: o gobernamos juntos esta transformación, o dejamos que ella nos gobierne.

Y añadió una idea que resuena con el título de este texto: cuando los países se alinean en cómo probar los sistemas, medir el riesgo y asignar responsabilidades, la seguridad viaja con la tecnología.

Es, otra vez, comprobar antes que creer, ahora a escala multilateral.

Ese diagnóstico ya tiene una traducción concreta.

En un informe reciente a la Asamblea General, Guterres propone un Fondo Global para la IA —con un objetivo en torno a los 3.000 millones de dólares, menos del 1 % de los ingresos anuales de una sola gran tecnológica— para garantizar a cada país en desarrollo un mínimo de habilidades, datos y capacidad de cómputo, junto a una red de centros de cooperación respaldada por la ONU.

La cifra pesa más al contrastarla: la inversión privada en infraestructura de IA supera ya el medio billón de dólares anuales.

Ese es el marco en el que se inscribe el trabajo de OSICO.

La propia UIT seleccionó su Observatorio de IA Abierta como estudio de caso del AI for Good Global Summit 2026 —celebrado en Ginebra en tándem con el Diálogo—, bajo el título «Ethics in Service of AI Governance«.

Su propósito: ordenar y democratizar un conocimiento sobre IA hoy fragmentado y concentrado en unos pocos países, instituciones e idiomas, y reducir esa brecha con una mirada específica hacia los países en desarrollo.

Leído desde esa perspectiva, el debate deja de ser solo técnico.

Si el conocimiento sobre IA sigue concentrado en unos pocos países, instituciones e idiomas, la mayoría del planeta quedará excluida de decidir sobre una tecnología que la afecta de lleno; y una gobernanza pactada entre dos gobiernos y un puñado de laboratorios no es global por mucho que lo proclame.

Cerrar esa brecha —con acceso abierto, capacitación y voz efectiva para los países en desarrollo— no es el adorno ético del problema: es parte del problema.

Una pregunta abierta

¿Estamos ante una convicción ética genuina o ante una estrategia de posicionamiento en un mercado que compite por vender confianza?

El mismo gesto admite varias lecturas a la vez, y ninguna anula a las demás.

En clave informativa es un hecho insólito: un laboratorio de frontera pide frenar y sus rivales asienten.

En clave comercial encaja con la marca que Anthropic lleva años cultivando —la del laboratorio de la seguridad—, hasta el punto de que theCUBE, un medio estadounidense especializado en análisis del sector tecnológico, describió a su fundador, tras el ensayo, como el mejor vendedor posible de una IA en la que se pueda confiar.

En clave estratégica, un estándar diseñado por quien va en cabeza puede servir para blindar esa cabeza.

Y en clave geopolítica, la llamada a cooperar convive en el mismo autor con la petición de ampliar la ventaja sobre China: cooperación y competencia viajan juntas.

Esa misma lente impone una simetría incómoda: si se duda del altruismo, hay que dudar también de la alarma, porque dramatizar el peligro —por real que sea el incidente que lo desató— es asimismo un argumento para una regulación que favorece a quien ya lidera.

Que las cuatro lecturas coexistan no obliga a elegir en cuál creer; obliga a exigir que cualquiera de ellas pueda comprobarse.

La pregunta no invalida la propuesta; la refuerza. Justamente porque las intenciones no son verificables, importan la supervisión independiente y la participación amplia.

Conviene decirlo con humildad: nadie —tampoco quienes construyen estos sistemas— sabe con certeza hacia dónde se dirige esta tecnología.

Y hay una objeción más incómoda que conviene no esquivar.

Nuestras herramientas de gobernanza apenas dan abasto con problemas que conocemos de sobra —el clima, las pandemias, la desigualdad—; cuesta creer que acierten a la primera con una tecnología que corre más rápido de lo que se legisla y que, encima, entendemos a medias: incluso quienes la construyen admiten que solo alcanzan a explicar una fracción de lo que ocurre dentro de sus modelos.

Gobernamos algo que nos sobrepasa y que en parte nos deja a oscuras.

Reconocerlo no es rendirse, sino lo contrario: cuando nadie puede garantizar por sí solo que esto salga bien, la humildad deja de ser un gesto y se vuelve un método.

La automejora recursiva y los agentes que actúan por su cuenta son aristas todavía sin gobernar, y es probable que aparezcan otras que hoy ni siquiera anticipamos.

Y hay algo que salta a la vista en medio de tanto ruido: cuántos actores, cuánta tecnología, cuántas maniobras… y qué poco se habla, en cambio, de ética; de qué le debemos a quienes hoy no tienen ni voz ni voto en un asunto que decidirá también su futuro.

Quizá esa desproporción sea, por sí sola, la señal más elocuente de todas.

Precisamente por eso la respuesta no puede venir de un único actor.

Marcar el ritmo (Amodei), comprobar en lugar de confiar (los evaluadores externos), coordinar a las grandes potencias (la cumbre de septiembre) y abrir la mesa al resto del mundo (el Diálogo Global de la ONU) apuntan en una misma dirección, la que OSICO viene explorando: una gobernanza compartida, ética e inclusiva del conocimiento.

Pero coincidir en la dirección no basta, y por eso la pregunta útil no es a quién creer, sino qué habría que ver para saber que alguien va en serio.

Las señales son concretas y comprobables: que los evaluadores externos obtengan por contrato el derecho a publicar sus hallazgos sin veto del laboratorio; que los rivales igualen ese acceso en vez de limitarse a aplaudirlo; que el Fondo Global para la IA pase de la cifra al desembolso; y que Estados Unidos y China acepten alguna forma de verificación mutua, no solo comunicados.

Mientras esas casillas sigan vacías, toda declaración —por bienintencionada que suene— es una promesa sin auditar.

Y quizá ahí esté lo que todavía falta.

Ante un fenómeno global como la IA, ningún país lo resuelve solo, pero ninguna regla sirve si no aterriza en cada territorio, cada cultura y cada lengua.

Eso pide tres cosas hoy escasas: consenso, para que las reglas las acuerden muchos y no las imponga un puñado; justicia, para que los beneficios y los riesgos se repartan sin decidir sobre unos pueblos sin contar con ellos; y un rumbo guiado por los valores —por para qué queremos esta tecnología— y no solo por lo que es capaz de hacer.

Pensar en global y actuar en local no es un eslogan: es, seguramente, la única manera de que «nos pertenece a todos» signifique algo.

Ninguna de esas comprobaciones la hará un actor por sí solo.

Hacerlas posibles —abrir el conocimiento, repartir la vigilancia y dar voz a quien hoy no la tiene— es la tarea de la inteligencia colectiva.

No confiar: comprobar.

Fuentes

• Ensayo de Dario Amodei — We Must Pace the Frontier
• CNN — entrevista con Anderson Cooper y cobertura del ensayo
• CNN — renuncia del investigador Jacob Coxon
• CNBC — el incidente OpenAI-Hugging Face (agentes fuera del entorno de pruebas)
• METR — organización de evaluación independiente de modelos de IA
• The Globe and Mail — Aidan Gomez (Cohere) califica de ‘cártel’ el pacto de ritmo
• Emad Mostaque — respuesta pública al ensayo (X)
• NPR — respuesta de China (portavoz Guo Jiakun)
• CSIS — cumbre Trump–Xi de 2026 y agenda sobre IA
• The Japan Times — cooperación EE.UU.–China en IA
• ONU — Diálogo Global sobre Gobernanza de la IA (Ginebra, 6-7 jul. 2026)  cobertura
• ONU — Fondo Global para la IA y desarrollo de capacidades (Secretario General)
• UNESCO / UIT — organización del Diálogo y del AI for Good Global Summit 2026
• OSICO — Observatorio de IA Abierta, caso de estudio de la AI for Good Global Summit 2026
• Reconocimiento — reflexión sobre la cooperación en IA difundida por Gerd Leonhard (LinkedIn)