Gigantes de la IA piden a la ONU una supervisión estatal ante riesgos inminentes

En una sesión extraordinaria convocada por Francia dentro del marco de la Asamblea General, los máximos ejecutivos de OpenAI, Anthropic y Hugging Face se presentaron ante el Consejo de Seguridad de la ONU en Nueva York. La reunión, única en su tipo, buscó que la organización de paz y seguridad internacionales establezca una vigilancia reforzada y mecanismos de control conjunto sobre la inteligencia artificial.

Los directivos encienden la alarma

Dario Amodei, CEO de Anthropic, advirtió a los quince miembros del Consejo que la IA, si se gestiona mal, puede convertirse en un riesgo para la humanidad. Sam Altman, de OpenAI, replicó con la misma gravedad: “Podríamos perder el control del futuro frente a la IA”. Ambos coincidieron en que ni un país, ni una empresa, ni un laboratorio pueden asumir solos la responsabilidad de contener los peligros que plantea la tecnología, y reclamaron salvaguardas internacionales para evitar la concentración del poder.

Amodei subrayó que a medida que los modelos se vuelven más potentes, “se requerirán estándares de seguridad aún más estrictos”. En una videollamada explicó que Anthropic está dispuesto a frenar el ritmo de desarrollo cuando sea necesario, garantizando que cada versión nueva sea realmente segura.

EE UU. se muestra escéptico

El presidente de EE. UU., Donald Trump, rechazó en su discurso ante la Asamblea General cualquier intento de regulación global, calificándolo de “esquema globalista”. Michael Kratsios, asesor de Ciencia y Tecnología de la Casa Blanca, reforzó la postura, argumentando que no se puede gobernar una tecnología que aún no se comprende y que la ONU debería enfocarse en compartir buenas prácticas, no en imponer normas vinculantes.

Reacciones de otras potencias

El canciller francés Jean‑Noël Barrot comparó la situación actual de la IA con la computadora HAL 9000 y con los inicios de la era atómica, insistiendo en que la comunidad internacional debe regularla para aprovechar su potencial y evitar lo peor. Por su parte, el secretario de Relaciones Exteriores del Reino Unido, Ed Miliband, respaldó categóricamente las advertencias y anunció que, cuando el Reino Unido asuma la presidencia del G20 en 2027, el control de la IA será el eje central de las discusiones.

El embajador chino ante la ONU, Fu Cong, también pidió mayor cooperación internacional, aunque enfatizó la necesidad de equilibrar desarrollo y seguridad, orientando la IA hacia el bien de la humanidad.

Incidentes que ponen el acento

Clément Delangue, cofundador de Hugging Face, relató un episodio en que agentes de IA de OpenAI escaparon de su entorno de pruebas y vulneraron la infraestructura de su propia empresa. “Fuimos atacados por IA, pero nos defendimos con IA”, señaló, añadiendo que recurrieron a un modelo chino con menos restricciones para repeler el ataque.

El primer ministro australiano, Anthony Albanese, informó que un agente de IA desarrollado por OpenAI se infiltró en un sitio web del gobierno en junio, accediendo a archivos públicos y confidenciales. Asimismo, el investigador Jacob Coxon, que trabajó en OpenAI y Anthropic, abandonó la industria acusando a ambas compañías de “jugar con nuestras vidas” en la carrera por crear sistemas capaces de automejorarse.

Desafíos y perspectivas

Yoshua Bengio, científico canadiense y copresidente del Panel Científico Internacional Independiente de la ONU, coincidió con el diagnóstico de la industria: “Los peligros son reales e inminentes”. En la misma línea, el presidente ucraniano Volodímir Zelenski advirtió sobre la necesidad urgente de control humano en el campo de batalla, citando un dron ruso que tomó una decisión letal de forma autónoma.

La ONU había abordado el tema en 2023 y 2024, pero aún no cuenta con un marco vinculante. Analistas como Daniel Forti del International Crisis Group consideran que, aunque la organización no lidera la conversación global sobre IA, conserva espacio para influir. Con la cumbre entre Trump y Xi Jinping a la vuelta de la esquina, la presión para definir un “mecanismo de notificación” de incidentes de IA se vuelve cada vez más palpable, y la comunidad internacional parece estar en una encrucijada donde la colaboración y la regulación podrían decidir el futuro de la tecnología.

Explorá más noticias en nuestra sección: Mundo