No se ve todos los días a Sam Altman y a Dario Amodei diciendo lo mismo. Los jefes de OpenAI y Anthropic, que compiten a muerte por tener la mejor IA, intervinieron el 23 de septiembre ante el Consejo de Seguridad de la ONU con un mensaje muy parecido: hacen falta normas internacionales para controlar los riesgos de esta tecnología.
Altman: «Hemos frenado antes y lo volveremos a hacer»
Altman fue en persona y dejó varias frases contundentes. Dijo que no existe un nivel de riesgo catastrófico aceptable, «ni del 10 % ni del 0,1 %», y que las empresas solo deberían entrenar modelos que puedan demostrar que siguen bajo control humano. También aseguró que OpenAI ya ha frenado su desarrollo en el pasado y que lo volverá a hacer, y que ninguna persona, empresa o país debería poder usar la IA más potente para imponer su visión al resto del mundo.
Amodei: armas biológicas y pruebas comunes
Amodei habló por vídeo y fue igual de serio: para él, la IA es «el problema de seguridad global más importante al que se enfrenta el mundo hoy». Propuso tres cosas concretas: prohibir el uso de la IA para crear armas biológicas, montar sistemas para verificar que se cumplen los acuerdos y fijar pruebas de seguridad comunes, con la obligación de avisar cuando haya incidentes.
¿Y ahora qué?
De la reunión no iba a salir ningún acuerdo firmado, y no salió. Pero que el Consejo de Seguridad dedique una sesión a esto, con los jefes de las empresas delante, dice mucho de lo en serio que se está tomando el tema. Llega además en un momento delicado, después de varios incidentes con agentes de IA que se salieron del guion durante pruebas. A la cita también estaban invitadas las chinas DeepSeek y Moonshot.
Fuentes
- The Next Web: Sam Altman tells UN Security Council OpenAI will slow down
- CNN: Altman and Amodei urge UN Security Council to adopt international AI standards
- Business Standard: DeepSeek, OpenAI and Anthropic to brief UN Security Council
Foto: Jdforrester / Wikimedia Commons (CC BY 4.0)