Si la semana pasada hubo un tema que lo acaparó todo en el mundo de la IA, fue este. Dario Amodei, CEO de Anthropic, publicó un ensayo titulado «We Must Pace the Frontier» (algo así como «tenemos que controlar el ritmo») en el que pide ralentizar la mejora de los modelos de IA más potentes.
Lo sorprendente no fue la propuesta, sino quién se sumó. Sam Altman, de OpenAI, se mostró de acuerdo y se comprometió a aceptar evaluadores independientes. Elon Musk, que no suele coincidir con ninguno de los dos, lo resumió en tres palabras: «Dario tiene razón».
Qué propone exactamente
Amodei no pide parar, sino ir más despacio para que la sociedad tenga tiempo de adaptarse. Su plan tiene tres fases: meter evaluadores independientes dentro de los laboratorios de IA, con el mismo acceso que tendría un empleado; acordar normas de seguridad comunes entre las empresas de los países democráticos; y, más adelante, poner límites internacionales a las capacidades más peligrosas. La que más le preocupa es que la IA llegue a mejorarse a sí misma más rápido de lo que somos capaces de entenderla.
Trump: «Es un bulo»
La Casa Blanca no lo vio igual, ni de lejos. Donald Trump respondió en Truth Social con varios mensajes en los que calificó de «bulo» el miedo a que la IA acabe con la humanidad, habló de una «conspiración enfermiza» contra la IA que solo beneficia a China y dijo que el único control que necesita la IA es «un presidente fuerte e inteligente». Desde China, por cierto, también despacharon el debate como «alarmismo».
El choque se notó incluso en la bolsa, con caídas en las acciones de empresas de chips como Nvidia. Y el tema no se ha quedado ahí: días después, Altman y Amodei llevaron el mismo mensaje al Consejo de Seguridad de la ONU.
Fuentes
- CoinDesk: Anthropic CEO calls for AI race to slow down, Musk and Altman agree
- Axios: Trump sobre la seguridad de la IA y Anthropic
- Forbes: The AI pacing debate goes mainstream
Foto: TechCrunch / Wikimedia Commons (CC BY 2.0)