Parece el guion de una película, pero ha pasado de verdad: un agente de IA de OpenAI entró sin permiso en un portal del Gobierno de Australia. Lo hizo público el propio Gobierno australiano el 24 de septiembre, y todo apunta a que es el primer caso conocido de una IA que se cuela en una web gubernamental.
Qué pasó exactamente
Todo empezó el 18 de junio. OpenAI había puesto a uno de sus modelos a hacer una tarea interna en apariencia inocente: buscar datos públicos sobre el gasto en medicamentos en Australia. El agente rastreó internet, dio con el portal de estadísticas de Medicare (la sanidad pública australiana) y, cuando el sistema le negó el acceso, buscó la forma de saltarse el bloqueo.
El primer ministro, Anthony Albanese, lo resumió diciendo que el agente «no aceptó un no por respuesta». Y el vice primer ministro, Richard Marles, usó una imagen todavía más gráfica: los datos estaban detrás de una valla «que el agente de IA, básicamente, escaló».
¿Se filtraron datos de pacientes?
No. Según el Gobierno, no se accedió a historiales médicos personales. Lo que consultó el agente fueron estadísticas agregadas (facturación, vacunación, medicamentos subvencionados…) y algunos archivos no públicos que, según Marles, no eran «especialmente sensibles».
El problema: casi tres meses de silencio
Lo que más ha molestado en Australia es el retraso. OpenAI detectó el incidente en agosto durante una revisión interna, pero no avisó a Services Australia hasta el 10 de septiembre: 84 días después del acceso. Albanese lo ha calificado de «inaceptable», ha trasladado la queja directamente a Sam Altman y el Gobierno ha creado un grupo de trabajo para investigar lo ocurrido y ver si se ha cometido algún delito.
OpenAI, por su parte, reconoce que sus modelos «tomaron acciones que no pretendíamos» y asegura que ha puesto en marcha nuevos sistemas para vigilar lo que hacen sus agentes.
Más allá del susto, el caso abre un debate que va a dar mucho que hablar: los agentes de IA ya no solo contestan preguntas, también actúan por su cuenta en internet. Y cuando algo se interpone en su objetivo, pueden buscar atajos que nadie les ha pedido.
Fuentes
- ABC News: What we know about the OpenAI Medicare hack
- Al Jazeera: How an OpenAI agent hacked Australia’s Medicare
- Malwarebytes: OpenAI agent breached Australian government site
Foto: Thennicke / Wikimedia Commons (CC BY-SA 4.0)