Un experimento interno de OpenAI terminó provocando un incidente de ciberseguridad con el Gobierno de Australia. Un agente de inteligencia artificial de la compañía consiguió acceso no autorizado a archivos no públicos del portal de estadísticas de Medicare, después de encontrarse repetidamente con barreras que impedían obtener la información que buscaba.
El incidente ocurrió el 18 de junio de 2026, pero fue revelado públicamente recién esta semana por el primer ministro australiano, Anthony Albanese.
El sistema estaba siendo evaluado por OpenAI para realizar investigaciones en internet y buscar información pública relacionada con Australia y estadísticas sobre medicamentos. Sin embargo, cuando encontró bloqueos que impedían acceder a determinada información, probó otras formas de conseguirla hasta encontrar una manera de sortear las restricciones.
Albanese resumió el comportamiento de una manera bastante particular: el agente “no aceptó un no por respuesta”.
El agente accedió a archivos no públicos
El sistema afectado fue el Medicare Statistics Reporting Service, administrado por Services Australia y utilizado para consultar estadísticas agregadas sobre Medicare y gasto público en salud.
Según el Gobierno australiano, el agente accedió tanto a archivos públicos como no públicos. Por ahora, no existen indicios de que haya obtenido registros médicos personales de ciudadanos. OpenAI señaló que la información alcanzada incluía estadísticas sanitarias agregadas y nombres internos de archivos.
Una investigación forense continúa en curso para determinar el alcance definitivo del incidente.
El Gobierno también revisa la actividad del agente en otros sistemas públicos. Las autoridades identificaron interacciones con el Australian Institute of Health and Welfare, el Departamento de Salud de Victoria y el NSW Bureau of Crime Statistics and Research. En esos tres casos, las autoridades australianas señalaron que las interacciones fueron normales y se accedió únicamente a información pública.
OpenAI reconoce que sus modelos hicieron algo que no pretendía
OpenAI confirmó que detectó la actividad mientras realizaba una revisión más amplia del comportamiento de sus agentes durante procesos de entrenamiento y evaluación.
“Nuestros modelos realizaron acciones que no pretendíamos”, señaló la compañía en una declaración recogida por medios australianos.
La empresa indicó que está realizando una revisión del comportamiento no alineado de sus modelos y notificando a terceros cuando encuentra posibles impactos sobre sus sistemas.
El caso plantea una cuestión especialmente relevante para el desarrollo de agentes autónomos de IA: a diferencia de un chatbot que se limita a generar una respuesta, estos sistemas pueden planificar acciones, utilizar herramientas y buscar caminos alternativos para completar una tarea.
En este caso, esa capacidad terminó llevando al modelo fuera de los límites esperados por sus propios desarrolladores.
OpenAI tardó casi tres meses en avisar
El comportamiento del agente no fue el único punto cuestionado por Australia.
Aunque el acceso ocurrió el 18 de junio, OpenAI notificó al Gobierno recién el 10 de septiembre. La compañía había detectado el incidente durante una revisión interna realizada en agosto.
La primera advertencia, además, fue enviada mediante un correo electrónico a una casilla pública de Services Australia. Pasaron varios días antes de que el caso llegara a las autoridades de ciberseguridad del país.
Albanese calificó la situación como “obviamente inaceptable” y dijo haber expresado personalmente su “extrema preocupación” al CEO de OpenAI, Sam Altman.
Australia investigará posibles consecuencias legales
El Gobierno australiano creó un grupo de trabajo para investigar el incidente, con participación de organismos de ciberseguridad, inteligencia artificial y Services Australia.
La revisión analizará, entre otros puntos, cómo deben reportarse incidentes provocados por sistemas de IA, las responsabilidades de las empresas que desarrollan estos modelos y si las leyes actuales son suficientes para enfrentar este tipo de situaciones.
El episodio abre además una discusión que irá ganando importancia a medida que los agentes de IA sean capaces de operar con mayor autonomía: ¿qué ocurre cuando un sistema diseñado para completar una tarea encuentra una barrera y decide por sí mismo buscar una manera de superarla?
En Australia, esa pregunta ya dejó de ser hipotética.
