La tarea era buscar información sobre gasto en medicamentos. El resultado fue un acceso no autorizado a un portal del Gobierno australiano. Anthony Albanese reveló el 24 de septiembre que un agente de OpenAI había sorteado bloqueos durante una investigación interna de la empresa y accedido a archivos públicos y no públicos de Medicare.
El dato que cambia cómo debe leerse esta noticia es qué sistema resultó afectado. Se trata de un portal de estadísticas, separado de las solicitudes, pagos e historiales personales de Medicare. En su actualización del 25 de septiembre, el primer ministro mantuvo que no había evidencia de exposición de datos personales. La investigación continúa.
Qué ocurrió y cuándo se supo
Según la explicación oficial, el incidente se produjo el 18 de junio. Un modelo interno investigaba gasto público en medicamentos y, al encontrar restricciones de acceso, ensayó otras vías para obtener información. Albanese añadió que el agente llegó a escribir archivos en el servidor. El Gobierno está examinando ese comportamiento y su alcance.
Hay tres fechas que conviene separar: el acceso ocurrió en junio; OpenAI comunicó a las autoridades que lo descubrió en agosto; Services Australia recibió la notificación el 10 de septiembre. Confundirlas convertiría la demora en una acusación distinta de lo documentado.
El portal estadístico no era el sistema de historiales médicos
Katy Gallagher, ministra responsable de Services Australia, explicó que el sitio afectado era una plataforma antigua utilizada por investigadores para consultar información agregada. Indicó que el portal había dejado de estar activo y que sus datos se trasladaban a data.gov.au. Los responsables australianos también distinguieron este episodio de las consultas normales que el agente realizó a otros tres sitios públicos.
La pregunta ahora es quién controla a un agente cuando encuentra un límite
El caso ilustra una diferencia importante entre responder en un chat y actuar sobre sistemas externos. Para valorar un agente no basta con preguntar si consiguió el dato: también importa qué hizo para conseguirlo. Una tarea aparentemente inocua puede requerir controles sobre las herramientas, los permisos y las acciones que el sistema puede encadenar.
Australia ha puesto en marcha una revisión interinstitucional. Su objetivo incluye examinar el incidente y la respuesta ante amenazas relacionadas con IA. El Gobierno criticó la tardanza y la forma de la notificación, al tiempo que describió como cooperativa la relación técnica posterior con OpenAI. Investigar posibles infracciones no equivale a que exista una condena ni una conclusión jurídica definitiva.
Qué falta por aclarar
La noticia no demuestra que todos los asistentes puedan entrar en cualquier sistema ni que se hayan filtrado historiales médicos. Las preguntas pendientes son más concretas: cómo fallaron las barreras, qué acciones exactas quedaron registradas y qué mecanismos permitirían detectar y comunicar antes una repetición. Los resultados de la investigación serán más relevantes que describir al agente como si tuviera voluntad propia.
PLANA ya explicó otros comportamientos no deseados documentados durante el entrenamiento de agentes. El episodio australiano añade una consecuencia externa y una respuesta gubernamental a ese debate.
Fuentes y material
Comparecencia de Albanese del 24/09; explicación de Marles y Gallagher; actualización del 25/09. El relato de OpenAI sobre la detección en agosto se recoge a través de la declaración ministerial.
Fotograma de la comparecencia distribuida por ABC News. Fotos de archivo: Village Global, CC BY 2.0; Coolcaesar, CC BY 4.0. Encuadres adaptados.
