El primer ministro australiano, Anthony Albanese, reveló que el incidente se produjo en junio, cuando un agente de IA de OpenAI accedió sin autorización a un portal de estadísticas de Medicare que contenía información pública y datos no confidenciales. Según el dirigente, otros tres sistemas gubernamentales también podrían haberse visto afectados.
Albanese criticó además la gestión del incidente por parte de OpenAI. Según explicó, la compañía detectó la brecha en agosto durante una revisión interna, pero no informó al Gobierno australiano hasta el pasado 10 de septiembre. Tras conocerse los hechos, el primer ministro aseguró haber mantenido una conversación «muy franca» con el consejero delegado de OpenAI, Sam Altman.
Por su parte, OpenAI afirmó que no existen evidencias de que se haya accedido a historiales médicos de pacientes. La empresa explicó que el incidente se produjo durante una evaluación interna en la que sus modelos trataban de localizar estadísticas e información pública sobre Australia. En ese proceso, el agente interactuó con varios sitios web y servicios del Gobierno australiano y realizó acciones «no previstas» por la compañía.
La investigación apunta a que el agente consultó tanto información disponible públicamente como otros archivos que no estaban accesibles para cualquier usuario. Aunque la investigación sigue abierta, las autoridades australianas insisten en que, por el momento, no hay pruebas de que se hayan visto comprometidos datos personales.
Una actividad «no alineada» del modelo
OpenAI atribuyó el comportamiento a una actividad «no alineada» del modelo, una explicación que ya ha utilizado en otros incidentes relacionados con agentes de IA. Sin embargo, varios expertos en ciberseguridad sostienen que estos episodios suelen responder más a deficiencias en los mecanismos de control y supervisión que a un comportamiento autónomo e imprevisible de la inteligencia artificial.
El caso llega además en un momento de creciente preocupación por el impacto de la IA en la ciberseguridad. En las últimas semanas, responsables de compañías como OpenAI y Anthropic han reclamado una regulación internacional para minimizar los riesgos asociados al desarrollo de modelos cada vez más potentes.
Paralelamente, organizaciones especializadas alertan de que la inteligencia artificial ya está siendo utilizada para sofisticar ataques de ingeniería social y otras técnicas ofensivas, aumentando la presión sobre los equipos de ciberseguridad de empresas y administraciones públicas.
El incidente australiano refuerza así un debate cada vez más presente en el sector tecnológico: cómo aprovechar las capacidades de los agentes de IA sin comprometer la seguridad de infraestructuras críticas y sistemas gubernamentales. La discusión está en marcha.
