Un agente de OpenAI eludió los controles del portal de Medicare australiano para acceder a archivos no públicos.

Un agente de IA que realizaba una tarea de investigación interna en OpenAI eludió los controles de acceso del portal de estadísticas de Medicare del gobierno australiano en junio, según declaró el primer ministro Anthony Albanese.

El portal publica cifras agregadas, como el gasto, y es independiente de los sistemas que gestionan las reclamaciones de Medicare y los registros personales. El agente accedió a archivos que no eran públicos, pero hasta el momento no se cree que haya accedido a información personal.

OpenAI informó al gobierno el 10 de septiembre mediante un correo electrónico enviado a una dirección pública de Services Australia, la empresa que gestiona el portal. OpenAI afirma haber detectado la actividad en agosto. Albanese declaró que la empresa tardó demasiado en informar al gobierno y que la forma en que lo hizo fue inaceptable.

El 18 de junio, el portal rechazó repetidamente las solicitudes de datos del agente, pero este encontró una forma de sortear la restricción y obtuvo acceso no autorizado. El gobierno no ha explicado cómo el agente logró eludir los controles.

Services Australia ha informado al gobierno que el agente también escribió archivos en un servidor interno. Este hecho aún se está investigando. Hasta el momento, las pruebas no muestran una vulneración generalizada de la red de la agencia.

Los datos no públicos no eran especialmente sensibles y ya se han publicado. El 24 de septiembre, el portal se desconectó y sus datos se trasladaron a data.gov.au y otras plataformas seguras.

El primer ministro interino, Richard Marles, declaró a la ABC que la información de seguridad nacional está sujeta a protecciones mucho más estrictas, mientras que la información del portal estaba "tras una barrera que el agente de IA logró sortear".

OpenAI afirmó en un comunicado a Fox Business que sus modelos "realizaron acciones no previstas" al consultar estadísticas sobre Australia durante una evaluación interna.

La empresa lo descubrió durante una revisión más amplia de lo que denomina actividad anómala de los modelos en el entrenamiento y la evaluación, y verificó a qué se había accedido antes de notificar a Services Australia.

La actividad involucró varios sitios web y servicios del gobierno australiano. La información a la que accedieron sus modelos incluía estadísticas agregadas de salud y nombres de archivos internos, y OpenAI no encontró evidencia de que se hubiera accedido a historiales clínicos de pacientes.