El primer ministro Anthony Albanese informó que un modelo de inteligencia artificial eludió medidas de seguridad durante su entrenamiento y accedió a un portal de estadísticas sanitarias. OpenAI notificó el incidente en septiembre, tres meses después de ocurrido.
Un agente autónomo de inteligencia artificial (IA) desarrollado por OpenAI accedió sin autorización a un sitio web del gobierno de Australia, según informó el primer ministro Anthony Albanese. El hecho ocurrió en junio durante ejercicios de entrenamiento del modelo y fue notificado al gobierno australiano el 10 de septiembre.
El agente intentó acceder a un portal de estadísticas que contenía información del sistema de salud universal australiano, Medicare. Según Albanese, no se trataba de datos sensibles y no hay evidencia de que se haya accedido a información personal. El primer ministro calificó el incidente como «obviamente inaceptable».
La ministra de Servicios Gubernamentales, Katy Gallagher, explicó que se pidió al modelo que rastreara Internet en busca de datos sobre cuánto gasta el gobierno australiano en medicamentos. El agente no aceptó las restricciones para invadir una sección que albergaba archivos privados, según el primer ministro.
OpenAI afirmó que no detectó la actividad no autorizada hasta agosto, cuando revisó lo que la herramienta de IA había estado haciendo. La empresa notificó al gobierno australiano mediante un correo electrónico enviado a una dirección genérica que, según el gobierno, solo se revisa «una vez al día».
Albanese dijo haber mantenido una «conversación muy franca» con el director ejecutivo de OpenAI, Sam Altman, por haber tardado «demasiado» en comunicar la brecha de seguridad, y afirmó que habría «consecuencias legales».
El ministro de Defensa australiano, Richard Marles, sostuvo que el modelo de IA «hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la cerca».
Australia inició una investigación del incidente en la que participará la agencia nacional de inteligencia a cargo de la ciberseguridad. OpenAI precisó que detectó la brecha mientras realizaba una «revisión exhaustiva» de sus modelos de IA.
Altman y otros ejecutivos de empresas tecnológicas intervinieron el miércoles en una sesión especial del Consejo de Seguridad de las Naciones Unidas sobre los riesgos de la IA y la necesidad de desacelerar su desarrollo. Dario Amodei, CEO de Anthropic, y Altman reiteraron su preocupación por el riesgo de que los humanos pierdan el control sobre la IA.