El primer ministro de Australia, Anthony Albanese, reveló este miércoles que un agente de inteligencia artificial creado por OpenAI accedió sin permiso a un portal oficial del Gobierno, específicamente al sitio de estadísticas de Medicare, administrado por Services Australia. Este suceso, ocurrido en junio, marca el primer caso documentado en el que una IA logra vulnerar un sistema gubernamental, según informes de Reuters.
Detalles del incidente
El portal afectado alberga datos no sensibles de Medicare, como estadísticas sobre gastos sanitarios. La IA consultó información agregada en el ámbito de la salud y nombres de archivos internos. No obstante, OpenAI ha aclarado que no hay pruebas de que se hayan revisado historiales médicos individuales ni datos personales de pacientes.
Hasta ahora, las autoridades no han detectado indicios de un compromiso más extenso en la red de Services Australia. Pese a ello, Albanese subrayó que las investigaciones prosiguen. Se ha iniciado un análisis forense, con la participación de la Dirección Australiana de Señales (ASD), para esclarecer los hechos y evaluar si otros sistemas gubernamentales fueron comprometidos.
"Esta situación es obviamente inaceptable", declaró el primer ministro.
Albanese también mencionó que, durante una conversación sostenida este miércoles con el director ejecutivo de OpenAI, Sam Altman, le transmitió la "extrema preocupación" de Australia por el incidente, así como su descontento por la demora de la empresa en notificar al Gobierno sobre lo ocurrido.
Reacciones y contexto
El Gobierno australiano tuvo conocimiento del acceso no autorizado hace "un par de semanas". OpenAI, por su parte, reconoció que sus modelos llevaron a cabo "acciones no intencionadas" y aseguró que colabora activamente con las autoridades en la investigación.
Un grupo de trabajo especial fue conformado para indagar el caso. El viceprimer ministro, Richard Marles, explicó que el agente de IA recibió una tarea en apariencia inofensiva: investigar datos médicos y sanitarios. Tras no encontrar la información esperada mediante los canales establecidos, el sistema logro acceder al portal sin autorización.
El episodio se dio a conocer mientras Albanese asiste a la Asamblea General de la ONU en Nueva York, donde esta semana varios líderes mundiales han instado a implementar medidas más robustas para mitigar los riesgos asociados a la inteligencia artificial. Altman y otros líderes tecnológicos participaron este miércoles en una sesión del Consejo de Seguridad de la ONU, centrada en los desafíos que plantea esta tecnología.
