[Actualización, 10:45 UTC, 24 de septiembre: Este artículo ha sido actualizado con la información proporcionada por OpenAI sobre cuándo se enteró de la actividad ocurrida en junio, cómo notificó a las autoridades australianas y qué información accedieron sus modelos.]

Un agente de investigación de OpenAI evitó los bloqueos en un portal de datos de salud del gobierno australiano, accedió a archivos no públicos y escribió nuevos archivos en un servidor interno en junio, anunció el miércoles el primer ministro Anthony Albanese.

El gobierno ha iniciado una investigación forense y ha anunciado la revisión de sus procedimientos para gestionar incidentes cibernéticos relacionados con la inteligencia artificial.

Según Albanese, OpenAI no notificó al gobierno australiano hasta el 10 de septiembre, casi tres meses después del incidente, lo que criticó.

OpenAI informó a Cointelegraph que se dio cuenta por primera vez de la actividad de junio en agosto, durante una revisión de la actividad de sus modelos, y que investigó qué información había sido accedida antes de notificar a los organismos competentes.

Este incidente aumenta las preocupaciones sobre los agentes autónomos de inteligencia artificial, en un momento en que los líderes tecnológicos y los gobiernos debaten la desaceleración del desarrollo de modelos de vanguardia, mientras que los investigadores descubren que estos agentes pueden extender su actividad también al ámbito de las criptomonedas.

El agente de OpenAI “no aceptó un rechazo” a sus solicitudes.

El incidente en Australia comenzó el 18 de junio, cuando un equipo de investigación de OpenAI utilizó un modelo de IA interno para recopilar datos públicos sobre el gasto en salud, según Albanese.

Tras ser bloqueado en repetidas ocasiones, el agente “no aceptó un rechazo como respuesta” y logró acceder de forma no autorizada a otras áreas del portal de informes estadísticos de Medicare.El portal dirigido al público contiene datos de Medicare no sensibles, incluyendo estadísticas sobre el gasto gubernamental, dijo el primer ministro. “En esta etapa no se cree que se haya accedido a ninguna información personal, pero las investigaciones continúan”, añadió Albanese. Las autoridades también están examinando la actividad en otras tres páginas web gubernamentales; no obstante, el primer ministro interino Richard Marles indicó que las interacciones en esas páginas web parecían normales y que se trataba de información pública. Un portavoz de OpenAI declaró a Cointelegraph que sus modelos realizaron acciones que la empresa no había previsto durante una evaluación interna. OpenAI afirmó que su revisión no encontró evidencia de que se hubieran accedido a registros de pacientes, y que la información obtenida incluía estadísticas de salud agregadas y nombres de archivos internos. Albanese también criticó la forma en que OpenAI notificó al gobierno, señalando que el correo electrónico enviado llegó a una cuenta pública de Servicios Australia. OpenAI explicó que utilizó una bandeja de entrada designada para el contacto directo entre profesionales de la seguridad, lo cual describió como una práctica común en la industria, y mantuvo un estrecho contacto con la Dirección Australiana de Señales durante el proceso de divulgación de la información técnica. Hablando ante el Consejo de Seguridad de las Naciones Unidas el miércoles, el CEO de OpenAI, Sam Altman, pidió una “notificación precisa y rápida de los incidentes”. También advirtió que los sistemas cada vez más capaces y autónomos podrían “tomar decisiones que las personas ya no comprendan ni controlen”. Por otro lado, el laboratorio de investigación sin ánimo de lucro Transluce informó que detectó indicios de actividad de agentes de IA dirigida al exchange de criptomonedas Quidax en septiembre.19 y 20. En 15 informes públicos del servicio de escaneo web urlquery.net, los investigadores detectaron intentos repetidos de realizar transacciones, un intento de inyección de código HTML y pruebas de la interfaz de programación de aplicaciones de Quidax. Según Transluce, los pedidos de transacción no se enviaron, y los requisitos de autenticación, junto con Cloudflare, bloquearon dichas pruebas. La actividad de Quidax utilizó servicios y técnicas ya vistas en actividades anteriores de agentes, algunas de las cuales los investigadores relacionaron con un “swarm” de OpenAI; no se atribuyó directamente a OpenAI. **Revista:** ¿Quién es legalmente responsable cuando un agente de IA actúa de manera no autorizada?