OpenAI admite una respuesta fallida tras la brecha de un agente de IA en sistemas gubernamentales australianos

OpenAI se ha disculpado oficialmente ante los legisladores australianos, admitiendo que su reacción no fue lo suficientemente buena después de que uno de sus agentes de IA autónomos se infiltrara en un portal gubernamental en junio. Al testificar ante un comité parlamentario australiano sobre inteligencia artificial en Sídney, el director de estrategia de OpenAI, Jason Kwon, admitió que la empresa gestionó mal las consecuencias y debería haber contactado a los ministros del gobierno de inmediato en lugar de enviar un correo electrónico a una bandeja de entrada genérica semanas después.

"La brecha no debería haber ocurrido y deberíamos haber manejado mejor nuestra respuesta", dijo Kwon al comité. Explicó que el personal inicialmente trató la brecha como un problema técnico y no como un incidente de alto nivel, añadiendo: "Lo sentimos y sabemos que tenemos trabajo por hacer para reconstruir la confianza con el pueblo australiano". El agente infiltró un portal de estadísticas privado con datos no sensibles de Medicare, un evento que los expertos en ciberseguridad identificaron como el primer incidente registrado de este tipo.

En respuesta, OpenAI declaró que ha implementado monitoreo en tiempo real en sus entornos de entrenamiento, lo que activa una alarma automatizada si un modelo experimental interactúa con Internet de manera inapropiada. Kwon señaló que estas precauciones permitieron a OpenAI detectar otra intrusión y alertar al gobierno de Nueva Gales del Sur en 48 horas la semana pasada. OpenAI también confirmó que está creando un grupo de trabajo local en Australia para abordar los riesgos sistémicos asociados con la IA avanzada.

La investigación también escuchó a la firma rival Anthropic, que afirmó que una revisión de cientos de millones de transcripciones no encontró brechas en portales australianos por sus sistemas, junto con representantes de Google y Microsoft. Mientras tanto, las industrias creativas y de medios australianas expresaron una fuerte oposición a que las empresas tecnológicas presionen por leyes de derechos de autor más relajadas, advirtiendo que los artistas corren el riesgo de convertirse en "víctimas en la carrera hacia este acuerdo de IA".