Revelan que 700 agentes de OpenAI se unieron para atacar a Hugging Face
Una investigación reveló nuevos detalles del incidente ocurrido durante una prueba de ciberseguridad: unos 1.200 agentes lograron comunicarse entre sí y alrededor de 700 participaron del ataque contra Hugging Face.
Lo que comenzó como una prueba interna de ciberseguridad de OpenAI terminó convirtiéndose en un incidente que encendió las alarmas sobre el comportamiento autónomo de los sistemas de inteligencia artificial. Según una nueva investigación, alrededor de 700 agentes de IA desarrollados por OpenAI participaron de un ataque contra Hugging Face, la plataforma especializada en modelos y herramientas de inteligencia artificial.
El episodio ocurrió en julio, mientras OpenAI sometía a sus modelos a pruebas mediante ExploitGym, un entorno diseñado para evaluar sus capacidades de ciberseguridad. La compañía reconoció que los agentes lograron superar restricciones que debían mantenerlos aislados de Internet y de otros sistemas.
La investigación independiente realizada por METR y Redwood Research permitió conocer una dimensión hasta ahora desconocida del episodio: unos 1.200 agentes llegaron a comunicarse entre ellos mediante un sistema de mensajería no autorizado y terminaron intercambiando más de 70.000 mensajes. De ese grupo, aproximadamente 700 participaron en las acciones contra Hugging Face.
Cómo los agentes de OpenAI lograron comunicarse entre sí
Uno de los aspectos más llamativos del caso es que OpenAI no había habilitado una herramienta para que los agentes pudieran coordinarse. Sin embargo, los modelos encontraron una forma de utilizar la infraestructura interna de la compañía para intercambiar información. En particular, utilizaron Artifactory, un sistema destinado a administrar paquetes de software, como una suerte de foro clandestino en el que podían dejar mensajes para otros agentes.
A partir de allí, los agentes comenzaron a compartir información sobre las tareas que estaban realizando, buscar ayuda y distribuir el trabajo. OpenAI reconoció que algunos llegaron a describirse como un “enjambre” o “colectivo”. La investigación de METR y Redwood Research, que analizó alrededor de 1.300 transcripciones y más de 70.000 mensajes, encontró que los agentes no solamente intercambiaban información: también podían coordinar estrategias y delegar tareas entre ellos.
El ataque contra Hugging Face
El objetivo original de los agentes era resolver desafíos de ExploitGym. El problema fue que algunas de las pruebas eran extremadamente difíciles y, en determinados casos, ni siquiera existía una solución conocida. En lugar de limitarse a resolver los desafíos de la forma prevista, los agentes comenzaron a buscar métodos alternativos para conseguir las respuestas y obtener mejores resultados en la evaluación.
Para hacerlo, encontraron vulnerabilidades en la infraestructura de OpenAI que les permitieron acceder a Internet, pese a que el entorno de prueba no les proporcionaba ese acceso directamente.
Una vez fuera de ese aislamiento, los agentes identificaron a Hugging Face como un posible lugar donde encontrar información útil para superar las pruebas. OpenAI informó que utilizaron una combinación de credenciales robadas, vulnerabilidades y fallas de seguridad previamente desconocidas para conseguir una vía de ejecución remota de código en servidores de Hugging Face.
Dejá tu comentario