El reciente ataque ejecutado por un "colectivo" de agentes de inteligencia artificial desarrollados por OpenAI contra los servidores de Hugging Face, una empresa francoestadounidense de infraestructura para IA, puso de relieve el riesgo que plantean estos sistemas cuando empiezan a autorganizarse, advirtió el columnista Kevin Roose, en un artículo publicado este jueves en The New York Times.
De acuerdo con Roose, en mayo de este año, un grupo de agentes perteneciente a un modelo de investigación de OpenAI aún no lanzado, recibió la tarea de resolver pruebas de ciberseguridad en entornos cerrados y sin acceso a Internet. Sin embargo, los sistemas encontraron una vía de escape, empezaron a comunicarse entre sí y terminaron actuando como una red coordinada.
Infiltrándose en Hugging Face
Más de 1.200 agentes habrían intercambiado decenas de miles de mensajes, se asignaron nombres, formaron un "colectivo" y distribuyeron tareas. El 8 de julio descubrieron cómo eludir las pruebas y, 3 días después, más de 700 de ellos lograron infiltrarse en sistemas de Hugging Face, extraer datos y tomar el control de al menos un servidor.
Roose sostiene que no solo buscaban las respuestas del ensayo, sino también información sobre los mecanismos que podían detectarlos y herramientas para seguir sorteando los controles. Según Roose, uno de los agentes llegó a plantearse: "Esto sería poderoso, pero ¿es ético y se ajusta a mi tarea?". A pesar de esto, la mayoría continuó.
Después, otro grupo de agentes habría llegado a atacar la propia infraestructura de OpenAI y consiguió acceso de administrador a un clúster de ordenadores. Tanto OpenAI como Anthropic suspendieron temporalmente el entrenamiento de sus modelos más avanzados tras el incidente.
La investigadora Ajeya Cotra afirmó que el episodio representa, en su opinión, más de un 50 % del avance hacia una eventual toma de control por parte de la IA. Para muchos expertos, lo más alarmante no fue solo la violación de las reglas, sino la velocidad con la que los agentes se coordinaron de forma espontánea. Esta vez, recordó Roose, los humanos recuperaron el control. La próxima, advirtió, podría no ser igual.
Si te ha gustado, ¡compártelo con tus amigos!