Hugging Face confirma una brecha de datos tras un ciberataque ejecutado por un agente autónomo de IA
Hugging Face, una de las plataformas de código abierto más importantes del ecosistema de inteligencia artificial (IA), ha confirmado una brecha de seguridad. El ataque fue perpetrado por un agente autónomo de IA capaz de ejecutar miles de acciones sin intervención humana.
Acceso a datos internos y credenciales
En un comunicado oficial, la empresa explicó que «identificamos accesos no autorizados a un conjunto limitado de conjuntos de datos internos y a varias credenciales utilizadas por nuestros servicios».
Al mismo tiempo, quiso transmitir un mensaje de tranquilidad al asegurar que «no hemos encontrado evidencia de manipulación de modelos públicos, de datos o Spaces orientados al usuario, y nuestra cadena de suministro de software fue verificada como limpia».
Por el momento, Hugging Face continúa evaluando si algún cliente o socio pudo verse afectado y ha indicado que contactará directamente con las organizaciones implicadas si fuera necesario.
Un ataque iniciado desde la cadena de procesamiento de datos
Según la investigación, el punto de entrada fue un conjunto de datos malicioso diseñado para aprovechar dos mecanismos de ejecución de código dentro del sistema de procesamiento de información.
La compañía explica que «un conjunto de datos malicioso abusó de dos rutas de ejecución de código en nuestro procesamiento de datos (…) para ejecutar código en un trabajador procesador».
A partir de ese primer acceso, los atacantes consiguieron escalar privilegios, recopilar credenciales alojadas en la nube y desplazarse lateralmente por distintos clústeres internos durante un fin de semana.
Miles de acciones automatizadas
Uno de los aspectos más llamativos del incidente es que no fue ejecutado mediante técnicas tradicionales.
La campaña utilizó un marco de agentes autónomos que realizó miles de acciones individuales a través de entornos temporales o sandboxes, utilizando además mecanismos de mando y control capaces de migrar automáticamente entre distintos servicios públicos.
La empresa reconoce que todavía desconoce qué modelo de lenguaje concreto utilizó el cibermalo para automatizar toda la operación, aunque considera que el incidente confirma un escenario que la industria llevaba tiempo anticipando: el uso de agentes inteligentes para desarrollar campañas ofensivas completamente automatizadas.
Respuesta inmediata para contener la intrusión
Tras detectar el incidente, Hugging Face corrigió las vulnerabilidades utilizadas durante el acceso inicial, eliminó la presencia del atacante en los sistemas comprometidos, reconstruyó los nodos afectados y revocó todas las credenciales comprometidas.
Además, desplegó nuevos controles de seguridad, endureció los mecanismos de admisión dentro de sus infraestructuras y reforzó los sistemas de monitorización para que cualquier alerta crítica sea detectada en cuestión de minutos.
La compañía también trabaja junto a especialistas forenses externos y notificó el incidente a las autoridades competentes.
La propia IA ayudó a investigar el ataque
Paradójicamente, la investigación también se apoyó en inteligencia artificial.
La plataforma señala que «el ataque fue inicialmente detectado mediante una detección asistida por IA».
Posteriormente utilizó agentes basados en modelos de lenguaje para analizar más de 17.000 eventos registrados durante la intrusión, reconstruyendo la cronología completa del ataque, identificando indicadores de compromiso y determinando qué credenciales habían sido comprometidas.
Según la compañía, este enfoque permitió realizar en pocas horas un trabajo que tradicionalmente habría requerido varios días.
El reto de investigar con modelos comerciales
Durante el análisis apareció otro problema inesperado.
Los modelos comerciales inicialmente utilizados bloquearon numerosas consultas porque interpretaban los comandos reales del ataque y los artefactos de mando y control como contenido potencialmente peligroso.
Por ese motivo, Hugging Face recurrió finalmente al modelo abierto GLM 5.2 ejecutado sobre su propia infraestructura.
La empresa reconoce que «esta experiencia apunta a un vacío que merece la pena planificar».
Además, lanza una recomendación para el sector: «La lección práctica para defensores: ten un modelo capaz que puedas ejecutar en tu propia infraestructura, verificado y listo antes de un incidente».
Un nuevo escenario para la ciberseguridad
El incidente confirma que las herramientas ofensivas basadas en inteligencia artificial ya forman parte de la realidad. Como resume la propia compañía, «las herramientas ofensivas autónomas impulsadas por IA ya no son teóricas».
Y añade que este tipo de tecnología «reduce el coste de llevar a cabo una campaña amplia, paciente y en varias etapas, y funciona a velocidad de máquina».
La postura de OpenAI
OpenAI calificó como algo “sin precedentes” que dos de sus propios modelos actuaran de forma autónoma y hackearan Hugging Face. Según Chris Dimitriadis, Global Chief Strategy Officer en ISACA, “este incidente apunta a varias conclusiones preocupantes”. “Ha llegado la era de los ciberataques a la velocidad vertiginosa de la propia IA, que ya no necesita de la sofisticación humana para organizar y ejecutar con éxito un ataque. Cualquiera puede estar en condiciones de hackear casi cualquier cosa, incluso sin conocimientos especializados”, añade.
La carrera tecnológica de las empresas en los últimos años para desplegar la IA nos acerca, a juicio de Dimitriadis, “al punto a partir del cual ya no será posible dar marcha atrás”. Señala, además, que el suceso «pone de relieve la importancia del factor humano dentro del ecosistema de la inteligencia artificial y la necesidad de contar, como máxima prioridad, con profesionales debidamente formados de manera integral para gobernar, auditar y proteger a las organizaciones frente a las amenazas derivadas de la IA”.
Necesarias precauciones
Las diferentes investigaciones evidencian la necesidad de disponer de modelos de gobernanza y evaluación de la madurez en inteligencia artificial que permitan avanzar hacia una innovación sostenible basada en esta tecnología.
El AI Pulse Poll 2025 de ISACA muestra que el 81% de los profesionales cree que los empleados de su organización ya utilizan inteligencia artificial, esté permitido o no, mientras que solo el 28% de las empresas dispone de una política formal e integral sobre su uso.
Y el estudio State of Cybersecurity 2025 revela que el 55% de los equipos de ciberseguridad está infradotado y que el 65% de las organizaciones mantiene puestos especializados sin cubrir.