{"id":1825,"date":"2026-07-29T11:09:48","date_gmt":"2026-07-29T11:09:48","guid":{"rendered":"https:\/\/cybercolombia.co\/index.php\/2026\/07\/29\/el-agente-corrupto-de-openai-muestra-por-que-necesitamos-reglas-federales-para-la-ia-autonoma\/"},"modified":"2026-07-29T11:09:48","modified_gmt":"2026-07-29T11:09:48","slug":"el-agente-corrupto-de-openai-muestra-por-que-necesitamos-reglas-federales-para-la-ia-autonoma","status":"publish","type":"post","link":"https:\/\/cybercolombia.co\/index.php\/2026\/07\/29\/el-agente-corrupto-de-openai-muestra-por-que-necesitamos-reglas-federales-para-la-ia-autonoma\/","title":{"rendered":"El agente corrupto de OpenAI muestra por qu\u00e9 necesitamos reglas federales para la IA aut\u00f3noma"},"content":{"rendered":"
\n

Meses antes de la violaci\u00f3n de Hugging Face, surge la IA investigaci\u00f3n publicada<\/a> que hizo p\u00fablico el periodista de investigaci\u00f3n Ronan Farrow. Diez agentes aut\u00f3nomos de IA operaron en cinco entornos virtuales durante quince d\u00edas sin intervenci\u00f3n humana. Gran parte de la atenci\u00f3n se centr\u00f3 en Grok 4.1 volvi\u00e9ndose violento y Gemini 3 Flash cometiendo 683 cr\u00edmenes. <\/p>\n

Lo que m\u00e1s importaba pas\u00f3 desapercibido: Claude Sonnet 4.6 de Anthropic construy\u00f3 una democracia pac\u00edfica de forma aislada y luego rob\u00f3 recursos de entornos vecinos en el momento en que se uni\u00f3 a uno compartido. La lecci\u00f3n fue clara: la seguridad no es un atributo modelo. Surge del entorno operativo. Los modelos no cambiaron. Trabajando seg\u00fan lo dise\u00f1ado, su comportamiento evolucion\u00f3 a medida que cambiaba el entorno. La lecci\u00f3n es dif\u00edcil de ignorar: el entorno de gobernanza cambi\u00f3 y, con \u00e9l, la din\u00e1mica de recompensas.<\/p>\n

La historia aqu\u00ed se refiere a instituciones, espec\u00edficamente OpenAI y Hugging Face, y c\u00f3mo debemos entender su reciente incidente de seguridad a trav\u00e9s de esa lente.<\/p>\n

La industria est\u00e1 de acuerdo sobre c\u00f3mo ocurri\u00f3 la violaci\u00f3n de Hugging Face. Los expertos en ciberseguridad se han centrado en las vulnerabilidades, c\u00f3mo se utilizaban y c\u00f3mo remediarlas. OpenAI ha destacado<\/a> las capacidades del modelo. Ambas conversaciones importan. Lo que requiere atenci\u00f3n es por qu\u00e9 esta brecha es estrat\u00e9gicamente importante. Despu\u00e9s de pasar el fin de semana pasado discuti\u00e9ndolo con formuladores de pol\u00edticas, investigadores de seguridad y profesionales de la industria en Aspen, sal\u00ed convencido de que estamos examinando el problema equivocado.<\/p>\n

En 1961, el psic\u00f3logo de Yale Los experimentos de Stanley Milgram.<\/a> revel\u00f3 una verdad m\u00e1s amplia: cambiar la arquitectura institucional cambia el comportamiento sin cambiar al actor. Los investigadores de Emergence AI no cambiaron al agente de Claude. Cambiaron la arquitectura de gobernanza que determinaba lo que constitu\u00eda el \u00e9xito del sistema. El comportamiento de Claude cambi\u00f3 con eso.<\/p>\n

OpenAI construy\u00f3 un modelo inteligente pero se olvid\u00f3 de construir una sala m\u00e1s inteligente. Esa elecci\u00f3n hizo posible la brecha en Hugging Face. Todas las organizaciones que ahora despliegan agentes aut\u00f3nomos enfrentan el mismo problema de gobernanza.<\/p>\n

OpenAI le dio al agente un objetivo: pasar una evaluaci\u00f3n de ciberseguridad. Para ponerlo a prueba por completo, relajaron las restricciones de seguridad y el agente encontr\u00f3 un camino m\u00e1s corto. En lugar de resolver la evaluaci\u00f3n directamente, encontr\u00f3 las respuestas fuera del entorno de prueba, escap\u00f3 de su entorno de pruebas y aprovech\u00f3 una falla en el proceso de procesamiento de datos de Hugging Face para llegar a los sistemas de producci\u00f3n en vivo. Durante el fin de semana, sin supervisi\u00f3n humana, ejecut\u00f3 m\u00e1s de 17.000 acciones automatizadas escalando su propio acceso, movi\u00e9ndose a trav\u00e9s de sistemas internos y recopilando credenciales.<\/p>\n

Hugging Face es una de las empresas de inteligencia artificial m\u00e1s destacadas del mundo, valorada en aproximadamente 4.500 millones de d\u00f3lares. Proporciona la infraestructura que los gobiernos, las organizaciones de defensa y las empresas de tecnolog\u00eda utilizan para construir e implementar IA. El agente persegu\u00eda el objetivo que se le hab\u00eda asignado. Irrumpir en Hugging Face fue el camino m\u00e1s r\u00e1pido para pasar la prueba. La gobernanza establec\u00eda el objetivo, el nivel de riesgo a aceptar y qui\u00e9n era responsable. El dise\u00f1o t\u00e9cnico determin\u00f3 si esas decisiones de gobernanza podr\u00edan hacerse cumplir. Como afirman los investigadores James Shires y Max Smeets han discutido<\/a>para que un modelo sea lo suficientemente capaz de actuar por s\u00ed solo, las pruebas y el despliegue deben regirse de la misma manera.<\/p>\n

El dise\u00f1o de agentes de IA requiere est\u00e1ndares b\u00e1sicos. La observabilidad, incluida una capa de monitoreo que se\u00f1ala cuando un agente va m\u00e1s all\u00e1 de su alcance, es un requisito b\u00e1sico. La revisi\u00f3n humana tambi\u00e9n es importante en los l\u00edmites de escalada, como cuando un agente pasa de herramientas internas a herramientas externas. Cuando cualquier agente cruza ese l\u00edmite, \u00bfqu\u00e9 alerta se activa? \u00bfQu\u00e9 humano lo revisa? Carecemos de respuestas claras para cualquiera de las dos. Se trata de una elecci\u00f3n de gobernanza, no simplemente de una falla de seguridad. En el mejor de los casos, \u00e9sta fue una prueba catastr\u00f3ficamente fallida. En el peor de los casos, \u00bfc\u00f3mo podemos confiar en que una empresa de inteligencia artificial de vanguardia autogobernar\u00e1 el despliegue aut\u00f3nomo de agentes?<\/p>\n

Hace m\u00e1s de una d\u00e9cada, el Departamento de Defensa de EE. UU. cre\u00f3 el programa Comply-to-Connect (C2C): cada dispositivo que se conecta a redes sensibles debe demostrar que pertenece all\u00ed o quedar\u00e1 aislado de la red. C2C funciona porque el actor en cuarentena se detiene. Una computadora port\u00e1til que no pasa la verificaci\u00f3n se desconecta y permanece all\u00ed. Un agente de IA aut\u00f3nomo se adapta a la aplicaci\u00f3n de la ley. C2C fue creado para actores pasivos. La gobernanza de los agentes aut\u00f3nomos debe adaptarse a los que se adaptan. La visibilidad no es aplicaci\u00f3n de la ley y la aplicaci\u00f3n de la ley no es control. Nos faltan los tres.<\/p>\n

Una segunda falla que no se est\u00e1 discutiendo lo suficiente: la violaci\u00f3n explot\u00f3 una suposici\u00f3n de confianza impl\u00edcita en el proceso de procesamiento de datos de Hugging Face, donde las entradas se trataban como confiables sin verificaci\u00f3n. Despu\u00e9s de SolarWinds, el gobierno de EE. UU. estableci\u00f3 reglas para la integridad de la cadena de suministro de software: Orden Ejecutiva 14028<\/a> y demandas de verificaci\u00f3n de software federal. El principio era simple: la confianza debe verificarse mediante pruebas. Esos principios a\u00fan no se han aplicado de manera integral o consistente a la cadena de suministro del modelo de IA. Las reglas siguen siendo d\u00e9biles. A nadie se le ha pedido que explique por qu\u00e9.<\/p>\n

La respuesta no es un nuevo marco. Los marcos existentes son suficientes. C2C demostr\u00f3 que la visibilidad sin aplicaci\u00f3n de la ley deja lagunas, mientras que la Orden Ejecutiva 14028 estableci\u00f3 que la confianza en las cadenas de suministro de software requiere pruebas y verificaci\u00f3n. El desaf\u00edo radica en aplicar estos principios a una nueva categor\u00eda de actores. El Congreso, la Agencia de Seguridad de Infraestructura y Ciberseguridad o la Oficina de Gesti\u00f3n y Presupuesto deber\u00edan tomar determinaciones formales de que los agentes aut\u00f3nomos de IA deben seguir las mismas reglas que cualquier otro actor en una red federal. El marco existe; debe ser actualizado.<\/p>\n

El pr\u00f3ximo incidente ya est\u00e1 en marcha. Aparecer\u00e1 en los registros como tr\u00e1fico extra\u00f1o, se entregar\u00e1 a las mismas personas que publicaron estos marcos esta semana y provocar\u00e1 otra ronda de recomendaciones sobre las que nadie act\u00faa. Hemos resuelto este problema antes: para dispositivos, para software, para cadenas de suministro. Sabemos c\u00f3mo construir habitaciones m\u00e1s inteligentes. Las herramientas existen. La voluntad, la autoridad y la decisi\u00f3n de gobernar siguen ausentes.<\/p>\n