Por qué bloquear los modelos de IA no detendrá las ciberamenazas que crean

2026 resultó ser el año en el que las predicciones sobre los ciberataques impulsados ​​por la IA, que durante mucho tiempo se habían planteado como un riesgo potencial asociado con la mejora de la IA, parecen hacerse realidad. Los nuevos modelos tienen capacidades a la par de los mejores hackers humanos, lo que marca una ventana de oportunidad fundamental tanto en la IA como en la política de ciberseguridad. Este es un período de transición en el que las nuevas tecnologías están llevando al límite la infraestructura de ciberseguridad estadounidense existente. La verdadera pregunta no es si la ciberseguridad sigue siendo importante, sino más bien: ¿cómo se gestionarán los riesgos que introduce la IA antes de que superen las defensas y quién asumirá el liderazgo de este desafío?

Los intentos de controlar el acceso a modelos con potentes capacidades de ciberseguridad, como el del gobierno federal controles de exportación (y su posterior revocación) en los modelos Mythos y Fable de Anthropic, solo puede ser una solución temporal. Al igual que con las generaciones anteriores de modelos de IA, otras empresas pronto se pondrán al día y desarrollarán modelos con capacidades de nivel Mythos. OpenAI ya le estaba pisando los talones a Anthropic con su Modelo GPT-5.5; Más recientemente, el laboratorio chino Z.ai lanzó su peso abierto. Modelo GLM-5.2que las primeras investigaciones sugieren que puede estar a la par con los últimos modelos de Anthropic y OpenAI en lo que respecta a ciberseguridad. Controlar la IA es casi imposible cuando las empresas extranjeras se apresuran a construir modelos más potentes y lanzarlos públicamente, de modo que cualquiera con suficiente potencia informática pueda modificarlos para sus propios fines.

La única solución a largo plazo es invertir en defensa.

El problema es que los esfuerzos defensivos no han seguido el ritmo del progreso de la IA. El gobierno federal recortó recursos a agencias clave como CISA y redistribuyó sus autoridades. Esto creó un vacío que las empresas de IA han llenado al asumir responsabilidades que deberían estar dirigidas por el gobierno. Algunos ejemplos son los de Anthropic. Proyecto Ala de Vidrio y OpenAI Parchear el planeta iniciativa, que tiene como objetivo apuntalar a los proveedores de infraestructura crítica y bibliotecas de software de código abierto. Las empresas de IA tienen algunos incentivos para invertir en defensa, tanto para mejorar las relaciones públicas como para fortalecer las cadenas de suministro de software de las que también dependen, pero sólo hasta cierto punto. A diferencia del sector público, se les incentiva a limitar la responsabilidad y las consecuencias asociadas con el comportamiento corporativo irresponsable, no a proteger a la nación o a sus ciudadanos. Es bueno que OpenAI y Anthropic se hayan comprometido públicamente a mejorar la ciberdefensa de Estados Unidos. Sin embargo, sólo están posicionados para ayudar con una parte de un problema muy grande.

No se debería esperar que las empresas de IA coordinen por sí solas la ciberdefensa de EE. UU., porque muchas de las soluciones más urgentes no tienen nada que ver con la IA. En este momento, las empresas de inteligencia artificial pueden utilizar sus modelos más potentes para encontrar vulnerabilidades de software y escribir parches. Sin duda, esto es importante, pero el verdadero desafío es asegurarse de que los parches realmente funcionen e implementarlos en sistemas clave sin causar problemas. Esto es especialmente cierto en el caso de la infraestructura crítica, que depende de sistemas frágiles, con poco personal y que deben funcionar de forma continua.

Las empresas de IA tienen la responsabilidad de la ciberdefensa, especialmente dadas las amenazas que crean sus propias tecnologías. Pero esta responsabilidad se comparte con otras empresas y el gobierno. Los propietarios y operadores de infraestructuras críticas, las agencias gubernamentales y las corporaciones necesitan una fuente confiable de información para juzgar el panorama de riesgos en evolución y delinear las opciones para reducir ese riesgo. Tradicionalmente, el gobierno federal ha desempeñado el papel de centro de intercambio de información, recibiendo inteligencia tanto del sector público como del privado y publicando orientación en beneficio de diversas partes interesadas. Responder y recuperarse de los ciberataques ha sido tradicionalmente tarea del gobierno. Debería seguir siendo tarea del gobierno, no convertirse en responsabilidad de las empresas de IA.

No hay duda de que en el futuro se producirán ciberataques, ya sean impulsados ​​por IA o no. Los líderes deben fortalecer nuestras defensas haciendo lo siguiente: medir nuestra exposición a los ataques, probar cómo funcionan los sistemas bajo ataque y acortar los tiempos de recuperación. Las empresas de IA han introducido nuevas amenazas y deberían ayudar a abordarlas, pero no pueden reemplazar el papel del gobierno. Hasta ahora, el gobierno federal sólo ha reaccionado ante la IA y las ciberamenazas en lugar de planificar el futuro. Lo que necesitamos es una verdadera estrategia de ciberseguridad a largo plazo, no soluciones rápidas como bloquear los lanzamientos de modelos individuales.

Todo el mundo ve venir la amenaza; la cuestión es si tenemos o no la voluntad de hacer algo al respecto antes de que sea demasiado tarde.

Jessica Ji es analista de investigación senior en el Centro de Seguridad y Tecnología Emergente (CSET) de la Universidad de Georgetown, donde trabaja en el Proyecto CyberAI.

Andrew Lohn es investigador principal del Centro de Seguridad y Tecnología Emergente (CSET) de la Universidad de Georgetown, donde trabaja en el Proyecto CyberAI.

Escrito por Jessica Ji y Andrew Lohn

La administración Trump lanza el centro de intercambio de información sobre ciberamenazas de IA 'Gold Eagle'

La administración Trump dio a conocer su nueva cámara de compensación federal para compartir información sobre amenazas cibernéticas de IA entre el gobierno y el sector privado, y dijo que el proyecto ya está recibiendo inteligencia sobre amenazas sobre vulnerabilidades de seguridad cibernética y priorizando la aplicación de parches.

Creada el mes pasado mediante una orden ejecutiva de la Casa Blanca, “Gold Eagle” será administrada por el Departamento del Tesoro, con contribuciones de la Agencia de Seguridad de Infraestructura y Ciberseguridad, el Departamento de Seguridad Nacional y el Departamento de Defensa, así como proveedores de software de código abierto, operadores de infraestructura crítica y la industria.

«Bajo el liderazgo del presidente Trump, el Departamento del Tesoro está trabajando mano a mano con el sector privado para salvaguardar nuestras instituciones financieras, cerrar vulnerabilidades y proteger la integridad del sistema financiero estadounidense», dijo el secretario del Tesoro, Scott Bessent, en un comunicado. «El Tesoro, junto con nuestras agencias asociadas, seguirá aprovechando las capacidades de vanguardia de la IA para adelantarse a nuestros adversarios y defender al pueblo estadounidense de las amenazas emergentes».

Gold Eagle está destinado a ayudar a organizaciones públicas y privadas a encontrar, corregir y parchear vulnerabilidades encontradas utilizando herramientas de inteligencia artificial antes de que sean descubiertas y explotadas por malos actores. El trabajo implicará el uso de IA para encontrar vulnerabilidades de ciberseguridad en los sistemas y software de las víctimas, y el secretario de Seguridad Nacional, Markwayne Mullin, dijo que también exploraría más a fondo formas de aprovechar la tecnología para la ciberdefensa.

Según la Casa Blanca, Gold Eagle ya se ha utilizado para recopilar información sobre vulnerabilidades.

A medida que los modelos de IA han mejorado en la realización de tareas básicas relacionadas con la ciberseguridad (como escanear códigos en busca de vulnerabilidades o desarrollar códigos de explotación de prueba de concepto), los expertos en ciberseguridad y los formuladores de políticas se han preocupado cada vez más. La Internet moderna está plagada de códigos inseguros, configuraciones erróneas y otros errores que pueden identificarse y explotarse más rápido que nunca utilizando herramientas de inteligencia artificial.

Las vulnerabilidades en el software de fuente abierta pueden estar generalizadas y ocultas, ya que muchos productos de software comercial en el mercado dependen de código de fuente abierta pero pocos se molestan en documentarlo. Cuando los piratas informáticos se comprometieron una herramienta de registro en Log4J biblioteca de software Apache de código abierto en 2021, requirió un esfuerzo de coordinación masivo de varios meses por parte de CISA, el sector privado y otras partes interesadas para encontrar y reparar las piezas de software afectadas.

Un funcionario de la Casa Blanca dijo a los periodistas en una rueda de prensa el martes que el trabajo de Gold Eagle refleja el “pleno apoyo” de la administración a los proveedores y mantenedores de software de fuente abierta de Estados Unidos.

Las herramientas de código abierto son “vitales para los sistemas que se ejecutan en todo nuestro país y en la vida diaria”, dijo un alto funcionario de la administración, hablando con periodistas en segundo plano. “Lo mantiene un grupo talentoso de personas y entidades y haremos todo lo posible para apoyar la fuerza de esa comunidad.

Michael Daniel, excoordinador cibernético de la Casa Blanca durante la presidencia de Barack Obama, dijo a CyberScoop que la IA todavía es tan nueva que los formuladores de políticas continúan observando su impacto y adaptándose. Si bien algunos canales de comunicación existentes para compartir información sobre amenazas a la ciberseguridad probablemente podrían duplicarse para rastrear las amenazas de la IA, todavía hay mucho que los formuladores de políticas pueden aprender más sobre la tecnología, el tipo de amenazas que produce y su ecosistema de partes interesadas.

«Al final del día, puede resultar que el phishing sigue siendo phishing, y el hecho de que ahora tenemos herramientas de inteligencia artificial para hacerlo, sigue siendo phishing. O puede haber algo fundamentalmente diferente al respecto que necesitamos descubrir cómo combatirlo y compartir información», dijo.

Derek B. Johnson

Escrito por Derek B. Johnson

Derek B. Johnson es reportero de CyberScoop, donde su área incluye la ciberseguridad, las elecciones y el gobierno federal. Antes de eso, ha brindado una cobertura galardonada de noticias sobre ciberseguridad en los sectores público y privado para varias publicaciones desde 2017. Derek tiene una licenciatura en periodismo impreso de la Universidad de Hofstra en Nueva York y una maestría en políticas públicas de la Universidad George Mason en Virginia.

Una organización sin fines de lucro francesa inicia un centro global de inteligencia e investigación para las ciberamenazas de la IA

El Foro de Paz de París, una organización francesa sin fines de lucro que ha convocado a líderes mundiales sobre cuestiones de seguridad global, está lanzando un nuevo proyecto para reunir a expertos internacionales para evaluar las amenazas relacionadas con la IA a la infraestructura global de Internet.

La Red Integrada para una IA confiable en el ciberespacio (INTAiC) recurrirá a investigadores y expertos de la sociedad civil del gobierno y el sector privado, analizará las amenazas cibernéticas actuales de la IA desde el campo y creará informes «con visión de futuro» sobre cómo la tecnología afectará a la sociedad y qué pueden hacer las organizaciones para responder.

Uno de los principales objetivos del proyecto es crear una coalición internacional de respuesta rápida entre gobiernos y empresas para abordar las amenazas relacionadas con la IA, similar a los mecanismos de coordinación que existen en otras áreas de la ciberseguridad.

«La fragmentación de la evidencia sobre las amenazas cibernéticas impulsadas por la IA no es incidental, es estructural: quienes defienden las redes y quienes protegen los sistemas de IA han trabajado durante mucho tiempo en esferas separadas», dijo Adrien Abecassis, director de iniciativas políticas del Foro de Paz de París. «Es exactamente por eso que INTAiC es único: está diseñado para convertir esos fragmentos en una lectura comparable de la amenaza, porque este es un desafío que ningún actor puede afrontar solo».

La red ya incluye una serie de empresas y organizaciones destacadas, incluidas Microsoft, Cyber ​​Threat Alliance, Cloud Security Alliance, Orange Cyberdefense y otras.

Según el foro, el trabajo del INTAiC se centrará principalmente en dos líneas de trabajo separadas. Uno es un recurso único y actualizado periódicamente para que los defensores se mantengan actualizados sobre cómo la IA está remodelando las ciberamenazas. El recurso se centra más en las capacidades de los atacantes, las diferentes formas de uso indebido y el impacto en las operaciones de seguridad que en incidentes aislados.

«El resultado es un punto de referencia común, basado en la realidad, que brinda a los formuladores de políticas una medida más clara de la amenaza e identifica los riesgos que más merecen atención colectiva», dijo el Foro en un comunicado.

El segundo flujo de trabajo se centrará en evaluar y prevenir los riesgos cibernéticos asociados con la IA, creando una base de expertos externos independientes que puedan proporcionar evaluaciones neutrales o imparciales de las capacidades cibernéticas del modelo de frontera. Ese trabajo atraerá a gobiernos, instituciones de investigación y organizaciones sin fines de lucro a desarrollar nuevas vías organizativas y de financiación para apoyar ese tipo de investigación.

Si bien el gobierno federal de EE. UU. ha recorrido un largo camino en los últimos años para desarrollar su propia capacidad para probar y estudiar las amenazas cibernéticas de la IA, gran parte del acceso y la experiencia técnica en torno a las capacidades de los modelos de frontera se concentran en las empresas comerciales de IA. En ocasiones, esto ha generado preocupaciones de que las agencias federales dependieran demasiado de las empresas de inteligencia artificial para explicar cómo funciona la tecnología y guiarlas a través de los posibles escenarios de amenaza.

A medida que Anthropic y OpenAI han implementado programas de ciberseguridad defensiva como el Proyecto Glasswing y el programa Trusted Access for Cyber, el acceso a esos modelos ha estado disponible para un grupo más amplio de investigadores y organizaciones.

El Foro de Paz de París tiene la intención de informar al público sobre el trabajo y los logros de INTAiC en París a finales de este año durante la conferencia anual de la organización en noviembre.

Derek B. Johnson

Escrito por Derek B. Johnson

Derek B. Johnson es reportero de CyberScoop, donde su área incluye la ciberseguridad, las elecciones y el gobierno federal. Antes de eso, ha brindado una cobertura galardonada de noticias sobre ciberseguridad en los sectores público y privado para varias publicaciones desde 2017. Derek tiene una licenciatura en periodismo impreso de la Universidad de Hofstra en Nueva York y una maestría en políticas públicas de la Universidad George Mason en Virginia.