Reino Unido prepara un ‘Escudo Cibernético’ con IA para blindar infraestructuras críticas y redes del país – CYBERDEFENSA.MX

Reino Unido ha presentado un ambicioso proyecto para reforzar la protección de sus infraestructuras esenciales mediante tecnologías capaces de detectar y responder a amenazas de forma automática y en cuestión de segundos.

El plan, impulsado por el Centro Nacional de Ciberseguridad (NCSC), pretende desarrollar una capacidad de defensa nacional basada en agentes de inteligencia artificial que permitan localizar vulnerabilidades antes de que sean aprovechadas por los ciberdelincuentes.

Una defensa preparada para responder a ataques a velocidad de máquina

El organismo británico considera que el uso creciente de la inteligencia artificial por parte de grupos criminales y actores estatales ha cambiado completamente el panorama de las amenazas digitales.

Hasta hace poco, localizar una vulnerabilidad en una red podía requerir días o incluso semanas de análisis. Sin embargo, la incorporación de sistemas de IA permite automatizar estas tareas y reducir ese tiempo a apenas unos minutos.

Desde el NCSC advierten de que este escenario puede dejar obsoletos muchos de los mecanismos tradicionales de defensa.

En palabras de la agencia, los atacantes ya son capaces de «moverse a velocidad de máquina y a una escala mucho mayor, reduciendo las oportunidades de detección y respuesta».

Asimismo, el organismo subraya que «desarrollar soluciones viables que escalen y ejecuten al ritmo que necesitamos en la era moderna es el mandato del Escudo Cibernético».

Agentes de IA que atacan y defienden al mismo tiempo

Uno de los aspectos más innovadores del proyecto consiste en utilizar dos tipos de agentes de inteligencia artificial trabajando de forma coordinada.

Por un lado estarán los denominados agentes «rojos», cuya misión será actuar como si fueran atacantes reales, explorando continuamente las redes gubernamentales y las infraestructuras críticas para descubrir posibles puntos débiles antes que los ciberdelincuentes.

Frente a ellos actuarán los agentes «azules», encargados de responder automáticamente, aplicar medidas de protección y fortalecer los sistemas prácticamente en tiempo real.

Todo este proceso estará supervisado por las propias organizaciones responsables de las infraestructuras protegidas, permitiendo mantener el control sobre las actuaciones realizadas por la inteligencia artificial.

Seis grandes funciones para proteger infraestructuras estratégicas

El NCSC ha explicado que el Escudo Cibernético se apoyará en seis capacidades principales, algunas de las cuales ya existen parcialmente y otras todavía requieren importantes avances tecnológicos.

Entre ellas destaca el escaneo automatizado de redes para identificar vulnerabilidades, una función que actualmente ya se emplea en determinados entornos. El siguiente paso será conseguir que la inteligencia artificial no solo detecte los fallos, sino que también sea capaz de corregirlos de forma completamente autónoma.

La propia agencia reconoce que alcanzar este nivel de automatización todavía plantea importantes retos técnicos y científicos, por lo que será necesario continuar investigando antes de poder desplegar todas las capacidades previstas.

Además, el organismo ha alertado recientemente sobre una creciente «oleada de parches» impulsada por la inteligencia artificial.

Este fenómeno hace referencia al incremento constante de nuevas vulnerabilidades detectadas, que aparecen a un ritmo muy superior al que muchas organizaciones pueden solucionarlas.

Colaboración entre Gobierno, empresas y universidades

El desarrollo del proyecto no recaerá únicamente sobre la administración británica. El Gobierno pretende implicar a empresas especializadas en inteligencia artificial, compañías dedicadas a la ciberseguridad, universidades y centros de investigación para acelerar la evolución del sistema.

Las primeras pruebas se llevarán a cabo junto a responsables de redes gubernamentales y operadores de infraestructuras críticas, con el objetivo de validar la tecnología antes de extenderla a soluciones que puedan implantarse a gran escala.

El modelo de implantación seguirá una estrategia progresiva basada en «probar, iterar y escalar», sin que por el momento se haya fijado un calendario definitivo para su despliegue.

Durante la presentación del proyecto, la directora del GCHQ, Anne Keast-Butler, ya adelantó que el Reino Unido pretende integrar la inteligencia artificial agente dentro de la defensa cibernética «a velocidad de máquina», al tiempo que advirtió de que el margen para mantener la ventaja frente a los adversarios digitales es cada vez menor.

El Congreso prepara la Ley No FAKES, dirigida a los deepfakes generados por IA

El Comité Judicial del Senado aprobó esta semana un nuevo proyecto de ley que busca prevenir falsificaciones profundas no autorizadas de artistas, intérpretes y figuras públicas estadounidenses. Si bien el proyecto de ley pasó por una votación oral en el comité, tanto los senadores como los grupos externos dicen que les preocupa que pueda convertirse en una herramienta para que los poderosos anulen la libertad de expresión.

El Ley NO FALSIFICACIONESpresentado por los senadores Chris Coons, demócrata por Delaware, y Marsha Blackburn, republicana por Tennessee, otorgaría a los estadounidenses derechos casi exclusivos sobre sus propias réplicas digitales de IA, y esos derechos perduran y pasan a herederos, albaceas y herederos durante al menos 70 años después de la muerte de un individuo.

Mientras estén vivos, los creadores podrían esencialmente otorgar licencias sobre su imagen y semejanza a otros, mediante contratos de 10 años para adultos y de 5 años para menores.

También permitiría a las personas demandar a cualquiera que utilice su imagen generada por IA sin permiso y pagar hasta 750.000 dólares por infracciones. Blackburn presentó cartas de apoyo al proyecto de ley de más de 40 grupos, incluido el Screen Actors Guild, la Federación Estadounidense de Artistas de Radio y Televisión, la Asociación Médica Estadounidense, la Agencia de Artistas Creativos, las Asociaciones de Locutores y la Campaña de Arte Humano.

«Es imperativo que implementemos este estándar nacional para la protección de la voz y la imagen visual de los creadores, para protegerlos de la proliferación de deepfakes dañinos generados por IA que se crean sin su consentimiento», dijo Blackburn en un comentario del proyecto de ley el jueves.

La introducción de herramientas de inteligencia artificial para consumidores ha hecho que sea trivial crear deepfakes convincentes de individuos y figuras públicas reales. Los daños están bien documentados: los malos actores los han utilizado para crear pornografía no consensuada o medios sexualizados de personas que conocen, crear material de agresión sexual infantil (CSAM) y chantajear o humillar a personas.

Los artistas se han enfrentado a desafíos reales en la era de la IA cuando se trata de controlar su imagen digital. El año pasado, el Better Business Bureau prevenido que su Scam Tracker se había visto inundado de quejas sobre estafas de patrocinio de celebridades de IA. Estos incluyeron deepfakes de Oprah Winfrey promocionando productos para bajar de peso, Kim Kardashian pidiendo donaciones para combatir los incendios forestales de California y la estrella del pop Taylor Swift y el famoso chef Gordon Ramsay respaldando utensilios de cocina.

En el ámbito político, los candidatos ahora crean deepfakes de sus oponentes políticosponiéndoles palabras en la boca o colocándolos en situaciones embarazosas o humillantes. En línea, los actores de la desinformación han difundido repetidamente videos e imágenes generados por inteligencia artificial de políticos como Donald Trump, Kamala Harris e incluso políticos regionales o locales diciendo o haciendo cosas escandalosas.

El proyecto de ley representa uno de los intentos más agresivos de los formuladores de políticas estadounidenses para proteger los derechos comerciales digitales de artistas y figuras públicas. Nueva York, por ejemplo, aprobó una ley este mes que exige que los anunciantes de cine y televisión den publicidad cuando utilicen deepfakes en sus anuncios, pero no crea un régimen de derechos de autor similar para las imágenes de los artistas. Una ley de Tennessee, la Ley ELVIS, que prohíbe el uso no autorizado de la voz y la imagen de un individuo y crea una responsabilidad secundaria para las grandes plataformas que publican o distribuyen el contenido.

La Ley NO FAKES enfrenta la oposición de una alianza de empresas tecnológicas y grupos de derechos digitales. Argumentan que el proyecto de ley no logra equilibrar los derechos comerciales de los artistas a controlar su propia imagen con los derechos constitucionales de la Primera Enmienda a la libertad de expresión y la parodia, que datan de larga data.

Amy Bos, vicepresidenta de asuntos gubernamentales de NetChoice, una asociación comercial para negocios en línea, dijo que si bien su grupo apoya la legislación que previene los deepfakes no autorizados generados por IA, “las buenas intenciones no hacen una buena ley”.

“Tal como está escrito, este proyecto de ley crea un incentivo financiero peligroso para que las plataformas eliminen excesivamente contenido legal de manera agresiva, sobrecarga a los creadores con un sistema de contranotificación inviable y no cumple con el estándar nacional uniforme que prometieron sus patrocinadores”, dijo Bos en un comunicado.

Muchos grupos civiles digitales están de acuerdo con esa opinión. Una amplia coalición de grupos políticos –entre ellos la Unión Estadounidense por las Libertades Civiles, la Fundación R-Street, el Centro para la Democracia y la Tecnología, la Fundación Frontera Electrónica y otros– escribió al Comité Judicial del Senado esta semana para instar a los miembros a oponerse al proyecto de ley en su forma actual.

Argumentaron que el proyecto de ley actual crea un “veto de Heckler” sobre la mayoría del contenido en línea, permitiendo a artistas, figuras públicas y grupos de defensa inundar el sistema de notificación con solicitudes de eliminación de contenido que no les gusta. Al igual que una ley que ya está en vigor, la Digital Millenium Copyright Act, prácticamente todos los incentivos del proyecto de ley empujan a las plataformas a ser demasiado agresivas a la hora de eliminar contenido, independientemente de si viola la ley o no.

Este enfoque podría terminar anulando no sólo los anuncios no autorizados sino también muchos otros usos probablemente protegidos por la Primera Enmienda, como la educación, el humor, la sátira y la parodia.

En 2023, una imagen humorística generada por IA de El Papa Francisco con una chaqueta hinchada de Balenciaga se volvió viral. Según la Ley NO FAKES, la coalición dice que sería ilegal publicar hasta casi las 21:00.

En el ámbito político, tanto republicanos como Trump como demócratas como el gobernador de California, Gavin Newsom, han utilizado falsificaciones de IA para criticar a su oposición política.

“Una ley que socava la libertad de expresión tendrá dificultades para sobrevivir a la revisión constitucional”, escribieron los grupos. «Mientras tanto, puede causar un daño duradero, tanto a la expresión legal como a la autonomía de las personas que dice proteger. Instamos al Comité a no promover la Ley NO FAKES en su forma actual, a examinar cómo las leyes estatales y federales existentes ya abordan los daños legítimos que el proyecto de ley busca abordar, y a buscar soluciones adaptadas específicamente sólo cuando persista una brecha genuina. Agradeceríamos la oportunidad de ayudar».

Si bien el proyecto de ley fue aprobado mediante votación oral y con amplio apoyo, varios miembros republicanos y demócratas del comité dijeron que tenían preocupaciones similares y expresaron su deseo de seguir modificando el proyecto de ley antes de que se convierta en ley.

En la reunión del Senado, Coons pareció desestimar esos cargos, argumentando que los cambios realizados en el proyecto de ley antes del marcado abordan adecuadamente cualquier preocupación de la Primera Enmienda.

«Quiero ser claro: NO FAKES incluye funciones que protegen la libertad de expresión», afirmó Coons. «Parodias, documentales satíricos, películas biográficas, noticieros, todos están protegidos y hemos incorporado procesos de contranotificación adecuados y bibliotecas y archivos de investigación exentos».

Derek B. Johnson

Escrito por Derek B. Johnson

Derek B. Johnson es reportero de CyberScoop, donde su área incluye la ciberseguridad, las elecciones y el gobierno federal. Antes de eso, ha brindado una cobertura galardonada de noticias sobre ciberseguridad en los sectores público y privado para varias publicaciones desde 2017. Derek tiene una licenciatura en periodismo impreso de la Universidad de Hofstra en Nueva York y una maestría en políticas públicas de la Universidad George Mason en Virginia.

Una sesión informativa cerrada prepara el escenario para la audiencia de la Cámara sobre los mitos y los riesgos cibernéticos de Anthropic

El Comité de Seguridad Nacional de la Cámara de Representantes está investigando el modelo de inteligencia artificial Mythos de Anthropic en una serie de sesiones informativas y audiencias, mientras proliferan las preguntas sobre si el gobierno federal hará uso de la tecnología promocionada por su capacidad para descubrir vulnerabilidades cibernéticas de forma autónoma y cómo.

El miércoles hubo una sesión informativa a puertas cerradas de Anthropic para el Comité de Seguridad Nacional de la Cámara de Representantes. El presidente del subcomité de ciberseguridad del panel dijo que planea celebrar una audiencia sobre el tema. Y los demócratas del comité están solicitando una reunión informativa clasificada con Anthropic.

Un asistente del comité que asistió a la sesión informativa dijo que incluía una demostración en vivo de Mythos, «permitiendo a los miembros ver de primera mano cómo la IA avanzada puede identificar y razonar a través de vulnerabilidades de software. Lo que vimos reforzó la urgencia de garantizar que las agencias federales, incluidos nuestros ciberdefensores civiles, puedan acceder y desplegar de manera responsable los modelos estadounidenses más avanzados para encontrar y reparar vulnerabilidades antes de que adversarios extranjeros o actores criminales las exploten».

Varios legisladores clave, incluido el demócrata del comité principal Bennie Thompson de Mississippi y el presidente del subcomité cibernético del Partido Republicano Andy Ogles de Tennessee, dijeron a CyberScoop que no pudieron asistir a la sesión informativa del miércoles. Una segunda fuente que asistió dijo que fue una reunión «productiva».

«Los miembros de ambos lados se centraron en preservar la ventaja de Estados Unidos en IA, lo que básicamente se redujo a preservar nuestra ventaja en potencia informática», dijo la fuente. «También hacían preguntas sobre si el gobierno federal estaba utilizando Mythos, incluso sobre dónde está CISA y el impacto de la designación de riesgo de la cadena de suministro».

The Hill informó que la sesión informativa del miércoles fue guiado en el lado antrópico por Logan Graham, del equipo rojo fronterizo de la compañía, y Josh Tilstra, del equipo de políticas y programas de seguridad nacional de la empresa. sigue otra sesión informativa cerrada reciente con Anthropic y OpenAI para el Comité de Seguridad Nacional de la Cámara de Representantes.

Ogles le dijo a CyberScoop que planea celebrar una audiencia de su subcomité relacionada con Mythos, pero no pudo asistir a la sesión informativa del miércoles debido a conflictos de programación. La principal demócrata en el subcomité de Ogle, Delia Ramírez de Illinois, tampoco pudo unirse debido a compromisos previos, pero estaba lista para recibir un resumen del personal sobre la sesión informativa del miércoles, dijo su oficina.

Existe una división sobre qué agencias federales están utilizando Mythos hasta el momento. Por ejemplo: CISA supuestamente no espero la Agencia de Seguridad Nacional es.

La división federal sobre su uso se debe a una lista negra del Departamento de Defensa que calificó a la empresa como un «riesgo para la cadena de suministro» después de Anthropic resistió la presión del Pentágono utilizar su modelo Claude AI en formas a las que la empresa se oponía. El departamento lo dice ha estado usando Mythos para identificar vulnerabilidades cibernéticas a pesar de la lista negra.

Se está gestando una batalla territorial dentro de la administración Trump sobre las pruebas de modelos de IA, informó The Washington Post esta semana. El representante de Connecticut Jim Himes, el principal demócrata en el Comité de Inteligencia de la Cámara de Representantes, dijo esta semana que Sería una “locura” que las agencias de espionaje estadounidenses no tengan acceso temprano a modelos avanzados de IA.

La sesión informativa de Mythos se produjo un día después de que OpenAI anunciara su propia iniciativa de ciberseguridad.

El asistente del comité dijo que «mientras la República Popular China trabaja agresivamente para cerrar la brecha de innovación en IA con los Estados Unidos, el comité sigue centrado en garantizar que el liderazgo de la IA de Estados Unidos se traduzca en una ventaja duradera para la seguridad nacional, no en una ventaja temporal que los adversarios puedan copiar, robar o mercantilizar rápidamente».

Actualizado el 13/05/26: para incluir comentarios de un asistente del comité que asistió a la sesión informativa.

Tim Starks

Escrito por Tim Starks

Tim Starks es reportero senior de CyberScoop. Sus paradas anteriores incluyen trabajar en The Washington Post, POLITICO y Congressional Quarterly. Originario de Evansville, Indiana, se ocupa de la ciberseguridad desde 2003. Envíe un correo electrónico a Tim aquí: tim.starks@cyberscoop.com.