Panel de la Cámara de Representantes está listo para celebrar una audiencia centrada en el impacto de la IA en la cibernética

Un subcomité de la Cámara de Representantes celebrará una audiencia abierta la próxima semana sobre cómo los modelos de inteligencia artificial de vanguardia están dando forma al panorama de la ciberseguridad, para bien y para mal.

La audiencia del 4 de junio será la segunda que realiza el Subcomité de Seguridad Nacional sobre Ciberseguridad y Protección de Infraestructura que se centró al menos en parte en el tema, luego de una audiencia similar celebrada en Diciembre. Pero a diferencia de esa audiencia del subcomité conjunto, donde los miembros también examinaron otras tecnologías emergentes, la IA ocupa un lugar central la próxima semana.

Cierra una serie de reuniones a puertas cerradas del panel de Homeland donde los miembros y el personal han estado evaluando la intersección de la IA y la cibernética. CyberScoop es el primero en informar detalles sobre la audiencia.

Los testigos serán Sandra Joyce, vicepresidenta de Google Threat Intelligence; Chris Meserole, director ejecutivo del Frontier Model Forum; y Jack Cable, ex alto funcionario de la Agencia de Seguridad de Infraestructura y Ciberseguridad y ahora director ejecutivo y cofundador de Corridor Security.

«La China comunista se está moviendo agresivamente para controlar las tecnologías que definirán el futuro del poder económico y militar, y pocas tecnologías tienen más consecuencias que la inteligencia artificial», dijo el presidente del subcomité Andy Ogles, republicano por Tennessee, en una declaración escrita. «Los adversarios ya están trabajando para robar las capacidades de IA estadounidenses, convertir en armas herramientas habilitadas para IA, infiltrarse en sistemas críticos y socavar nuestra seguridad nacional».

“La IA es la misión del futuro de America First y se está convirtiendo en nuestra arma ofensiva y defensiva número uno contra los ciberterroristas”, continuó. «Espero escuchar a nuestros testigos sobre cómo podemos adelantarnos a las amenazas cibernéticas basadas en la IA, proteger los servicios en los que confían los estadounidenses y ganar esta carrera armamentista de la IA».

La audiencia es la última respuesta del Capitolio a la avalancha de noticias sobre las capacidades de los modelos avanzados de IA para descubrir vulnerabilidades cibernéticas. A principios de este mes, por ejemplo, los legisladores escribieron al Director Nacional Cibernético, Sean Cairncross, solicitando un plan para hacer frente al posible aumento en el descubrimiento de vulnerabilidades derivadas de tales modelos.

La semana pasada, la administración Trump pospuso un proyecto de orden ejecutiva sobre IA. Es algo sobre lo que probablemente los legisladores pregunten en la audiencia de la próxima semana.

Tim Starks

Escrito por Tim Starks

Tim Starks es reportero senior de CyberScoop. Sus paradas anteriores incluyen trabajar en The Washington Post, POLITICO y Congressional Quarterly. Originario de Evansville, Indiana, se ocupa de la ciberseguridad desde 2003. Envíe un correo electrónico a Tim aquí: tim.starks@cyberscoop.com.

Funcionario de la Fuerza Espacial promociona el impacto de la IA en el cumplimiento cibernético

Seth Whitworth, subdirector interino de Operaciones Espaciales para Cibernética y Datos y director interino de seguridad de la información, dijo que cree que las herramientas de inteligencia artificial están cambiando la forma en que los defensores revisan el riesgo cibernético, tanto para sistemas individuales como de manera más integral en toda una empresa.

En particular, los modelos de lenguaje grande se pueden utilizar para implementar sistemáticamente soluciones para las debilidades más pequeñas pero críticas que han permitido a los piratas informáticos y ciberdelincuentes patrocinados por el estado ingresar a las redes de las víctimas y vivir de la tierra.

“Nuestros adversarios no buscan vulnerabilidades masivas de ciberseguridad; en realidad, somos bastante buenos en [defending] eso», dijo Whitworth el martes en AI Talks, presentado por Scoop News Group. «Están buscando una configuración incorrecta, una actualización fallida, una pequeña cosa que les permita un punto de entrada a una red muy conectada».

Muchos de estos problemas básicos de higiene cibernética tienden a incluirse en programas de cumplimiento existentes, pero puede hacer falta algo más que mandatos legales para solucionarlos. Muchas redes de TI empresariales (especialmente las más antiguas) acumulan deuda técnica con el tiempo, lo que lleva a sistemas olvidados, enrutadores ocultos y otras formas de TI en la sombra que se vuelven más inseguras con el tiempo.

Los expertos en ciberseguridad dicen que los agentes y los grandes modelos de lenguaje que los impulsan, que operan a perpetuidad las 24 horas del día, los 7 días de la semana, son particularmente adecuados para encontrar estas fallas más pequeñas y explotarlas rápidamente.

Pero Whitworth argumentó que la misma tecnología se puede utilizar para remodelar la forma en que las organizaciones miden y rastrean el cumplimiento cibernético, desde un lento ejercicio de verificación de casillas hasta algo más ágil y sustancial. Afirmó que el proceso interno de la Fuerza Espacial para obtener Autoridades para Operar y otras certificaciones formales de seguridad solía tardar entre 3 y 18 meses. Ahora, “ahora se puede hacer en semanas y días”.

Eso, a su vez, puede empoderar a los gerentes de programas para «extraer toda esa enorme cantidad de datos, permitir que la IA (que no se cansa, que no pasa por alto patrones, que no pasa por alto estos componentes) agite esos elementos y estos entreguen algo» que pueda informar cambios en tiempo real en la ciberseguridad, dijo.

Whitworth también reconoció el «miedo» que muchas organizaciones todavía tienen en torno al uso de la IA, así como las preocupaciones persistentes sobre algunas de las limitaciones duraderas de la tecnología, como las alucinaciones y el envenenamiento de datos. Dijo que todavía da a los resultados generados por IA “un escrutinio adicional, porque todavía no he visto la validación confiable”.

Pero también dijo que obtiene información más valiosa sobre el riesgo cibernético holístico de la Fuerza Espacial al utilizar modelos de lenguaje grandes que a partir de otras evaluaciones de control de seguridad, que tienden a centrarse estrechamente en el riesgo de sistemas o activos individuales de forma aislada.

«Estamos operando en un mundo altamente conectado y altamente orquestado, por lo que el riesgo moderado que se acepta en un programa inmediatamente se convierte en riesgo moderado que se acepta en otro programa», dijo Whitworth. “La IA puede tomar esa imagen completa y comprender que cuando este cambio de sistema impacta este sistema, también impacta este [other] sistema.»

Derek B. Johnson

Escrito por Derek B. Johnson

Derek B. Johnson es reportero de CyberScoop, donde su área incluye la ciberseguridad, las elecciones y el gobierno federal. Antes de eso, ha brindado una cobertura galardonada de noticias sobre ciberseguridad en los sectores público y privado para varias publicaciones desde 2017. Derek tiene una licenciatura en periodismo impreso de la Universidad de Hofstra en Nueva York y una maestría en políticas públicas de la Universidad George Mason en Virginia.