Dentro de la carrera para adaptarse a un mundo de seguridad impulsado por la IA
Troy West estaba en Varsovia cuando su teléfono interrumpió su cena. Pero él estaba feliz por eso.
West, director asociado de ciberseguridad de la empresa de seguridad ofensiva autónoma XBOW, acababa de enterarse de que una versión de prueba de la plataforma de la empresa había encontrado una vulnerabilidad que llevó a la eliminación total de un entorno de desarrollo utilizado por Moderna, la empresa farmacéutica conocida principalmente por su trabajo relacionado con las vacunas de ARNm.
Fue, según la mayoría de las medidas, exactamente el tipo de resultado que teme un equipo de seguridad. Pero para West y Farzan Karimi, CISO adjunto de Moderna, fue algo más cercano a una prueba de concepto. El producto de XBOW había hecho en horas lo que un probador de penetración humano no podía hacer, y lo había hecho con un nivel de persistencia y creatividad que ninguno de los dos había anticipado por completo.
El episodio es un dato de un cambio mucho mayor que ahora se está extendiendo por la industria de la ciberseguridad: los modelos de inteligencia artificial que descubren vulnerabilidades se están moviendo más rápido que los equipos que tienen que parchearlas.
En conversaciones y presentaciones recientes, los expertos de la industria dijeron que las herramientas se están volviendo más nítidas, la superficie de ataque es cada vez mayor y la brecha entre encontrar un problema y solucionarlo no se está cerrando lo suficientemente rápido. Por ahora, la mayoría de las organizaciones están atrapadas entre la velocidad del descubrimiento y la lentitud de la solución, y los proveedores de toda la industria se apresuran a posicionar sus productos como el camino a seguir.
Un cambio de escala
El punto de inflexión llegó con Claude Mythos. Cuando Anthropic anunció el modelo altamente cauteloso, los ejecutivos de seguridad de las principales empresas de tecnología empresarial se dieron cuenta de una manera que no lo habían hecho en lanzamientos fronterizos anteriores.
Zscaler fue una de las primeras organizaciones a las que se les dio acceso al modelo, y el CEO Jay Chaudhry le dijo a CyberScoop que ordenó a su equipo que lo usara para probar las propias aplicaciones de la compañía.
«¿Estamos encontrando cosas serias? Sí, efectivamente», dijo Chaudhry a CyberScoop en la Cumbre de Gestión de Riesgos y Seguridad de Gartner. Tuvo cuidado de señalar que los hallazgos no fueron necesariamente más graves que los producidos por otros modelos. El problema, dijo, era el volumen.
«No hay suficientes recursos ni ciclos para solucionar todo eso», dijo.
La razón por la que Mythos cambió el cálculo, según Tom Gillis, gerente general de infraestructura y productos de seguridad de Cisco, se reduce a la complejidad del código. La infraestructura de red heredada se construyó sobre decenas de millones de líneas de código desarrolladas durante décadas, y los modelos de IA anteriores carecían de la ventana de contexto y la capacidad de razonamiento para comprenderla en su totalidad.
«Antes los modelos no podían entender todo esto», dijo a CyberScoop. «Ahora pueden hacerlo. Por eso están encontrando todas estas vulnerabilidades».
El problema va más allá del código de la aplicación. Los firewalls y conmutadores de red a menudo funcionan durante décadas sin actualizaciones ni reinicios, y muchos nunca han sido parcheados de manera significativa. La combinación de una infraestructura obsoleta y modelos de IA de nueva capacidad ha creado lo que Gillis describió como un cambio significativo y acelerado en la capacidad de los atacantes que los ritmos operativos existentes de la industria no estaban diseñados para absorber.
Una oportunidad en la tecnología existente
La respuesta de Cisco al diluvio de vulnerabilidades que se avecina es una tecnología que llama Live Protect, un control compensado basado en eBPFuna característica de Linux que permite que el software de seguridad funcione a nivel del kernel para bloquear amenazas sin reescribir el código del sistema.
«Es un control preciso y preciso que puede proteger una vulnerabilidad en un sistema de producción», dijo Gillis. «No estamos tocando ni modificando los binarios de ese sistema de producción».
La intención es reducir el tiempo entre el descubrimiento de una vulnerabilidad y el siguiente parche programado, permitiendo a los equipos de TI solucionar problemas sin desconectar los sistemas.
«Esto es un dedo en el dique que tapa un agujero hasta que se llega a nuevas ventanas de control de cambios», dijo, reconociendo que algunos clientes pueden verse tentados a tratar los escudos como una solución permanente.
El producto se envía desde octubre, pero la urgencia del cliente cambió notablemente después de Mythos. «Los clientes dicen: 'Oh, buena historia, Tom. Lo pensaré'». Ahora es como, 'Dios mío, enciende esto ahora mismo'”.
También señaló que eBPF es de código abierto y dijo que espera que la industria en general lo siga.
«Si bien estoy muy orgulloso de que Cisco lidere el mercado con estos controles compensados, sé que mis competidores tienen que hacer esto».
El robot que lo rompió todo
Pero proteger las vulnerabilidades sólo funciona si sabes que existen. Karimi, el CISO adjunto de Moderna, enfrentó un problema diferente: su sistema de gestión de vulnerabilidades estaba apareciendo cientos de hallazgos de alta gravedad sin una forma confiable de saber cuáles podría realmente explotar un atacante. Su equipo contaba con jugadores del equipo rojo expertos, pero eran recursos finitos. Lo que necesitaba era algo que pudiera probarse continuamente y en todas partes.
«Tenemos algunos miembros del equipo rojo y evaluadores de penetración de muy alto nivel en nuestra organización que apuntan en una dirección específica», dijo Karimi durante una presentación en la cumbre de Gartner. «XBOW está cubriendo diferentes historias de ataques para nosotros».
West, que dirige la seguridad ofensiva de XBOW, describe la plataforma como una respuesta a un problema estructural en cómo ha funcionado tradicionalmente la seguridad ofensiva. Los evaluadores humanos analizan un compromiso, lo ejecutan, escriben un informe y siguen adelante. La ventana entre pruebas es donde se acumula el riesgo.
«Históricamente, los desarrolladores de exploits dedican tiempo a encontrar las vulnerabilidades correctas, escribir los exploits, averiguar si esos exploits son accesibles y luego encontrar una manera de encadenarlos todos», dijo West. «Eso lleva mucho tiempo».
Dada la realidad, Karimi decidió someter a XBOW a una prueba, que produjo dos hallazgos notables.
En el primero, XBOW identificó una omisión del firewall de una aplicación web en una aplicación de la empresa construida en el marco Spring Boot. La omisión implicó codificar un solo carácter (una “A” mayúscula) como su equivalente de URL codificado por porcentaje (A), lo que el WAF interpretó como una solicitud legítima, permitiendo al robot acceso sin restricciones.
El segundo hallazgo, que fue la causa de la interrupción de la cena de West, fue más trascendental. West había proporcionado a XBOW acceso al código fuente de una aplicación interna llamada Orders, utilizada por los socios de investigación de Moderna para adquirir sustancias farmacológicas, pero no había credenciales de inicio de sesión. La plataforma identificó una clave API válida incorporada en el código fuente, la usó para autenticarse y luego comenzó a probar las API de la aplicación en busca de vulnerabilidades de inyección SQL.
Lo que ocurrió después no fue del todo planeado. Una de esas API manejó un intento de inyección de SQL con formato incorrecto de una manera inesperada, arrojando datos basura en una aplicación de enrutamiento compartida de la que dependían otros servicios.
«No solo pudo eliminar la aplicación de Pedidos que les mostré, sino que de alguna manera afectó a todo el ecosistema de aplicaciones», dijo West.
Los evaluadores humanos que revisaron los hallazgos posteriormente confirmaron que eran válidos y dijeron que no los habrían encontrado por sí solos. Karimi dijo que a pesar de la interrupción, su equipo reconoció el valor de inmediato.
«Si somos capaces de demostrar dónde podría haber una interrupción en un entorno de prueba seguro, esa es una gran señal», dijo.
El valor más amplio, argumentó Karimi, está en forzar la priorización cuando se descubren errores. «Si tiene pruebas de explotación, puede proporcionar ese modificador más uno y realmente indicar a sus desarrolladores que remedien el nivel superior de riesgo real que ha sido validado».
Pero sí le preocupa el volumen de errores que surgirán con estas herramientas.
«¿Cómo manejamos ahora el volumen de errores que han aumentado debido a la escala impulsada por la IA?» dijo. «Ese es otro espacio problemático».
Un ajuste de cuentas más amplio
A lo largo de estas conversaciones, un tema constante fue que incluso cuando los defensores están tratando de controlar la próxima ola de errores, será una batalla tremendamente cuesta arriba. Esto refleja lo que algunos de los principales líderes de la industria han estado diciendo durante meses.
También refleja lo que los propios desarrolladores del modelo han estado advirtiendo constantemente. En su anuncio sobre la ampliación del acceso a Mythos, Anthropic admitió que el cronograma para una herramienta disponible públicamente similar a su modelo centrado en la ciberseguridad se está acortando y no hay garantías de que se publique con salvaguardias.
«En ese mundo, los ataques cibernéticos podrían ocurrir con mucha más frecuencia y en formas mucho más impredecibles», se lee en la publicación del blog.
Gillis fue más directo sobre lo que les sucede a las organizaciones que no se mueven.
«Algunas personas tardarán en cambiar», dijo. «Pero la consecuencia de no hacer ese cambio será noticia de primera plana. Es un compromiso enorme, enorme. Ya sabes, como, 'renunciaste a todos los números de tarjetas de crédito'». Gorrón.»
