RAMPART y Clarity de código abierto de Microsoft para proteger a los agentes de IA durante el desarrollo – CYBERDEFENSA.MX

Microsoft ha presentado dos nuevas herramientas de código abierto llamadas MURALLA y Claridad para ayudar a los desarrolladores a probar mejor la seguridad de los agentes de inteligencia artificial (IA).

MURALLAabreviatura de Risk Assessment and Measurement Platform for Agentic Red Teaming, funciona como un marco de pruebas de seguridad nativo de Pytest para escribir y ejecutar pruebas de seguridad para agentes de IA, que cubren problemas adversarios y benignos, así como varias categorías de daños.

Los usuarios pueden escribir casos de prueba para atacar o sondear a un agente de IA para explorar posibles violaciones de seguridad, como inyecciones cruzadas, donde datos no confiables llegan a un sistema de IA indirectamente a través de una fuente de datos (por ejemplo, correo electrónico, archivo o página web) procesada por este, o regresiones de comportamiento no intencionadas y exfiltración de datos.

RAMPART luego evalúa el resultado de esas pruebas e informa los resultados. Todo lo que necesita es un adaptador que conecte un agente al conjunto de pruebas. La herramienta se basa en PyRIT (abreviatura de Python Risk Identification Tool), que Microsoft lanzó hace más de dos años como una forma de probar sistemas de inteligencia artificial.

Claridadpor otro lado, ha sido descrito por el gigante tecnológico como una «caja de resonancia estructurada» para ayudar a los desarrolladores a llegar al enfoque correcto incluso antes de escribir una sola línea de código. Es un «socio de pensamiento de IA que retrocede», guiándolos a través de la aclaración de problemas, la exploración de soluciones, el análisis de fallas y el seguimiento de decisiones.

Ciberseguridad

Al hacer públicas estas herramientas, Microsoft dijo que la idea es abordar por qué ciertas decisiones se incorporan en una etapa temprana del desarrollo de software para que cualquier problema potencial (por ejemplo, el acceso de un agente a una herramienta) se aborde mucho antes de que se construya el sistema.

«Queríamos brindarles a los gerentes de producto e ingenieros una manera de poner a prueba sus suposiciones al inicio de un proyecto, cuando cambiar de rumbo es barato y la conversación correcta puede ahorrar meses de retrabajo». Ram Shankar Siva Kumarun Data Cowboy y fundador del AI Red Team de Microsoft, dicho en un blog compartido con The Hacker News.

Microsoft señaló que una motivación secundaria detrás de invertir en estas herramientas es hacer que los incidentes sean reproducibles y las mitigaciones verificables y escalar los aprendizajes de los ejercicios de equipos rojos convirtiéndolos en activos de ingeniería ejecutables.

«Mientras que PyRIT se optimiza para el descubrimiento de cajas negras por parte de los investigadores de seguridad después de que se construye el sistema, RAMPART se construye para los ingenieros a medida que se construye el sistema», agregó Siva Kumar. «La claridad ayuda a los equipos a aclarar la intención del diseño y capturar las suposiciones. Juntos, estos enfoques hacen que la seguridad de la IA pase de una revisión única a un conjunto de artefactos vivos que los desarrolladores pueden utilizar durante todo el ciclo de vida».

El malware 'Mini Shai-Hulud' compromete cientos de paquetes de código abierto en un extenso ataque a la cadena de suministro

Una campaña de malware que se propaga rápidamente ha infectado cientos de paquetes de software en los principales registros de código abierto, incorporando código de robo de credenciales en herramientas de desarrollo descargadas millones de veces por semana.

El ataque, denominado “mini Shai-Hulud”, tuvo como objetivo bibliotecas de software destacadas, incluidas TanStack, UiPath y MistralAI. Solo el paquete React Router de TanStack representa más de 12 millones de descargas semanales, lo que coloca el código malicioso en lo más profundo de la cadena de suministro de software de las aplicaciones empresariales modernas.

En una publicación de blogTanstack dijo que los equipos de seguridad han retirado del registro todas las versiones de software comprometidas. Si bien no hay evidencia de que se hayan robado las contraseñas de registro, los expertos instan a cualquiera que haya descargado las herramientas afectadas el lunes a cambiar inmediatamente todas las credenciales de nube, servidor y desarrollador conectados, incluidos Amazon Web Services, Google Cloud y GitHub.

El incidente pone de relieve una vulnerabilidad sistémica en la publicación automatizada de software. Las actualizaciones comprometidas eludieron con éxito la autenticación de dos factores y portaron firmas de procedencia criptográficamente válidas. Estas firmas verificaron que los paquetes se originaron en las canalizaciones de integración continua correctas, pero no detectaron que las canalizaciones mismas habían sido manipuladas para autorizar código malicioso.

Los investigadores de seguridad atribuyen la campaña a TeamPCP, un grupo cibercriminal centrado en la nube que surgió a finales de 2025 y que se especializa en automatizar ataques a la cadena de suministro y explotar la infraestructura nativa de la nube, incluidos los entornos Docker y Kubernetes. El grupo, supuestamente responsable del desarrollo anterior de Shai Hulud, introduce silenciosamente su malware en actualizaciones de software confiables, lo que les permite infectar miles de empresas a la vez sin activar alarmas de seguridad.

El grupo es conocido por su capacidad avanzada para ocultar sus huellas (como disfrazar datos robados como tráfico de mensajes anónimos) y sus agresivas tácticas de extorsión, que incluyen amenazar con borrar completamente las computadoras de las víctimas si intentan eliminar el acceso de los piratas informáticos.

Los atacantes activaron el proceso de liberación automatizado mediante una «confirmación huérfana»: código enviado a una bifurcación del repositorio sin una rama correspondiente. Esto les permitió explotar permisos demasiado amplios en los flujos de trabajo de GitHub Actions. Luego, el malware se entregó a través de una dependencia oculta que obtenía una carga útil de 2,3 megabytes muy ofuscada disfrazada de módulo de inicialización.

Tras su ejecución, el malware utiliza Bun (un motor de software de alta velocidad diseñado para ejecutar JavaScript) para robar sistemáticamente claves de seguridad y contraseñas. Se dirige a la infraestructura de la nube de alto nivel, incluidos AWS, Google Cloud Platform, Kubernetes y HashiCorp Vault. El código está diseñado para infiltrarse en redes de nube de Amazon altamente seguras. Al mismo tiempo, rastrea la computadora local del desarrollador en busca de archivos secretos y claves SSH utilizadas para desbloquear otros sistemas corporativos.

Operando como un gusano autopropagante, publica copias de sí mismo en esos proyectos, falsificando su actividad para que aparezca como confirmaciones automatizadas del bot Anthropic Claude. En una medida de extorsión secundaria, el malware genera un nuevo token de registro que contiene una nota de rescate en su descripción, amenazando con un borrado destructivo de la computadora si la víctima intenta revocar el acceso comprometido.

A pesar de las propiedades del malware, los investigadores dijeron a CyberScoop que no lo han visto propagarse.

«Vimos una propagación comunitaria muy limitada», dijo Charlie Eriksen, investigador de seguridad de la firma de seguridad de aplicaciones Aikido Security.

Para mantener el acceso continuo a las estaciones de trabajo de los desarrolladores, el malware se integra en los archivos de configuración de herramientas de desarrollo populares, en particular Visual Studio Code y Claude Code de Anthropic. Esto garantiza que los scripts maliciosos se ejecuten automáticamente cada vez que un desarrollador abre un proyecto o inicia una sesión de codificación de IA.

Stephen Thoemmes, defensor senior de desarrolladores de Snyk, dijo a CyberScoop que este es un punto ciego particular para este tipo de ataques.

«Los directorios como .claude/ y .vscode/ normalmente están excluidos del control de versiones a través de .gitignore y rara vez se analizan como superficies de ataque viables», dijo Thoemmes. «Si bien estos sistemas de tareas y enlaces proporcionan una valiosa automatización para el trabajo legítimo, ofrecen un entorno de ejecución silenciosa para el código malicioso. Para contrarrestar esto, los desarrolladores deben dejar de tratar estas configuraciones locales como benignas y comenzar a aplicar la misma auditoría de seguridad rigurosa a sus directorios de herramientas como lo harían con su infraestructura de producción».

Para evitar la detección, los datos robados se extraen mediante Session, una aplicación de mensajería anónima que rebota datos a través de una red descentralizada. Al disfrazar el robo como tráfico de chat ordinario y cifrado, los piratas informáticos se mezclan con la actividad normal de la red. Esto permite a los atacantes deshacerse por completo de los servidores de «comando» tradicionales que los equipos de seguridad corporativos suelen buscar y bloquear.

El éxito de la campaña “Mini Shai-Hulud” expone un importante punto ciego en la seguridad del software: las defensas actuales verifican de dónde proviene una actualización, pero no si el código que contiene es realmente seguro. Al secuestrar los propios sistemas automatizados de los desarrolladores, los atacantes pudieron estampar su malware con firmas digitales oficiales, lo que demuestra que los atacantes pueden eludir las salvaguardias modernas simplemente utilizando las propias herramientas de una empresa en su contra.

El director ejecutivo de Socket, Feross Aboukhadijeh, dijo a CyberScoop que las organizaciones deben buscar señales de que se instaló una versión de paquete comprometida en CI/CD o entornos de desarrollador, conexiones salientes inesperadas a la infraestructura de la campaña, cambios sospechosos en los archivos de bloqueo de paquetes, publicaciones inusuales de paquetes por parte de sus propios mantenedores o sistemas de CI, y artefactos de persistencia en los directorios de herramientas de los desarrolladores.

«No existe un único interruptor centralizado para este tipo de campaña», afirmó Aboukhadjieh. «La parte difícil es que cuando se confirma un paquete malicioso, es posible que ya se haya instalado dentro de los entornos exactos que los atacantes más desean: máquinas de desarrollo y ejecutores de CI. Puede extraer un paquete del registro, pero no puede retirar automáticamente las credenciales que ya haya robado».

Si bien estos paquetes son mantenidos por voluntarios, Eriksen dijo que el incidente es un gran problema para las empresas debido a la cantidad de equipos de desarrollo que utilizan el software en sus productos y servicios.

«Esto no es una cuestión de 'voluntario' versus corporativo», dijo Eriksen a CyberScoop. «Este es un problema que afecta a toda la sociedad».

Aboukhadjieh dijo a CyberScoop que estos continuos ataques a paquetes populares de software de código abierto son parte de «un análisis más amplio sobre cómo la industria del software consume el código abierto».

«Esta campaña muestra cuán delgada se ha vuelto la línea entre una herramienta de desarrollo y una infraestructura crítica», dijo. «Cuando los atacantes comprometen herramientas que ya son confiables dentro de los sistemas de compilación, no tienen que irrumpir directamente en todas las empresas. Pueden aprovechar la confianza que esas herramientas ya tienen».

Greg Otto

Escrito por Greg Otto

Greg Otto es el editor en jefe de CyberScoop y supervisa todo el contenido editorial del sitio web. Greg ha dirigido una cobertura de ciberseguridad que ha ganado varios premios, incluidos los de la Sociedad de Periodistas Profesionales y la Sociedad Estadounidense de Editores de Publicaciones Empresariales. Antes de unirse a Scoop News Group, Greg trabajó para Washington Business Journal, US News & World Report y WTOP Radio. Tiene una licenciatura en periodismo televisivo de la Universidad de Temple.

El error abierto de VSX permite que las extensiones de código VS maliciosas omitan las comprobaciones de seguridad previas a la publicación

Los investigadores de ciberseguridad han revelado detalles de un error ahora parcheado que afecta el proceso de escaneo previo a la publicación de Open VSX y hace que la herramienta permita que una extensión maliciosa de Microsoft Visual Studio Code (VS Code) pase el proceso de investigación y entre en funcionamiento en el registro.

«La canalización tenía un único valor de retorno booleano que significaba ‘no hay escáneres configurados’ y ‘todos los escáneres no pudieron ejecutarse’», Oran Simhony, investigador de Koi Security. dicho en un informe compartido con The Hacker News. «La persona que llamó no pudo notar la diferencia. Entonces, cuando los escáneres fallaron bajo carga, Open VSX lo trató como ‘nada que buscar’ y agitó la extensión directamente».

Ciberseguridad

A principios del mes pasado, la Fundación Eclipse, que mantiene Open VSX, anunció planes para hacer cumplir controles de seguridad previos a la publicación antes de que las extensiones de VS Code se publiquen en el repositorio en un intento de abordar el creciente problema de las extensiones maliciosas.

Dado que Open VSX también sirve como mercado de extensiones para Cursor, Windsurf y otras bifurcaciones de VS Code, la medida fue vista como un enfoque proactivo para evitar que se publiquen extensiones maliciosas en primer lugar. Como parte del análisis previo a la publicación, las extensiones que no superan el proceso se ponen en cuarentena para revisión del administrador.

La vulnerabilidad descubierta por Koi, cuyo nombre en código Sésamo abiertotiene que ver con cómo este servicio basado en Java informa los resultados del análisis. Específicamente, se debe al hecho de que malinterpreta las fallas en el trabajo del escáner, ya que no hay escáneres configurados, lo que hace que una extensión se marque como aprobada y luego se active inmediatamente y esté disponible para su descarga desde Open VSX.

Al mismo tiempo, también puede hacer referencia a un escenario en el que los analizadores existen y los trabajos del analizador han fallado y no se pueden poner en cola porque el grupo de conexiones de la base de datos está agotado. Aún más preocupante, un servicio de recuperación diseñado para reintentar análisis fallidos sufrió el mismo problema, permitiendo así que las extensiones omitan todo el proceso de análisis bajo ciertas condiciones.

Un atacante puede aprovechar esta debilidad para inundar el punto final de publicación con varias extensiones .VSIX maliciosas, lo que provoca que la carga simultánea agote el grupo de conexiones de la base de datos. Esto, a su vez, conduce a un escenario en el que los trabajos de escaneo no se ponen en cola.

Ciberseguridad

Lo notable del ataque es que no requiere ningún privilegio especial. Un actor malicioso con una cuenta de editor gratuita podría haber activado de manera confiable esta vulnerabilidad para socavar el proceso de escaneo y publicar su extensión. El problema era dirigido en Abierto VSX versión 0.32.0 el mes pasado luego de la divulgación responsable el 8 de febrero de 2026.

«El escaneo previo a la publicación es una capa importante, pero es una capa», dijo Koi. «El diseño del oleoducto es sólido, pero un solo valor booleano que no podía distinguir entre ‘nada que hacer’ y ‘algo salió mal’ convirtió toda la infraestructura en una puerta que se abrió bajo presión».

«Este es un antipatrón común: manejo de errores de apertura fallida escondido detrás de una ruta de código diseñada para un caso legítimo de ‘nada que hacer’. Si está creando canalizaciones similares, haga explícitos los estados de falla. Nunca permita que ‘no se necesita trabajo’ y ‘trabajo fallido’ compartan un valor de retorno».

CyberStrikeAI de código abierto implementado en ataques FortiGate impulsados ​​por IA en 55 países – CYBERDEFENSA.MX

El actor de amenazas detrás de la campaña asistida por inteligencia artificial (IA) recientemente revelada dirigida a los dispositivos Fortinet FortiGate aprovechó una plataforma de prueba de seguridad nativa de IA de código abierto llamada CyberStrikeAI para ejecutar los ataques.

Los nuevos hallazgos provienen del equipo Cymru, que detectó su uso tras un análisis de la dirección IP («212.11.64[.]250») que fue utilizado por el presunto actor de amenazas de habla rusa para realizar escaneos masivos automatizados en busca de dispositivos vulnerables.

CyberStrikeAI es una «herramienta de seguridad ofensiva (OST) de inteligencia artificial (IA) de código abierto desarrollada por un desarrollador con sede en China que consideramos que tiene algunos vínculos con el gobierno chino», dijo el investigador de seguridad Will Thomas (alias @BushidoToken) dicho.

Los detalles de la actividad impulsada por la IA salieron a la luz el mes pasado cuando Amazon Threat Intelligence dijo que detectó que un atacante desconocido apuntaba sistemáticamente a dispositivos FortiGate utilizando servicios de inteligencia artificial (IA) generativa como Anthropic Claude y DeepSeek, comprometiendo más de 600 dispositivos en 55 países.

Según el descripción En su repositorio de GitHub, CyberStrikeAI está construido en Go e integra más de 100 herramientas de seguridad para permitir el descubrimiento de vulnerabilidades, el análisis de la cadena de ataques, la recuperación de conocimientos y la visualización de resultados. Lo mantiene un desarrollador chino que utiliza el alias en línea Ed1s0nZ.

Team Cymru dijo que observó 21 direcciones IP únicas ejecutando CyberStrikeAI entre el 20 de enero y el 26 de febrero de 2026, con servidores alojados principalmente en China, Singapur y Hong Kong. Se han detectado servidores adicionales relacionados con la herramienta en EE. UU., Japón y Suiza.

Ciberseguridad

La cuenta Ed1s0nZ, además de albergar CyberStrikeAI, ha publicado varias otras herramientas que demuestran su interés en la explotación y el jailbreak de los modelos de IA.

  • herramienta de marca de agua, para agregar marcas de agua digitales invisibles a los documentos.
  • banana_blackmail, un ransomware basado en Golang,
  • PrivHunterAI, una herramienta basada en Golang que utiliza modelos Kimi, DeepSeek y GPT para detectar vulnerabilidades de escalada de privilegios.
  • ChatGPTJailbreak, que contiene un archivo README.md con indicaciones para hacer jailbreak a OpenAI ChatGPT engañándolo para que ingrese al modo Do Anything Now (DAN) o pidiéndole que actúe como ChatGPT con el modo de desarrollador habilitado.
  • InfiltrateX, un escáner basado en Golang para detectar vulnerabilidades de escalada de privilegios.
  • VigilantEye, una herramienta basada en Golang que monitorea la divulgación de información confidencial, como números de teléfono y números de tarjetas de identificación, en bases de datos. Está configurado para enviar una alerta a través de un bot de WeChat Work si se detecta una posible violación de datos.

«Además, las actividades de Ed1s0nZ en GitHub indican que interactúan con organizaciones que apoyan operaciones cibernéticas potencialmente patrocinadas por el gobierno chino», dijo Thomas. «Esto incluye empresas del sector privado chino que tienen vínculos conocidos con el Ministerio de Seguridad del Estado (MSS) chino».

Una de esas empresas que el desarrollador tiene interactuado con es Conocidosec 404un proveedor de seguridad chino que sufrió una fuga importante de más de 12.000 documentos internos a finales del año pasado, exponiendo los datos de los empleados de la empresa, la clientela gubernamental, las herramientas de piratería, grandes volúmenes de datos robados, como registros de llamadas de Corea del Sur e información relacionada con las organizaciones de infraestructura crítica de Taiwán, y el funcionamiento interno de las operaciones cibernéticas en curso dirigidas a otros países.

«Aparentemente, KnownSec parecía ser simplemente otra empresa de seguridad, pero esto es sólo una verdad a medias», DomainTools anotado en un análisis publicado en enero, describiéndolo como un «contratista cibernético alineado con el estado» capaz de apoyar la seguridad nacional, la inteligencia y los objetivos militares de China.

«En realidad, […] tiene una organización en la sombra que trabaja para el EPL, el MSS y los órganos del estado de seguridad chino. Esta filtración expone a una empresa que opera mucho más allá del papel de un proveedor típico de ciberseguridad. Herramientas como ZoomEye y Critical Infrastructure Target Library brindan a China un sistema de reconocimiento global que cataloga millones de IP, dominios y organizaciones extranjeras mapeadas por sector, geografía y valor estratégico».

Ciberseguridad

También se ha observado que Ed1s0nZ realiza modificaciones activas en un archivo README.md ubicado en un repositorio del mismo nombre. eliminando referencias a ellos haber sido honrados con el Premio de Contribución de Nivel 2 a la Base de Datos Nacional de Vulnerabilidad de Seguridad de la Información de China (CNNVD). El desarrollador también ha afirmado que «todo lo que se comparte aquí es puramente para investigación y aprendizaje».

De acuerdo a investigación Publicado por Bitsight el mes pasado, China mantiene dos bases de datos de vulnerabilidades diferentes: CNNVD y la Base de datos nacional de vulnerabilidades de China (CNVD). Mientras que la CNNVD está supervisada por el Ministerio de Seguridad del Estado, la CNVD está controlada por la CNCERT. Los hallazgos anteriores de Recorded Future han reveló que CNNVD tarda más en publicar vulnerabilidades con puntuaciones CVSS más altas que vulnerabilidades con puntuaciones más bajas.

«El reciente intento del desarrollador de eliminar las referencias al CNNVD de su perfil de GitHub apunta a un esfuerzo activo para ocultar estos vínculos estatales, probablemente para proteger la viabilidad operativa de la herramienta a medida que crece su popularidad», dijo Thomas. «La adopción de CyberStrikeAI está a punto de acelerarse, lo que representa una evolución preocupante en la proliferación de herramientas de seguridad ofensivas mejoradas por IA».