{"id":936,"date":"2026-05-20T17:53:00","date_gmt":"2026-05-20T17:53:00","guid":{"rendered":"https:\/\/cybercolombia.co\/index.php\/2026\/05\/20\/rampart-y-clarity-de-codigo-abierto-de-microsoft-para-proteger-a-los-agentes-de-ia-durante-el-desarrollo-cyberdefensa-mx\/"},"modified":"2026-05-20T17:53:00","modified_gmt":"2026-05-20T17:53:00","slug":"rampart-y-clarity-de-codigo-abierto-de-microsoft-para-proteger-a-los-agentes-de-ia-durante-el-desarrollo-cyberdefensa-mx","status":"publish","type":"post","link":"https:\/\/cybercolombia.co\/index.php\/2026\/05\/20\/rampart-y-clarity-de-codigo-abierto-de-microsoft-para-proteger-a-los-agentes-de-ia-durante-el-desarrollo-cyberdefensa-mx\/","title":{"rendered":"RAMPART y Clarity de c\u00f3digo abierto de Microsoft para proteger a los agentes de IA durante el desarrollo \u2013 CYBERDEFENSA.MX"},"content":{"rendered":"
\n

Microsoft ha presentado dos nuevas herramientas de c\u00f3digo abierto llamadas MURALLA<\/b> y Claridad<\/b> para ayudar a los desarrolladores a probar mejor la seguridad de los agentes de inteligencia artificial (IA).<\/p>\n

MURALLA<\/a>abreviatura de Risk Assessment and Measurement Platform for Agentic Red Teaming, funciona como un marco de pruebas de seguridad nativo de Pytest para escribir y ejecutar pruebas de seguridad para agentes de IA, que cubren problemas adversarios y benignos, as\u00ed como varias categor\u00edas de da\u00f1os.<\/p>\n

Los usuarios pueden escribir casos de prueba para atacar o sondear a un agente de IA para explorar posibles violaciones de seguridad, como inyecciones cruzadas, donde datos no confiables llegan a un sistema de IA indirectamente a trav\u00e9s de una fuente de datos (por ejemplo, correo electr\u00f3nico, archivo o p\u00e1gina web) procesada por este, o regresiones de comportamiento no intencionadas y exfiltraci\u00f3n de datos.<\/p>\n

RAMPART luego eval\u00faa el resultado de esas pruebas e informa los resultados. Todo lo que necesita es un adaptador que conecte un agente al conjunto de pruebas. La herramienta se basa en PyRIT (abreviatura de Python Risk Identification Tool), que Microsoft lanz\u00f3 hace m\u00e1s de dos a\u00f1os como una forma de probar sistemas de inteligencia artificial.<\/p>\n

Claridad<\/a>por otro lado, ha sido descrito por el gigante tecnol\u00f3gico como una \u00abcaja de resonancia estructurada\u00bb para ayudar a los desarrolladores a llegar al enfoque correcto incluso antes de escribir una sola l\u00ednea de c\u00f3digo. Es un \u00absocio de pensamiento de IA que retrocede\u00bb, gui\u00e1ndolos a trav\u00e9s de la aclaraci\u00f3n de problemas, la exploraci\u00f3n de soluciones, el an\u00e1lisis de fallas y el seguimiento de decisiones.<\/p>\n

\n
\"Ciberseguridad\"<\/a><\/div>\n<\/div>\n

Al hacer p\u00fablicas estas herramientas, Microsoft dijo que la idea es abordar por qu\u00e9 ciertas decisiones se incorporan en una etapa temprana del desarrollo de software para que cualquier problema potencial (por ejemplo, el acceso de un agente a una herramienta) se aborde mucho antes de que se construya el sistema.<\/p>\n

\u00abQuer\u00edamos brindarles a los gerentes de producto e ingenieros una manera de poner a prueba sus suposiciones al inicio de un proyecto, cuando cambiar de rumbo es barato y la conversaci\u00f3n correcta puede ahorrar meses de retrabajo\u00bb. Ram Shankar Siva Kumar<\/a>un Data Cowboy y fundador del AI Red Team de Microsoft, dicho<\/a> en un blog compartido con The Hacker News.<\/p>\n

Microsoft se\u00f1al\u00f3 que una motivaci\u00f3n secundaria detr\u00e1s de invertir en estas herramientas es hacer que los incidentes sean reproducibles y las mitigaciones verificables y escalar los aprendizajes de los ejercicios de equipos rojos convirti\u00e9ndolos en activos de ingenier\u00eda ejecutables.<\/p>\n

\u00abMientras que PyRIT se optimiza para el descubrimiento de cajas negras por parte de los investigadores de seguridad despu\u00e9s de que se construye el sistema, RAMPART se construye para los ingenieros a medida que se construye el sistema\u00bb, agreg\u00f3 Siva Kumar. \u00abLa claridad ayuda a los equipos a aclarar la intenci\u00f3n del dise\u00f1o y capturar las suposiciones. Juntos, estos enfoques hacen que la seguridad de la IA pase de una revisi\u00f3n \u00fanica a un conjunto de artefactos vivos que los desarrolladores pueden utilizar durante todo el ciclo de vida\u00bb.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Microsoft ha presentado dos nuevas herramientas de c\u00f3digo abierto llamadas MURALLA y Claridad para ayudar a los desarrolladores a probar mejor la seguridad de los agentes de inteligencia artificial (IA). MURALLAabreviatura de Risk Assessment and Measurement Platform for Agentic Red Teaming, funciona como un marco de pruebas de seguridad nativo de Pytest para escribir y […]<\/p>\n","protected":false},"author":1,"featured_media":731,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[25,5],"tags":[377,269,2655,376,24,1430,2139,52,50,36,300,2654],"class_list":["post-936","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","category-trending","tag-abierto","tag-agentes","tag-clarity","tag-codigo","tag-cyberdefensa-mx","tag-desarrollo","tag-durante","tag-los","tag-microsoft","tag-para","tag-proteger","tag-rampart"],"_links":{"self":[{"href":"https:\/\/cybercolombia.co\/index.php\/wp-json\/wp\/v2\/posts\/936","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cybercolombia.co\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cybercolombia.co\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cybercolombia.co\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/cybercolombia.co\/index.php\/wp-json\/wp\/v2\/comments?post=936"}],"version-history":[{"count":0,"href":"https:\/\/cybercolombia.co\/index.php\/wp-json\/wp\/v2\/posts\/936\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cybercolombia.co\/index.php\/wp-json\/wp\/v2\/media\/731"}],"wp:attachment":[{"href":"https:\/\/cybercolombia.co\/index.php\/wp-json\/wp\/v2\/media?parent=936"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cybercolombia.co\/index.php\/wp-json\/wp\/v2\/categories?post=936"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cybercolombia.co\/index.php\/wp-json\/wp\/v2\/tags?post=936"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}