El Foro de Paz de París, una organización francesa sin fines de lucro que ha convocado a líderes mundiales sobre cuestiones de seguridad global, está lanzando un nuevo proyecto para reunir a expertos internacionales para evaluar las amenazas relacionadas con la IA a la infraestructura global de Internet.

La Red Integrada para una IA confiable en el ciberespacio (INTAiC) recurrirá a investigadores y expertos de la sociedad civil del gobierno y el sector privado, analizará las amenazas cibernéticas actuales de la IA desde el campo y creará informes «con visión de futuro» sobre cómo la tecnología afectará a la sociedad y qué pueden hacer las organizaciones para responder.

Uno de los principales objetivos del proyecto es crear una coalición internacional de respuesta rápida entre gobiernos y empresas para abordar las amenazas relacionadas con la IA, similar a los mecanismos de coordinación que existen en otras áreas de la ciberseguridad.

«La fragmentación de la evidencia sobre las amenazas cibernéticas impulsadas por la IA no es incidental, es estructural: quienes defienden las redes y quienes protegen los sistemas de IA han trabajado durante mucho tiempo en esferas separadas», dijo Adrien Abecassis, director de iniciativas políticas del Foro de Paz de París. «Es exactamente por eso que INTAiC es único: está diseñado para convertir esos fragmentos en una lectura comparable de la amenaza, porque este es un desafío que ningún actor puede afrontar solo».

La red ya incluye una serie de empresas y organizaciones destacadas, incluidas Microsoft, Cyber ​​Threat Alliance, Cloud Security Alliance, Orange Cyberdefense y otras.

Según el foro, el trabajo del INTAiC se centrará principalmente en dos líneas de trabajo separadas. Uno es un recurso único y actualizado periódicamente para que los defensores se mantengan actualizados sobre cómo la IA está remodelando las ciberamenazas. El recurso se centra más en las capacidades de los atacantes, las diferentes formas de uso indebido y el impacto en las operaciones de seguridad que en incidentes aislados.

«El resultado es un punto de referencia común, basado en la realidad, que brinda a los formuladores de políticas una medida más clara de la amenaza e identifica los riesgos que más merecen atención colectiva», dijo el Foro en un comunicado.

El segundo flujo de trabajo se centrará en evaluar y prevenir los riesgos cibernéticos asociados con la IA, creando una base de expertos externos independientes que puedan proporcionar evaluaciones neutrales o imparciales de las capacidades cibernéticas del modelo de frontera. Ese trabajo atraerá a gobiernos, instituciones de investigación y organizaciones sin fines de lucro a desarrollar nuevas vías organizativas y de financiación para apoyar ese tipo de investigación.

Si bien el gobierno federal de EE. UU. ha recorrido un largo camino en los últimos años para desarrollar su propia capacidad para probar y estudiar las amenazas cibernéticas de la IA, gran parte del acceso y la experiencia técnica en torno a las capacidades de los modelos de frontera se concentran en las empresas comerciales de IA. En ocasiones, esto ha generado preocupaciones de que las agencias federales dependieran demasiado de las empresas de inteligencia artificial para explicar cómo funciona la tecnología y guiarlas a través de los posibles escenarios de amenaza.

A medida que Anthropic y OpenAI han implementado programas de ciberseguridad defensiva como el Proyecto Glasswing y el programa Trusted Access for Cyber, el acceso a esos modelos ha estado disponible para un grupo más amplio de investigadores y organizaciones.

El Foro de Paz de París tiene la intención de informar al público sobre el trabajo y los logros de INTAiC en París a finales de este año durante la conferencia anual de la organización en noviembre.