El FBI ve los Mitos de Anthropic como un desafío para las fuerzas del orden
Avances en las capacidades del modelo de IA, como los que se encuentran en Anthropic Mitosestán generando preocupación por parte de las agencias policiales sobre lo que los adversarios podrían ser capaces de hacer con las tecnologías emergentes, dijo el martes un funcionario del FBI.
La administración Trump controles de exportación impuestos sobre el modelo Mythos 5 en junio, poco después de su lanzamiento, citando implicaciones para la seguridad nacional. en un blog Al realizar una vista previa de las capacidades del modelo, Anthropic dijo que Mythos 5 podría identificar y explotar errores que no se conocían anteriormente «en todos los sistemas operativos principales». Durante las últimas semanas, el se levantaron las prohibiciones después de que el fabricante de modelos trabajara con el gobierno y otros socios para revisar las barandillas.
Si bien se agregaron nuevas salvaguardias, la cautela derivada del aumento de capacidades todavía está presente.
«Mythos encontró vulnerabilidades en algunos de los códigos de fuente abierta que son tan ubicuos; se encuentran en la gran mayoría de nuestro código más fundamental para cosas como sistemas operativos, seguridad, infraestructura web, cifrado», dijo Todd Hemmen, subdirector adjunto del FBI, durante una conferencia. Instituto de Gobierno Digital evento. «Presenta desafíos futuros para la aplicación de la ley».
El FBI es la agencia federal líder en la investigación de ciberataques e intrusiones, lo que la sitúa a la vanguardia de un panorama en constante cambio.
“Ver el potencial para exponer vulnerabilidades… y comprender que el futuro tiene potencial para un aumento en ese tipo de casos y explotaciones por parte de nuestros adversarios es algo más nuevo”, dijo Hemmen. «Aunque no hemos visto esto operativo a escala, la expectativa es que habrá una fecha futura en la que esto sucederá».
Cuando cualquiera puede acceder a herramientas con amplias implicaciones de seguridad, la lista de sospechosos crece y las investigaciones se vuelven más complejas. Si bien Mythos 5 solo está disponible para un grupo selecto aprobado por el gobierno de EE. UU., un modelo construido por Anthropic con la misma tecnología subyacente está disponible a nivel mundial. El proveedor de IA también descubrió que los modelos «menos capaces» podían identificar vulnerabilidades y explotarlas de la misma manera.
«La IA nos presentará desafíos importantes en el futuro», dijo Hemmen.
Uso interno de IA
A medida que los avances de la IA están cambiando el panorama de aplicación de la ley para el FBI, la tecnología también está alterando la forma en que opera internamente la unidad del Departamento de Justicia.
«Como empresa, estamos aprovechando la IA para la tecnología de reconocimiento facial», afirmó Hemmen.
En el último inventario de casos de uso de IA de la agencia que se publicó a principios de este año, el FBI identificó un puñado de nuevos proyectos destinados a generar pistas de investigación utilizando coincidencias faciales y otros datos. Los casos de uso se caracterizan por ser de alto impacto, lo que significa que podrían servir como base principal para decisiones o acciones que tengan un efecto legal, material, vinculante o significativo sobre los derechos o la seguridad.
A pesar de la fecha límite del 3 de abril establecida por la Oficina de Administración y Presupuesto, el FBI no ha completado sus requisitos de gestión de riesgos para ninguno de sus casos de uso de alto impacto, según el inventario.
En general, la división del Departamento de Justicia tiene alrededor de 50 casos de uso de IA. El personal del FBI está aprovechando la tecnología para ayudar a examinar informes públicos de acusaciones criminales, mejorar las operaciones ofensivas autorizadas por el tribunal y como parte de una investigación general, entre otros casos de uso.
«Estamos utilizando IA para ayudar a clasificar esas cosas y con un humano al tanto para revisar todo lo que se está haciendo», dijo Hemmen.
