Anthropic desactiva nuevos modelos después de que el gobierno los calificara como un problema de seguridad nacional
El gobierno de Estados Unidos ordenó el viernes a Anthropic suspender inmediatamente el acceso extranjero a Fable 5 y Mythos 5, sus dos modelos de inteligencia artificial más avanzados, citando preocupaciones de seguridad nacional vinculadas a un método reportado para eludir las restricciones de seguridad de los modelos.
La directiva, emitida el viernes por la tarde por el secretario de Comercio, Howard Lutnick, en una carta al director ejecutivo de Anthropic, Dario Amodei, colocó los dos modelos bajo controles de exportación que prohíben su uso por parte de ciudadanos extranjeros, ya sea dentro o fuera de Estados Unidos.
Debido al alcance de las restricciones, que incluyen a los empleados antrópicos nacidos en el extranjero, la empresa anunció El viernes por la noche desactivó los modelos para garantizar el cumplimiento. El acceso a los otros modelos de IA de la empresa no se vio afectado.
Fable 5 y Mythos 5 se lanzaron a principios de esta semana y Anthropic los describió como los sistemas más capaces que jamás haya implementado. Mythos estaba disponible para los miembros del Proyecto Glasswing, lo que permitió a empresas de ciberseguridad seleccionadas utilizar el modelo para identificar y abordar fallas de seguridad.
No está claro cómo la acción del Departamento de Comercio afecta al Proyecto Glasswing. Anthropic no respondió a una solicitud de comentarios.
La carta del Departamento de Comercio no detalla la preocupación específica por la seguridad nacional. En su blog del viernes por la noche, la compañía dijo que entiende que el gobierno se dio cuenta de una técnica para «liberar» Fable 5, un término para los métodos que eluden las barreras de seguridad incorporadas en un modelo. Según Anthropic, el gobierno solo proporcionó evidencia verbal de lo que describió como un “jailbreak limitado y no universal”, que esencialmente implicaba que el modelo leyera una base de código específica e identificara fallas de software.
Anthropic cuestionó la gravedad del hallazgo. La compañía dijo que revisó un informe que cree que formó la base de la directiva del gobierno y descubrió que las capacidades demostradas ya estaban disponibles en otros modelos de acceso público, incluido el GPT-5.5 de OpenAI. La compañía dijo que los profesionales de la ciberseguridad utilizan habitualmente esas mismas capacidades con fines defensivos.
Katie Moussouris, directora ejecutiva de la empresa de ciberseguridad Luta Security, publicado en BlueSky el sábado que el problema surge de las “indicaciones orientadas a la defensa”, un método de ingeniería de instrucciones de sistemas de inteligencia artificial que prioriza la seguridad y que trata el lenguaje natural como código.
Otros informes Afirmó que Amazon era responsable de señalar los problemas de seguridad en el modelo. La empresa no respondió a la solicitud de comentarios de CyberScoop.
Anthropic reconoció en su declaración que una resistencia perfecta al jailbreak no es alcanzable por ningún proveedor de modelos, y dijo que había diseñado Fable 5 en torno a una estrategia de «defensa en profundidad», combinando una estrecha resistencia al jailbreak con un monitoreo activo. La compañía dijo que ningún evaluador había encontrado un jailbreak universal capaz de eludir ampliamente las salvaguardas del modelo.
«No estamos de acuerdo con que el hallazgo de un potencial de fuga limitado deba ser motivo para recordar un modelo comercial implementado para cientos de millones de personas», escribió Anthropic. «Si este estándar se aplicara en toda la industria, creemos que esencialmente detendría todas las implementaciones de nuevos modelos para todos los proveedores de modelos fronterizos».
La directiva del viernes es el último episodio de una prolongada disputa entre Anthropic y la administración Trump. En febrero, el presidente Donald Trump se trasladó a prohibir los productos de Anthropic de agencias federales después de que la empresa buscara restricciones más fuertes sobre cómo el Pentágono utilizó su tecnología.
A pesar de eso, cuando Anthropic lanzó Mythos bajo el Proyecto Glasswing, la Agencia de Seguridad Nacional recibió Mythos 5 para realizar operaciones cibernéticas ofensivas. A principios de este mes, Trump firmó una orden ejecutiva que ordena a las agencias federales reforzar las defensas cibernéticas y establecer un mecanismo voluntario para que el gobierno obtenga acceso temprano a potentes modelos de IA antes de su despliegue.
El fundamento declarado por la administración para la acción del viernes generó un escepticismo generalizado entre investigadores y analistas. Dean Ball, miembro principal de la Fundación para la Innovación Estadounidense, calificó la medida como “desconcertante.” Chris McGuire, miembro del Consejo de Relaciones Exteriores, dicho Los controles de exportación específicos sobre el acceso a los modelos podrían ser una herramienta política legítima, pero calificó la restricción general como “altamente cuestionable” y las disposiciones de exportación consideradas, que restringen a los ciudadanos extranjeros dentro de los EE. UU., “simplemente absurdas”.
Las implicaciones más amplias para la industria de la IA siguen siendo inciertas. Aaron Levie, director ejecutivo de Box, describió la directiva como “un gran punto de inflexión para la regulación de la IA”, argumentando que la voluntad del gobierno de considerar modelos específicos demasiado poderosos para ciertos usos sienta un precedente con consecuencias potencialmente de largo alcance.
Otros líderes tecnológicos del gobierno apoyaron la acción.
«Apoyamos plenamente a @POTUS y @SecWar para priorizar la seguridad nacional y la seguridad de nuestros combatientes, socios del DIB, infraestructura crítica, socios y aliados internacionales», escribió la CIO del DOD, Kirsten Davies. en una publicación social en X. «Algunas cosas son simplemente más importantes que los ciclos de ingresos, el clickbait y la valoración previa a la IPO. Estados Unidos primero. Siempre».
Anthropic dijo que cree que la situación se debe a un malentendido y está trabajando para restablecer el acceso lo antes posible.
