JFrog confirma que los modelos OpenAI explotaron el día cero artificial antes de abrazar la violación de la cara – CYBERDEFENSA.MX

JFrog ha confirmado que los modelos OpenAI explotaron un día cero en sistemas autohospedados. Artifactorio mientras intenta llegar a Internet abierto desde un entorno de evaluación sellado.

Artifactory es el administrador de repositorios de software de JFrog. OpenAI dice que los modelos luego aumentaron los privilegios y se movieron lateralmente hasta llegar a un nodo conectado a Internet. JFrog dice que desde entonces ha desarrollado y lanzado correcciones para clientes autohospedados y en la nube.

El exploit Artifactory ocurrió dentro del entorno de OpenAI. OpenAI dice que una ruta de ataque separada llegó más tarde a los sistemas de Hugging Face. JFrog afirma que sus clientes de la nube ya están protegidos. Los usuarios autohospedados deben revisar el Notas de la versión artificial y pasar a la compilación de reparación para su rama mantenida.

El 27 de julio se publicaron varios registros CVE de Artifactory con rangos de versiones afectadas y umbrales de versión fijos, pero ni JFrog ni OpenAI han dicho si alguno de esos registros corresponde a las vulnerabilidades utilizadas durante la evaluación.

Ciberseguridad

Al menos tres de esos registros, CVE-2026-65618, CVE-2026-65923 y CVE-2026-66018, dan crédito a los investigadores de OpenAI.

Los registros no asignan ningún CVE al incidente, no identifican el acceso requerido antes de la explotación ni explican por qué OpenAI se refiere a un proxy de día cero mientras que JFrog se refiere a múltiples vulnerabilidades.

El incidente comenzó como una de las pruebas de capacidad cibernética de OpenAI. OpenAI dijo La evaluación de ExploitGym se realizó sin los clasificadores de producción que normalmente bloquean la actividad cibernética de alto riesgo. GPT-5.6 Sol y un modelo de prelanzamiento más capaz también se ejecutaron con rechazos cibernéticos reducidos.

OpenAI dijo que la única ruta de red del entorno sellado era un proxy y caché de registro de paquetes alojado internamente, que JFrog identificó más tarde como Artifactorio. Los modelos utilizaron importantes recursos informáticos para buscar una salida.

OpenAI dice que los modelos aumentaron los privilegios y se movieron lateralmente hasta que alcanzaron un nodo con acceso abierto a Internet, luego infirieron que Hugging Face podría albergar modelos, conjuntos de datos o soluciones de ExploitGym. La compañía dijo que los modelos finalmente obtuvieron soluciones de prueba directamente de la base de datos de producción de Hugging Face.

En un ejemplo descrito por OpenAI, un modelo utilizó credenciales robadas y más días cero para encontrar una ruta de ejecución remota de código en los servidores de Hugging Face. Hugging Face reveló la intrusión el 16 de julio sin saber qué modelo estaba detrás.

Ni OpenAI ni Hugging Face explican cómo ese ejemplo de RCE se relaciona con la cuenta de acceso inicial de Hugging Face a través de la ejecución de un conjunto de datos malicioso.

Ciberseguridad

JFrog presentó su cuenta en un publicación de blog por el director de tecnología, Yoav Landman. La compañía dijo que el equipo de seguridad de OpenAI reveló los hallazgos, después de lo cual desarrolló, validó y publicó correcciones para implementaciones en la nube y autohospedadas. Landman enmarcó el episodio en torno a la velocidad de respuesta: un día cero encontrado por un modelo y dejado reposar durante semanas, escribió, es «un regalo para los atacantes».

JFrog no ha revelado el número exacto de vulnerabilidades de Artifactory utilizadas, los ID de CVE correspondientes, los permisos disponibles antes de la explotación o la versión de Artifactory que se ejecuta dentro de OpenAI. Tampoco ha dicho si alguna de las fallas fue explotada fuera de la evaluación controlada.

OpenAI calificó el episodio como un «incidente cibernético sin precedentes». Dijo que agregó Hugging Face a su programa de acceso confiable y que todavía está investigando junto con la compañía.

The Hacker News se comunicó con JFrog para obtener más detalles y actualizará esta historia si recibe una respuesta.

OpenAI dice que sus modelos de IA escaparon del Sandbox y se dirigieron a abrazar la cara para engañar al punto de referencia – CYBERDEFENSA.MX

OpenAI dijo el martes que una combinación de sus modelos de inteligencia artificial (IA), incluido GPT-5.6 Sol y un «modelo de prelanzamiento aún más capaz», estaba detrás del incidente de seguridad que tuvo como objetivo la infraestructura de producción de Hugging Face la semana pasada.

La empresa de IA dicho los modelos operaban con «reducción de rechazos cibernéticos para fines de evaluación» que de otro modo podrían limitar su capacidad para realizar ataques cibernéticos, y agregó que espera que tales incidentes «se vuelvan más comunes con la proliferación de modelos cada vez más cibernéticos».

Al describirlo como un «incidente cibernético sin precedentes» y que involucra capacidades cibernéticas de última generación, OpenAI dijo que tiene la intención de realizar una investigación exhaustiva en asociación con Hugging Face para llegar al fondo del asunto.

Como parte de una evaluación interna, se dice que los modelos identificaron y encadenaron vulnerabilidades en todo el entorno de investigación de OpenAI y la infraestructura de producción de Hugging Face para encontrar soluciones para el ExplotarGym punto de referencia.

Ciberseguridad

La evidencia descubierta por OpenAI sugiere que el hiperenfoque de los modelos les hizo hacer todo lo posible para lograr el objetivo a cualquier precio, incluso logrando salir de su entorno aislado altamente aislado y obtener acceso abierto a Internet al descubrir y explotar una vulnerabilidad de día cero en el software de un proveedor no especificado, que actúa como proxy y caché para registros de paquetes. Esto requirió gastar una «cantidad sustancial de cálculo de inferencia».

«Con este acceso, nuestros modelos realizaron una serie de acciones de escalada de privilegios y movimiento lateral en nuestro entorno de prueba de investigación hasta que los modelos alcanzaron un nodo con acceso a Internet», explicó la compañía.

Superando el bloqueo de acceso a Internet, los modelos posteriormente dedujeron que Hugging Face era el repositorio que alojaba modelos, conjuntos de datos y soluciones para ExploitGym, lo que, a su vez, les llevó a buscar formas de obtener acceso a información secreta que podría utilizar para engañar al punto de referencia.

En un momento dado, los modelos unieron varios vectores de ataque, incluido el uso de credenciales robadas y vulnerabilidades de día cero, para encontrar una ruta de ejecución remota de código en los servidores de Hugging Face.

Como parte de los esfuerzos de respuesta a incidentes, OpenAI dijo que está implementando controles estrictos en la configuración de la infraestructura, reveló responsablemente la falla de día cero en el software de terceros, agregó Hugging Face a su programa de acceso confiable para mejorar sus defensas e incorpora barreras de seguridad más sólidas en torno a futuras capacitaciones y evaluaciones.

Ciberseguridad

«Este incidente apunta a la necesidad de fortalecer aún más la alineación de nuestro modelo, las protecciones cibernéticas durante el tiempo de evaluación y el monitoreo durante las pruebas internas», dijo OpenAI.

El desarrollo se produce cuando la empresa también reveló que los modelos de larga duración, si bien abordan problemas complejos y abiertos, pueden abrir la puerta a la adopción de acciones no deseadas, como encontrar debilidades en el entorno operativo, en la búsqueda de su objetivo mediante intentos repetidos durante períodos prolongados.

«También muestra cómo un modelo que opera eficazmente en horizontes de tiempo prolongados puede aprender los puntos ciegos de un sistema de aprobación y solucionarlos para lograr sus objetivos», dijo OpenAI. «La seguridad a largo plazo requiere no sólo preguntarse ‘¿está permitida esta acción?’ pero también ‘¿hacia qué resultado apunta esta secuencia de acciones?’».

Un nuevo informe del Reino Unido descubre que los modelos de IA engañan y engañan constantemente a los usuarios

Las empresas fronterizas de IA a menudo se refieren a sus modelos como “asistentes útiles” o intentan compararlos con empleados de nivel inicial.

pero nuevo investigación del Instituto de Seguridad de IA del Reino Unido refuerza cómo los grandes modelos de lenguaje sufren de un defecto común que pondría a muchos empleados humanos en problemas con sus empleadores: hacen trampa.

En otras palabras, estos modelos están tan comprometidos a completar sus tareas que romperán las reglas, tomarán atajos y engañarán a sus propios usuarios para lograrlas.

«Todos los modelos que hemos probado para detectar este comportamiento intentaron hacer trampa», dice el informe de AISI.
«Los modelos no informaron de manera confiable este comportamiento cuando se les preguntó y, a menudo, no razonaron al respecto en su cadena de pensamiento, lo que sugiere que detectar trampas probablemente requerirá métodos de monitoreo sólidos».

La investigación probó los modelos ChatGPT 5.4, 5.5 y 5.6 de OpenAI, junto con Claude Opus 4.7 y Mythos Preview de Anthropic.

Se probaron modelos de IA de Anthropic y OpenAI para detectar trampas. Todos demostraron algún nivel de engaño en sus pruebas. (Fuente de la imagen: AISI)

El AISI ejecutó modelos a través de una serie de evaluaciones cibernéticas de «Capturar la bandera», donde obtuvieron puntos al realizar tareas ofensivas relacionadas con la ciberseguridad, como explotar una vulnerabilidad particular o realizar ingeniería inversa en el código compilado.

La investigación define «hacer trampa» como «realizar una acción que está fuera del alcance de la tarea o explícitamente no permitida por las reglas, con el fin de lograr un objetivo a través de un atajo, una solución alternativa o una solución no intencionada que la tarea no estaba destinada o no debería permitir».

Capta una variedad de comportamientos observados en los modelos, como buscar soluciones en Internet, atacar o escalar privilegios en sistemas no relacionados, probar software de evaluación para obtener acceso a la solución de la tarea.

Los modelos de IA no logran identificar cuándo están haciendo trampa y, a menudo, lo justifican como aceptable cuando los usuarios los cuestionan (Fuente de la imagen: AISI)

Los modelos tampoco reconocieron cuándo estaban haciendo trampa para completar una tarea, y menos del 50 por ciento dijo que romper las reglas era «incorrecto» cuando un usuario los cuestionó.

La propensión de un modelo a hacer trampa no estaba relacionada con su capacidad, lo que significa que los modelos más nuevos o avanzados no tienen más probabilidades de hacer trampa. Más bien, los investigadores creen que la culpa se debe a las técnicas utilizadas durante el entrenamiento y la alineación de un modelo.

Pero incluso si las tasas de trampa se mantienen constantes, el problema podría empeorar con el tiempo. A medida que los modelos más nuevos en el futuro podrían volverse más competentes y aprender técnicas de trampa más efectivas.

Este engaño también dificulta que laboratorios como AISI verifiquen su propio trabajo, que se basa en la evaluación de resultados confiables de los sistemas de inteligencia artificial.

Modelos como Claude Mythos Preview y GPT-5.6 Sol justifican sus trampas ante los usuarios. (Fuente de la imagen: AISI)

La investigación subraya cómo los sistemas de inteligencia artificial pueden hacer todo lo posible para completar su tarea, incluido eludir o burlar las protecciones de TI y ciberseguridad de una empresa.

En un caso, los investigadores de AISI dijeron que a un modelo se le dio inadvertidamente una evaluación de capacidad cibernética que estaba mal configurada y era imposible de resolver.

«El modelo probado fue tan persistente en el intento de hacer trampa que escribió y ejecutó código en un servicio externo, alojado en Internet abierto fuera de los sistemas de AISI, en un intento de acceder a nuestra infraestructura de evaluación, lo que provocó una alerta de seguridad en los sistemas de AISI», dice el informe.

Si bien AISI dijo que no hubo fugas de datos ni daños por el incidente, el modelo podría haber accedido con éxito a su sistema de evaluación si no hubieran contado con un monitoreo. El instituto dijo que implementó más controles en los sistemas internos en respuesta a la prueba.

Los investigadores dijeron que hay «consecuencias significativas» en un status quo en el que no podemos confiar en que los modelos no hagan trampa. Los comportamientos son especialmente problemáticos en áreas como la investigación de seguridad de la IA, así como las operaciones cibernéticas y toma de decisiones militaresdonde los resultados de confianza de los sistemas de IA son fundamentales.

Hoy, AISI dice que puede detectar trampas en LLM mediante una combinación de revisión manual y monitoreo de LLM, pero eso puede no ser siempre cierto, y los modelos futuros pueden ser mejores para ocultar sus acciones a los supervisores humanos.

«Una solución más fundamental sería entrenar a los modelos para que no hagan trampa en primer lugar, pero dado que este tipo de comportamiento se informó en modelos de frontera hace más de un año, alinearlo firmemente puede no ser fácil», escribieron los investigadores.

Derek B. Johnson

Escrito por Derek B. Johnson

Derek B. Johnson es reportero de CyberScoop, donde su área incluye la ciberseguridad, las elecciones y el gobierno federal. Antes de eso, ha brindado una cobertura galardonada de noticias sobre ciberseguridad en los sectores público y privado para varias publicaciones desde 2017. Derek tiene una licenciatura en periodismo impreso de la Universidad de Hofstra en Nueva York y una maestría en políticas públicas de la Universidad George Mason en Virginia.

El nuevo ransomware ENCFORGE apunta a archivos de modelos de IA en el ataque Langflow RCE – CYBERDEFENSA.MX

Los investigadores de Sysdig han vinculado un segundo ataque en el mismo servidor Langflow con JADEPUFFER, el operador impulsado por agentes de inteligencia artificial que documentó por primera vez a principios de este mes.

Ahora se ha visto al mismo operador desplegando APLICARun nuevo ransomware Go compilado diseñado para cifrar pesos de modelos, índices de vectores, conjuntos de datos de entrenamiento y otros archivos de infraestructura de IA en todo el sistema de archivos del host.

El punto de entrada no cambió. Versiones de Langflow anteriores a 1.3.0 exponer el /api/v1/validate/code punto final sin autenticación, lo que permite que cualquier atacante remoto ejecute Python arbitrario en el servidor. el defecto, CVE-2025-3248tiene una puntuación CVSS de 9,8 y ha estado en las vulnerabilidades explotadas conocidas de CISA. catalogar desde el 5 de mayo de 2025.

Como informó The Hacker News a principios de este mes, la operación anterior utilizó código Python desechable y MySQL. AES_ENCRYPT() función para cifrar y destruir datos en Nacos (el servidor de configuración de Alibaba) y bases de datos de producción.

el nuevo Carga útil ENCFORGE reemplaza esos scripts improvisados ​​con herramientas compiladas dirigidas a las tiendas de modelos, bases de datos vectoriales y canales de capacitación que la primera campaña barrió en busca de credenciales.

La carga útil de ENCFORGE

Los investigadores recuperaron el binario del servidor de comando y control del atacante, donde estaba oculto como /.lockd; una solicitud directa a /lockd devuelve 404 y el punto inicial lo mantiene fuera de una lista de directorio simple. El archivo es un ELF Go 1.22.12 estático empaquetado en UPX 5.20.

Las plataformas de inteligencia de amenazas no arrojaron detecciones ni en el hash empaquetado ni desempaquetado en el momento del análisis de Sysdig. El nombre interno del proyecto es encfile; El texto de error del binario hace referencia a una herramienta keygen complementaria llamada keyforge. Ambas cadenas sobreviven a la recompilación del mismo código base y sirven como anclajes de detección estables.

Ciberseguridad

Su lista de extensiones predeterminada cubre puntos de control de PyTorch y TensorFlow, Hugging Face SafeTensors, formato de intercambio ONNX, GGUF (el estándar actual para LLM implementados localmente) y su predecesor GGML, índices vectoriales FAISS, conjuntos de datos de entrenamiento Parquet y Arrow, matrices NumPy y registros TensorFlow.

Un --include flag permite al operador agregar globs de archivos adicionales; el texto de ayuda incorporado utiliza adaptadores de ajuste fino LoRA y pesos GGML heredados como ejemplos. La lista completa incluye aproximadamente 180 extensiones. Esos ejemplos apuntan directamente a entornos de IA; un casillero de archivos genérico tendría pocas razones para nombrar adaptadores LoRA o pesos GGML heredados. Los investigadores interpretaron la elección como un objetivo deliberado, no como una cobertura incidental.

ENCFORGE utiliza AES-256-CTR para datos de archivos, con la clave simétrica por ejecución incluida en una clave pública RSA-2048 integrada compilada en esta compilación. En lugar de cifrar archivos completos, cifra regiones seleccionadas, la misma optimización de velocidad que utilizan los casilleros LockBit y BlackCat.

Cada archivo procesado se renombra con un .locked extensión. El binario elimina los procesos que mantienen los archivos abiertos antes de cifrarlos, maneja los reinicios sin volver a cifrar los archivos completados y arroja notas de rescate como README, HOW_TO_DECRYPTy README_DECRYPTy se elimina después de ejecutarse.

El binario ENCFORGE recuperado no tiene capacidad de exfiltración. No lleva código de red, cliente de almacenamiento en la nube ni mecanismo de preparación, y los investigadores no encontraron evidencia de filtración de datos, un sitio de filtración o un portal de pago Tor durante la sesión que observó. Su única ventaja son los datos cifrados.

El contacto de extorsión incluido en las notas de rescate es e78393397@proton.mela misma dirección de Proton Mail utilizada en la campaña anterior. Sysdig describe esto como el vínculo de atribución más fuerte entre las dos operaciones.

Los investigadores revelaron una sesión observada, no nombraron la organización y no proporcionaron ningún recuento de víctimas ni evidencia de otro despliegue de ENCFORGE.

De Langflow al anfitrión

Después de confirmar la ejecución del código, JADEPUFFER barrió el contenedor en busca de credenciales y encontró el socket Docker en /var/run/docker.sock. Su primer intento de extraer ENCFORGE del servidor de comando y control de GCP falló. En lugar de detenerse, se adaptó.

Durante cinco minutos y 24 segundos, el operador creó y revisó seis scripts de Python a través del mismo canal Langflow RCE hasta que tuvo una ruta funcional hacia el host. El primer script se creó línea por línea, manteniendo inerte cualquier solicitud para la inspección basada en firmas.

A partir del segundo, el operador codificó cada script completo en base64 y lo decodificó dentro de un exec() llamada, evitando búsquedas a nivel de shell de comandos como base64 -d. La versión final utilizó la API de Docker para activar un contenedor privilegiado con el espacio de nombres PID del host y el sistema de archivos raíz montado, ubicó el proceso de destino y copió ENCFORGE a través de /proc//rootluego lo ejecutó en el host a través de nsenter.

En todas las iteraciones, los contenedores se crearon con Privileged: true, PidMode: host, NetworkMode: hosty el sistema de archivos raíz de lectura y escritura montado en enlace. Esa es la raíz del host.

Antes de la ejecución en vivo, el operador lanzó --try-run para escanear el sistema de archivos, luego --lock para el pase de cifrado en vivo. El script final verificó el estado del proceso, leyó el registro de bloqueo y contó los archivos que terminaban en .locked.

Los investigadores no publicaron el recuento resultante; la evidencia revelada establece un intento de cifrado en vivo, no cuántos archivos de modelo o conjunto de datos se cifraron con éxito.

Sysdig evaluó la --task-id gcp_h1 marcar como evidencia que el operador estaba rastreando este host como un objetivo de GCP dentro de una campaña más amplia; una prueba de ejecución anterior en la sesión utilizó el ID de tarea gcp_test. El informe no reveló víctimas adicionales ni sitios de despliegue.

Los investigadores documentaron la campaña anterior de JADEPUFFER corrigiendo un inicio de sesión fallido en Nacos en 31 segundos. El mismo patrón se mantuvo aquí frente a un problema más difícil: el operador construyó una ruptura de host a través del socket Docker expuesto cuando su ruta de entrega preferida estaba bloqueada.

Parche Langflow y luego proteja los modelos

Los investigadores estiman que reconstruir un modelo de producción de IA una vez cifrado podría costar entre 75 000 y 500 000 dólares por modelo en tiempo de ingeniería y computación de GPU en la nube.

Los entornos de producción a menudo ejecutan múltiples variantes especializadas en almacenamiento compartido, por lo que una sola ejecución de ENCFORGE podría cifrar múltiples variantes almacenadas en el mismo sistema de archivos accesible. Si los datos de capacitación se encuentran en el mismo host, la organización debe reconstruirlos antes de que pueda comenzar cualquier reentrenamiento.

Binario SHA-256: empaquetado 8cb0c223b018cecef1d990ec81c67b826eb3c30d54f06193cf69969e9a8baea2; desempaquetado ea7822eac6cecef7746c606b862b4d3034856caf754c4cf69533662637905328.

Ciberseguridad

Sysdig ha publicado las direcciones fuente y C2, la huella digital de la clave RSA-2048 integrada y una regla YARA en su informe completo.

  • Actualice Langflow a 1.9.1 o una versión compatible actual. Versión 1.3.0 cerrada CVE-2025-3248el vector de entrada para esta campaña, pero desde entonces CISA ha agregado dos vulnerabilidades Langflow más a su catálogo KEV: CVE-2026-33017una falla de RCE no autenticada corregida en 1.9.0, agregada a KEV el 25 de marzo de 2026; y CVE-2026-55255una omisión de autorización entre usuarios corregida en 1.9.1, agregada el 7 de julio de 2026.
  • Rote las claves del proveedor de IA, las credenciales de la nube, los secretos de la base de datos y cualquier otro token accesible al proceso de Langflow. La aplicación de parches no revoca las credenciales ya recopiladas a través de una instancia vulnerable.
  • Eliminar /var/run/docker.sock desde cualquier contenedor que no lo requiera. Cuando el acceso al socket sea inevitable, alcancelo a través de un proxy de configuración limitada; una implementación estándar de Langflow generalmente no necesita crear contenedores, y el acceso sin restricciones al socket Docker debe tratarse como una configuración incorrecta.
  • Alerta sobre procesos de aplicaciones que llaman a las API de creación de contenedores de Docker, contenedores lanzados con Privileged: true o PidMode: hostmontajes de enlace host-raíz y nsenter ejecución desde el interior de un contenedor.
  • Mantenga los pesos de los modelos, los índices vectoriales y los conjuntos de datos de entrenamiento en instantáneas inmutables o fuera de línea. Supervise esos directorios para detectar .locked creación de archivos.

Hacker News se puso en contacto con el equipo de investigación de amenazas de Sysdig para obtener más detalles sobre el alcance de la campaña de la flota y la confianza en la atribución; Sysdig no había respondido mediante publicación.

Los artefactos del modelo ahora pertenecen al mismo nivel de recuperación que el código fuente y las bases de datos de producción. Una organización que puede reconstruir la aplicación pero no puede restaurar sus pesos, índices o estado de entrenamiento no tiene una ruta de regreso limpia.

Por qué bloquear los modelos de IA no detendrá las ciberamenazas que crean

2026 resultó ser el año en el que las predicciones sobre los ciberataques impulsados ​​por la IA, que durante mucho tiempo se habían planteado como un riesgo potencial asociado con la mejora de la IA, parecen hacerse realidad. Los nuevos modelos tienen capacidades a la par de los mejores hackers humanos, lo que marca una ventana de oportunidad fundamental tanto en la IA como en la política de ciberseguridad. Este es un período de transición en el que las nuevas tecnologías están llevando al límite la infraestructura de ciberseguridad estadounidense existente. La verdadera pregunta no es si la ciberseguridad sigue siendo importante, sino más bien: ¿cómo se gestionarán los riesgos que introduce la IA antes de que superen las defensas y quién asumirá el liderazgo de este desafío?

Los intentos de controlar el acceso a modelos con potentes capacidades de ciberseguridad, como el del gobierno federal controles de exportación (y su posterior revocación) en los modelos Mythos y Fable de Anthropic, solo puede ser una solución temporal. Al igual que con las generaciones anteriores de modelos de IA, otras empresas pronto se pondrán al día y desarrollarán modelos con capacidades de nivel Mythos. OpenAI ya le estaba pisando los talones a Anthropic con su Modelo GPT-5.5; Más recientemente, el laboratorio chino Z.ai lanzó su peso abierto. Modelo GLM-5.2que las primeras investigaciones sugieren que puede estar a la par con los últimos modelos de Anthropic y OpenAI en lo que respecta a ciberseguridad. Controlar la IA es casi imposible cuando las empresas extranjeras se apresuran a construir modelos más potentes y lanzarlos públicamente, de modo que cualquiera con suficiente potencia informática pueda modificarlos para sus propios fines.

La única solución a largo plazo es invertir en defensa.

El problema es que los esfuerzos defensivos no han seguido el ritmo del progreso de la IA. El gobierno federal recortó recursos a agencias clave como CISA y redistribuyó sus autoridades. Esto creó un vacío que las empresas de IA han llenado al asumir responsabilidades que deberían estar dirigidas por el gobierno. Algunos ejemplos son los de Anthropic. Proyecto Ala de Vidrio y OpenAI Parchear el planeta iniciativa, que tiene como objetivo apuntalar a los proveedores de infraestructura crítica y bibliotecas de software de código abierto. Las empresas de IA tienen algunos incentivos para invertir en defensa, tanto para mejorar las relaciones públicas como para fortalecer las cadenas de suministro de software de las que también dependen, pero sólo hasta cierto punto. A diferencia del sector público, se les incentiva a limitar la responsabilidad y las consecuencias asociadas con el comportamiento corporativo irresponsable, no a proteger a la nación o a sus ciudadanos. Es bueno que OpenAI y Anthropic se hayan comprometido públicamente a mejorar la ciberdefensa de Estados Unidos. Sin embargo, sólo están posicionados para ayudar con una parte de un problema muy grande.

No se debería esperar que las empresas de IA coordinen por sí solas la ciberdefensa de EE. UU., porque muchas de las soluciones más urgentes no tienen nada que ver con la IA. En este momento, las empresas de inteligencia artificial pueden utilizar sus modelos más potentes para encontrar vulnerabilidades de software y escribir parches. Sin duda, esto es importante, pero el verdadero desafío es asegurarse de que los parches realmente funcionen e implementarlos en sistemas clave sin causar problemas. Esto es especialmente cierto en el caso de la infraestructura crítica, que depende de sistemas frágiles, con poco personal y que deben funcionar de forma continua.

Las empresas de IA tienen la responsabilidad de la ciberdefensa, especialmente dadas las amenazas que crean sus propias tecnologías. Pero esta responsabilidad se comparte con otras empresas y el gobierno. Los propietarios y operadores de infraestructuras críticas, las agencias gubernamentales y las corporaciones necesitan una fuente confiable de información para juzgar el panorama de riesgos en evolución y delinear las opciones para reducir ese riesgo. Tradicionalmente, el gobierno federal ha desempeñado el papel de centro de intercambio de información, recibiendo inteligencia tanto del sector público como del privado y publicando orientación en beneficio de diversas partes interesadas. Responder y recuperarse de los ciberataques ha sido tradicionalmente tarea del gobierno. Debería seguir siendo tarea del gobierno, no convertirse en responsabilidad de las empresas de IA.

No hay duda de que en el futuro se producirán ciberataques, ya sean impulsados ​​por IA o no. Los líderes deben fortalecer nuestras defensas haciendo lo siguiente: medir nuestra exposición a los ataques, probar cómo funcionan los sistemas bajo ataque y acortar los tiempos de recuperación. Las empresas de IA han introducido nuevas amenazas y deberían ayudar a abordarlas, pero no pueden reemplazar el papel del gobierno. Hasta ahora, el gobierno federal sólo ha reaccionado ante la IA y las ciberamenazas en lugar de planificar el futuro. Lo que necesitamos es una verdadera estrategia de ciberseguridad a largo plazo, no soluciones rápidas como bloquear los lanzamientos de modelos individuales.

Todo el mundo ve venir la amenaza; la cuestión es si tenemos o no la voluntad de hacer algo al respecto antes de que sea demasiado tarde.

Jessica Ji es analista de investigación senior en el Centro de Seguridad y Tecnología Emergente (CSET) de la Universidad de Georgetown, donde trabaja en el Proyecto CyberAI.

Andrew Lohn es investigador principal del Centro de Seguridad y Tecnología Emergente (CSET) de la Universidad de Georgetown, donde trabaja en el Proyecto CyberAI.

Escrito por Jessica Ji y Andrew Lohn

El repositorio de modelos de IA más grande del mundo abrazando la cara violada por un agente de IA autónomo – CYBERDEFENSA.MX

En un giro irónico, la plataforma de inteligencia artificial (IA) de código abierto Hugging Face reveló que fue víctima de un ataque perpetrado por un sistema autónomo de agentes de IA.

La compañía dijo que detectó y respondió al incidente que tuvo como objetivo su infraestructura de producción a principios de la semana pasada.

«Identificamos acceso no autorizado a un conjunto limitado de conjuntos de datos internos y a varias credenciales utilizadas por nuestros servicios», dijo la empresa. dicho en un comunicado.

Si bien la investigación sobre la intrusión continúa en curso, Hugging Face dijo que no ha encontrado evidencia de que el agente de IA haya manipulado modelos, conjuntos de datos o espacios públicos orientados al usuario, ni su propia cadena de suministro de software.

Ciberseguridad

El punto de partida del ataque fue el proceso de procesamiento de datos en sí, con un conjunto de datos malicioso que abusaba de dos rutas de ejecución de código, a saber, en su cargador de conjunto de datos de código remoto y una inyección de plantilla en una configuración de conjunto de datos, para ejecutar código en un trabajador de procesamiento.

Con ese acceso, se dice que el actor de amenazas escaló al acceso a nivel de nodo, recopiló credenciales de nube y clúster y se movió lateralmente a varios clústeres internos durante un fin de semana.

El modelo de lenguaje grande (LLM) exacto utilizado para llevar a cabo el ataque no está claro, pero la campaña fue ejecutada por un marco de agente autónomo que realizaba «muchos miles de acciones individuales a través de un enjambre de entornos limitados de corta duración, con comando y control automigratorio organizado en servicios públicos».

Hugging Face dijo que desde entonces ha abordado la causa raíz del problema, precisamente las vías de ejecución del código utilizadas para el acceso inicial. Tambien llevo a cabo las siguientes medidas de remediacion:

  • Se eliminó el punto de apoyo del atacante en los clústeres afectados y se reconstruyeron los nodos comprometidos.
  • Se revocaron y rotaron las credenciales y tokens afectados, y se llevó a cabo una rotación más amplia de secretos como medida de precaución.
  • Implementó barreras de seguridad adicionales y controles de admisión más estrictos en sus grupos.
  • Detección y alertas mejoradas para garantizar que los socorristas reciban notificaciones en cuestión de minutos, 24 horas al día, 7 días a la semana.

Como medida de seguridad adicional, Hugging Face insta a los clientes a rotar los tokens de acceso y revisar la actividad reciente en sus cuentas.

Ciberseguridad

La compañía también dijo que recurrió a Z.ai. GLM 5.2un modelo chino de peso abierto, para realizar el análisis forense después de que los modelos de la frontera occidental rechazaran solicitudes que contenían comandos de ataque reales, cargas útiles de explotación y artefactos de comando y control (C2) porque se activaron sus barreras de seguridad y su incapacidad para diferenciar entre un atacante y un esfuerzo legítimo de respuesta a incidentes.

«Esta experiencia apunta a una brecha que vale la pena planificar», afirmó la empresa con sede en Nueva York. «No sabemos qué modelo impulsó a los agentes del atacante, si un modelo alojado con jailbreak o uno de peso abierto sin restricciones; de cualquier manera, el atacante estaba sujeto a una política de no uso, mientras que nuestro propio trabajo forense fue bloqueado por las barreras de los modelos alojados que probamos por primera vez».

«La lección práctica para los defensores: tener un modelo capaz que pueda ejecutar en su propia infraestructura, examinado y listo antes de un incidente, tanto para evitar el bloqueo de la barrera como para evitar que los datos y credenciales del atacante abandonen su entorno».

Agencias Intel: los modelos de inteligencia artificial de Frontier remodelarán la ciberseguridad más rápido de lo esperado

Las agencias de inteligencia de Estados Unidos, Canadá, Reino Unido, Australia y Nueva Zelanda advierten que los modelos avanzados de IA capaces de causar estragos en el dominio cibernético están a “meses” de estar disponibles públicamente.

En una declaración conjunta, la alianza Five Eyes dice que esperan que el tipo de capacidades de piratería avanzadas proporcionadas por modelos fronterizos como Fable 5 de Anthropic y Daybreak de OpenAI estén ampliamente disponibles para el público dentro de un año, a pesar de los esfuerzos de las empresas de IA para retenerlas o restringir su acceso.

«Se prevé que los modelos Frontier Al superen las expectativas actuales de la industria, transformando fundamentalmente las capacidades cibernéticas tanto ofensivas como defensivas», dijeron las agencias. «El cronograma no es de años, sino de meses».

La declaración, que incluía firmas del director de la Dirección de Ciberseguridad de la NSA, David Imbordino, y del director interino de CISA, Nick Andersen, no cita específicamente fuentes o métodos secretos o clasificados para llegar a esta conclusión.

Pero gran parte de la justificación subyacente proporcionada por las agencias de inteligencia también se alinea con lo que los expertos públicos en ciberseguridad e inteligencia artificial han estado advirtiendo durante meses.

Los modelos de IA capaces de explotar las debilidades de la ciberseguridad ya están disponibles hoy a través de múltiples canales: modelos comerciales más antiguos, versiones de código abierto o fuentes extranjeras y del mercado negro.

Las agencias señalan los sistemas heredados, los ciclos de parcheo lentos, la conectividad innecesaria a Internet, los controles débiles de identidad y acceso y la falta de planificación previa a los incidentes por parte de las organizaciones como debilidades clave que la IA explotará con excelencia.

Y si bien se dice que los modelos más nuevos como Mythos son significativamente más poderosos para tareas relacionadas con la ciberseguridad, el ritmo vertiginoso del desarrollo de modelos de frontera a menudo significa que la IA de frontera restringida de ayer es La IA gratuita y de código abierto del mañana.

«El rápido ritmo del desarrollo de la IA significa que las suposiciones de riesgo cibernético pueden quedar obsoletas en meses, no en años», escribieron las agencias. «Debemos actuar antes y estar preparados para adaptarnos y resistir las amenazas cambiantes».

Desde que los grandes modelos de lenguaje irrumpieron en escena, los modelos de código abierto se han retrasado entre 6 y 8 meses con respecto a las empresas de inteligencia artificial más grandes.

Para dar una idea de lo rápido que se desarrolla este campo: las capacidades descritas en el informe de inteligencia de amenazas de Amazon que convenció a la administración Trump de imponer controles de exportación a Fable 5 ya podrían lograrse a través de modelos más antiguos como Claude Opus y Claude Sonnet, así como modelos chinos de código abierto.

Como resultado, Anthropic cerró el acceso a sus modelos Fable 5 y Mythos 5 y, a pesar de publicar una declaración de que creen que la decisión de la Casa Blanca fue un «malentendido», la disputa sigue resuelta.

Programas como el Proyecto Glasswing de Anthropic y el Programa Trusted Access for Cyber ​​de OpenAI proporcionan sistemas de IA a organizaciones para la ciberdefensa. El objetivo es dar a los defensores una ventaja para encontrar y corregir vulnerabilidades antes de que los sistemas de inteligencia artificial puedan explotarlas de forma rutinaria en los próximos años.

Sin embargo, a pesar de todo el temor que rodea a la nueva tecnología, la orientación recomendada es en gran medida la misma que ha sido durante décadas. Los gobiernos, las empresas y los líderes deben dejar de tratar la seguridad digital de su trabajo como una ocurrencia tardía o una cuestión de cumplimiento.

«El éxito vendrá de lograr los conceptos básicos correctos, actuar rápidamente e integrar la seguridad cibernética en la estrategia comercial central», escribieron las agencias. «Aquellos que no lo hagan se enfrentarán a una creciente desventaja operativa y estratégica».

Derek B. Johnson

Escrito por Derek B. Johnson

Derek B. Johnson es reportero de CyberScoop, donde su área incluye la ciberseguridad, las elecciones y el gobierno federal. Antes de eso, ha brindado una cobertura galardonada de noticias sobre ciberseguridad en los sectores público y privado para varias publicaciones desde 2017. Derek tiene una licenciatura en periodismo impreso de la Universidad de Hofstra en Nueva York y una maestría en políticas públicas de la Universidad George Mason en Virginia.

La falla del SDK de Google Vertex AI permite a los atacantes secuestrar cargas de modelos a través de Bucket Squatting – CYBERDEFENSA.MX

Una falla en el SDK de Google Cloud Vertex AI para Python permitió a un atacante sin acceso al proyecto de una víctima secuestrar el modelo de aprendizaje automático de la víctima, cargar y ejecutar código dentro de la infraestructura de servicio de Google.

Unidad 42 de Palo Alto Networks, que encontró y reportado El error a través del programa de recompensas por errores de Google, llama a la técnica «Pepinillo en el medio» y dijo que no vio ninguna explotación en la naturaleza. Google lo ha parcheado; si usa el SDK, actualice a la versión 1.148.0 o posterior.

El atacante solo necesitaba un proyecto propio de Google Cloud y el ID del proyecto de la víctima, que suele ser público. Sin credenciales, sin phishing, sin punto de apoyo en el objetivo.

La falla estaba en cómo el SDK eligió un depósito temporal de Cloud Storage para la carga de modelos. Si un usuario no configuró un depósito, el SDK generó un nombre predecible a partir del ID del proyecto y la región, como región-ensayo-vértice-del-proyecto. Comprobó si ese cubo existía, pero no si la víctima era su propietario.

Debido a que los nombres de los depósitos son globalmente únicos, un atacante podría crear primero el depósito esperado en su propio proyecto. El SDK de la víctima luego cargaría los archivos del modelo en el depósito del atacante. Luego, el atacante podría reemplazar el modelo cargado por uno malicioso.

Ciberseguridad

Muchos modelos de Python ML se guardan con conservar en vinagre o biblioteca de trabajoque puede ejecutar código cuando se carga un archivo. Cuando Vertex AI cargó más tarde el modelo intercambiado, el código del atacante se ejecutó dentro del contenedor de servicio.

El ataque dependía de la velocidad. La Unidad 42 midió aproximadamente 2,5 segundos entre la carga de la víctima y Vertex AI leyendo el archivo. En su prueba de concepto, el atacante utilizó una función en la nube que se activó después de la carga y reemplazó el modelo en 1,4 segundos, antes de que Vertex AI lo leyera.

Luego, la carga útil robó un token OAuth del servidor de metadatos del contenedor de servicio y lo envió al atacante. En el entorno de prueba de la Unidad 42, ese token no se limitó a la implementación comprometida. Podría acceder a otros artefactos del modelo en el mismo proyecto de inquilino administrado por Google, incluido un modelo TensorFlow completo con pesos entrenados, así como metadatos de BigQuery, listas de acceso, registros de inquilinos, nombres de clústeres de GKE y rutas de imágenes de contenedores internos.

El ataque solo funcionó bajo condiciones específicas: el depósito de preparación predeterminado de la víctima no existía aún en esa región y la víctima abandonó el cubo_puesta en escena parámetro desarmado. El primero es común para un nuevo proyecto en Vertex AI en una región.

El segundo depende de que el desarrollador confíe en el valor predeterminado del SDK en lugar de nombrar su propio depósito.

La Unidad 42 informó la falla a través del Programa de recompensa por vulnerabilidades de Google el 5 de marzo de 2026. Probó las versiones 1.139.0 y 1.140.0, las últimas disponibles en ese momento, y encontró que ambas eran vulnerables.

Google envió una solución inicial en v1.144.0 el 31 de marzo, agregando un uuid4 aleatorio al nombre del depósito. Completó la solución en v1.148.0 el 15 de abril, se agregó la verificación de propiedad del depósito para bloquear la okupación del depósito en Model.upload(). Al momento de su publicación, ni Unit 42 ni los boletines de seguridad Vertex AI de Google enumeran un CVE para el problema.

Ciberseguridad

Actualice a 1.148.0 o posterior para que la verificación de propiedad esté activa. Además, establezca un staging_bucket explícito en una ubicación de Cloud Storage que controle al cargar modelos. Debido a que la lógica defectuosa reside en el SDK del cliente, verifique la versión de google-cloud-aiplatform dondequiera que se ejecute, incluidos los cuadernos, los trabajos de CI y los canales de capacitación, no solo los servicios de producción.

Es la segunda falla con nombre de depósito predecible que surge en Vertex AI este año. Google parcheado CVE-2026-2473 en febrero, un error separado en Vertex AI Experiments que también permitió la ejecución de código entre inquilinos, el robo de modelos y el envenenamiento.

El trabajo anterior de la Unidad 42 sobre los permisos de agente de servicio predeterminados de Vertex AI trazó una ruta relacionada desde un agente de IA implementado hasta los datos de clientes e inquilinos.

Un caso sobre cómo dar forma a las 'listas de ingredientes' para los modelos de IA

Un documento de política publicado el martes aboga por listas de materiales de software (SBOM) para inteligencia artificial como un mecanismo para reducir el riesgo cibernético y mejorar la transparencia, y busca brindar a los legisladores, agencias federales y otros una hoja de ruta sobre cómo proceder.

El SBOM, comúnmente descrito como un inventario de ingredientes de software, surgió en la década de 2010 y se ha expandido más allá del software para incluir hardware e inteligencia artificial.

Pero el papel del Instituto de Seguridad y Tecnología, sobre el cual CyberScoop es el primero en informar, sostiene que los AIBOMS requieren un trabajo fundamental antes de que puedan implementarse ampliamente. Esto se produce cuando algunas empresas ya ofrecen servicios de AIBOM y otras organizaciones están dando forma activamente a la política de AIBOM.

«Lo que nos preocupa es que terminemos en una situación de 'disparar, preparar, apuntar' en la que todos lo hacían, pero todos hacíamos cosas ligeramente diferentes», dijo el coautor del artículo, Allan Friedman, quien ha trabajado en SBOM en múltiples funciones del gobierno de EE. UU. «Si no tenemos una visión compartida, resulta mucho más difícil tener una política coherente. Se vuelve mucho más difícil tener herramientas comunes y datos interoperables y se vuelve mucho más difícil utilizar los datos que estamos rastreando para cumplir la promesa de transparencia de la cadena de suministro».

La idea del documento surgió de conversaciones con asesores de Hill y personal del Pentágono, dijo Friedman, y personas como ellos también son el público objetivo.

Una premisa clave es que la política de AIBOM debe explorar el tema desde dos lados.

“¿Cómo se resuelve el problema del huevo y la gallina, en el que nadie proporciona los datos, por lo que nadie los solicita, y nadie los solicita, por lo que nadie los proporciona?” Friedman dijo a CyberScoop. «La respuesta es que hay que partir tanto de la oferta como de la demanda».

Por el lado de la oferta, “un AIBOM debería capturar detalles relevantes sobre los modelos y conjuntos de datos utilizados para entrenamiento, ajuste, evaluación, validación, prueba, recuperación, conexión a tierra, aumento u otros fines operativos o de desarrollo de modelos”, sugiere el documento.

«El lado de la demanda comienza con alguna forma de función forzada o requisito de que las organizaciones comprendan lo que hay en los productos que fabrican y venden», afirma, siendo uno de esos requisitos potencialmente un mandato de la industria para exigir el seguimiento de los componentes del sistema, por ejemplo, como los estándares «ligeros» utilizados en la industria de tarjetas de pago sobre seguridad de datos que no son demasiado exactos sobre cómo se deben rastrear los componentes.

Pero también podría incluir regulaciones gubernamentales o condiciones de contratación, sostiene Friedman con su colega del Instituto de Seguridad y Tecnología, Nick Leiserson. (El alcance de las directivas gubernamentales sobre IA es un tema de considerable debate en el Capitolio y dentro de la administración Trump en este momento).

Friedman dijo que el documento no pretende ser el final de todo y reconoció el trabajo previo de organizaciones como Open Worldwide Application Security Project (OWASP) y Linux Foundation.

«No estamos diciendo que este sea un tema completamente nuevo, ni tampoco que AIBOM resolverá todos los problemas de seguridad de la IA», dijo. «He estado luchando por SBOM durante una década. Ya sabes, SBOM no recogerá tu ropa de la tintorería».

Y como la IA continúa evolucionando rápidamente, eso significa que artículos como el publicado el martes están apenas al comienzo de la discusión, dijo Friedman.

Tim Starks

Escrito por Tim Starks

Tim Starks es reportero senior de CyberScoop. Sus paradas anteriores incluyen trabajar en The Washington Post, POLITICO y Congressional Quarterly. Originario de Evansville, Indiana, se ocupa de la ciberseguridad desde 2003. Envíe un correo electrónico a Tim aquí: tim.starks@cyberscoop.com.

Anthropic desactiva nuevos modelos después de que el gobierno los calificara como un problema de seguridad nacional

El gobierno de Estados Unidos ordenó el viernes a Anthropic suspender inmediatamente el acceso extranjero a Fable 5 y Mythos 5, sus dos modelos de inteligencia artificial más avanzados, citando preocupaciones de seguridad nacional vinculadas a un método reportado para eludir las restricciones de seguridad de los modelos.

La directiva, emitida el viernes por la tarde por el secretario de Comercio, Howard Lutnick, en una carta al director ejecutivo de Anthropic, Dario Amodei, colocó los dos modelos bajo controles de exportación que prohíben su uso por parte de ciudadanos extranjeros, ya sea dentro o fuera de Estados Unidos.

Debido al alcance de las restricciones, que incluyen a los empleados antrópicos nacidos en el extranjero, la empresa anunció El viernes por la noche desactivó los modelos para garantizar el cumplimiento. El acceso a los otros modelos de IA de la empresa no se vio afectado.

Fable 5 y Mythos 5 se lanzaron a principios de esta semana y Anthropic los describió como los sistemas más capaces que jamás haya implementado. Mythos estaba disponible para los miembros del Proyecto Glasswing, lo que permitió a empresas de ciberseguridad seleccionadas utilizar el modelo para identificar y abordar fallas de seguridad.

No está claro cómo la acción del Departamento de Comercio afecta al Proyecto Glasswing. Anthropic no respondió a una solicitud de comentarios.

La carta del Departamento de Comercio no detalla la preocupación específica por la seguridad nacional. En su blog del viernes por la noche, la compañía dijo que entiende que el gobierno se dio cuenta de una técnica para «liberar» Fable 5, un término para los métodos que eluden las barreras de seguridad incorporadas en un modelo. Según Anthropic, el gobierno solo proporcionó evidencia verbal de lo que describió como un “jailbreak limitado y no universal”, que esencialmente implicaba que el modelo leyera una base de código específica e identificara fallas de software.

Anthropic cuestionó la gravedad del hallazgo. La compañía dijo que revisó un informe que cree que formó la base de la directiva del gobierno y descubrió que las capacidades demostradas ya estaban disponibles en otros modelos de acceso público, incluido el GPT-5.5 de OpenAI. La compañía dijo que los profesionales de la ciberseguridad utilizan habitualmente esas mismas capacidades con fines defensivos.

Katie Moussouris, directora ejecutiva de la empresa de ciberseguridad Luta Security, publicado en BlueSky el sábado que el problema surge de las “indicaciones orientadas a la defensa”, un método de ingeniería de instrucciones de sistemas de inteligencia artificial que prioriza la seguridad y que trata el lenguaje natural como código.

Otros informes Afirmó que Amazon era responsable de señalar los problemas de seguridad en el modelo. La empresa no respondió a la solicitud de comentarios de CyberScoop.

Anthropic reconoció en su declaración que una resistencia perfecta al jailbreak no es alcanzable por ningún proveedor de modelos, y dijo que había diseñado Fable 5 en torno a una estrategia de «defensa en profundidad», combinando una estrecha resistencia al jailbreak con un monitoreo activo. La compañía dijo que ningún evaluador había encontrado un jailbreak universal capaz de eludir ampliamente las salvaguardas del modelo.

«No estamos de acuerdo con que el hallazgo de un potencial de fuga limitado deba ser motivo para recordar un modelo comercial implementado para cientos de millones de personas», escribió Anthropic. «Si este estándar se aplicara en toda la industria, creemos que esencialmente detendría todas las implementaciones de nuevos modelos para todos los proveedores de modelos fronterizos».

La directiva del viernes es el último episodio de una prolongada disputa entre Anthropic y la administración Trump. En febrero, el presidente Donald Trump se trasladó a prohibir los productos de Anthropic de agencias federales después de que la empresa buscara restricciones más fuertes sobre cómo el Pentágono utilizó su tecnología.

A pesar de eso, cuando Anthropic lanzó Mythos bajo el Proyecto Glasswing, la Agencia de Seguridad Nacional recibió Mythos 5 para realizar operaciones cibernéticas ofensivas. A principios de este mes, Trump firmó una orden ejecutiva que ordena a las agencias federales reforzar las defensas cibernéticas y establecer un mecanismo voluntario para que el gobierno obtenga acceso temprano a potentes modelos de IA antes de su despliegue.

El fundamento declarado por la administración para la acción del viernes generó un escepticismo generalizado entre investigadores y analistas. Dean Ball, miembro principal de la Fundación para la Innovación Estadounidense, calificó la medida como “desconcertante.” Chris McGuire, miembro del Consejo de Relaciones Exteriores, dicho Los controles de exportación específicos sobre el acceso a los modelos podrían ser una herramienta política legítima, pero calificó la restricción general como “altamente cuestionable” y las disposiciones de exportación consideradas, que restringen a los ciudadanos extranjeros dentro de los EE. UU., “simplemente absurdas”.

Las implicaciones más amplias para la industria de la IA siguen siendo inciertas. Aaron Levie, director ejecutivo de Box, describió la directiva como “un gran punto de inflexión para la regulación de la IA”, argumentando que la voluntad del gobierno de considerar modelos específicos demasiado poderosos para ciertos usos sienta un precedente con consecuencias potencialmente de largo alcance.

Otros líderes tecnológicos del gobierno apoyaron la acción.

«Apoyamos plenamente a @POTUS y @SecWar para priorizar la seguridad nacional y la seguridad de nuestros combatientes, socios del DIB, infraestructura crítica, socios y aliados internacionales», escribió la CIO del DOD, Kirsten Davies. en una publicación social en X. «Algunas cosas son simplemente más importantes que los ciclos de ingresos, el clickbait y la valoración previa a la IPO. Estados Unidos primero. Siempre».

Anthropic dijo que cree que la situación se debe a un malentendido y está trabajando para restablecer el acceso lo antes posible.

Greg Otto

Escrito por Greg Otto

Greg Otto es el editor en jefe de CyberScoop y supervisa todo el contenido editorial del sitio web. Greg ha dirigido una cobertura de ciberseguridad que ha ganado varios premios, incluidos los de la Sociedad de Periodistas Profesionales y la Sociedad Estadounidense de Editores de Publicaciones Empresariales. Antes de unirse a Scoop News Group, Greg trabajó para Washington Business Journal, US News & World Report y WTOP Radio. Tiene una licenciatura en periodismo televisivo de la Universidad de Temple.