La Casa Blanca acusa a una empresa china de destilar la fábula de Anthropic
Un alto funcionario de tecnología de la Casa Blanca acusa a una empresa china de destilar los modelos de Anthropic para crear su propio producto de inteligencia artificial.
Michael Kratsios, que dirige la Oficina de Política Científica y Tecnológica de la Casa Blanca, afirmó que Moonshot AI, una empresa de inteligencia artificial con sede en Beijing, China, había destilado el modelo Fable recientemente lanzado de Anthropic para desarrollar su propio modelo K3.
«Para hacer esto, desarrollaron una plataforma interna sofisticada para realizar destilaciones a gran escala contra modelos estadounidenses, lo que les permite cambiar rápidamente entre múltiples métodos de acceso para evitar la detección», Kratsios escribió el miércoles X.
Kratsios también dijo que la compañía ha utilizado servidores GB300, ya sea adquiridos recientemente o a través de Tailandia, para entrenar sus modelos de IA.
«Estados Unidos apoya firmemente el desarrollo libre y justo de la IA, incluido un ecosistema competitivo próspero que abarca modelos de frontera, sistemas especializados, marcos de trabajo de código abierto y modelos de peso abierto», continuó Kratsios. «La destilación legítima de IA utilizada para crear modelos más pequeños y eficientes desempeña un papel vital en este ecosistema de innovación abierta. Sin embargo, la destilación industrial encubierta a gran escala destinada a robar tecnología patentada de los EE. UU. y socavar la investigación estadounidense es inaceptable».
Kratsios no proporcionó detalles sobre cómo el gobierno de Estados Unidos se enteró de que K3 había sido destilado del modelo de Anthropic.
Las empresas fronterizas de inteligencia artificial en EE. UU. han presionado a los formuladores de políticas para que hagan más difícil para terceros copiar o duplicar modelos comerciales avanzados, calificándolo de una forma de robo de propiedad intelectual.
En su sitio web, Moonshot AI describe su modelo Kimi K3 como el primer modelo abierto de 2,8 billones de parámetros y promueve sus costos de token más bajos sin dejar de ofrecer un rendimiento cercano a la frontera.
«Si bien su rendimiento general aún está por detrás de los modelos propietarios más potentes, Claude Fable 5 y GPT 5.6 Sol, Kimi K3 demostró un rendimiento de nivel de frontera en todo nuestro conjunto de evaluaciones, superando consistentemente a otros modelos probados», dijo la compañía en su sitio web.
Una solicitud de comentarios enviada a Moonshot AI no fue respondida antes de la publicación de este artículo.
Piyush Sharma, director ejecutivo de Tuskira, una empresa de detección y respuesta de ciberseguridad de IA, dijo que la destilación de modelos de IA permite a los desarrolladores muchas de las capacidades centrales de un modelo. Señaló otro ejemplo cuando Anthropic a principios de este año acusó a la empresa china Alibaba de destilar su modelo Claude AI.
Según Anthropic, la campaña utilizó 25.000 cuentas fraudulentas para realizar 28,8 millones de interacciones en Claude durante seis semanas. Dado ese tipo de volumen, “el objetivo era claramente la replicación”, dijo.
«Cuando un modelo ha aprendido a razonar a través de las debilidades del software, las brechas de seguridad y las rutas de ataque, copiar su comportamiento también copia esa capacidad analítica», dijo Sharma.
En abril, el representante Andrew Garbarino, RN.Y., que preside el Comité de Seguridad Nacional de la Cámara de Representantes, y el representante John Moolenaar, republicano por Michigan, presidente del Comité Selecto sobre China, anunciado estaban llevando a cabo una investigación conjunta sobre la integración de modelos chinos de IA.
Los comités dijeron que la investigación también se centrará en “examinar un patrón de conducta por parte de [Chinese]laboratorios de IA basados en el robo a gran escala de capacidades patentadas de los sistemas de IA de la frontera estadounidense mediante destilación adversaria”, así como “la redistribución de esas capacidades robadas como modelos de peso abierto disponibles para descarga global, y la incorporación de modelos de origen chino en productos utilizados diariamente por cientos de miles de desarrolladores e ingenieros estadounidenses”.
Los gobiernos y la industria occidentales acusan a las empresas chinas de robar habitualmente su tecnología, propiedad intelectual y otros secretos comerciales, a menudo con el apoyo tácito de Beijing. La copia de modelos de IA continuaría una larga y establecida tradición de robo de propiedad intelectual patrocinado por China.
Sin embargo, si bien los ataques de destilación por parte de gobiernos o empresas extranjeras en empresas fronterizas de Estados Unidos pueden tener implicaciones reales para la seguridad nacional, sigue siendo una cuestión complicada cuál es el límite que deben trazar las autoridades.
La industria de la IA, que incluye no sólo empresas de vanguardia sino también grandes empresas con sus propios modelos personalizados, nuevas empresas patentadas más pequeñas y un vibrante ecosistema de código abierto, comparte y utiliza de forma rutinaria datos de terceros, incluidos códigos críticos y conjuntos de entrenamiento para modelos de IA.
Además, las empresas de inteligencia artificial de la frontera estadounidense han construido y entrenado sus modelos líderes en el mundo en gran parte rastreando la Internet abierta e ingiriendo contenido creado y producido por otros. Los críticos (y múltiples demandas en curso) argumentan que las empresas de inteligencia artificial como OpenAI y Anthropic construyeron sus imperios sobre datos y contenido de otros, tomados casi en su totalidad sin consentimiento ni compensación.
