El presidente Donald Trump dijo que pospondría la publicación de una orden ejecutiva que establecería un régimen de prueba y verificación de 90 días para modelos fronterizos de inteligencia artificial, horas antes de que la Casa Blanca anunciara públicamente la firma.

En declaraciones a los periodistas en la Oficina Oval el jueves, Trump dijo que optó por retrasar la orden “porque no me gustaban ciertos aspectos” y expresó su preocupación de que pudiera perjudicar la competencia de la industria de la IA de Estados Unidos con países como China.

Según múltiples fuentes, una versión preliminar de la orden que circuló en las últimas 24 horas habría establecido un régimen de pruebas voluntarias entre el gobierno federal de EE. UU. y las empresas fronterizas de inteligencia artificial que permitiría al gobierno estudiar nuevos modelos durante 90 días antes de su lanzamiento público. Además del gobierno, el proyecto de orden también facilitaría el acceso a los modelos para los evaluadores de ciberseguridad en sectores de infraestructura crítica, como las finanzas y la atención médica.

El borrador de la orden facultaba a la Agencia de Seguridad Nacional para realizar evaluaciones clasificadas de modelos fronterizos de IA, mientras que el Departamento del Tesoro habría establecido un nuevo acuerdo de intercambio de información entre empresas de IA y defensores de la ciberseguridad en infraestructuras críticas.

Otras agencias, como la Oficina del Director Nacional Cibernético, la Agencia de Seguridad de Infraestructura y Ciberseguridad y el Instituto Nacional de Estándares y Tecnología, también participarían en la definición de qué modelos están cubiertos por el régimen de investigación de antecedentes.

En cierto sentido, la orden formalizaría una relación que ya es de cooperación entre empresas de IA y gobiernos como los de EE. UU. y el Reino Unido, donde las agencias y reguladores centrados en la tecnología ya han brindado acceso a modelos anteriores antes de su lanzamiento para pruebas y evaluación.

Un ex funcionario federal que vio el último borrador circulado antes del anuncio del jueves dijo a CyberScoop que, según sus conversaciones con la administración, la orden tenía como objetivo facilitar pruebas más sólidas por parte de las agencias gubernamentales en comparación con las evaluaciones realizadas para modelos anteriores. Dijeron que esto es en parte un reflejo de la comprensión madura del gobierno federal sobre la tecnología de inteligencia artificial en los últimos cinco años.

“En el pasado, había opciones en contenedores para que la comunidad de inteligencia y otros echaran un vistazo a las cosas, pero en realidad era mucho tomarse de la mano. [from AI companies] y una autoexplicación de lo que esperan que esto haga», dijo el funcionario, al que se le concedió el anonimato para discutir conversaciones delicadas con la administración. «Y ahora el gobierno se presenta y dice que sentimos que estamos lo suficientemente preparados para que usted nos dé su herramienta… y partiremos de ahí».

Pero también representa un giro radical por parte de la administración Trump, que asumió el cargo desdeñando abiertamente las políticas de seguridad de la IA y argumentando que inhibirían la industria estadounidense. Los últimos comentarios de Trump sobre retrasar la orden reflejan esas mismas actitudes.

El exfuncionario dijo que si bien la Casa Blanca de Trump no considera que su misión sea decirle a las empresas de IA «no desarrollen IA que pueda hacer X, que se percibía como el papel de la administración anterior», también reconoció que la retórica inicial de la administración sobre la regulación de la IA los ha acorralado.

«Creo que el mayor desafío que enfrenta la administración es que su tono era 'no institución de barreras' y no tienen una mejor palabra para asegurarse de que las capacidades de los modelos fronterizos emergentes no perturben la seguridad que decir 'probémoslo e instituyamos barreras'», dijo el funcionario.

Si bien continúa el debate sobre la mejor manera de regular los daños relacionados con la IA, la mayoría coincide en que existen preocupaciones genuinas de seguridad nacional en torno a esta tecnología.

Ram Shankar Siva Kumar, fundador del equipo rojo de IA de Microsoft, dijo a CyberScoop que en 2019, su personal estaba formado por él mismo y algunos otros especialistas en seguridad y aprendizaje automático. Ahora un personal mucho mayor de tecnólogos cuenta con el apoyo de especialistas en psicología, lingüística, armas biológicas y otros campos.

«Debido a los daños fronterizos, lo que hemos hecho realmente se ha transformado», dijo Siva Kumar.

Estados Unidos, junto con Israel, Rusia, Ucrania y otros, ya han desplegado IA en operaciones militares específicas o han integrado la tecnología en sus proyectos más grandes. estructura de mando y control. La IA se está utilizando para potenciar guerra con dronescampañas globales de piratería y sofisticados vigilancia y focalización de personal militar y civiles, imbuyendo las decisiones de ingeniería de las empresas fronterizas de IA con consecuencias de vida o muerte.

Algunos miembros del Congreso que anteriormente se oponían a permitir que la IA tomara decisiones de muerte autónomas en el campo de batalla han estado reconsiderando su posición.

El representante Don Beyer, demócrata por Virginia, quien copresidió el Caucus de IA del Congreso y fue designado para un grupo de trabajo bipartidista sobre IA en 2024, dijo que si bien cree que “debemos protegernos contra la deshumanización” de esas decisiones, también le preocupa que los países adversarios utilicen la misma tecnología contra Estados Unidos.

«Es como si dijéramos que los estadounidenses tienen que tener un humano en el circuito y los chinos no tienen que tener un humano en el circuito, el no humano siempre vencerá al humano», dijo Beyer en una conferencia de IA en Washington DC a principios de este mes.

Mientras tanto, los expertos han estado cada vez más preocupados por el impacto de la tecnología en la ciberseguridad, ya que los modelos actuales son notablemente buenos para encontrar errores y vulnerabilidades de software, mientras que modelos más nuevos como Mythos de Anthropic y Daybreak de OpenAI son capaces de encadenar múltiples exploits para realizar ataques más sofisticados.

Mientras los piratas informáticos patrocinados por el Estado experimentan con la tecnología y la utilizan para obtener eficiencias específicas en sus operaciones de piratería, los expertos en ciberseguridad del sector privado y agencias de aplicación de la ley Dicen que la tecnología ha beneficiado principalmente a los ciberdelincuentes y estafadores.