El proyecto de ley de Warner crearía una lista examinada a nivel federal para agentes de IA seguros y confiables
Un nuevo proyecto de ley del Senado establecería una lista de proveedores de software de agentes de IA que las personas pueden utilizar para establecer la propiedad humana y ejecutar agentes de forma segura en las redes sociales y otras plataformas en línea.
La Ley de Acceso a Inteligencia Artificial, Intercambio de Guardianes y Transferencia No Discriminatoria (AI AGENT), liderada por el senador Mark Warner, demócrata por Virginia, permitiría a los usuarios finales de grandes plataformas en línea con más de 50 millones de clientes o suscriptores por mes el derecho a elegir al menos un proveedor de agentes de IA que cumpla con los estándares de seguridad e identidad desarrollados por la Comisión Federal de Comercio.
Estos agentes toman cada vez más decisiones en nombre de los usuarios, como comprar, publicar contenido en las redes sociales o cambiar la configuración de la cuenta, a veces sin el consentimiento o conocimiento del usuario.
bajo el facturala FTC certificaría organismos independientes para examinar a los proveedores de agentes de IA. Estos organismos de certificación garantizarían que los productos cumplan con las protecciones básicas de privacidad, seguridad de los datos y actuar en interés del usuario. El proyecto de ley también requeriría que los proveedores vinculen cada agente de IA con la identidad de su operador humano e incluyan controles integrados que permitan a los usuarios otorgar o revocar claramente el permiso para que el agente actúe en su nombre.
Si bien la comisión no puede impedir que las plataformas utilicen proveedores de agentes de inteligencia artificial que no cumplan con esos estándares, puede cancelar el registro de los infractores de la lista de la FTC.
El proyecto de ley es un borrador de discusión y Warner dijo que lo publicaría ahora para recibir comentarios antes de presentar una versión formal para su consideración en el Senado.
«A medida que la IA agente transforma la forma en que los estadounidenses interactúan con la tecnología, los consumidores merecen una opción real en el mercado, y los agentes de IA deben ser responsables ante las personas a las que sirven», dijo Warner en un comunicado. «Este borrador de discusión es un paso importante hacia la construcción de un marco federal claro que promueva la innovación, proteja a los consumidores y garantice que Estados Unidos continúe liderando el mundo en tecnología emergente».
El año pasado, Morgan Stanley estimado que casi uno de cada cuatro (23%) estadounidenses realizó compras utilizando IA durante un período de 30 días, y que los compradores agentes podrían representar potencialmente cientos de miles de millones de dólares en comercio en línea para 2030.
Pero los agentes de IA todavía pueden ser poco confiable o errático. Pueden realizar compras absurdas que un usuario nunca aprobaría conscientemente, filtrar datos confidenciales o actuar en contra de los intereses del usuario.
A medida que más agentes inundan Internet, aumenta la probabilidad de que los robots de IA interactúen con otros robots de IA y les compren, lo que subraya la necesidad de soluciones de usuario seguras o reguladas que puedan verificar las identidades humanas responsables detrás de la actividad de la IA y proporcionar protecciones básicas de seguridad y privacidad.
La administración Trump está tratando de encontrar su propia base para regular los modelos fronterizos. A principios de este mes, el Departamento de Comercio impuso controles de exportación a los modelos Mythos 5 y Fable 5 de Anthropic, y las dos partes están intentando negociar un marco para proporcionar supervisión gubernamental de los lanzamientos más recientes.
Una orden ejecutiva de IA emitida por la administración Trump estableció un programa de prueba voluntario de 30 días para que las empresas de IA presentaran ciertos modelos fronterizos para prueba y evaluación, pero la administración impuso los controles de exportación días después de que Anthropic publicara Fable 5, supuestamente citando preocupaciones de que el modelo podría tener jailbreak.
Anthropic afirma que las pruebas internas exhaustivas no han identificado fugas universales para Fable 5 y que la investigación de terceros publicada hasta ahora no ha demostrado que se hayan eludido las barreras de seguridad que impiden el acceso a la ciberseguridad mejorada o las capacidades biológicas del modelo. Esas son las capacidades que citó Anthropic cuando retuvo el lanzamiento público de su modelo más nuevo, Mythos.
