La Comisión Federal de Comercio está lista para comenzar a hacer cumplir una disposición clave de la Ley de Eliminación el 19 de mayo, que exige que los sitios web y servicios en línea eliminen los medios deepfake no consensuales dentro de las 48 horas posteriores a la notificación de la víctima, o arriesgarse a multas e investigación de la FTC.
La ley, aprobada por el Congreso el año pasado, permitió a las autoridades procesar inmediatamente a las personas que crearan y publicaran dicho contenido en línea. Pero a las plataformas y sitios web que alojan el material se les dio un plazo de un año para desarrollar su sistema de informes y eliminación. Según el régimen de aplicación que entrará en vigor, las empresas que no eliminen los medios marcados dentro del plazo de notificación de 48 horas podrían enfrentar multas y una investigación de la FTC.
Esta semana, el presidente de la FTC, Andrew Ferguson, envió letras a empresas del sector privado que detallan cómo la comisión pretende controlar el cumplimiento una vez que comience la aplicación de la ley. La FTC estableció una multa civil máxima de – $53,088 por infracción para las empresas que no eliminen contenido según lo requerido, y la carta de Ferguson describe otros requisitos, incluido que las empresas hagan que sea fácil y conveniente para los usuarios enviar solicitudes de eliminación.
«Estamos listos para monitorear el cumplimiento, investigar violaciones y hacer cumplir la Ley Take It Down», dijo Ferguson en un comunicado. “Proteger a los vulnerables, especialmente a los niños, de este abuso dañino es una máxima prioridad para esta agencia y esta administración”.
La carta de Ferguson arroja nueva luz sobre cómo la FTC hará cumplir la eliminación de contenidos según la ley. Tanto las imágenes íntimas no consensuadas publicadas en línea utilizando fotos reales de otras personas como las “falsificaciones digitales” modificadas o generadas por IA se considerarían violaciones.
Las empresas también deben facilitar que las víctimas sin cuentas denuncien posibles infracciones, detallar su programa de denuncia y eliminación en su sitio web “en lenguaje sencillo” y proporcionar avisos “claros y visibles” a los usuarios sobre cómo solicitar eliminaciones.
Según la FTC, la ley cubre sitios web, aplicaciones, redes sociales, servicios para compartir imágenes o vídeos y plataformas de juegos. Las cartas de Ferguson estaban dirigidas a quién es quién de las empresas de tecnología y redes sociales, incluidas Amazon, Alphabet, Apple, Automattic, Bumble, Discord, Match Group, Meta, Microsoft, Pinterest, Reddit, SmugMug, Snapchat, TikTok y X.
A principios de este año, Grok, el servicio de inteligencia artificial al que tienen acceso los usuarios de X, se utilizó para inundar el sitio de redes sociales con deepfakes sexualizados y no consensuados de personas reales. Elon Musk, el propietario de X, inicialmente hizo caso omiso de las críticas, pero desde entonces se ha visto afectado por múltiples investigaciones penales y civiles derivadas del incidente, así como demandas y llamados de algunos líderes mundiales para prohibir la aplicación por completo.
La FTC también recomienda que las empresas implementen tecnologías de hash “para evitar la reaparición de contenido íntimo que ya eliminó de su plataforma” y compartan sus hallazgos con organizaciones sin fines de lucro como el Centro Nacional para Niños Desaparecidos y Explotados y StopNCII.org para realizar un seguimiento en otras partes de Internet.
Becca Branum, directora del Proyecto de Libre Expresión del Centro para la Democracia y la Tecnología, dijo a CyberScoop que algunos elementos del enfoque de la FTC, como exigir opciones de denuncia claras y simples para las víctimas, se alinean con las mejores prácticas establecidas por grupos de la sociedad civil.
Pero también dijo que el papel de la FTC bajo la Ley Take It Down es materialmente diferente de cualquier cosa que la comisión haya hecho antes. La magnitud de la aplicación y el monitoreo requerirá recursos humanos y técnicos a la par de los de las principales empresas de redes sociales.
«Estoy muy preocupado por la FTC y su capacidad para hacer cumplir esta ley de manera justa», dijo Branum. «Ahora se dedican a regular la moderación de contenidos. Es un trabajo duro y no es algo a lo que estén acostumbrados».
Algunos expertos legales y de privacidad señalaron las grandes sanciones financieras establecidas por la FTC como una señal de que los formuladores de políticas están buscando poner verdadero empeño en hacer cumplir la ley. Esas sanciones podrían acumularse rápidamente si una empresa aloja o publica varias copias del mismo medio marcado y se niega a eliminarlo en un plazo de dos días.
«Para las plataformas cubiertas, el cumplimiento de la Ley es fundamental dado el énfasis de la FTC en la aplicación de la ley, lo que refleja las prioridades de la Casa Blanca, y posibles sanciones civiles de hasta 53.088 dólares por infracción», escribieron los abogados de privacidad Duane Pozza e Ian Barlow.
Pero Branum dijo que las fuertes multas también enfatizan «cuánto incentivo habrá para que las plataformas acepten cualquier cosa que surja en la línea de quejas».
Si bien la Ley Take It Down está diseñada para obligar a las empresas a investigar reclamaciones y eliminar el contenido infractor, los incentivos regulatorios y financieros las empujan a simplemente eliminar casi todo el contenido informado de forma predeterminada. Ese enfoque, que muchas de las mismas empresas tecnológicas han adoptado en virtud de leyes como la Ley de Derechos de Autor del Milenio Digital, puede ser aprovechado por actores de mala fe que buscan acabar con el discurso o el contenido legal en línea.
“Si crees que hay alguna publicación determinada [where] «Si le preguntas a un abogado si vale $53,000 para mí mantener esta publicación, la respuesta siempre será que la eliminarán», dijo Branum. «No puedo imaginar que ningún servicio quiera arriesgarse a ese tipo de multa en casos extremos o cualquier cosa que no pueda verificar o contabilizar dentro de las 48 horas».
