Una estudiante universitaria está demandando a una aplicación de citas que supuestamente usó sus videos de TikTok para apuntar a hombres en su dormitorio.

Una mujer de 19 años está demandando a los creadores de una aplicación de citas, alegando que tomaron un video que ella publicó en línea, lo reutilizaron sin su consentimiento para convertirlo en un anuncio para la aplicación y luego utilizaron geocercas para orientar ese anuncio a las personas de su área.

Según el pleito Presentada el 28 de abril en Tennessee y en una entrevista con su abogado, la compañía supuestamente utilizó la orientación geográfica para mostrar anuncios en plataformas como Snapchat a usuarios cercanos a ella, incluidos hombres en su propio dormitorio.

Las acusaciones, si se prueban, ofrecen otro ejemplo de cómo la tecnología moderna ha hecho que hoy en día sea más fácil que nunca para los malos actores imitar, cosificar, lucrar y acosar a personas, a menudo mujeres. Leyes recientes como la Ley Take It Down se han centrado particularmente en el uso de IA para crear imágenes sexualizadas de sus víctimas. En este caso, la demanda alega que Meete no utilizó inteligencia artificial, sino una simple edición de video, una voz en off y geocercas para crear el mismo tipo de engaño.

El día de su graduación de la escuela secundaria, Kaelyn Lunglhofer publicó un breve video en TikTok, vistiendo un traje naranja y diciendo algunas palabras a sus seguidores con música de fondo. Luego asistió a la Universidad de Tennessee en el otoño, donde comenzó a conseguir seguidores como influencer de TikTok.

La demanda alega que los creadores detrás de la aplicación de citas Meete tomaron ese video sin el consentimiento de Lunglhofer, lo superpusieron con gráficos publicitarios de la aplicación y agregaron una voz en off para que pareciera que ella estaba diciendo: «¿Estás buscando una amiga con beneficios? Esta aplicación te muestra mujeres a tu alrededor que buscan diversión. Puedes chatear por video con ellas».

Abe Pafford, abogado de Lunglhofer, dijo a CyberScoop que su cliente no tenía idea de que Meete estaba usando su imagen hasta que un estudiante en su dormitorio le dijo que la había visto repetidamente en anuncios de la aplicación en su Snapchat poco después de que los dos se conocieran.

Pafford calificó de “inverosímil” que se tratara de una coincidencia, señalando la premisa de Meete de conectar a los usuarios con mujeres cercanas y la precisión de la tecnología de geofencing. Antes de presentar el caso, el bufete de abogados de Pafford contrató a una firma de investigación para reunir pruebas adicionales.

“Creo que la idea es que quieren[ed] «Los espectadores de estos anuncios -y, sinceramente, esto está claramente dirigido a espectadores masculinos- sean captados por alguien que conocen o reconocen o creen haber visto por ahí, y eso es parte de lo que lo hace tan inquietante», dijo.

Pafford dijo que cree que Lunglhofer está lejos de ser la única persona cuya imagen Meete se ha apropiado indebidamente, y que la mayoría de las víctimas probablemente no tienen idea de lo que está sucediendo. La propia Lunglhofer solo tenía pruebas porque el estudiante que se la contó había guardado grabaciones y capturas de pantalla de los anuncios que mostraban su vídeo.

«La conclusión es que creemos que es probable que haya otros que hayan sido víctimas de manera similar, pero descubrir quiénes son y encontrar pruebas tangibles de ello puede ser un desafío», dijo.

Snap no respondió a una solicitud de comentarios sobre esta historia.

La demanda cita una supuesta violación de múltiples leyes federales y estatales, incluida la Ley Lanham, la principal ley estadounidense que rige los derechos de marcas. La demanda también alega violaciones de la ley estatal de Tennessee en virtud de la Ley ELVIS, que impide el uso no autorizado de imágenes o semejanzas de artistas y músicos, y de las leyes comunes de Tennessee sobre difamación y derecho de publicidad.

Lunglhofer busca 750.000 dólares en daños punitivos, así como cualquier ingreso relacionado con los anuncios que muestran su imagen. Pafford dijo que los anuncios dañaron su marca y reputación en línea y al mismo tiempo la pusieron en riesgo de acoso o insinuaron falsamente que estaba respaldando un servicio de citas local y que estaba abierta a encuentros casuales.

«Es realmente algo grotesco y también algo peligroso», dijo. «Alguien puede no ser consciente de lo que está sucediendo y ser atacado de esta manera, pero puedes poner a las personas en riesgo de maneras que son realmente preocupantes si te detienes a pensar en ello».

La demanda nombra como acusados ​​a Quantum Communications Development Unlimited, con sede en las Islas Vírgenes, así como a las empresas chinas Starpool Data Limited y Guangzhou Yuedong Interconnection Technology. Un juez ordenó que representantes de los tres comparezcan para declarar en Estados Unidos.

Quantum Communications Development Unlimited tiene una escasa huella en Internet: su sitio web Consta de una sola página con un mensaje escrito en un inglés entrecortado y una dirección de correo electrónico que ya no parece funcionar. Los esfuerzos de CyberScoop por comunicarse con la empresa y otros acusados ​​para hacer comentarios no tuvieron éxito. La compañía figura como editor de Meete en la App Store de Apple, donde describe la aplicación como «un espacio donde puedes ser tú mismo y conocer gente» y promete «la seguridad y el respeto primero», y agrega que «Meete proporciona un entorno seguro donde tu privacidad y seguridad son nuestras principales preocupaciones».

La descripción también afirma que la aplicación cumple con los estándares de seguridad de Apple, citando una «Política de tolerancia cero con respecto al contenido objetable y el comportamiento abusivo». Las salvaguardas enumeradas incluyen revisiones manuales «24 horas al día, 7 días a la semana» por parte de equipos de moderación, informes instantáneos y bloqueo de otros usuarios y filtrado de IA «para detectar y prevenir el acoso antes de que suceda».

En la página Google Play Store de Meete, las reseñas de los usuarios acusan a la aplicación de no relacionarlos con usuarios cercanos y de estar poblada en gran medida por robots que se hacen pasar por mujeres para vender moneda dentro de la aplicación.

Pafford reconoció que el hecho de que los acusados ​​tengan su sede en el extranjero complica los esfuerzos para responsabilizarlos según la ley estadounidense, pero argumentó que Meete está claramente diseñado para operar en Estados Unidos. Las empresas detrás de la aplicación han presentado patentes y marcas registradas en EE. UU. para sus negocios y distribuyen su aplicación a través de las tiendas Apple y Google Play mientras hacen publicidad en las principales plataformas de redes sociales de EE. UU., como Snapchat. “

Apple y Google no respondieron a una solicitud de comentarios.

Puede leer la demanda completa a continuación.

Derek B. Johnson

Escrito por Derek B. Johnson

Derek B. Johnson es reportero de CyberScoop, donde su área incluye la ciberseguridad, las elecciones y el gobierno federal. Antes de eso, ha brindado una cobertura galardonada de noticias sobre ciberseguridad en los sectores público y privado para varias publicaciones desde 2017. Derek tiene una licenciatura en periodismo impreso de la Universidad de Hofstra en Nueva York y una maestría en políticas públicas de la Universidad George Mason en Virginia.

De desnudos falsos a citas falsas: los deepfakes de IA plagaron a los atletas olímpicos

Mientras competían por medallas y gloria en Milán, Italia, los atletas olímpicos estadounidenses experimentaron algo que rápidamente se está convirtiendo en una característica habitual de la vida pública moderna: el uso generalizado de herramientas de inteligencia artificial por parte de políticos, trolls y acosadores sexuales para manipular sus imágenes y voces.

Los usuarios de 4chan y otros sitios generaron y compartieron rápidamente imágenes “desnudas” o sexualizadas de múltiples atletas estadounidenses, incluidas las patinadoras artísticas Alysa Liu, Amber Glenn e Isabeau Levito, así como las esquiadoras Mikaela Shiffrin y Eileen Gu (que compitieron por China).

Varias empresas de investigación, incluidas Graphika y Medidas abiertasrastreó las publicaciones e imágenes en 4chan, una plataforma que elimina automáticamente publicaciones y tableros de temas específicos después de un período determinado.

Cristina López G., analista senior de Graphika y autora de un informe publicado el lunes, dijo a CyberScoop que las comunidades en línea dedicadas a generar y compartir imágenes de desnudos falsos y no consensuales de celebridades, figuras públicas y mujeres que sabían que existían antes de la era de la IA generativa. Pero estos grupos han aprovechado los modelos de imágenes de IA, en particular las versiones locales de código abierto que se pueden descargar y ajustar, para mejorar la calidad de la imagen y hacer que la tecnología sea accesible para miembros menos técnicos.

“Estas comunidades han cooptado y adaptado estas tecnologías para optimizarlas para su caso de uso final, que sigue siendo la producción de [nonconsensual sexual imagery]”, dijo López G.

Los usuarios de estos foros de mensajes de 4chan siguen un patrón gamificado: una persona publica una imagen sexualizada o no consensuada y luego pide a otros que publiquen la suya propia a cambio. La disponibilidad de modelos de IA descargables y de código abierto, que carecen de barreras de seguridad y pueden personalizarse para su “nudificación”, ha acelerado esta actividad.

Estos pesos y configuraciones personalizados, llamados Adaptaciones de rango bajo (LoRA), se pueden compartir en línea y conectar a los modelos locales de otros usuarios, de manera similar a la forma en que los jugadores crean y comparten modificaciones.

Los deepfakes existen (y mejoran constantemente) desde hace años, pero la tecnología de inteligencia artificial generativa ha mejorado drásticamente en los últimos 18 meses en la generación de fotografías y videos realistas.

Además, los modelos de código abierto se han extendido por Internet, brindando a los usuarios la capacidad de personalizar, ajustar y compartir modelos que están optimizados para la nudificación y la generación de imágenes no consensuadas.

Aunque las publicaciones de 4chan se eliminan automáticamente, aún pueden propagarse a Internet en general. En 2024, por ejemplo, los desnudos deepfake de Taylor Swift se originaron en el sitio pero se volvieron virales en las principales redes sociales. López G. dijo que aplicaciones como Telegram—y cada vez más X—se convierten en conductos para difundir aún más las imágenes.

«La forma en que esto altera el juego, diría yo, es que ya no sólo se intercambian productos, sino que se intercambia la capacidad de generar productos infinitos», dijo. «Entonces el daño se agrava, porque simplemente estás permitiendo que muchas otras personas puedan producir y dirigirse de manera única y específica a estas mujeres».

IA, políticas de guerra cultural y la opinión pública

El uso de IA para imitar o acosar a los atletas olímpicos estadounidenses durante los juegos no se limitó a desnudos no consentidos en 4chan.

Brady Tkachuk, del equipo de hockey masculino de EE. UU., habló después de que la Casa Blanca publicara un video generado por IA que lo mostraba falsamente burlándose de los canadienses después de la victoria del equipo de EE. UU. por la medalla de oro sobre Canadá.

El video, compartido a través de la cuenta de TikTok de la Casa Blanca, mostraba a Tkachuk diciendo de Canadá: «Abuchearon nuestro himno nacional, así que tuve que salir y darles una maldita lección a esos que comen jarabe de arce». A pesar de incluir un descargo de responsabilidad generado por IA, el video Ha sido visto decenas de millones de veces.

Sin embargo, Tkachuk –un ciudadano estadounidense que juega profesionalmente para los Senadores de Ottawa– tomó el problemadiciendo a los medios “no me gusta ese vídeo” porque “no es mi voz, ni mis labios se mueven”.

Es el último ejemplo de cómo la Casa Blanca de Trump utiliza la IA para alterar o manipular imágenes públicas. La administración ahora crea o comparte periódicamente imágenes generadas por IA como parte de su mensaje político, a veces sin revelarlas al público. A principios de este año, la Casa Blanca publicó una foto manipulada por IA en X demostración La manifestante de Minnesota Nekima Levy Armstrong llorando mientras la arrestaban y se la llevaban esposada, una emoción que no estaba presente en la imagen original. Las cuentas de redes sociales de otras agencias federales también han compartido imágenes y videos manipulados por IA.

Los funcionarios de la Casa Blanca han defendido constantemente sus acciones, describiéndolas como poco más que bromas. López G. dijo que ya sean desnudos no consensuados o falsificaciones políticas, el problema “va más allá del daño tecnológico” y refleja cómo sectores de la cultura en línea esencialmente niegan el impacto de este contenido en el mundo real.

“Una cosa que realmente llama la atención es que muchas de las personas que producen [deepfakes] «No conecten el daño que le están haciendo a la persona real», dijo. «En sus mentes piensan que 'esto no es real' y por eso estas personas no salen lastimadas. Hay una desconexión ahí que no tiene nada que ver con la tecnología, sino más bien con nosotros como cultura”.

Greg Otto

Escrito por Greg Otto

Greg Otto es el editor en jefe de CyberScoop y supervisa todo el contenido editorial del sitio web. Greg ha dirigido una cobertura de ciberseguridad que ha ganado varios premios, incluidos los de la Sociedad de Periodistas Profesionales y la Sociedad Estadounidense de Editores de Publicaciones Empresariales. Antes de unirse a Scoop News Group, Greg trabajó para Washington Business Journal, US News & World Report y WTOP Radio. Tiene una licenciatura en periodismo televisivo de la Universidad de Temple.