El equipo de inteligencia de amenazas de OpenAI rastreó lo que cree que son dos grupos distintos de actividad en línea de grupos con vínculos con China y que publican contenido aparentemente diseñado para avivar la ira en torno a temas divisivos como la inteligencia artificial y los centros de datos.

El primero, denominado “Data Center Bandwagon”, utilizó ChatGPT para crear imágenes y comentarios en las redes sociales que afirmaban que la construcción de centros de datos estaba elevando los precios de la electricidad para los estadounidenses.

Otro utilizó la herramienta para desarrollar imágenes y publicaciones en línea que caracterizaban los aranceles como un medio encubierto para que los países ejerzan control sobre el panorama tecnológico global. Según OpenAI, las indicaciones originales ordenaron a ChatGPT que solo incluyera al presidente estadounidense Donald Trump en este contenido, dejando fuera al presidente chino Xi Jinping, quien también ha hecho uso de aranceles.

En ambos casos, OpenAI dijo que los operadores «probablemente se originaron» en China. El contenido del centro de datos se rastreó hasta una empresa de tecnología china anónima que tiene múltiples contratos con gobiernos regionales chinos, y ambos grupos utilizaron VPN para evadir restricciones, solicitaron ChatGPT en chino simplificado y solicitaron salidas en inglés y chino, todo mientras se hacían pasar por estadounidenses en plataformas de redes sociales como X y YouTube.

«Esto parece un ejemplo clásico de una operación de influencia extranjera que se sube al carro de un debate interno genuino y preexistente y trata de manipularlo mediante el uso de cuentas falsas que se hacen pasar por estadounidenses», dijo en línea Ben Nimmo, investigador principal de OpenAI y autor del informe.

Mientras que OpenAI, que tiene buscó levantar cientos de millones de dólares en financiación para construir centros de datos en EE. UU. – no es una parte neutral, el informe no afirma que el sentimiento contra los centros de datos en el país esté siendo impulsado o reforzado por propaganda extranjera en línea.

Hay poca evidencia de que las campañas hayan recibido mucha atención fuera de sus propias redes de amplificación. Esta participación de terceros es un indicador imperfecto pero importante del impacto de una operación de influencia. OpenAI calificó las campañas con 1 y 2 en la escala de reservas de Bookings, puntuaciones que indican actividad en una o más plataformas pero no hay evidencia de una participación significativa por parte de las audiencias objetivo.

Además, los investigadores que estudian las campañas de influencia patrocinadas por el estado dicen que estos grupos están felices de aferrarse y amplificar los movimientos internos genuinos o mensajes siempre que sirvan a sus objetivos de desestabilización más amplios.

Otros han sugerido que aprovechar narrativas establecidas con impulso orgánico, como ira pública contra la IA y los centros de datos – puede hacer que una operación de influencia parezca más eficaz.

Si bien las herramientas de inteligencia artificial se pueden aprovechar para crear dicho contenido de Internet a escala, a menudo no logran ganar terreno. Algunas imágenes utilizadas por actores chinos parecen torpes o utilizan mensajes demasiado directos que muestran una falta de familiaridad tanto con el idioma inglés como con la viralidad de Internet.

«Quiero ser muy claro aquí: este no fue un caso de una operación de influencia que generó un debate», dijo Nimmo. «El debate ya existía. Se trataba de una operación de influencia de China que intentaba interferir en él. No vimos ninguna señal de que tuviera éxito».

Añadió que si bien esos puntos de vista son “razonables” y “sinceramente sostenidos” por muchos participantes de ambos lados, “lo que no queremos ver es una operación encubierta de influencia extranjera haciéndose pasar por estadounidenses para tratar de darle forma, y ​​menos aún una operación de influencia extranjera que utilice la misma IA a la que ataca”.

Según el informe de OpenAI, los actores utilizaron ChatGPT para editar informes de trabajo que contenían detalles de seguridad operativa sobre sus campañas en las redes sociales. En ellos, describieron sus objetivos como «establecer cuentas persistentes y creíbles, producir contenido visualmente atractivo para ampliar el alcance de la audiencia en diferentes regiones y mantener la viabilidad de las cuentas a largo plazo anticipando la aplicación de la plataforma».

Otro informe introducido en ChatGPT discutió la mejor manera de aprovechar el ecosistema de contenido, grupos, páginas, hashtags, herramientas publicitarias, sistemas de recomendación y mecanismos de informes de Facebook, así como estrategias para evadir la detección de cuentas no auténticas coordinadas por parte de Meta.

La campaña en torno a los aranceles también utilizó ChatGPT para crear comentarios breves, cómics en inglés, pero también en italiano, japonés y chino tradicional, acusando a Estados Unidos de anteponer las ganancias a la lealtad a sus aliados. OpenAI dijo que fueron atacados por la misma red en X con una campaña de influencia que alegaba una violación generalizada de los datos de los usuarios que, según Nimmo, «nunca sucedió».

Si bien OpenAI dijo que las campañas probablemente se originaron en China, no atribuyen directamente las operaciones al gobierno chino ni a los actores que trabajan en su nombre, pero sí señalan que muchas partes de la campaña y sus tácticas se superponen con campañas de propaganda en línea preestablecidas del gobierno chino.