La UE ordena a Google que abra el micrófono, la cámara y la pantalla de Android a los asistentes de inteligencia artificial rivales

El jueves, la Comisión Europea ordenó a Google que diera a los asistentes de inteligencia artificial rivales el mismo alcance en Android que Gemini ya tiene: la cámara, el micrófono, lo que sea que esté en la pantalla, una palabra de activación que se activa con la pantalla apagada y la capacidad de controlar otras aplicaciones en segundo plano imitando toques y tecleos.

Google debe enviarlo en la próxima versión importante, Android 18, y a más tardar el 1 de agosto de 2027.

Ese es uno de dos decisiones de especificación vinculantes adoptado el 16 de julio en virtud de la Ley de Mercados Digitales, seis meses después de que la Comisión abriera el procedimiento el 27 de enero.

El segundo hace que Google entregue consultas de búsqueda, clics y datos de clasificación anónimos a motores de búsqueda rivales y a chatbots de inteligencia artificial que realizan búsquedas, por una tarifa basada en el costo. Tampoco lo es una multa.

Los procedimientos de especificación sólo dicen lo que tiene que construir un guardián; la Comisión poder separado para abrir un caso de incumplimientomultas incluidas, permanece intacta. Android es utilizado por alrededor del 60% de los usuarios de móviles europeos.

Cinco características cerradas, seis no

La decisión de Android cubre 11 características del sistema operativo. Google puede exigir una certificación antes de que una aplicación toque cinco de ellos, lo que las medidas publicadas funciones restringidas de llamadas:

  • Acceso centralizado a las aplicaciones de datos en el dispositivo y opte por compartir, hoy AppSearch.
  • Inteligencia sensible al contexto, la maquinaria siempre activa detrás de sugerencias proactivas como Magic Cue.
  • Integración estructurada en el dispositivo, es decir, acciones de aplicación y funciones de aplicación.
  • Automatización de pantalla, que Android implementa como Control por Computador.
  • Integración del sistema: configuración, medios, capturas de pantalla, notificaciones y energía.

El párrafo 55 detalla el tercero y apunta directamente a las propias aplicaciones de Google. Un asistente certificado puede recuperar y redactar Gmail, crear y administrar eventos de Calendario, extraer contenido de Drive y Docs, activar la navegación de Maps, controlar la reproducción de YouTube y consultar el historial de reproducciones, leer y escribir SMS, MMS y RCS en Mensajes, y realizar llamadas telefónicas.

Ciberseguridad

Los otros seis no tienen ningún requisito de certificación: datos ambientales, detección de palabras activas siempre activas, invocación de pulsación larga, modelos en el dispositivo a nivel de sistema, implementación de modelos de terceros y ejecución en segundo plano.

El párrafo 119 los abre a todos los terceros, incluidas las aplicaciones instaladas por el usuario, y prohíbe a Google restringir el tipo o caso de uso de la aplicación que los llama.

Los datos ambientales significan entrada de micrófono, audio del sistema, cámara, contenido de la pantalla, ubicación y sensores como el acelerómetro, de forma continua y en segundo plano, bajo las mismas indicaciones de consentimiento que obtienen los propios servicios de inteligencia artificial de Google.

Esas indicaciones son las más ligeras: el resumen del caso de la Comisión señala que los servicios propios de Google llegan a los sensores hoy con procesos de consentimiento e indicadores de privacidad reducidos, mientras que los terceros obtienen el consentimiento en tiempo de ejecución por uso.

La detección de palabras activas utiliza el DSP de bajo consumo, por lo que sobrevive a una pantalla bloqueada y al ahorro de batería, y puede seguir grabando hasta que el usuario finalice la solicitud. Éste sólo llega a los teléfonos que ya llevan el chip. Permitir que varios asistentes escuchen a la vez llega a Android 19 y 1 de agosto de 2028.

El consentimiento aún lo controla todo, y Google aún puede exigir el aislamiento y el cifrado del proceso. Lo que no puede hacer, para estos seis, es decidir quién puede preguntar. Si quiere que el sensor se alimente sin procesar detrás de una puerta, las medidas le dejan una ruta: presentar una solicitud razonada que demuestre una buena causa y la Comisión puede mover la característica a la lista restringida.

El programa que Google tiene que escribir

Para los cinco cerrados, Google tiene que establecer un programa de asistentes de IA calificados, permitir que autoridades de certificación confiables de terceros certifiquen a los asistentes de forma gratuita, aceptar esas certificaciones sin imponer condiciones y nunca revocarlas.

También redacta los términos del programa TCA y decide quién es aprobado como certificador, en términos que tienen que ser razonables y no discriminatorios, y que tiene que aprobar con la Comisión dos meses antes de cambiar. Por lo tanto, no puede revocar la certificación de un asistente por parte de una TCA. Puede revocar la TCA.

La barra en sí está tapada. Google puede probar si un asistente reconfirma la intención del usuario antes de acciones sensibles o irreversibles, si minimiza la divulgación involuntaria de datos, si borra la seguridad básica de la aplicación móvil y si está reforzado contra riesgos de agencia que anularían la intención del usuario.

Las medidas ofrecen insumos, cadena de suministro, integración, integridad del modelo e infraestructura como ejemplos de ellas. Cualquier cosa pasada necesita primero a la Comisión, y las mismas condiciones obligan a Géminis.

Ciberseguridad

La suspensión es limitada: Google necesita un conjunto consistente de evidencia de prácticas que causan daños severos e inmediatos, y tiene que entregar esa evidencia a la Comisión y a las autoridades de certificación. Las apelaciones obtienen una respuesta en el plazo de un mes. También hay una puerta alrededor de la puerta.

El párrafo 135 obliga a Google a permitir que los usuarios den su consentimiento para eludir el requisito de certificación, por servicio, por dispositivo, sin enterrar el interruptor detrás del modo desarrollador.

Los términos preliminares vencen el 1 de febrero de 2027, los términos finales y las solicitudes abiertas el 1 de mayo de 2027.

Si envías una aplicación de Android

Para agosto de 2027, un asistente certificado, o uno no certificado al que el usuario saludó, podrá abrir su aplicación en una pantalla virtual, leer su pantalla y hacer clic en ella mientras el usuario hace otra cosa.

La lista de funciones de la función incluye permitir que una aplicación controlada bloquee vistas confidenciales de la aplicación controladora. Conecte esa decisión antes de la versión beta de Android 18.

Existen otras dos salidas sólo si Google decide crearlas: bloquear la automatización en partes de su aplicación y mantener el contexto de su aplicación alejado de los componentes de sugerencias proactivas. La decisión permite ambas cosas. No requiere ninguna de las dos cosas.

El conjunto de datos de búsqueda

El Se publica el método de anonimización.y realiza tres pasadas. Elimine los identificadores directos y los atributos que permiten que los registros se vuelvan a unir: nombres de usuario, direcciones IP, marcas de tiempo precisas, formato de entrada.

Suprima cualquier registro cuya consulta contenga términos raros como nombres completos, contraseñas, direcciones postales o números de cuentas bancarias, o que sean inusualmente largos. Luego generalice los metadatos hasta que cada usuario se ubique en un grupo de al menos 1000 personas que compartan ubicación, tipo de dispositivo e idioma de consulta, y el 95 % llegue a grupos de 29 000 o más.

Los contratos incluyen el resto: procesamiento protegido, sin vinculación a otros conjuntos de datos, sin divulgación posterior, sin intentos de reidentificación, una auditoría independiente antes del acceso y anualmente después.

Los destinatarios necesitan 50.000 usuarios mensuales promedio de la UE durante el año pasado, no pueden ser sancionados y no pueden ser controlados por un país que la UE trata como un riesgo grave y estructural de ciberseguridad o protección de datos. Los datos llegan con al menos siete días de retraso y se cortan después de cinco años por beneficiario. Google también puede evaluar, antes de compartir algo, si un destinatario específico presenta riesgos graves de seguridad cibernética y protección de datos.

El tiempo aquí es corto: formulario de elegibilidad y una página web del beneficiario para fines de agosto, conjunto de datos terminado para noviembre, fijación de precios para enero de 2027.

La objeción de Google

Kent Walker, presidente de asuntos globales de Google, dijo que la decisión de Android «Amenaza la seguridad del dispositivo al otorgar permisos de dispositivo poderosos y sensibles a aplicaciones externas». Dijo que los fabricantes de teléfonos examinan a los asistentes hoy en día y que la decisión elimina esa protección.

En la mitad de la Búsqueda, su posición es que la anonimización no es lo suficientemente buena, que no se pregunta a los usuarios y que las consecuencias afectan a los secretos comerciales y la seguridad nacional. Citó a ENISA, la agencia de ciberseguridad de la UE, que escribió este mes que «Los fundamentos de seguridad importan más que nunca en la era de la IA».

Ese documento de ENISA trata sobre modelos de frontera que reducen la ventana entre el descubrimiento y la explotación de vulnerabilidades hacia cero. No menciona Android, interoperabilidad o permisos de aplicaciones.

La objeción no es imaginaria. Géminis es la prueba. La lista de contexto digital de la decisión ofrece notificaciones, SMS, contenidos de pantalla y capturas de pantalla de asistentes de terceros. El contenido de la notificación es el canal que SafeBreach utilizó para secuestrar el propio agente de utilidades de Android de Gemini mediante inyección indirecta, sin necesidad de ninguna aplicación maliciosa en el dispositivo.

Google mitigó ese problema en el lado del servidor en noviembre de 2025, antes de que SafeBreach se publicara el mes pasado. El riesgo de insumos es ahora una de las cosas contra las que debe prepararse un candidato a asistente. Google escribe la prueba.

Lo que decía el borrador de abril

Las salvaguardias que Walker dice que faltan son las que llegaron después de que Google se quejara. La Comisión proyecto de medidas a partir del 27 de abril no tiene funciones restringidas, ni programa de asistente de IA calificado ni autoridades de certificación.

El borrador del párrafo 134 prohibía a Google restringir quién se beneficia y permitía un proceso de verificación solo si estaba dirigido por terceros neutrales e independientes y se aplicaba únicamente en Play Store. La final permite a Google certificar a los solicitantes.

Las cláusulas de integridad del borrador prohibían límites a los propósitos, beneficiarios, aplicaciones, tecnologías y casos de uso; los pernos finales «a menos que se especifique lo contrario en este Anexo» en cada uno. El borrador de la Búsqueda era aún más flexible: sin umbral de usuarios, sin requisitos de capital, sin exclusión de riesgo país y un grupo mínimo de metadatos de 50 en lugar de 1.000.

Los plazos avanzaron en la misma dirección. La mayoría de las funciones de Android debían entregarse el 1 de enero de 2027 en el borrador. Aterrizan el 1 de agosto de 2027 en la decisión. Las palabras clave concurrentes van desde esa misma fecha de enero hasta agosto de 2028. La Comisión dice que las medidas finales tienen debidamente en cuenta lo que Google y terceros presentaron durante la consulta, y la diferencia muestra lo que se compró.

Lo que Google no consiguió es discreción. Las medidas de integridad deben ser estrictamente necesarias, justificadas por evidencia objetiva que debe conservar, verificables por alguien que no sea Google y aplicadas de manera idéntica a sus propios servicios.

No podrá imponer «un mayor nivel de integridad hacia terceros que el que se aplica a sí mismo». Debe avisar a la Comisión con cuatro semanas de antelación antes de aplicarla. La única forma de evitarlo es un cambio que no esté orientado al usuario, sea puramente técnico, idéntico para Google y todos los demás, e inofensivo para terceros. Los cuatro, o aviso.

Así pues, la lucha se traslada al 1 de febrero de 2027, cuando el borrador del programa condicione las tierras. Google pasó la primavera argumentando que los asistentes no certificados no deberían tener estos permisos y ganó un régimen de certificación que no existía en abril. Ahora tiene que escribirlo, en público, y una vez que conoce la definición, se le lee directamente a Géminis.

HalluSquatting, el nuevo truco para engañar a los asistentes de IA y colar malware en tu ordenador – CYBERDEFENSA.MX

Los asistentes de programación con inteligencia artificial (IA) se han convertido en la mano derecha de miles de desarrolladores. Sin embargo, tienen un vicio bastante bien conocido: a veces se inventan las cosas. Si le pides a una IA que busque una herramienta o un complemento popular, en ocasiones te dará un nombre muy convincente de un proyecto que en realidad no existe.

Ahora, un equipo de investigadores de ciberseguridad formado expertos de la Universidad de Tel Aviv, el Technion e Intuit, ha descubierto cómo convertir este simple descuido en un ciberataque masivo. El método ha sido bautizado como ‘HalluSquatting’ y permite a los atacantes engañar a la IA para que descargue e instale código malicioso por su cuenta, abriendo la puerta a la creación de redes de ordenadores infectados (o botnets).

El ataque es brillante por su sencillez y combina dos comportamientos típicos de las inteligencias artificiales: la alucinación (cuando la IA inventa un dato y lo da por bueno) y la inyección de comandos (cuando recibe instrucciones ocultas que cambian su comportamiento).

Cómo se lleva a cabo

En primer lugar, el atacante escoge la presa, eligiendo una herramienta o un programa informático que se haya puesto de moda recientemente. Al ser muy nuevo, la IA no lo tiene bien registrado en su memoria.

Después, el cibermalo le pide repetidamente a la IA que busque esa herramienta y detecta qué nombre inventado suele repetir con más frecuencia. Una vez identificado dicho nombre el ciberdelincuente lo registra en plataformas populars como GitHub o tiendas de complementos e introduce código malicioso en su interior. 

Aquí es cuando viene el peligro. Cuando un usuario real le pide a su asistente de IA que descargue la herramienta de moda, la IA alucina, sugiere el nombre falso que el atacante ya ha registrado y lo descarga automáticamente.

Dado que muchos de estos asistentes cuentan con permisos para ejecutar comandos en el sistema, una vez que descargan las instrucciones tramposas, la propia IA acaba instalando el malware en el ordenador del usuario sin que este se dé cuenta.

Lo que hace que este ataque sea realmente peligroso es que los errores de la IA no son aleatorios. Durante las pruebas, los investigadores comprobaron que, ante la misma consulta, asistentes de diferentes empresas coincidían en inventarse exactamente el mismo nombre equivocado hasta en un 100 % de los casos.

El experimento se probó con éxito en herramientas muy extendidas en el sector informático, como Cursor, Windsurf, GitHub Copilot, Cline o la línea de comandos de Gemini de Google. En todos los casos, los asistentes terminaron ejecutando el código de prueba enviado por los investigadores.

Los expertos ya han avisado del riesgo a las empresas afectadas para que puedan reforzar la seguridad de sus asistentes antes de que los cibercriminales exploten esta vía a gran escala.

Qué hacer para protegerse

Por su parte, los usuarios y desarrolladores pueden tomar algunas medidas para evitar sorpresas desagradables, que incluyen desactivar el modo ‘sin supervisión’ (es decir, evitar los modos de ejecución automática en los asistentes de IA, verificar las fuentes de forma manual y tratar las sugerencias como hipótesis y no hechos verificados). 

El nuevo ataque HalluSquatting podría engañar a los asistentes de codificación de IA para que instalen malware Botnet – CYBERDEFENSA.MX

Los asistentes de codificación de IA tienen la costumbre de inventar cosas. Pídale a uno que busque una herramienta popular y, a veces, le devolverá un nombre que suena real para un proyecto que no existe.

Una nueva investigación, que sus autores denominan HalluEn cuclillasconvierte ese hábito en un ataque: descubra los nombres falsos que inventa una IA de manera confiable, regístrelos primero y espere a que el asistente busque su trampa en nombre del usuario.

Cualquiera cuyo asistente de IA pueda buscar un recurso externo y luego ejecutar comandos con poca revisión humana está expuesto. En las pruebas, esa ruta llevó al asistente a ejecutar código proporcionado por el atacante en la máquina.

Repítalo con un recurso bastante popular y un nombre colocado puede llegar a muchas máquinas, razón por la cual los investigadores lo plantean como una forma de montar una botnet.

como funciona

El ataque encadena dos peculiaridades de la IA. El primero es un alucinación: una IA que inventa algo y lo presenta como real. El segundo es un inyección inmediata: una instrucción trampa explosiva que secuestra la IA, por lo que sigue a un atacante en lugar del usuario.

Ciberseguridad

Aquí, la inyección es indirecta y se basa en el contenido que el asistente busca en lugar de cualquier cosa que el usuario escriba.

  1. Elige un objetivo. El atacante encuentra un repositorio o complemento que está de moda, por lo que muchas personas le piden a su IA que lo busque. Las tendencias importan, porque un recurso nuevo no está en los datos de entrenamiento de la IA, que es exactamente cuando el modelo comienza a adivinar los nombres.
  2. Aprende el error. El atacante le pide a una IA que busque ese recurso una y otra vez y registra el nombre falso que inventa con mayor frecuencia.
  3. Reclama el nombre falso. El atacante registra ese nombre en GitHub o en una tienda de complementos y oculta instrucciones adversas en su interior.
  4. Esperar. Un usuario real le pide a su asistente que obtenga el popular recurso. El asistente inventa el mismo nombre falso y en su lugar utiliza la versión del atacante. Sus instrucciones ocultas se combinan con lo que el asistente cree que le dijeron que hiciera, y el asistente secuestrado utiliza su propia herramienta de ejecución de comandos para llevarlas a cabo.

La trampa no es un código que se ejecuta por sí solo. Funciona porque estos asistentes mantienen una terminal entre sus herramientas integradas, por lo que una vez que las instrucciones establecidas se hacen cargo, «instalar un bot» es simplemente algo que el asistente puede hacer.

Lo que lo hace práctico es que los nombres falsos no son aleatorios. En los experimentos de los investigadores, el error fue consistente: en diferentes frases y en modelos de diferentes compañías, el asistente buscó el mismo nombre incorrecto en hasta el 85% de las solicitudes de repositorio y en el 100% de las instalaciones de habilidades. Esas son las tasas máximas que informan los autores; el periódico lleva el desglose completo.

Lo ejecutaron con herramientas como Cursor, Windsurf, GitHub Copilot, Cline, Gemini CLI de Google y la familia de asistentes OpenClaw, logrando que cada uno ejecutara código atacante. Las cargas útiles de prueba eran marcadores de posición inofensivos, no malware real; uno vivo tomaría el mismo camino.

El investigación proviene de Aya Spira y colegas del grupo de Ben Nassi en la Universidad de Tel Aviv, con Stav Cohen en Technion y Ron Bitton en Intuit. El grupo de Nassi ya ha hecho esto antes, creando un gusano de correo electrónico con IA que se propaga automáticamente y una invitación de calendario que secuestró Gemini de Google.

El equipo dice que informó a los proveedores, fabricantes de modelos y operadores del mercado afectados antes de salir a bolsa, y retuvo los pasos exactos necesarios para copiar el ataque.

¿Por qué es un nuevo tipo de botnet?

Las botnets tradicionales requieren trabajo para construirse. Se apoyan en contraseñas débiles o malware que se propaga de una máquina a otra, y generalmente agrupan un tipo de dispositivo, de la misma manera que Mirai agrupa cámaras y enrutadores.

Esto no necesita nada de eso. Sin contraseñas, sin gusanos, y debido a que la carga útil llega como texto que lee la IA en lugar de un exploit de red, no es el tipo de cosas que un firewall está atento. Las máquinas en las que aterriza pueden ejecutar cualquier sistema operativo, no una flota uniforme.

La IA es aquí la furgoneta de reparto, no la carga. Las instrucciones colocadas lo engañan para que instale un bot común y corriente, y una vez que ese bot se está ejecutando, la máquina pertenece a una botnet como cualquier otra. Lo nuevo es la combinación que lo lleva allí: un nombre que, como era de esperar, inventa una IA, un mercado donde cualquiera puede registrar ese nombre y un agente con permiso para buscar y ejecutar.

Las piezas no son nuevas, aunque la combinación sí lo sea. Los atacantes primero aprendieron a registrar nombres de paquetes de software falsos que inventan las IA, un truco llamado «slopsquatting».

En enero de 2026, Charlie Eriksen de Aikido Security encontró uno de esos paquetes npm inventados, reaccionar-codeshift, que las instrucciones escritas por IA ya se habían extendido a 237 proyectos de código, y los agentes todavía intentaban instalarlo diariamente; él lo registró él mismo antes de que cualquier atacante pudiera hacerlo, por lo que no causó daño.

Luego, la idea saltó de los paquetes a las direcciones web. La Unidad 42 de Palo Alto Networks descrita recientemente «en cuclillas fantasma» aproximadamente 250.000 dominios alucinados no registrados y libres para su uso (el artículo de THN está aquí).

Ciberseguridad

HalluSquatting es la versión que llega hasta la ejecución del código secuestrando al agente que realiza la búsqueda. Y los mercados destinados a detectar cargas incorrectas no son un gran respaldo: en junio, Trail of Bits pasó sus «habilidades» maliciosas por los escáneres de varias tiendas en menos de una hora.

que hacer

Todo depende de una condición: un agente que busca un recurso externo y lo ejecuta sin que nadie lo controle. Ciérralo y el ataque se detendrá. La solución más eficaz es también la más sencilla: hacer que el asistente busque antes de buscar.

Una búsqueda real fundamenta al agente en lo que realmente existe y elimina drásticamente las conjeturas. Ese es un trabajo para las personas que crean estas herramientas, quienes también pueden capacitar al planificador (la parte que asigna una solicitud a los pasos) para buscar un recurso primero y tratar palabras como clonar, instalar y recuperar como indicadores.

Los usuarios y los equipos de seguridad tienen palancas a corto plazo. De forma predeterminada, estos agentes preguntan antes de ejecutar un comando. La exposición son los modos de ejecución automática (el indicador de omisión de permisos de Claude Code, el modo yolo de Gemini CLI) que lo desactivan, por lo que la primera regla es no permitir que un agente ejecute sin supervisión nada de lo que haya recuperado.

Algunas herramientas ahora agregan una capa de seguridad que inspecciona lo que el agente lee o está a punto de hacer antes de actuar, como el modo automático de Claude Code y la verificación Conseca de Gemini CLI, pero eso reduce el riesgo en lugar de eliminarlo. Ningún interruptor cierra esto, así que verifique también que el nombre de un repositorio o paquete se resuelva en la fuente real esperada antes de que un agente lo ingrese, y trate cualquier nombre que le entregue una IA como una suposición, no como un hecho.

Las plataformas tienen su propia palanca. Pueden dejar de permitir que las personas reutilicen nombres de repositorios conocidos en cuentas nuevas y preregistrar los nombres falsos que probablemente inventen las IA (la misma defensa que ya se usa contra la typosquatting), para que esos nombres apunten al proyecto real.

Los investigadores llaman a sus resultados un límite inferior: «Los ataques siempre mejoran; nunca empeoran». No hay ningún CVE único para parchear aquí. No lo plantean como un error de un producto, sino como una debilidad en la forma en que los agentes de IA confían en nombres que en realidad nunca les dieron.