Todo el mundo está creando agentes de IA. Casi nadie está preparado para lo que le hacen a la identidad.
Antrópico anunciado recientemente que no lanzaría al público Mythos, su modelo de IA más poderoso. El modelo descubrió miles de vulnerabilidades de software previamente desconocidas: fallas que habían permanecido desapercibidas en los principales sistemas operativos y navegadores web durante casi tres décadas. Anthropic dijo que el modelo era demasiado peligroso para implementarlo ampliamente porque las mismas capacidades que le permitieron encontrar y corregir fallas de seguridad podrían permitir a los atacantes explotarlas. Un solo agente de IA, advirtió la compañía, podría buscar debilidades de manera más rápida y persistente que cientos de piratas informáticos humanos.
Esa decisión te dice algo importante sobre dónde estamos. Los mismos sistemas de inteligencia artificial que las empresas se apresuran a implementar como asistentes autónomos (programar citas, escribir códigos, administrar flujos de trabajo) también son capaces de sondear las defensas digitales a una velocidad y escala que ningún equipo humano puede igualar. Y la mayoría de los sistemas que estarían investigando todavía dependen de un modelo de seguridad diseñado para una era en la que una persona se sentaba detrás de cada teclado.
Piense en ello como un edificio donde cada puerta tiene una cerradura, pero todas las cerraduras fueron diseñadas para reconocer las manos humanas. Ahora el edificio está lleno de robots (algunos de ellos mensajeros autorizados, otros intrusos) y las cerraduras no notan la diferencia.
No hace mucho, podías sentarte en tu escritorio, mirar la nota adhesiva en tu monitor para encontrar tu nombre de usuario y contraseña, escribirlos y tomar una taza de café mientras tu navegador abría una puerta al resto del mundo. Cada capa de seguridad que siguió (contraseñas, preguntas de seguridad, escaneos biométricos, autenticación de dos factores) surgió de una única suposición fundamental: una persona estaba en el otro extremo.
Los agentes de IA rompen esa suposición desde dos direcciones al mismo tiempo. Los agentes legítimos necesitan credenciales para actuar como humanos. OpenAI Operador navega por sitios web en su nombre. de google Géminis Puedes planificar tus próximas vacaciones familiares mientras duermes. Visa presentada recientemente Conexión de comercio inteligenteuna plataforma que permite a los agentes de IA realizar compras para los consumidores. Estas no son demostraciones ni tomas calientes de una conferencia de tecnología. Están enviando productos que actúan en nombre de personas reales y, para hacerlo, necesitan su identidad.
Al mismo tiempo, los adversarios pueden fingir humanidad a gran escala. La misma IA que puede actuar como un asistente útil y convincente también puede ser un imitador malicioso. No entran ellos inician sesión—a través de credenciales compartidas, canales de contratación, portales de incorporación de proveedores y herramientas de colaboración. La mayoría de las organizaciones todavía tratan la identidad como un problema de inicio de sesión, algo que TI maneja con contraseñas más seguras o pasos de autenticación adicionales superpuestos a los sistemas existentes. El desafío más difícil ahora es saber a quién o qué ya has dejado entrar.
Esa distinción está colapsando justo cuando los sistemas digitales se vuelven más autónomos.
Cuando esa distinción se desdibuja, el daño es concreto. Si un flujo de trabajo de adquisiciones no puede distinguir entre un administrador humano y un imitador de IA, las órdenes de compra se emiten con una autoridad falsa. Cuando los registros de cumplimiento no pueden determinar cómo se autorizó una decisión (por una persona o un robot), la cadena de responsabilidad se desmorona. Los reguladores y los clientes no aceptarán «no estamos seguros» como explicación.
La economía se ha inclinado marcadamente hacia el atacante. El fraude sofisticado alguna vez requirió coordinación, con personas investigando objetivos, elaborando mensajes y ajustando tácticas en tiempo real. Los agentes de IA eliminan esas limitaciones. Una persona ahora puede supervisar un ejército de sistemas autónomoscada uno de los cuales ejecuta una persona válida en múltiples interacciones simultáneamente. Un solo operador puede disponer de cien empleados sintéticos por el coste de un salario real. La barrera para la suplantación de identidad a gran escala ya no es la habilidad ni la mano de obra. Es acceso a un modelo capaz y un conjunto de credenciales robadas.
Los controles de identidad más estrictos conllevan un costo. Cada paso de verificación adicional es un momento en el que un cliente podría abandonar una transacción o un empleado podría perder la paciencia con un protocolo de seguridad. El objetivo no es acabar con la automatización. Es para asegurarse de que los sistemas que actúan en su nombre estén autorizados para hacerlo.
Algunas organizaciones se están adaptando. Están tratando a los agentes de IA menos como software y más como nuevos empleados, catalogando a cada agente en su entorno, limitando permisos y exigiendo aprobación humana para acciones sensibles. Están yendo más allá de las contraseñas hacia una autenticación resistente al phishing que vincula el acceso a un dispositivo conocido y un usuario verificado. Están construyendo bases de comportamiento para que cuando un robot de servicio al cliente consulte repentinamente una base de datos financiera, o un nuevo empleado acceda al código fuente el primer día, salten las alarmas.
Ya nadie guarda su contraseña en una nota adhesiva (espero). Pero la suposición detrás de la nota adhesiva, de que una mano humana la escribiría, todavía sustenta la mayoría de los sistemas de los que dependemos. Estos sistemas guardan sus registros médicos, procesan su hipoteca y permiten que un asistente de inteligencia artificial vuelva a reservar su vuelo. En un mundo donde los agentes de IA actúan más rápido, más persistentemente y más convincentemente que cualquier persona, esa suposición es la vulnerabilidad.
Las organizaciones que puedan verificar la identidad continuamente (no sólo en la puerta, sino en cada acción, para cada actor, humano o máquina) tendrán una ventaja duradera. Los que no puedan, descubrirán lo que cuesta la ambigüedad.
Devin Lynch es Director Senior del Paladin Global Institute y ex Director de Implementación de Políticas y Estrategias en la Oficina del Director Cibernético Nacional.
