Un nuevo informe del Reino Unido descubre que los modelos de IA engañan y engañan constantemente a los usuarios
Las empresas fronterizas de IA a menudo se refieren a sus modelos como “asistentes útiles” o intentan compararlos con empleados de nivel inicial.
pero nuevo investigación del Instituto de Seguridad de IA del Reino Unido refuerza cómo los grandes modelos de lenguaje sufren de un defecto común que pondría a muchos empleados humanos en problemas con sus empleadores: hacen trampa.
En otras palabras, estos modelos están tan comprometidos a completar sus tareas que romperán las reglas, tomarán atajos y engañarán a sus propios usuarios para lograrlas.
«Todos los modelos que hemos probado para detectar este comportamiento intentaron hacer trampa», dice el informe de AISI.
«Los modelos no informaron de manera confiable este comportamiento cuando se les preguntó y, a menudo, no razonaron al respecto en su cadena de pensamiento, lo que sugiere que detectar trampas probablemente requerirá métodos de monitoreo sólidos».
La investigación probó los modelos ChatGPT 5.4, 5.5 y 5.6 de OpenAI, junto con Claude Opus 4.7 y Mythos Preview de Anthropic.
El AISI ejecutó modelos a través de una serie de evaluaciones cibernéticas de «Capturar la bandera», donde obtuvieron puntos al realizar tareas ofensivas relacionadas con la ciberseguridad, como explotar una vulnerabilidad particular o realizar ingeniería inversa en el código compilado.
La investigación define «hacer trampa» como «realizar una acción que está fuera del alcance de la tarea o explícitamente no permitida por las reglas, con el fin de lograr un objetivo a través de un atajo, una solución alternativa o una solución no intencionada que la tarea no estaba destinada o no debería permitir».
Capta una variedad de comportamientos observados en los modelos, como buscar soluciones en Internet, atacar o escalar privilegios en sistemas no relacionados, probar software de evaluación para obtener acceso a la solución de la tarea.
Los modelos tampoco reconocieron cuándo estaban haciendo trampa para completar una tarea, y menos del 50 por ciento dijo que romper las reglas era «incorrecto» cuando un usuario los cuestionó.
La propensión de un modelo a hacer trampa no estaba relacionada con su capacidad, lo que significa que los modelos más nuevos o avanzados no tienen más probabilidades de hacer trampa. Más bien, los investigadores creen que la culpa se debe a las técnicas utilizadas durante el entrenamiento y la alineación de un modelo.
Pero incluso si las tasas de trampa se mantienen constantes, el problema podría empeorar con el tiempo. A medida que los modelos más nuevos en el futuro podrían volverse más competentes y aprender técnicas de trampa más efectivas.
Este engaño también dificulta que laboratorios como AISI verifiquen su propio trabajo, que se basa en la evaluación de resultados confiables de los sistemas de inteligencia artificial.
La investigación subraya cómo los sistemas de inteligencia artificial pueden hacer todo lo posible para completar su tarea, incluido eludir o burlar las protecciones de TI y ciberseguridad de una empresa.
En un caso, los investigadores de AISI dijeron que a un modelo se le dio inadvertidamente una evaluación de capacidad cibernética que estaba mal configurada y era imposible de resolver.
«El modelo probado fue tan persistente en el intento de hacer trampa que escribió y ejecutó código en un servicio externo, alojado en Internet abierto fuera de los sistemas de AISI, en un intento de acceder a nuestra infraestructura de evaluación, lo que provocó una alerta de seguridad en los sistemas de AISI», dice el informe.
Si bien AISI dijo que no hubo fugas de datos ni daños por el incidente, el modelo podría haber accedido con éxito a su sistema de evaluación si no hubieran contado con un monitoreo. El instituto dijo que implementó más controles en los sistemas internos en respuesta a la prueba.
Los investigadores dijeron que hay «consecuencias significativas» en un status quo en el que no podemos confiar en que los modelos no hagan trampa. Los comportamientos son especialmente problemáticos en áreas como la investigación de seguridad de la IA, así como las operaciones cibernéticas y toma de decisiones militaresdonde los resultados de confianza de los sistemas de IA son fundamentales.
Hoy, AISI dice que puede detectar trampas en LLM mediante una combinación de revisión manual y monitoreo de LLM, pero eso puede no ser siempre cierto, y los modelos futuros pueden ser mejores para ocultar sus acciones a los supervisores humanos.
«Una solución más fundamental sería entrenar a los modelos para que no hagan trampa en primer lugar, pero dado que este tipo de comportamiento se informó en modelos de frontera hace más de un año, alinearlo firmemente puede no ser fácil», escribieron los investigadores.
