Graves fallos de seguridad en GPT-5 tras su lanzamiento
GPT-5, la última versión del modelo de gran lenguaje de OpenAI, no ha recibido el visto bueno de algunos investigadores de seguridad, quienes han detectado graves deficiencias.
Pruebas iniciales de GPT-5: importantes vulnerabilidades
La startup de seguridad de IA SPLX no ha tardado en buscarle las vueltas a la actualización, hallando importantes vulnerabilidades solo 24 horas después de su lanzamiento.
Los resultados del análisis de SPLX
La firma asegura que GPT-5 sin protección (en bruto), sin aviso del sistema, es vulnerable al 89% de los ataques. Eso desmostaría una puntuación de rendimiento general del 11%.
Por otro lado, el indicador del sistema de OpenAI, una «capa básica de indicadores» que se puede usar aplicando un prompt básico como sistema de defensa, reduce la tasa de éxito de los ataques al 43 %. Si bien esto mejora significativamente el manejo y la seguridad de las alucinaciones, la puntuación general sigue siendo muy baja.
“GPT-5, con todas sus nuevas mejoras de ‘razonamiento’, cayó en los trucos básicos de la lógica adversarial”, ha advertido el equipo en un informe.
SPLX indica que aunque la actualización muestra una capacidad básica poderosa, su seguridad predeterminada todavía resulta «sorprendentemente baja».
Tras su exhaustivo análisis no tienen problema en asegurar que el modelo básico de GPT-5 resultaría «prácticamente inutilizable» para las empresas de manera inmediata. Por ello, recomienda a las organizaciones añadir una capa de protección en tiempo de ejecución para su uso empresarial.
Comparativa con GPT-4o
La startup asevera que “GPT-4o continúa siendo el modelo más robusto, especialmente cuando está reforzado”, según ha podido constatar su equipo rojo. Así, esta versión solo fue vulnerable al 3% de los ataques simulados por la empresa emergente y obtuvo una puntuación general del 97%.
Técnicas adversarias logran evadir la seguridad
A GPT-5 se las dan con queso
Otro equipo de investigadores de NeuralTrust también ha criticado su seguridad, demostrando que GPT-5 es vulnerable a dos técnicas de estímulo adversas, combinando la cámara de eco y el storytelling. Estos expertos le preguntaron sobre cócteles molotov, un contenido que se encuentra ampliamente disponible en Internet.
El equipo pudo ocultar sus objetivos maliciosos en narrativas benignas, demostrando que los supuestos atacantes podrían guiar al modelo hacia contenido prohibido, como instrucciones para fabricar estos explosivos, sin que el modelo detecte la intención real.
Ofuscación de prompts: un punto débil clave
Simultáneamente, SPLX ha confirmado que técnicas de ofuscación de prompts (por ejemplo, insertar guiones entre caracteres o simular desafíos de cifrado) son altamente efectivas para hacer que GPT-5 revele contenido peligroso.