¿Cómo funciona ChatGPT Lockdown Mode y cómo desmantela la Trifecta Letal?»):
«
¿Cómo funciona ChatGPT Lockdown Mode y cómo desmantela la Trifecta Letal?
Las defensas tradicionales de la inteligencia artificial suelen basarse en filtros semánticos evaluados por otros modelos de lenguaje. Sin embargo, se ha demostrado que estos filtros de IA son frágiles y fáciles de evadir mediante técnicas de ofuscación de texto. Aquí radica la genialidad del ChatGPT Lockdown Mode: en lugar de confiar en que la IA detecte la inyección, el sistema actúa como una barrera de seguridad de última línea basada en principios deterministas de red.
El modo corta de raíz el tercer eslabón de la Trifecta Letal. Al deshabilitar la capacidad de realizar conexiones de red externas arbitrarias y bloquear la renderización de imágenes externas, el modelo queda completamente aislado. Aunque una inyección de prompt logre engañar a ChatGPT y el modelo decida robar la información, carecerá de cualquier medio estructural para enviar esos datos fuera del entorno seguro de OpenAI. Es una solución de infraestructura, no una sugerencia lingüística que la IA pueda ignorar.
Como señala Simon Willison, esta aproximación es efectiva debido a que no depende de la interpretación de la propia IA. No obstante, la existencia de este modo evidencia una realidad incómoda: bajo la configuración predeterminada de ChatGPT, no existe una protección 100% garantizada contra la exfiltr