Archivo de la etiqueta: inyección de prompts
Seguridad de LLM: OpenAI lanza GPT-Red para prevenir ataques
OpenAI presenta GPT-Red, un sistema de red-teaming automatizado que fortalece la seguridad de LLM mediante aprendizaje adversario para evitar ataques de inyección. Sigue leyendo
Ataques Ghostcommit: Riesgos de inyección visual en IA
Descubre cómo los ataques ghostcommit utilizan inyecciones de prompts en imágenes para comprometer repositorios y evadir la seguridad de la IA. Sigue leyendo
ChatGPT Lockdown Mode: OpenAI lanza nueva función de seguridad
OpenAI ha implementado ChatGPT Lockdown Mode para todos los usuarios, una función diseñada para prevenir la inyección de prompts y la exfiltración de datos sensibles. Sigue leyendo
Publicado en Inteligencia Artificial, Tecnología & IA
Etiquetado ciberseguridad, inteligencia artificial, inyección de prompts, Protección de Datos
Deja un comentario
Agentes de IA: Anthropic revela vulnerabilidad en Claude Opus 4.8
Anthropic reporta una tasa de secuestro del 31.5% en sus agentes de IA antes de aplicar filtros, exponiendo riesgos críticos de inyección de prompts. Sigue leyendo
Publicado en Inteligencia Artificial, Tecnología & IA
Etiquetado agentes autónomos, ciberseguridad, inteligencia artificial, inyección de prompts
Deja un comentario