An LLM's output is not trustworthy by default: it must be treated as unverified data, just like input from any user. If you don't validate it before displaying or executing it, that's Insecure Output Handling.

La respuesta de un LLM no es contenido fiable por defecto: debe tratarse como datos sin verificar, igual que la entrada de cualquier usuario. Si no la validas antes de mostrarla o ejecutarla, es Insecure Output Handling.

Nearly every SOC we talk to is automating something with LLMs. L1 phishing triage, ticket classifiers, alert enrichment. And nearly all of them make the same two mistakes: secrets in the system prompt LLM output with no validation.

Casi todos los SOC con los que hablamos están automatizando algo con LLMs. Triage L1 de phishing, clasificadores de tickets, enriquecimiento de alertas. Y casi todos cometen los mismos dos errores: secretos en el system prompt salida del LLM sin validación.

Are you using Blind Prompt Injection in your AI pentests? It's Blind SQLi but on LLMs. The attacker injects a predicate, the app exposes an oracle (status code, content-length, latency, tool call, OOB hit, token count), and the secret is reconstructed bit by bit.

¿Usas Blind Prompt Injection en tus auditorías de IA? Es Blind SQLi pero sobre LLMs. El atacante inyecta un predicado, la app expone un oráculo (status code, content-length, latencia, tool call, OOB hit, token count) y el secreto se reconstruye bit a bit.