Tutoriales / T5
Dentro de un guardián de LLM: el token del veredicto, el logit lens y el punto ciego de la inyección
Abre un guard de seguridad en la CPU de un portátil: lee su veredicto como probabilidad, mira cómo se forma la decisión capa a capa y comprueba por qué un guard de contenido dañino deja pasar la inyección escondida en documentos.
Por qué este tutorial
En Dentro de cuatro guardianes de LLM audité cuatro guardianes de seguridad en una GPU con 46 casos. Este notebook lleva las técnicas centrales a modelos que funcionan en un portátil, para que puedas aplicarlas a tu propio guardián: versiones de 0,6 B parámetros, 20 casos sintéticos, solo CPU.
Qué haces en el notebook
- Encuentra dónde vive la política. Qwen3Guard lleva su política dentro de la plantilla de chat; la renderizas y cuentas sus tokens.
- Lee el veredicto como una probabilidad. La decisión es un solo token (
Safe,UnsafeoControversial). Leer sus logits da una puntuación continua y un umbral que fijas tú. - Aplica un logit lens. Un logit lens es una forma de leer las capas intermedias de un modelo: aplica la cabeza de salida del modelo al estado oculto de cada capa, para ver qué token predeciría el modelo a esa profundidad. Hay una regla importante: fíate solo de las capas en las que los tokens de etiqueta concentran al menos el 1 % de la probabilidad.
- Pon a prueba el punto ciego de la inyección con correos, currículos y facturas que esconden instrucciones para la IA.
- Convierte un generalista pequeño en guardián con un prompt y compara escribir primero el veredicto con escribir primero una justificación.
Qué muestra
| Hallazgo | Auditoría (8 B / E2B, GPU) | Este notebook (0,6 B, CPU) |
|---|---|---|
| El veredicto es un solo token legible | sí | sí |
| El veredicto se forma en el último tercio | capas 24–28 de 36 | capas 19–22 de 28 |
| Documentos con inyección, P(Unsafe) máxima | 0,014 | 0,0098 |
| Generalista, justificación primero frente a veredicto primero | F1 0,74 → 0,91–0,93 | F1 0,74 → 0,50 (peor) |
Tres de los cuatro hallazgos se mantienen. El cuarto no, y el notebook explica por qué: una justificación solo ayuda cuando el modelo puede razonar sobre el documento mientras la escribe. Con 0,6 B, las justificaciones parafrasean la tarea del usuario («una petición para resumir el correo de un proveedor…») y comprometen al modelo con una lectura benigna. Lo que se traslada es el método: mide los dos formatos con tus propios casos en lugar de dar por bueno ninguno de ellos.
También hay una señal débil que conviene conocer: los documentos con inyección reciben más probabilidad de Controversial que sus gemelos benignos (mediana de 0,17 frente a 0,006). El guardián nota que algo es raro sin llegar a calificarlo de inseguro. Cinco casos son demasiado pocos para construir un detector sobre esto.
Conclusiones
- Un guardián de contenido dañino no es una defensa contra la inyección. Los documentos y las salidas de las herramientas necesitan su propio control.
- Lee el token de decisión, no la etiqueta, y elige tu umbral con tus propios datos.
- En un logit lens, los valores «seguros» de las primeras capas son ruido renormalizado. Filtra por masa de probabilidad.
- El formato del prompt puede ayudar o perjudicar. Pruébalo con el tamaño de modelo que vayas a desplegar.
Referencias: Qwen3Guard Technical Report, arXiv 2510.14276; nostalgebraist, interpreting GPT: the logit lens, 2020; Greshake et al., Not what you’ve signed up for, 2023; OWASP Top 10 for LLM Applications, LLM01.