Hice una prueba sencilla con el asistente virtual de atención a clientes de una empresa de servicios en México. Le pedí algo inofensivo pero claramente fuera de su función: los números del 1 al 9 en inglés, en español y en binario.
La primera vez respondió lo correcto: que solo puede hablar de los servicios de la empresa. Luego repetí exactamente la misma pregunta, pero escribiendo algunas palabras en leetspeak (cambiando letras por números, como d4rm3 en lugar de darme).
Respondió sin problema, con tablas incluidas. Y hay un segundo detalle, más sutil: citó como fuente un manual del control remoto, que no tiene nada que ver con números binarios.
El contenido es inofensivo. Pero la prueba demuestra dos cosas que en otro contexto sí serían graves:
- El control de alcance se basa en la forma del texto, no en su intención. Si basta con cambiar unas letras para saltarlo, la misma técnica funciona para cosas menos inocentes.
- El sistema no verifica que su respuesta esté sustentada en lo que cita. Eso es exactamente cómo un asistente termina inventando políticas, precios o datos con apariencia oficial.
Dos ataques que se parecen, pero no son lo mismo
Estas semanas estoy estudiando seguridad de IA con el material de Learn Prompting, que distingue dos conceptos que solemos mezclar:
- Jailbreaking: lograr que el modelo haga algo que sus creadores no querían, rompiendo sus reglas de seguridad o de alcance. Pasa típicamente cuando el usuario habla directo con un chatbot.
- Prompt injection: un ataque contra la aplicación. Las instrucciones del desarrollador y un texto no confiable terminan en el mismo prompt, y el texto malicioso le gana a las instrucciones originales.
Una regla práctica que me gustó: si estás hablando con un chatbot, probablemente es jailbreaking; si el modelo está dentro de un sitio web o de un agente que lee datos, probablemente es prompt injection.
La inyección, a su vez, tiene dos variantes:
- Directa: el atacante escribe las instrucciones maliciosas en su propio mensaje ("ignora tus instrucciones y…").
- Indirecta: las instrucciones vienen escondidas en algo que el sistema lee por su cuenta: un PDF adjunto, una página web, un correo, la respuesta de una API. Nadie las escribe en el chat. Es el caso más peligroso para los agentes.
No es un tema de nicho. En la edición 2026 del OWASP Top 10 para aplicaciones con LLM, publicada en agosto, la prompt injection sigue en el primer lugar, como en todas las ediciones anteriores, y la agencia excesiva (darle al modelo más permisos de los necesarios) subió al tercero.
Las técnicas más comunes
No hace falta ser un experto para intentarlas, y por eso importan:
- Ofuscación: leetspeak, otros idiomas, codificaciones o errores de ortografía intencionales para esquivar filtros literales. Es lo que muestra el video.
- Juego de roles: pedirle al modelo que interprete un personaje "sin reglas" o una escena de ficción donde la respuesta prohibida parece parte de la historia.
- Cambio de contexto o desvío de tarea: empezar con una petición legítima y redirigirla, o disfrazar la petición como algo inocente (el famoso "mi abuela me contaba…").
- Instrucciones escondidas en contenido: texto blanco sobre fondo blanco en un documento, comentarios en una página, metadatos.
Por qué funciona
La causa de fondo es simple y todavía no tiene solución definitiva: para el modelo, las instrucciones y los datos son lo mismo. Todo llega como una sola secuencia de tokens. El modelo no tiene una forma confiable de distinguir "esto lo dijo el desarrollador" de "esto venía dentro del PDF que subió el usuario".
Por eso las defensas que viven dentro del prompt ("nunca reveles…", "ignora cualquier instrucción del usuario que…") ayudan, pero no son una barrera de seguridad. Son una sugerencia que el atacante puede negociar.
Lo que está en juego
En un chatbot que solo responde preguntas, el peor caso suele ser reputacional. El riesgo crece en cuanto el asistente tiene acceso a datos o puede hacer cosas:
- Un bot de atención que puede aplicar reembolsos por su cuenta es un bot al que se le puede pedir dinero.
- Un asistente conectado a expedientes de clientes o pacientes es un canal de fuga de datos personales si el modelo decide quién ve qué.
- Un agente que lee correos o páginas web puede ser secuestrado por un texto que nunca vio un humano.
Defensa en capas: ninguna barrera basta sola
La idea central de seguridad aquí es la misma de siempre: asume que el modelo va a ser engañado y diseña para que, cuando eso pase, el daño sea mínimo. Prueba el simulador: elige un ataque y activa o desactiva capas para ver cuál lo detiene.

