Qué es el prompt injection
Un asistente de IA recibe unas instrucciones de la empresa (qué puede contar, cómo debe responder) y los mensajes del usuario. El prompt injection consiste en colar instrucciones nuevas para que el modelo las obedezca por encima de las de la empresa.
OWASP, la organización de referencia en seguridad web, lo sitúa en primer lugar de su lista de riesgos para aplicaciones con modelos de lenguaje.
Hay dos variantes. La directa, cuando el atacante escribe en el chat. Y la indirecta, cuando la instrucción está escondida en un contenido que el asistente lee: una reseña, la descripción de un producto, un correo o una página web.
Qué puede salir mal en una tienda
El daño depende de lo que el asistente tenga a su alcance. Estos son los casos que más vemos al revisar asistentes de ecommerce:
- Fuga de datos: el asistente muestra pedidos, direcciones o correos de otros clientes.
- Descuentos o promesas falsas: el asistente ofrece un precio, un cupón o una condición que la tienda no da.
- Acciones no autorizadas: cancelar pedidos, cambiar direcciones o lanzar devoluciones sin verificar a quién pertenecen.
- Filtración de las instrucciones internas, proveedores o márgenes que no deberían salir del equipo.
- Daño de marca: respuestas ofensivas o falsas que alguien captura y publica.
Cómo protegerlo
La regla de base es tratar al modelo como un usuario en el que no se confía del todo. Las protecciones importantes se ponen fuera de él:
- Mínimo acceso: el asistente solo ve los datos que necesita y solo del cliente identificado.
- Las acciones sensibles (reembolsos, cambios de dirección, descuentos) pasan por reglas del sistema o por una persona, nunca solo por el criterio del modelo.
- Identificación del cliente antes de hablar de un pedido concreto.
- Contenido externo marcado como dato, no como instrucción, y revisado antes de dárselo al modelo.
- Límites de uso por usuario para frenar ataques automatizados.
- Registro de conversaciones conforme al RGPD para detectar abusos y mejorar las reglas.
Probarlo antes de publicarlo
Antes de abrir un asistente al público conviene atacarlo de forma controlada: intentar que revele sus instrucciones, que muestre datos de otro cliente, que invente un descuento o que salte una verificación. Cada intento que funciona se convierte en una regla nueva fuera del modelo.
Estas pruebas se repiten cada vez que cambian las herramientas del agente, los datos a los que accede o el modelo que usa.
Preguntas frecuentes
¿Se puede evitar del todo el prompt injection?
Hoy no hay una técnica que lo evite al cien por cien. Por eso la protección eficaz limita lo que el asistente puede ver y hacer, y deja las decisiones sensibles a reglas del sistema o a una persona.
¿Un chatbot que solo responde dudas también corre riesgo?
El riesgo es menor si no accede a datos de clientes ni puede actuar, pero existe: puede dar información falsa, prometer condiciones que no ofreces o revelar sus instrucciones internas. Conviene probarlo igual antes de publicarlo.
¿Qué tiene que ver el RGPD con un chatbot de IA?
Un chatbot que trata datos personales debe informar al usuario, limitar los datos que recoge y guardarlos de forma segura. Si el asistente puede mostrar datos de un cliente a otra persona, además de un problema de seguridad es una brecha de datos personales.
Te decimos qué haríamos en tu caso, sin compromiso. Responde una persona del equipo.
¿Te recomienda ChatGPT? Descubre cómo te ven los asistentes de IA frente a tu competencia. Pide tu diagnóstico GEO gratuito →
