Cómo es un ataque
Anulación directa: «ignora tus instrucciones», en mitad de la llamada.
Instrucciones ocultas en datos de herramientas o de la web: una nota del CRM, un registro de pedido o una página web con texto escrito para el agente, no para la persona que lo lee.
Suplantación de personal: quien llama dice ser un empleado o el titular de la cuenta para acceder a acciones reservadas a una identidad verificada.
Presión por un reembolso o una transacción: una petición fuera de la política, repetida o cada vez más insistente, con la esperanza de que la insistencia consiga lo que una petición directa no lograría.
Qué hace el agente
Rechaza las instrucciones que quedan fuera de su alcance. Nada de lo que se diga en la llamada cambia sus instrucciones de funcionamiento.
Trata la salida de las herramientas como datos, no como órdenes. Si una herramienta devuelve algo con aspecto de instrucción, se ignora, no se ejecuta.
Verifica la identidad antes de cualquier acción con privilegios. Una afirmación sin verificar se rechaza y queda registrada para su revisión.
Exige autorización para las transacciones de alto riesgo. Ningún reembolso, transferencia o descuento se aprueba solo porque alguien lo pida.
Ofrece pasar la llamada a una persona en lugar de improvisar una excepción.
