Un prompt es una interfaz de datos. Si incluye información sensible, esa información pasa por logs, proveedores, herramientas y trazas si no se controla bien.
La ingeniería de prompts con privacidad busca que el modelo reciba lo justo para cumplir la tarea y nada más.
Separar identidad de tarea
Muchas tareas no necesitan nombre, correo, dirección o identificadores reales. Pueden usar referencias internas o datos agregados.
Cuando el modelo necesita contexto de usuario, conviene enviar atributos mínimos y evitar campos que no cambian la respuesta.
Construir contexto filtrado
Antes de armar el prompt, el backend debería filtrar fuentes, permisos y campos. No es responsabilidad del modelo ignorar datos que nunca debieron llegar.
Un prompt seguro empieza en el retrieval y en la serialización de datos.
- Aplicar permisos antes de recuperar documentos.
- Redactar o resumir datos sensibles cuando sea posible.
- Evitar incluir logs crudos de usuarios.
Controlar salidas y citas
La privacidad también se puede romper al responder. El modelo puede citar demasiado contexto, revelar nombres internos o mezclar datos de diferentes usuarios si la arquitectura lo permite.
Las instrucciones deben definir qué puede revelar y qué debe resumir de forma segura.
Revisar observabilidad
Para depurar prompts se suele guardar todo. Esa práctica es peligrosa si no hay redacción, retención limitada y acceso restringido.
Los logs deben permitir investigar sin convertirse en una copia de datos privados.
Checklist para aplicar
- Lista de campos prohibidos o sensibles.
- Sanitización antes de construir prompts.
- Logs redactados y con retención limitada.
- Pruebas de fuga de contexto entre usuarios.
Un prompt privado no es uno que promete portarse bien. Es uno que recibe menos datos, mejor filtrados y con límites claros sobre lo que puede devolver.