La privacidad en IA empieza antes del modelo. Empieza en la pregunta más incómoda: qué datos realmente necesitamos para entregar el valor prometido.
Minimizar datos no es solo borrar campos. Es diseñar flujos donde la información sensible se reduce, transforma o evita desde el origen.
Separar utilidad de acumulación
Muchos equipos guardan datos porque podrían servir después. En IA esa costumbre escala el riesgo: logs, prompts, embeddings y datasets pueden contener información sensible difícil de rastrear.
La utilidad debe demostrarse por caso de uso. Si un dato no mejora una métrica concreta, probablemente no debería entrar al pipeline.
Anonimizar con expectativas realistas
La anonimización reduce riesgo, pero no siempre lo elimina. Combinaciones de atributos pueden reidentificar personas, especialmente en datasets pequeños o muy específicos.
Conviene aplicar técnicas por capas: supresión de identificadores, generalización de valores, tokenización, agregación y pruebas de reidentificación.
- Eliminar identificadores directos antes de entrenar o indexar.
- Generalizar fechas, ubicaciones o atributos raros cuando no sean esenciales.
- Evitar que embeddings contengan texto sensible innecesario.
Cuidar prompts, logs y contexto
Un sistema puede tener una base de datos protegida y aun así filtrar datos por logs de prompts. Cada llamada a un modelo debe tratarse como un punto de procesamiento de información.
Los logs deben ser útiles para depurar sin convertirse en un archivo paralelo de datos privados.
Diseñar controles para usuarios y equipos
La privacidad también requiere interfaces. Los usuarios deben entender qué se usa para personalizar, y los equipos internos deben tener permisos limitados para ver conversaciones o datos procesados.
Los controles más efectivos son simples: consentimiento claro, retención limitada y eliminación verificable.
Checklist para aplicar
- Mapa de datos sensibles por flujo de IA.
- Política de retención para prompts, outputs y logs.
- Pruebas de reidentificación antes de publicar datasets.
- Revisión de permisos para herramientas internas de soporte.
La privacidad no compite con la calidad del producto. Bien aplicada, obliga a diseñar sistemas más precisos, más sobrios y más fáciles de auditar.