¿Cómo proteges un pipeline ML?

Respuesta directa

Qué debe cubrir una buena respuesta

Cómo funciona

Un pipeline de ML tiene la superficie de ataque de un pipeline de software más algunas propias. Los datos de entrenamiento se acceden con mínimo privilegio y sus fuentes son de confianza y se comprueban, porque filas envenenadas cambian el comportamiento del modelo en silencio. El entrenamiento corre en entornos aislados con dependencias fijadas y escaneadas, ya que un paquete malicioso puede exfiltrar datos. Los artefactos del modelo se firman y guardan en un registro con control de acceso, para que un modelo sustituido no llegue a producción. En serving, las entradas se validan y limitan para frenar la extracción del modelo y el sondeo adversario, y el endpoint de inferencia se autoriza como cualquier otra API. El linaje de datos a modelo desplegado es auditable.

Ejemplo

Un equipo de recomendaciones descubrió que un conjunto de reseñas extraído de la web podía ser sembrado por competidores; añadió un paso de validación que rechaza ráfagas repentinas de una sola fuente y una evaluación canaria sobre un conjunto dorado curado antes de cada promoción. Los ficheros del modelo se firman con Sigstore en CI, el contenedor de serving verifica la firma al arrancar y la API de inferencia está detrás del mismo gateway OAuth que el resto de la plataforma.

Errores frecuentes

• Obtener datos de entrenamiento con una credencial que puede leer todas las tablas del warehouse.
• Cargar un fichero pickle desde una ubicación no verificada, que ejecuta código arbitrario.
• Exponer un endpoint de inferencia sin autenticación ni límites de tasa.

Una estructura útil para responder

Responde desde tu propia experiencia.

No memorices un guion: usa solo ejemplos que puedas explicar con honestidad en preguntas posteriores.