¿Cómo explicas una predicción de modelo?

Respuesta directa

Qué debe cubrir una buena respuesta

Cómo funciona

Una explicación responde por qué esta predicción para esta entrada, en términos que el receptor pueda usar. Empieza por para qué sirve el modelo y cómo es una predicción típica o de referencia, luego nombra las pocas features que más movieron esta predicción y en qué dirección, con métodos de atribución local como SHAP cuyas salidas se contrastan con el comportamiento real del modelo ante entradas perturbadas. Declara la incertidumbre y las limitaciones conocidas, y evita sugerir que una feature causa el resultado cuando el modelo solo aprendió una asociación. En decisiones reguladas, la explicación es coherente y reproducible para la misma entrada.

Ejemplo

Una solicitud de préstamo fue rechazada con una puntuación de 0,31 frente a un umbral de 0,5; la explicación listó un pago reciente no realizado, un ratio de utilización de crédito alto y un historial de cuenta corto como principales contribuyentes, cada uno con su dirección, y señaló que los ingresos tenían un pequeño efecto positivo. Cumplimiento verificó que la misma entrada producía los mismos códigos de motivo entre versiones del modelo y que coincidían con una lista documentada de motivos de rechazo.

Errores frecuentes

• Presentar la importancia de features de todo el modelo como explicación de una predicción.
• Reportar atribuciones sin comprobar que cambiar la feature cambia la salida.
• Decir a un usuario que una feature causó el resultado cuando solo está correlacionada.

Una estructura útil para responder

Responde desde tu propia experiencia.

No memorices un guion: usa solo ejemplos que puedas explicar con honestidad en preguntas posteriores.