¿Cómo evalúas riesgos éticos en un modelo?

Respuesta directa

Qué debe cubrir una buena respuesta

Cómo funciona

Una evaluación ética pregunta a quién afectan las decisiones del modelo y cómo le perjudica una decisión errónea o sesgada, y luego revisa los puntos concretos por donde entra el sesgo: quién falta o está infrarrepresentado en los datos de entrenamiento, si las etiquetas codifican discriminación pasada, si el rendimiento difiere entre grupos relevantes y si las features actúan como proxy de atributos protegidos. Cubre la privacidad de los datos usados, si la explicación es adecuada para lo que está en juego, cómo sería el mal uso y si las salidas del modelo realimentan sus propios datos de entrenamiento. El resultado es un conjunto de controles con dueños, monitorización por grupo, una vía de apelación para los afectados y condiciones bajo las que se apaga el modelo.

Ejemplo

Un modelo de cribado de currículos se evaluó antes del lanzamiento: las etiquetas de entrenamiento venían de decisiones históricas de contratación con un desequilibrio de género conocido, así que el equipo midió tasas de selección por género y encontró una brecha del 30 por ciento. Las mitigaciones incluyeron eliminar features proxy como el año de graduación, reponderar, revisión humana de cada rechazo y un informe mensual de disparidad con un umbral que pausa el modelo. El proceso de apelación se publicó a los candidatos.

Errores frecuentes

• Declarar justo un modelo porque los atributos protegidos no están entre las features.
• Medir solo la exactitud global y nunca por grupo.
• Desplegar sin forma de que una persona afectada impugne una decisión.

Una estructura útil para responder

Responde desde tu propia experiencia.

No memorices un guion: usa solo ejemplos que puedas explicar con honestidad en preguntas posteriores.