Guía de Auditoría de Sesgo IA

La discriminación "no intencional" sigue siendo discriminación. Y en la UE, es ilegal.

#El Alcance

Si tu IA se usa para: Reclutamiento, Puntuación de Crédito, Seguros, Educación o Cumplimiento de la Ley—es de Alto Riesgo. DEBES probar que no tiene sesgos contra grupos protegidos.

#El Framework de 5 Pasos

• 1
  Linaje de Datos: Prueba de dónde vinieron tus datos. ¿Estaban equilibrados?
• 2
  Selección de Métricas: Elige la métrica de equidad correcta.
• 3
  Pruebas de Estrés: Prueba el modelo con casos límite.
• 4
  Mitigación: Si se encuentra sesgo, vuelve a entrenar o corrige.
• 5
  Monitoreo Continuo: El sesgo aparece con el tiempo. Monitoréalo.