Sesgo de prejuicio

La reducción de diferentes tipos de sesgo (como el sesgo de selección, el sesgo de notificación y el sesgo de deserción) es necesaria para crear modelos que se generalicen bien y que no sean sensibles al ruido en el conjunto de datos de entrenamiento. Sin embargo, hay otro aspecto de sesgo a considerar con respecto a la ética y la equidad.

El sesgo de prejuicio se introduce cuando los datos de entrenamiento están influenciados por estereotipos culturales o de otro tipo. Por ejemplo, supongamos que proporciona al modelo un conjunto de imágenes destinadas a entrenar el modelo sobre patrones de trabajo. El conjunto de datos de la imagen incluye miles de imágenes que muestran a hombres y mujeres en diversos roles laborales. Si las imágenes reflejan estereotipos de género (hombres que realizan trabajos de un tipo y mujeres que realizan trabajos de otro tipo), el modelo corre el riesgo de aprender estereotipos de género.

El sesgo de prejuicio puede convertirse en un problema significativo cuando el modelo tiene en cuenta los datos sesgados al tomar decisiones críticas que afectan la vida de las personas, como examinar a los solicitantes de empleo o solicitudes de préstamos, detectar fraudes o actividades sospechosas, hacer diagnósticos médicos, etc. En estos casos, el sesgo no solo puede conducir a un modelo poco hábil, sino que si el modelo está sesgado basado en prejuicios sistemáticos, también puede causar daño a una clase particular de personas.

Es importante que los profesionales de AA reconozcan que la selección, el etiquetado y la anotación de los datos de entrenamiento pueden transmitir consciente o inconscientemente estereotipos sociales. Al ensamblar un conjunto de datos de entrenamiento, debe tomarse el tiempo para asegurarse de que los datos presentan una distribución uniforme de varias clases de personas, por lo que la atención se centrará en otros atributos más relevantes.

Información adicional