Discriminación algorítmica: Estudio del sesgo en arquitecturas de aprendizaje profundo

En la actualidad la tecnología está cada vez más presente en nuestro día a día. No es de extrañar, por lo tanto, que tecnologías como la biometría estén en pleno crecimiento. El campo de la biometría abarca un gran número de áreas como el reconocimiento de voz, el reconocimiento de huellas dactilares o el reconocimiento facial. En este trabajo se estudia en profundidad las tecnologías de reconocimiento facial, en particular, se estudia el sesgo o los prejuicios humanos que estos algoritmos puedan presentar en sus resultados. Los sistemas de reconocimiento facial, se están utilizando cada vez con más frecuencia, en la toma de decisiones automatizadas. El hecho de no poder disponer de características e información variada y de esta forma, generalizar los datos para entrenar los modelos puede derivar en un modelo sesgado, y como consecuencia, en la toma de decisiones injustas que impactarían directamente en los usuarios. El objetivo principal de este estudio se centra en una mejor comprensión del rendimiento alcanzado sobre los diferentes grupos demográficos. También se propone una formulación general sobre la discriminación algorítmica con aplicación a la biometría facial. Los experimentos han sido realizados sobre la nueva base de datos generada, DiveFace, compuesta por 24K identidades de seis grupos demográficos diferentes. En el marco experimental se consideran dos modelos populares de reconocimiento facial: ResNet- 50 y VGG Face. Experimentos que han mostrado fuerte discriminación algorítmica sobre los grupos infra-representados en las bases de datos más populares de imágenes faciales. Esta discriminación puede observarse cuantitativamente en grandes diferencias de rendimiento al aplicar esos modelos sobre diferentes grupos demográficos