Algorithmic Face-ism: Uncovering and Mitigating Algorithmic Bias in Facial Recognition Systems
Notice bibliographique
Résumé
How do some of the most advanced machine learning facial recognition algorithms make important decisions, such as whom to hire or who is considered a leader? Existing research suggests advances in machine learning methods can use facial features in an image—facial morphology—to accurately and objectively predict answers to such questions. We show, however, that even after implementing state-of-the-art models, decision-based facial recognition algorithms are not as objective as previously claimed. Unpacking the “black box” of an existing facial recognition algorithm revealed the algorithm did not rely on facial morphology to make decisions. Instead, when covariates such as attractiveness were accounted for, the algorithm relied mostly on “leftover” transient features, such as clothing, hairstyle, or background lighting for decision-making. We identify the specific stages—sampling, preprocessing, model implementation, and model functioning stage— in which algorithmic focus bias and interpretation bias are likely to arise in facial recognition algorithms. These results suggest that decision-based facial recognition algorithms are biased in ways that researchers have overlooked, with troubling implications for their use by governments, organizations, and researchers. We introduce the concept of “algorithmic face-ism,” in which (1) machine learning algorithms unfairly express an inherent preference for specific facial morphologies, and (2) researchers mistakenly attribute behavioral predictions to facial morphologies. This paper thus demonstrates how leading decision-based facial recognition systems are biased and how previously taken-for-granted factors contribute to this pattern of bias. We conclude by discussing how bias can be mitigated in such facial recognition algorithms.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction machine sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.
Scores du classifieur distillé par catégorie (deux têtes)
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,021 | 0,118 |
| Méta-épidémiologie (sens strict) | 0,001 | 0,001 |
| Méta-épidémiologie (sens large) | 0,001 | 0,001 |
| Bibliométrie | 0,001 | 0,001 |
| Études des sciences et des technologies | 0,001 | 0,004 |
| Communication savante | 0,003 | 0,004 |
| Science ouverte | 0,002 | 0,003 |
| Intégrité de la recherche | 0,001 | 0,003 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,002 | 0,001 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».