Reducing the incidence of biased algorithmic decisions through feature importance transparency: an empirical study
Pourquoi ce travail est dans la base
Une base qui oublie comment elle a trouvé un travail ne peut pas être vérifiée. Voici les voies qui ont admis celui-ci.
Notice bibliographique
Résumé
As firms move towards data-driven decision-making using algorithmic systems, concerns are raised regarding the lack of transparency of these systems which could have ramifications related to users’ trust and the potential for provoking discriminatory decisions. Although previous research has developed methods to improve algorithmic transparency, little empirical evidence exists regarding the extent of the effectiveness of these approaches. Drawing upon Rest’s theory of ethical decision-making and the literature on algorithmic transparency and bias, we investigate the effectiveness of feature importance (FI), a common transparency-enhancing approach, which illustrates the nature and the weights of the features utilised by an algorithm. Through an online experiment employing a fictitious tool that provided recommendations for selecting employees for a promotion-related training programme, we find that FI is effective when biased recommendations include direct discrimination (i.e. when individuals are treated less favourably on protected grounds such as gender); but is of little assistance when discrimination is indirect (i.e. when a criterion or practice that is apparently neutral, disadvantages a group of individuals who are of a protected class). Additionally, we propose a new transparency approach, using aggregated demographic information, to accompany FI in indirect discrimination circumstances and report the results of testing its effects.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,005 | 0,000 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,000 | 0,000 |
| Bibliométrie | 0,000 | 0,001 |
| Études des sciences et des technologies | 0,000 | 0,000 |
| Communication savante | 0,001 | 0,006 |
| Science ouverte | 0,002 | 0,000 |
| Intégrité de la recherche | 0,000 | 0,000 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,000 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle