Requirements for trustworthy AI-enabled automated decision-making in the public sector: A systematic review
Notice bibliographique
Résumé
With AI adoption for decision-making in the public sector projected to rise with profound socio-ethical impacts, the need to ensure its trustworthy use continues to attract research attention. We analyze the existing body of evidence and establish trustworthiness requirements for AI-enabled automated decision-making (ADM) in the public sector, identifying eighteen aggregate facets. We link these facets to dimensions of trust in automation and institution-based trust to develop a theory-oriented research framework. We further map them to the OECD AI system lifecycle, creating a practice-focused framework. Our study has theoretical, practical and policy implications. First, we extend the theory on technological trust. We also contribute to trustworthy AI literature, shedding light on relatively well-known requirements like accountability and transparency and revealing novel ones like context sensitivity, feedback and policy learning. Second, we provide a roadmap for public managers and developers to improve ADM governance practices along the AI lifecycle. Third, we offer policymakers a basis for evaluating possible gaps in current AI policies. Overall, our findings present opportunities for further research and offer some guidance on how to navigate the multi-dimensional challenges of designing, developing and implementing ADM for improved trustworthiness and greater public trust. • We determined 18 aggregate trustworthiness requirements for AI-enabled ADM. • These requirements were mapped to six trust dimensions to create a theory-oriented research framework. • For practice, we mapped the requirements to the OECD AI lifecycle. • Context sensitivity was found to be key to the trustworthiness of AI-enabled ADM. • AI algorithms require multiple forms of accountability to be trustworthy
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,010 | 0,024 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,003 | 0,001 |
| Bibliométrie | 0,000 | 0,002 |
| Études des sciences et des technologies | 0,002 | 0,001 |
| Communication savante | 0,001 | 0,000 |
| Science ouverte | 0,001 | 0,000 |
| Intégrité de la recherche | 0,002 | 0,001 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,000 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».