Asymmetrical Governance: Auditing Algorithms to Preserve Due Process Rights
Notice bibliographique
Résumé
We are now living in age where algorithms, and the data that feed them, govern a wide variety of decisions in our lives: not just search engines and personalized Netflix suggestions, but educational evaluations, stock market trades and political campaigns, the urban planning, and even how social services like welfare and public safety are managed. Heterogeneous lists like this have become the norm in any critical examination of algorithms, giving the impression of a ubiquitous relevance of algorithms. But algorithms can make mistakes that directly affect individuals and often contain both implicit and explicit biases. The technical complexity of algorithms, the scale at which they operate, and their proprietary nature makes them difficult to scrutinize, creating challenges to fully comprehend of how they exercise their power and influence over society. When used to make legal decisions, questions must be asked as to how automated decision-making systems affect the right to due process afforded to citizens.\nThe goal of this research project is to augment this discussion by focusing on algorithmic transparency, due process rights, and what can be done to help protect said rights when automated decision-making systems are used. Therefore, the research question that guides this paper is as follows: In what ways do algorithms in legal processes negatively impact an individual’s right to due process and how might the ability to audit legal algorithms help protect due process rights?\nTo answer this question this research project will present recommendations for research methods, adapted from Communication scholar, Christian Sandvig’s proposed research methods (2014) that can be utilized to audit algorithms so as to provide greater transparency to those on the receiving end of algorithmic judgements within the legal process.\nAsymmetrical Governance:\nAuditing Algorithms to Preserve Due Process Rights
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction machine sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.
Scores du classifieur distillé par catégorie (deux têtes)
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,161 | 0,469 |
| Méta-épidémiologie (sens strict) | 0,001 | 0,001 |
| Méta-épidémiologie (sens large) | 0,001 | 0,001 |
| Bibliométrie | 0,005 | 0,005 |
| Études des sciences et des technologies | 0,005 | 0,031 |
| Communication savante | 0,017 | 0,037 |
| Science ouverte | 0,004 | 0,010 |
| Intégrité de la recherche | 0,004 | 0,007 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,008 | 0,001 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».