Evaluation and improvement of algorithmic fairness for COVID-19 severity classification using Explainable Artificial Intelligence-based bias mitigation
Pourquoi ce travail est dans la base
Une base qui oublie comment elle a trouvé un travail ne peut pas être vérifiée. Voici les voies qui ont admis celui-ci.
Notice bibliographique
Résumé
Objectives: The COVID-19 pandemic has highlighted the growing reliance on machine learning (ML) models for predicting disease severity, which is important for clinical decision-making and equitable resource allocation. While achieving high predictive accuracy is important, ensuring fairness in the prediction output of these models is equally important to prevent bias-driven disparities in healthcare. This study evaluates fairness in a machine learning-based COVID-19 severity classification model and proposes an Explainable AI (XAI)-based bias mitigation strategy to address sex-related bias. Materials and Methods: Using data from the Quebec Biobank, we developed an XGBoost-based multi-class classification model. Fairness was assessed using Subset Accuracy Parity Difference (SAPD) and Label-wise Equal Opportunity Difference (LEOD) metrics. Four bias mitigation strategies were implemented and evaluated: Fair Representation Learning, Fair Classifier Using Constraints, Adversarial Debiasing, and our proposed XAI-based method utilizing SHapley Additive exPlanations (SHAP) method for feature importance analysis. Results: The study cohort included 1642 COVID-19 positive older adults (mean age: 77.5), balance equally between males and females. The baseline (unmitigated) classification model achieved 90.68% accuracy but exhibited a 10.11% Subset Accuracy Parity Difference between sexes, indicating a relatively large bias. The introduced XAI-based method demonstrated a better trade-off between model performance and fairness compared to existing bias mitigation methods by identifying sex-sensitive feature interactions and integrating them into the model re-training. Discussion: Traditional fairness interventions often compromise accuracy to a greater extent. Our XAI-based method achieves the best balance between classification performance and bias, enhancing its clinical applicability. Conclusion: The XAI-driven bias mitigation intervention effectively reduces sex-based disparities in COVID-19 severity prediction without the significant accuracy loss observed in traditional methods. This approach provides a framework for developing fair and accurate clinical decision support systems for older adults, which ensures equitable care in clinical risk stratification and resource allocation.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,003 | 0,002 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,000 | 0,000 |
| Bibliométrie | 0,000 | 0,000 |
| Études des sciences et des technologies | 0,000 | 0,000 |
| Communication savante | 0,000 | 0,000 |
| Science ouverte | 0,000 | 0,000 |
| Intégrité de la recherche | 0,000 | 0,000 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,000 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle