MétaCan
Menu
Retour à la cohorte
Enregistrement W4405534231 · doi:10.1016/s2589-7500(24)00224-3

Tackling algorithmic bias and promoting transparency in health datasets: the STANDING Together consensus recommendations

2024· review· en· W4405534231 sur OpenAlexaff
Joseph Alderman, Joanne Palmer, Elinor Laws, Melissa D. McCradden, Johan Ordish, Marzyeh Ghassemi, Stephen Pfohl, Negar Rostamzadeh, Heather Cole-Lewis, Ben Glocker, Melanie Calvert, Tom Pollard, Jacqui Gath, Ade Adebajo, Jude Beng, Cheuk Wing Leung, Stephanie Kuku, Lesley-Anne Farmer, Rubeta Matin, Bilal A. Mateen, Francis McKay, Katherine Heller, Alan Karthikesalingam, Darren Treanor, Maxine Mackintosh, Lauren Oakden‐Rayner, Russell J. Pearson, Arjun K. Manrai, Puja Myles, Judit Kumuthini, Zoher Kapacee, Neil J. Sebire, Lama Nazer, Jarrel Seah, Ashley Akbari, Lewis E. Berman, Judy Wawira Gichoya, Lorenzo Righetto, William Wasswa, Maria Charalambides, Anmol Arora, Sameer Pujari, Charlotte Summers, Elizabeth Sapey, S P Wilkinson, Vishal Thakker, Alastair K. Denniston, Xiaoxuan Liu

Notice bibliographique

RevueThe Lancet Digital Health · 2024
Typereview
Langueen
DomaineMedicine
ThématiqueArtificial Intelligence in Healthcare and Education
Établissements canadiensGoogle (Canada)SickKids Foundation
Organismes subventionnairesNational Institute of Biomedical Imaging and BioengineeringMedical Research CouncilNational Institutes of HealthNatureMoorfields Eye Hospital NHS Foundation TrustNational Institute for Health and Care ExcellenceTurun YliopistoNational Institute for Health and Care ResearchResearch EnglandGovernment of the United KingdomEngineering and Physical Sciences Research CouncilUK Research and InnovationWellcome TrustEuropean Respiratory SocietyGilead SciencesEconomic and Social Research CouncilWorld Health OrganizationAmerican Heart Association
Mots-clésTransparency (behavior)Data scienceComputer sciencePolitical scienceComputer security

Résumé

récupéré en direct d'OpenAlex

Without careful dissection of the ways in which biases can be encoded into artificial intelligence (AI) health technologies, there is a risk of perpetuating existing health inequalities at scale. One major source of bias is the data that underpins such technologies. The STANDING Together recommendations aim to encourage transparency regarding limitations of health datasets and proactive evaluation of their effect across population groups. Draft recommendation items were informed by a systematic review and stakeholder survey. The recommendations were developed using a Delphi approach, supplemented by a public consultation and international interview study. Overall, more than 350 representatives from 58 countries provided input into this initiative. 194 Delphi participants from 25 countries voted and provided comments on 32 candidate items across three electronic survey rounds and one in-person consensus meeting. The 29 STANDING Together consensus recommendations are presented here in two parts. Recommendations for Documentation of Health Datasets provide guidance for dataset curators to enable transparency around data composition and limitations. Recommendations for Use of Health Datasets aim to enable identification and mitigation of algorithmic biases that might exacerbate health inequalities. These recommendations are intended to prompt proactive inquiry rather than acting as a checklist. We hope to raise awareness that no dataset is free of limitations, so transparent communication of data limitations should be perceived as valuable, and absence of this information as a limitation. We hope that adoption of the STANDING Together recommendations by stakeholders across the AI health technology lifecycle will enable everyone in society to benefit from technologies which are safe and effective.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,595
score de la tête « metaresearch » (Gemma)0,745
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesMétarecherche
DomaineSignal candidat: Méthodes · Signal consensuel: Méthodes
Devis d'étudeSignal candidat: Théorique ou conceptuel · Signal consensuel: aucune
GenreSignal candidat: Synthèse · Signal consensuel: aucune
Score de désaccord entre enseignants0,405
Score d'incertitude au seuil0,499

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,5950,745
Méta-épidémiologie (sens strict)0,0030,003
Méta-épidémiologie (sens large)0,0040,010
Bibliométrie0,0100,008
Études des sciences et des technologies0,0090,016
Communication savante0,0220,041
Science ouverte0,0160,034
Intégrité de la recherche0,0350,034
Charge utile insuffisante (le modèle a refusé de juger)0,0100,005

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,467
Tête enseignante GPT0,529
Écart entre enseignants0,061 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; l’étiquette directe de Gemma et le classifieur distillé Codex s’accordent sur ce qui est montré ici.

Devis d'étudeThéorique ou conceptuel
DomaineMéthodes
GenreSynthèse

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations131
Publié2024
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueThe Lancet Digital HealthMême sujetArtificial Intelligence in Healthcare and EducationTravaux en français237 207