Construct Validity Evidence for ACGME Milestones in Surgical Specialties: A Systematic Review
Notice bibliographique
Résumé
Background The Accreditation Council for Graduate Medical Education (ACGME) Milestones use has been formative and low-stakes to date, and transitioning to higher-stakes applications in a truly competency-based medical education (CBME) system requires extensive validity evidence. Surgical specialties, with their unique demands for procedural skills and operative experience, represent a critical context for evaluating the validity of Milestones. Objective To synthesize studies reporting validity evidence for the ACGME Milestones in surgical specialties. Methods This systematic review was conducted based on Preferred Reporting Items for Systematic Reviews and Meta-Analyses guidelines. A systematic literature search was conducted across 8 databases and references to identify studies that reported validity evidence for Milestones in surgical specialties. Literature was reviewed for inclusion using Covidence and coded based on Messick’s framework. The quality of the studies was evaluated using the Medical Education Research Study Quality Instrument. Results A total of 114 studies were included from 2013 to 2023. The primary source of validity evidence (n=45, 39.5%) was relations to other variables (knowledge and skills, learner characteristics, patient/health care, social-emotional variables), followed by response processes (n=38, 33.3%: interrater reliability, rating processes, structure of Clinical Competency Committee, rater training, longitudinal reliability, straightlining) and consequences (n=29, 25.4%: value and utility, intended use, anticipated impact). Only 12 studies (10.5%) reported internal structure evidence. Conclusions This study provides insights into understanding what constitutes validity evidence within the context of ACGME Milestones in surgical specialties. This review highlights areas where further research is needed to support the moderate to high-stakes use of Milestones in a CBME system.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,009 | 0,134 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,005 | 0,001 |
| Bibliométrie | 0,001 | 0,002 |
| Études des sciences et des technologies | 0,000 | 0,000 |
| Communication savante | 0,000 | 0,000 |
| Science ouverte | 0,001 | 0,000 |
| Intégrité de la recherche | 0,001 | 0,002 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,000 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».