MétaCan
Menu
Retour à la cohorte
Enregistrement W4320894722 · doi:10.4300/jgme-d-22-00222.1

Evaluating the Quality of Written Feedback Within Entrustable Professional Activities in an Internal Medicine Cohort

2023· article· en· W4320894722 sur OpenAlexaffabout
Lorenzo Madrazo, Jennifer DCruz, Natasha Correa, Klajdi Puka, Sheri-Lynn Kane

Notice bibliographique

RevueJournal of Graduate Medical Education · 2023
Typearticle
Langueen
DomaineMedicine
ThématiqueInnovations in Medical Education
Établissements canadiensWestern UniversityCentre for Addiction and Mental HealthUniversity of TorontoQueen's UniversityUniversity of Ottawa
Organismes subventionnairesnon disponible
Mots-clésTask (project management)Test (biology)Quality (philosophy)Orientation (vector space)Inter-rater reliabilityMedicineMedical educationPsychologyFamily medicineMathematicsDevelopmental psychology

Résumé

récupéré en direct d'OpenAlex

Background: Whether written comments in entrustable professional activities (EPAs) translate into high-quality feedback remains uncertain. Objective: We aimed to evaluate the quality of EPA feedback completed by faculty and senior residents. Methods: Using retrospective descriptive analysis, we assessed the quality of feedback from all EPAs for 34 first-year internal medicine residents from July 2019 to May 2020 at Western University in London, Ontario, Canada. We assessed feedback quality on 4 domains: timeliness, task orientation, actionability, and polarity. Four independent reviewers were blinded to names of evaluators and learners and were randomized to assess each EPA for the 4 domains. Statistical analyses were completed using R 3.6.3. Chi-square or Fisher's exact test and Cochran-Armitage test for trend were used to compare the quality of feedback provided by faculty versus student assessors, and to compare the effect of timely versus not timely feedback on task orientation, actionability, and polarity. Results: A total of 2471 EPAs were initiated by junior residents. Eighty percent (n=1981) of these were completed, of which 61% (n=1213) were completed by senior residents. Interrater reliability was almost perfect for timeliness (κ=0.99), moderate for task orientation (κ=0.74), strong for actionability (κ=0.81), and moderate for polarity (κ=0.62). Of completed EPAs, 47% (n=926) were timely, 85% (n=1697) were task oriented, 83% (n=1649) consisted of reinforcing feedback, 4% (n=79) contained mixed feedback, and 12% (n=240) had neutral feedback. Thirty percent (n=595) were semi- or very actionable. Conclusions: The written feedback in the EPAs was task oriented but was neither timely nor actionable. The majority of EPAs were completed by senior residents rather than faculty.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,016
score de la tête « metaresearch » (Gemma)0,022
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Observationnel · Signal consensuel: Observationnel
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,431
Score d'incertitude au seuil0,987

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,0160,022
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0010,000
Bibliométrie0,0010,001
Études des sciences et des technologies0,0000,000
Communication savante0,0000,000
Science ouverte0,0000,000
Intégrité de la recherche0,0000,001
Charge utile insuffisante (le modèle a refusé de juger)0,0010,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,138
Tête enseignante GPT0,508
Écart entre enseignants0,370 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.

Devis d'étudeObservationnel
Domainenon disponible
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations14
Publié2023
Routes d'admission2
Résumé présentoui

Explorer davantage

Même revueJournal of Graduate Medical EducationMême sujetInnovations in Medical EducationTravaux en français237 207