Evaluation of a Structured Application Assessment Instrument for Assessing Applications to Canadian Postgraduate Training Programs in Emergency Medicine
Notice bibliographique
Résumé
OBJECTIVE: To determine the interrater reliability and predictive validity of a structured instrument for assessing applications submitted to a Fellow of the Royal College of Physicians of Canada (FRCP) emergency medicine residency program. METHODS: An application assessment instrument was derived based on faculty and resident input, institutional and national documents, and previous protocols. The instrument provided a score based on objective anchors for each of four application components. Three assessors were introduced to the instrument in a detailed tutorial session. Assessors were given five applications to score and results were compared for understanding of the scoring principles. The instrument was used in a developmental pilot to assess the 2001 cohort of applications and revised again. Applications for the 2002 study cohort were submitted through a central application service. Assessors used the instrument to score each application independently. Interrater reliability was determined by calculating a two-way mixed-effect Cronbach's alpha. RESULTS: Forty applications were received for the year 2002. Thirty-eight application packages were complete and data collection was complete for all 38. The single-rater reliabilities for the curriculum vitae, personal letter, transcript, reference letters, and overall package were 0.73, 0.52, 0.64, 0.61, and 0.72, respectively. The three-rater reliabilities for the components were 0.89, 0.77, 0.84, and 0.82, respectively. The three-rater reliability of the overall application score was 0.89. CONCLUSIONS: Three-rater reliabilities for each component and the entire application package were high. Multiple assessors are required to generate acceptable reliabilities. Using strict design and implementation principles can lead to a reliable instrument for assessing complex application packages.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,008 | 0,005 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,001 | 0,000 |
| Bibliométrie | 0,001 | 0,003 |
| Études des sciences et des technologies | 0,000 | 0,000 |
| Communication savante | 0,000 | 0,000 |
| Science ouverte | 0,000 | 0,000 |
| Intégrité de la recherche | 0,000 | 0,001 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,001 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».