MétaCan
Menu
Retour à la cohorte
Enregistrement W2587882333 · doi:10.1016/j.pmrj.2017.02.003

Demonstrating Construct Validity of the American Board of Physical Medicine and Rehabilitation Part I Examination: An Analysis of Dimensionality

2017· article· en· W2587882333 sur OpenAlexaff
Mikaela M. Raddatz, Lawrence R. Robinson

Notice bibliographique

RevuePM&R · 2017
Typearticle
Langueen
DomaineMedicine
ThématiqueMedical Education and Admissions
Établissements canadiensSt. John's Rehab HospitalToronto Rehabilitation InstituteUniversity of TorontoSunnybrook Health Science Centre
Organismes subventionnairesnon disponible
Mots-clésConstruct validityUnited States Medical Licensing ExaminationItem response theoryRasch modelConstruct (python library)PsychometricsCertificationEmpirical examinationDimension (graph theory)Local independencePsychologyMedicineClinical psychologyComputer scienceMathematicsMedical educationDevelopmental psychologyActuarial science

Résumé

récupéré en direct d'OpenAlex

BACKGROUND: Ideally, high-stakes examinations assess 1 dimension of medical knowledge to produce precise estimates of a candidate's performance. It has not been reported whether the American Board of Physical Medicine and Rehabilitation Part 1 Certification Examination (ABPMR-CE-1) is unidimensional or not. OBJECTIVE: To examine the ABPMR-CE-1 to measure how many dimensions it assesses. DESIGN: Retrospective observational study. SETTING: We assessed examination results from the 2015 ABPMR-CE-1. PARTICIPANTS: A total of 489 deidentified candidates taking the 2015 ABPMR-CE-1. METHODS: A 1-parameter Item Response Theory (IRT) measurement model was utilized. A Principal Components Analysis (PCA) of standardized residual correlations was used to detect multidimensionality. MAIN OUTCOME MEASURE: Number of primary dimensions reflected in the 325 test questions. RESULTS: The results of the dimensionality analysis indicated that the ABPMR-CE-1 examination is highly unidimensional from a psychometric perspective. Expert content review of the substantive content of small contrasting clusters of questions provided additional assurance of the unidimensional nature of the examination. CONCLUSIONS: The ABPMR-CE-1 appears indeed to measure a single construct, which suggests a sound structure of the examination. It closely approximates the assumption of statistical unidimensionality. LEVEL OF EVIDENCE: Not applicable.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,001
score de la tête « metaresearch » (Gemma)0,011
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Observationnel · Signal consensuel: Observationnel
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,034
Score d'incertitude au seuil0,997

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,0010,011
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0000,000
Bibliométrie0,0000,000
Études des sciences et des technologies0,0000,002
Communication savante0,0000,000
Science ouverte0,0000,000
Intégrité de la recherche0,0000,000
Charge utile insuffisante (le modèle a refusé de juger)0,0000,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,067
Tête enseignante GPT0,406
Écart entre enseignants0,339 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.

Devis d'étudeObservationnel
Domainenon disponible
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations8
Publié2017
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revuePM&RMême sujetMedical Education and AdmissionsTravaux en français237 207