MétaCan
Menu
Retour à la cohorte
Enregistrement W4318142103 · doi:10.1371/journal.pone.0280493

Validity of constructed-response situational judgment tests in training programs for the health professions: A systematic review and meta-analysis protocol

2023· review· en· W4318142103 sur OpenAlexfundno aff
Sara Mortaz Hejri, Jordan L. Ho, Xuan Pan, Yoon Soo Park, Amir H. Sam, Haykaz Mangardich, Alexander MacIntosh

Notice bibliographique

RevuePLoS ONE · 2023
Typereview
Langueen
DomaineMedicine
ThématiqueMedical Education and Admissions
Établissements canadiensnon disponible
Organismes subventionnairesUniversity of Guelph
Mots-clésSituational ethicsData extractionApplied psychologyMeta-analysisProtocol (science)Test (biology)PsychologyInterpersonal communicationMEDLINEQuality (philosophy)Medical educationComputer scienceSocial psychologyMedicineAlternative medicine

Résumé

récupéré en direct d'OpenAlex

BACKGROUND: Situational judgments tests have been increasingly used to help training programs for the health professions incorporate professionalism attributes into their admissions process. While such tests have strong psychometric properties for testing professional attributes and are feasible to implement in high-volume, high-stakes selection, little is known about constructed-response situational judgment tests and their validity. METHODS: We will conduct a systematic review of primary published or unpublished studies reporting on the association between scores on constructed-response situational judgment tests and scores on other tests that measure personal, interpersonal, or professional attributes in training programs for the health professions. In addition to searching electronic databases, we will contact academics and researchers and undertake backward and forward searching. Two reviewers will independently screen the papers and decide on their inclusion, first based on the titles and abstracts of all citations, and then according to the full texts. Data extraction will be done independently by two reviewers using a data extraction form to chart study details and key findings. Studies will be assessed for the risk of bias and quality by two reviewers using the "Quality In Prognosis Studies" tool. To synthesize evidence, we will test the statistical heterogeneity and conduct a psychometric meta-analysis using a random-effects model. If adequate data are available, we will explore whether the meta-analytic correlation varies across different subgroups (e.g., race, gender). DISCUSSION: The findings of this study will inform best practices for admission and selection of applicants for training programs for the health professions and encourage further research on constructed-response situational judgment tests, in particular their validity. TRIAL REGISTRATION: The protocol for this systematic review has been registered in PROSPERO [CRD42022314561]. https://www.crd.york.ac.uk/prospero/display_record.php?ID=CRD42022314561.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,006
score de la tête « metaresearch » (Gemma)0,024
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Revue systématique · Signal consensuel: aucune
GenreSignal candidat: Synthèse · Signal consensuel: Synthèse
Score de désaccord entre enseignants0,552
Score d'incertitude au seuil0,984

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,0060,024
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0070,001
Bibliométrie0,0000,001
Études des sciences et des technologies0,0000,000
Communication savante0,0000,000
Science ouverte0,0000,000
Intégrité de la recherche0,0000,000
Charge utile insuffisante (le modèle a refusé de juger)0,0000,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,687
Tête enseignante GPT0,525
Écart entre enseignants0,161 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.

Devis d'étudeRevue systématique
Domainenon disponible
GenreSynthèse

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations9
Publié2023
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revuePLoS ONEMême sujetMedical Education and AdmissionsTravaux en français237 207