MétaCan
Menu
Retour à la cohorte
Enregistrement W4402519017 · doi:10.1002/prp2.70004

Evaluating the quality of multiple‐choice question pilot database: A global educator‐created tool for concept‐based pharmacology learning

2024· article· en· W4402519017 sur OpenAlex
Adeladlew Kassie Netere, T. Çann Hughes, Anna‐Marie Babey, Martin Hawes, Janet Mifsud, John Kelly, Willmann Liang, Mark Hernandez, Kelly Dowhower Karpa, Hesham Al‐Sallami, Lynette Fernandes, Patrik Aronsson, Carolina Restini, Fabiana Caetano Crowley, Elvan Djouma, Tina Hinton, Fatima Mraiche, Paul J. White

Pourquoi ce travail est dans la base

Une base qui oublie comment elle a trouvé un travail ne peut pas être vérifiée. Voici les voies qui ont admis celui-ci.

affAu moins un auteur déclare une institution canadienne dans l'instantané OpenAlex épinglé.

Notice bibliographique

RevuePharmacology Research & Perspectives · 2024
Typearticle
Langueen
DomaineSocial Sciences
ThématiqueEducational Assessment and Pedagogy
Établissements canadiensUniversity of AlbertaWestern University
Organismes subventionnairesMonash University
Mots-clésContext (archaeology)Quality (philosophy)Computer scienceProcess (computing)CognitionMedical educationMedicine

Résumé

récupéré en direct d'OpenAlex

Abstract The Core Concepts of Pharmacology (CCP) initiative is developing educational resources to transform pharmacology education into a concept‐based approach. This study evaluated the quality of global educator‐created MCQs in generating items for the pharmacology concept inventory (PCI) instrument and developed as a resource for learning pharmacology fundamental concepts. A panel of 22 global pharmacology experts recruited from the CCP initiative research team participated in the MCQ pilot database design and evaluation. The quality analysis framework of the MCQs in the pilot database included four assessment tools: item writing guidelines (IWGs), Bloom's taxonomy, the CCP, and the MCQ design format. A two‐phase evaluation process was involved, including inter‐rater agreement on item quality, followed by resolving conflicts that occurred in quality assessment. The chi‐square ( χ 2 ) test of independence and Cramer's V correlation tests were utilized to measure the relationship among quality assessment attributes. About 200 MCQs were gathered and 98% underwent expert evaluation. Nearly 80% addressed one or more CCP, with 52% designed using a context‐dependent format. However, only 40% addressed higher levels of Bloom's cognitive domain and 10% adhered to all IWGs. A strong positive correlation was observed between the context‐based item format and its effectiveness in assessing the higher cognitive domain, the main CCP and improved IWGs adherence. Context‐based item construction can assess the higher cognitive skills and fundamental pharmacology concepts, showing potential for rigorous PCI development. The pilot database will store items to create the PCI, aiding the development of a concept‐based pharmacology curriculum.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,012
score de la tête « metaresearch » (Gemma)0,005
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesÉtudes des sciences et des technologies, Charge utile insuffisante (le modèle a refusé de juger)
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Expérimental (laboratoire) · Signal consensuel: aucune
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,510
Score d'incertitude au seuil1,000

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,0120,005
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0000,000
Bibliométrie0,0000,001
Études des sciences et des technologies0,0010,002
Communication savante0,0000,000
Science ouverte0,0010,000
Intégrité de la recherche0,0000,001
Charge utile insuffisante (le modèle a refusé de juger)0,0020,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,458
Tête enseignante GPT0,690
Écart entre enseignants0,231 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle