MétaCan
Menu
Retour à la cohorte
Enregistrement W3127624731 · doi:10.1038/s41405-021-00067-4

The interrelationship between confidence and correctness in a multiple-choice assessment: pointing out misconceptions and assuring valuable questions

2021· article· en· W3127624731 sur OpenAlexaff
Renata Grazziotin‐Soares, Coca Blue, Rachel Feraro, Kristen Tochor, Thiago Machado Ardenghi, Diego Machado Ardenghi

Notice bibliographique

RevueBDJ Open · 2021
Typearticle
Langueen
DomaineMedicine
ThématiqueClinical Reasoning and Diagnostic Skills
Établissements canadiensUniversity of Saskatchewan
Organismes subventionnairesnon disponible
Mots-clésCorrectnessLow ConfidenceConfidence intervalPsychologyPoint (geometry)Mathematics educationSample (material)Computer scienceSocial psychologyStatisticsMathematicsAlgorithm

Résumé

récupéré en direct d'OpenAlex

INTRODUCTION: The aim of this study was to better understand the interfaces of being correct or incorrect and confident or unconfident; aiming to point out misconceptions and assure valuable questions. METHODS: This cross-sectional study was conducted using a convenience sample of second-year dental students (n = 29) attending a preclinical endodontics course. Students answered 20 multiple-choice questions ("basic" or "moderate" level) on endodontics, all of which were followed by one confidence question (scale). Our two research questions were: (1) How was the students' performance, considering correctness, misconceptions, and level of confidence? (2) Were the questions valuable, appropriate and friendly, and which ones led to misconceptions? Four situations arouse from the interrelationship between question correctness and confidence level: (1st) correct and confident, (2nd) correct and unconfident, (3rd) incorrect and confident (misconception) and (4th) incorrect and unconfident. Statistical analysis (α = 5%) considered the interaction between (a) students' performance with misconceptions and confidence; (b) question's difficulty with correctness and confidence; and (c) misconceptions with clinical and negative questions. RESULTS: Students had 92.5% of correctness and 84.6% of confidence level. Nine students were responsible for the 12 misconceptions. Students who had more misconceptions had lower correctness (P < 0.001). High achieving students had low confidence in their incorrect responses (P = 0.047). 'Moderate' questions had more incorrectness (P < 0.05) and less confidence (P = 0.02) than 'basic'. All questions were considered valuable [for example, the ones that presented images or required a mental picture of a clinical scenario, since they induced less misconception (P = 0.007)]. There was no difference in misconceptions between negative questions and other questions (P = 0.96). CONCLUSION: Preclinical endodontic students were highly correct and very confident in their responses. Students who had more misconceptions had also the lowest performance in the assessment. Questions were valuable; but some will worth further improvement for the future. A multiple-choice assessment, when combined with confidence questions, provided helpful information regarding misconceptions and questions value.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,011
score de la tête « metaresearch » (Gemma)0,080
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesaucune
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Observationnel · Signal consensuel: Observationnel
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,011
Score d'incertitude au seuil0,059

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,0110,080
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0000,001
Bibliométrie0,0010,001
Études des sciences et des technologies0,0000,001
Communication savante0,0020,001
Science ouverte0,0010,001
Intégrité de la recherche0,0010,001
Charge utile insuffisante (le modèle a refusé de juger)0,0020,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,139
Tête enseignante GPT0,445
Écart entre enseignants0,307 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.

Les modèles n’ont appliqué aucune catégorie : rien dans la taxonomie ne correspondait à ce travail.
Devis d'étudeObservationnel
Domainenon disponible
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations11
Publié2021
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueBDJ OpenMême sujetClinical Reasoning and Diagnostic SkillsTravaux en français237 207