MétaCan
Menu
Back to cohort
Record W2511230851 · doi:10.4000/ripes.1094

Processus de coconstruction d’une grille critériée pour l’évaluation de productions écrites complexes à l’université

2016· article· fr· W2511230851 on OpenAlexaffabout
Élisabeth Martin, Catherine Lefrançois, Anne Guichard, Diane Tapp, Louise Arsenault

Bibliographic record

VenueRevue internationale de pédagogie de l’enseignement supérieur · 2016
Typearticle
Languagefr
FieldDecision Sciences
TopicEvaluation and Performance Assessment
Canadian institutionsUniversité Laval
Fundersnot available
KeywordsHumanitiesPhilosophyArt

Abstract

fetched live from OpenAlex

Axée sur le développement de l’aptitude à la recherche scientifique et à la pensée critique, la formation universitaire aux cycles supérieurs transcende la simple acquisition de connaissances propres à un objet, une discipline ou un champ d’études. La nature complexe des apprentissages visés par ce cursus, notamment la compétence à la rédaction de textes scientifiques, pose de nombreux défis pour leur évaluation. Parmi les outils disponibles, les grilles critériées ont certes connu un essor, mais peu d’intérêt leur est accordé dans les écrits pédagogiques dans le contexte des études aux cycles supérieurs. Cet article présente le processus de développement, de mise à l’essai et de bonification d’une grille critériée coconstruite par une équipe de professeures, une étudiante et des conseillères pédagogiques de l’Université Laval (Québec, Canada) visant à évaluer la compétence à rédiger des productions scientifiques complexes aux 2e et 3e cycles universitaires. À la suite d’une recension des écrits et de l’exploration des outils jusqu’alors employés au sein de leur faculté, une démarche inductive et itérative a permis d’élaborer une grille d’évaluation comprenant huit critères subdivisés en sous-critères, tous accompagnés d’échelles descriptives qualitatives. Alors que les premières expérimentations de l’outil appuient son utilité et sa pertinence, les écueils ayant émergé au cours de la démarche sont discutés en regard des apports et limites de ce type de grille dans le contexte des études aux cycles supérieurs. Au-delà de la création de l’outil en soi, le caractère innovant du projet se situe dans le processus de réflexion collective qui l’a sous-tendu, s’éloignant ainsi du mode de production individuel habituellement emprunté pour la construction de grilles d’évaluation.

Fetched live from OpenAlex and de-inverted. Abstracts are not stored in this database: the inverted indexes are 8.6 GB of the frame’s 9.3 GB of text, and the host has 13 GB free.

How this classification was reachedexpand

Full frame distilled prediction

Teacher imitation

Not calibrated prevalence, not ground truth. Human validation pending. Learned from the 10,348 direct Codex labels and 10,348 direct Gemma labels. Candidate is the union of thresholded teacher heads; consensus is their intersection. These outputs are machine_predicted_unvalidated and are not human labels or direct frontier model labels.

metaresearch head score (Codex)0.004
metaresearch head score (Gemma)0.003
Version: codex-gemma-dda1882f352aValidation status: machine_predicted_unvalidated
Candidate categoriesMeta-epidemiology (narrow), Insufficient payload (model declined to judge)
Consensus categoriesnone
DomainCandidate signal: none · Consensus signal: none
Study designCandidate signal: Not applicable · Consensus signal: none
GenreCandidate signal: Empirical · Consensus signal: Empirical
Teacher disagreement score0.462
Threshold uncertainty score1.000

Codex and Gemma teacher scores by category

CategoryCodexGemma
Metaresearch0.0040.003
Meta-epidemiology (narrow)0.0000.000
Meta-epidemiology (broad)0.0000.000
Bibliometrics0.0010.001
Science and technology studies0.0010.000
Scholarly communication0.0000.001
Open science0.0010.000
Research integrity0.0000.000
Insufficient payload (model declined to judge)0.0110.001

Machine scores (provisional)

The two teacher heads of the student model, read on this work. A score orders the frame for review; it never asserts a category, and the validation status ships verbatim with every row.

Baseline scores from an immature model (maturity gate not passed, 7 training rounds). Scores rank; they never assert a category.

Opus teacher head0.110
GPT teacher head0.387
Teacher spread0.277 · how far apart the two teachers sit on this one work
Validation statusscore_only:v0-immature-baseline · verbatim from the scoring run: score_only means the number may rank works, and no category label ships from it

Classification

machine, unvalidated

Machine predicted; a candidate call from one teacher head, not a consensus.

Study designNot applicable
Domainnot available
GenreEmpirical

How this classification was reached, model by model and score by score, is at the end of the page under "How this classification was reached".

Quick stats

Citations5
Published2016
Admission routes2
Has abstractyes

Explore more

Same venueRevue internationale de pédagogie de l’enseignement supérieurSame topicEvaluation and Performance AssessmentFrench-language works237,207