Comparabilité entre modalités d’évaluation TIC et papier-crayon : cas de productions écrites en français en cinquième secondaire au Québec
Notice bibliographique
Résumé
De nos jours, la compétence à écrire ne se limite plus aux habiletés développées dans l’usage du papier-crayon traditionnel. Le traitement de texte est omniprésent et tend à devenir indispensable à l’individu dans les situations authentiques d’écriture. Évaluer la compétence à écrire uniquement sur la base de productions manuscrites suscite alors des interrogations pour des raisons d’authenticité et de validité dans la perspective de Messick (1989). Des études ont du reste révélé que les élèves habitués à l’ordinateur ont de meilleures performances en modalité informatisée (traitement de texte) qu’en modalité manuscrite (Russell et Haney, 2000). Il convient cependant de mieux connaître les deux modalités d’évaluation, l’une par rapport à l’autre. Le processus d’écriture est-il modifié chez le scripteur ? Les conditions de passation sont-elles équivalentes? Faut-il désactiver les correcticiels? Le processus de correction se déroule-t-il de la même manière chez l’enseignant ? Les deux modalités d’évaluation conduisent-elles à des résultats équivalents ? Ce sont là des questions de recherche au centre du présent travail qui a pour objectif de faire une comparaison entre modalités d’évaluation manuscrite et informatisée à l’aide de productions écrites d’élèves de cinquième année secondaire au Québec. Le cadre théorique repose sur deux concepts-clés : processus d’écriture et évaluation de l’écrit. La méthode adoptée est à la fois quantitative et qualitative. Deux tâches d’écriture déjà retenues à l’épreuve unique d’écriture en français du MELS ont été utilisées pour administrer respectivement un test en modalité informatisée et un autre en modalité manuscrite à 127 élèves provenant de deux écoles. Dans la première, il s’agit d’un programme ordinaire avec accès aux TIC. Les correcticiels y étaient désactivés. Dans la deuxième, il s’agit d’un programme favorisant particulièrement les TIC dans l’apprentissage. Dans ce groupe, les correcticiels étaient accessibles. Trois scripteurs étaient observés en modalité informatisée et deux en modalité manuscrite. Les moyens utilisés (verbalisation et caméra vidéo pour les deux modalités, capteur d’écran en plus pour la modalité informatisée) permettaient de recueillir des observations sur le processus d’écriture. En outre, pour recueillir des observations sur le processus de correction, grâce à la verbalisation et une caméra vidéo, deux enseignants étaient observés en cours de tâche en modalité de correction papier-imprimé, un autre correcteur en modalité de correction à l’écran et tous les trois en modalité papier-manuscrit. Des observations qualitatives sur les stratégies d’écriture et de correction étaient ainsi collectées puis retranscrites. Les scores attribués par les mêmes correcteurs en appliquant la grille de correction du MELS aux 254 copies (127 manuscrites, 77 imprimées et 50 à l’écran) ont été analysés. D’abord, l’analyse des observations recueillies sur le processus d’écriture révèle des stratégies déployées exclusivement en modalité informatisée et des stratégies qui y sont plus fréquentes. Ces stratégies relevant de sous-processus différents, la fréquence de leur déploiement en modalité informatisée implique des va-et-vient plus fréquents entre sous-processus distincts lorsque le scripteur utilise le traitement de texte. On peut alors déduire que le caractère récursif du processus rédactionnel est plus marqué en modalité informatisée. Ensuite, les résultats de l’analyse des données sur le processus de correction révèlent que : 1) Le correcteur identifie non seulement les erreurs, mais aussi les éléments pertinents positifs, ce qui remet en cause les cadres conceptuels antérieurs focalisés sur la détection des seules erreurs; 2) La modalité de correction n’a pas d’effet sur les stratégies d’identification d’éléments pertinents, mais les stratégies de rétroaction varient d’une modalité de correction à l’autre. Enfin, au niveau de la comparabilité des scores, l’analyse statistique suggère que : 1) La modalité de production et le programme de formation ont un effet; 2) l’activation des correcticiels a un effet positif faible alors que leur désactivation a un effet négatif important.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,003 | 0,001 |
| Méta-épidémiologie (sens strict) | 0,001 | 0,001 |
| Méta-épidémiologie (sens large) | 0,001 | 0,001 |
| Bibliométrie | 0,000 | 0,001 |
| Études des sciences et des technologies | 0,010 | 0,001 |
| Communication savante | 0,000 | 0,001 |
| Science ouverte | 0,001 | 0,000 |
| Intégrité de la recherche | 0,001 | 0,001 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,001 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».