Issues and arguments in the measurement of second language pronunciation
Notice bibliographique
Résumé
This thesis examines systematic sources of variance in raters' judgments of second (L2) language speech, including rater cognitive and experience variables, rating scale properties, and characteristics of the speech, in order to better understand influences on raters' scoring decisions. The thesis culminates in the development of an empirically-based L2 comprehensibility scale that describes, with greater precision, the quality of speech that is characteristic at different comprehensibility levels. Study 1 examines the effect of individual differences in raters' cognitive abilities on their ratings of L2 speech. Thirty music majors and 30 non-music majors rated 40 L2 speech samples for comprehensibility, accentedness, and fluency and were additionally assessed for musical ability, phonological memory, and attention control. Results showed that music majors assigned significantly lower ratings than non-music majors solely for accentedness, particularly for low ability learners. However, phonological memory and attention control did not influence their ratings.Study 2 examines the effects of two additional sources of variance—rating scale length and rater experience—on raters' judgments of L2 comprehensibility, accentedness, and fluency. Twenty experienced and 20 novice raters judged 38 L2 speech samples using 5-point or 9-point numerical rating scales. In addition, raters' perceptions of the rating process were elicited through verbal protocols and interviews. Results showed that experienced and novice raters achieved high consensus about the highest and lowest scoring L2 speakers but had difficulty differentiating between scale levels in the absence of guidance from the rating instrument. Finally, the goal of Study 3 was to construct an L2 comprehensibility scale rooted in raters' perspectives of influences on their judgments, and characteristics of the L2 speech. To this end, 19 speech measures used to analyze 40 L2 speech samples were examined in relation to 60 raters' mean L2 comprehensibility ratings and three ESL teachers' indications of their most salient scoring criteria. Overall, a wide range of measures contributed to listeners' comprehensibility judgments, with vocabulary and fluency measures distinguishing between low-level learners, grammatical and discourse-level measures distinguishing between high-level learners, and word stress distinguishing between all levels. Taken together, these papers advance our understanding of raters' perspectives in L2 pronunciation assessment.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction machine sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.
Scores du classifieur distillé par catégorie (deux têtes)
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,423 | 0,717 |
| Méta-épidémiologie (sens strict) | 0,002 | 0,002 |
| Méta-épidémiologie (sens large) | 0,002 | 0,003 |
| Bibliométrie | 0,006 | 0,004 |
| Études des sciences et des technologies | 0,004 | 0,040 |
| Communication savante | 0,012 | 0,013 |
| Science ouverte | 0,010 | 0,007 |
| Intégrité de la recherche | 0,008 | 0,013 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,002 | 0,001 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».