MétaCan
Menu
Retour à la cohorte
Enregistrement W3011227050 · doi:10.1186/s40536-020-00080-3

Are large surveys of adult literacy skills as comparable over time as we think?

2020· article· en· W3011227050 sur OpenAlexafffundabout
Samuel Vézina, Alain Bélanger

Notice bibliographique

RevueLarge-scale Assessments in Education · 2020
Typearticle
Langueen
DomaineSocial Sciences
ThématiqueEducation Systems and Policy
Établissements canadiensInstitut National de la Recherche Scientifique
Organismes subventionnairesCanadian Institutes of Health ResearchSocial Sciences and Humanities Research Council of CanadaFonds de Recherche du Québec-Société et Culture
Mots-clésCeteris paribusLiteracyCohortAdult literacyCohort effectSurvey data collectionPsychologyDemographic economicsDemographyMedicinePedagogySociologyEconomicsStatistics

Résumé

récupéré en direct d'OpenAlex

Abstract Recent literature shows that younger cohorts have lower levels of literacy ceteris paribus in Canada, the United States, Norway and other developed countries. Very few explanations are provided to justify the existence of this negative cohort effect. Yet this decline has serious implications for the economy, education system and society. In this paper, we focus on Canada and replicate the results published in the literature using the same methodology (synthetic cohorts). We use the same data from surveys of adult skills, namely the International Adult Literacy Survey (IALS), the Adult Literacy and Life Skills Survey (ALL) and the Survey of Adult Skills, a product of the OECD Programme for the International Assessment of Adult Competencies (PIAAC). Second, we conduct further analyses to better understand the effect of time on adults’ literacy skills. We then show that age has a negative effect on the literacy score, but also that a significant “period” effect (or rather a “survey” effect) can only be explained by a change in the instrument used to measure literacy skills from one survey to another. This article reveals that the negative cohort effect mentioned in the literature may be fallacious as it is exacerbated when the control for measuring instrument distortions is omitted. This paper contributes to advancing knowledge about the effect that age and cohort has on adult literacy levels in Canada. The results weaken the idea of a clear negative cohort effect; much of this effect would in fact be caused by a non-comparable methodology that systematically assigned individuals lower scores in the most recent survey cycles. These findings are important because they highlight the limitations of analyses that can be done with the synthetic cohort method using cross-sectional surveys on adult literacy skills not only in Canada, but also in all other countries where these surveys have been conducted.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,135
score de la tête « metaresearch » (Gemma)0,472
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesaucune
DomaineSignal candidat: Méthodes · Signal consensuel: aucune
Devis d'étudeSignal candidat: Observationnel · Signal consensuel: Observationnel
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,865
Score d'incertitude au seuil0,712

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,1350,472
Méta-épidémiologie (sens strict)0,0010,001
Méta-épidémiologie (sens large)0,0020,001
Bibliométrie0,0030,007
Études des sciences et des technologies0,0010,005
Communication savante0,0060,006
Science ouverte0,0030,003
Intégrité de la recherche0,0020,002
Charge utile insuffisante (le modèle a refusé de juger)0,0030,001

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,020
Tête enseignante GPT0,409
Écart entre enseignants0,389 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.

Devis d'étudeObservationnel
DomaineMéthodes
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations4
Publié2020
Routes d'admission3
Résumé présentoui

Explorer davantage

Même revueLarge-scale Assessments in EducationMême sujetEducation Systems and PolicyTravaux en français237 207