MétaCan
Menu
Back to cohort
Record W7115029224

Statistical detection of respondent-level content nonresponsivity in Likert-type survey data without measurement models

2025· dissertation· en· W7115029224 on OpenAlexfundno aff

Bibliographic record

VenueeScholarship@McGill (McGill) · 2025
Typedissertation
Languageen
FieldSocial Sciences
TopicSurvey Methodology and Nonresponse
Canadian institutionsnot available
FundersNatural Sciences and Engineering Research Council of Canada
KeywordsContent (measure theory)Statistical modelStatistical analysisMeasure (data warehouse)Sampling (signal processing)Pattern recognition (psychology)
DOInot available

Abstract

fetched live from OpenAlex

L’absence de réponse au contenu (CNR) constitue une menace importante pour la collecte de données de type Likert, c'est-à-dire, lorsque le répondant répond à la question sans y tenir compte du contenu. La CNR peut se produire lorsque le répondant est négligent, mais aussi lorsqu'il est de mauvaise foi et qu'il utilise des outils automatisés pour s'attaquer aux enquêtes en ligne. La CNR a des effets négatifs bien documentés sur l'analyse des données, tels que des estimations biaisées. Les chercheurs ont sonné l’alarme face à l'augmentation apparente de la prévalence de la CNR dans les études en ligne. Bien qu'il existe une littérature abondante sur la détection statistique de la CNR, les solutions proposées ont eu une applicabilité limitée sur trois aspects clés. Premièrement, les méthodes existantes s'appuient souvent fortement sur le jugement et les règles empiriques. Deuxièmement, les méthodes existantes sont souvent très exigeantes, en termes de disponibilité des données d'entraînement ou d'hypothèses paramétriques très techniques sur les données. Troisièmement, les méthodes existantes négligent souvent les questions statistiques pertinentes, à savoir que la prévalence du RNC est inconnue, que la distribution du RNC est inconnue et que les statistiques sur les valeurs aberrantes nécessitent une référence. Dans la présente thèse, dans chacun des trois chapitres, je propose une nouvelle solution statistique de détection des RNC qui est algorithmique, a peu d'exigences et possède des propriétés statistiques souhaitables répondant à ces questions.Dans le chapitre 1, je propose l'algorithme Supervised Classes, Unsupervised Mixing Proportions (SCUMP). SCUMP gère la situation dans laquelle le chercheur a accès à des répondants non CNR connus comme données d'entraînement alors qu'un échantillon arbitrairement grand de répondants CNR peut être généré à partir d'un modèle de population CNR. Les résultats ont montré que si un classificateur calibré à 95 % pour la spécificité perdait en précision lorsque la taille de l'entraînement augmentait, SCUMP ne perdait pas en précision, tant que le modèle de CNR était correctement spécifié. Dans le chapitre 2, je propose l'algorithme L1P1, qui calcule les statistiques sur les valeurs aberrantes (L1) tout en générant des exemples d'apprentissage du CNR par le biais de permutations des modèles de réponse de type Likert observés (P1). L1P1 gère la situation où le chercheur n'a accès qu'aux modèles de réponse de type Likert dans l'échantillon d'intérêt, sans données d'entraînement. Les résultats ont montré que dans le cas d'un CNR échangeable (une hypothèse générale couvrant divers modèles de CNR), l'algorithme L1P1 produisait des valeurs p pour les répondants qui étaient calibrées en fonction de la sensibilité. Au chapitre 3, je propose l'algorithme L1P1 optimisé en termes de précision et augmenté de co-variables (L1P1-AO1). L1P1-AO1 traite la situation où le chercheur a accès à la fois aux modèles de réponse de type Likert et aux co-variables du CNR dans l'échantillon d'intérêt, sans disposer de données d'entraînement. Les résultats ont montré que pour les grands échantillons, L1P1-AO1 améliore généralement la précision par rapport à L1P1 de base avec une sensibilité nominale de 95 %, si les co-variables sont pertinentes pour la CNR

Fetched live from OpenAlex and de-inverted. Abstracts are not stored in this database: the inverted indexes are 8.6 GB of the frame’s 9.3 GB of text, and the host has 13 GB free.

How this classification was reachedexpand

Full frame distilled prediction

Teacher imitation

Not calibrated prevalence, not ground truth. Human validation pending. Learned from the 10,348 direct Codex labels and 10,348 direct Gemma labels. Candidate is the union of thresholded teacher heads; consensus is their intersection. These outputs are machine_predicted_unvalidated and are not human labels or direct frontier model labels.

metaresearch head score (Codex)0.123
metaresearch head score (Gemma)0.177
Version: codex-gemma-dda1882f352aValidation status: machine_predicted_unvalidated
Candidate categoriesMetaresearch, Meta-epidemiology (narrow), Research integrity
Consensus categoriesMetaresearch
DomainCandidate signal: none · Consensus signal: none
Study designCandidate signal: Observational · Consensus signal: none
GenreCandidate signal: Empirical · Consensus signal: Empirical
Teacher disagreement score0.896
Threshold uncertainty score1.000

Codex and Gemma teacher scores by category

CategoryCodexGemma
Metaresearch0.1230.177
Meta-epidemiology (narrow)0.0010.001
Meta-epidemiology (broad)0.0010.000
Bibliometrics0.0010.002
Science and technology studies0.0010.000
Scholarly communication0.0000.001
Open science0.0020.000
Research integrity0.0020.002
Insufficient payload (model declined to judge)0.0000.000

Machine scores (provisional)

The two teacher heads of the student model, read on this work. A score orders the frame for review; it never asserts a category, and the validation status ships verbatim with every row.

Baseline scores from an immature model (maturity gate not passed, 7 training rounds). Scores rank; they never assert a category.

Opus teacher head0.557
GPT teacher head0.435
Teacher spread0.122 · how far apart the two teachers sit on this one work
Validation statusscore_only:v0-immature-baseline · verbatim from the scoring run: score_only means the number may rank works, and no category label ships from it

Classification

machine, unvalidated

Machine predicted; both teacher heads agree on what is shown here.

Study designObservational
Domainnot available
GenreEmpirical

How this classification was reached, model by model and score by score, is at the end of the page under "How this classification was reached".

Quick stats

Citations0
Published2025
Admission routes1
Has abstractyes

Explore more

Same venueeScholarship@McGill (McGill)Same topicSurvey Methodology and NonresponseFrench-language works237,207