Statistical detection of respondent-level content nonresponsivity in Likert-type survey data without measurement models
Bibliographic record
Abstract
L’absence de réponse au contenu (CNR) constitue une menace importante pour la collecte de données de type Likert, c'est-à-dire, lorsque le répondant répond à la question sans y tenir compte du contenu. La CNR peut se produire lorsque le répondant est négligent, mais aussi lorsqu'il est de mauvaise foi et qu'il utilise des outils automatisés pour s'attaquer aux enquêtes en ligne. La CNR a des effets négatifs bien documentés sur l'analyse des données, tels que des estimations biaisées. Les chercheurs ont sonné l’alarme face à l'augmentation apparente de la prévalence de la CNR dans les études en ligne. Bien qu'il existe une littérature abondante sur la détection statistique de la CNR, les solutions proposées ont eu une applicabilité limitée sur trois aspects clés. Premièrement, les méthodes existantes s'appuient souvent fortement sur le jugement et les règles empiriques. Deuxièmement, les méthodes existantes sont souvent très exigeantes, en termes de disponibilité des données d'entraînement ou d'hypothèses paramétriques très techniques sur les données. Troisièmement, les méthodes existantes négligent souvent les questions statistiques pertinentes, à savoir que la prévalence du RNC est inconnue, que la distribution du RNC est inconnue et que les statistiques sur les valeurs aberrantes nécessitent une référence. Dans la présente thèse, dans chacun des trois chapitres, je propose une nouvelle solution statistique de détection des RNC qui est algorithmique, a peu d'exigences et possède des propriétés statistiques souhaitables répondant à ces questions.Dans le chapitre 1, je propose l'algorithme Supervised Classes, Unsupervised Mixing Proportions (SCUMP). SCUMP gère la situation dans laquelle le chercheur a accès à des répondants non CNR connus comme données d'entraînement alors qu'un échantillon arbitrairement grand de répondants CNR peut être généré à partir d'un modèle de population CNR. Les résultats ont montré que si un classificateur calibré à 95 % pour la spécificité perdait en précision lorsque la taille de l'entraînement augmentait, SCUMP ne perdait pas en précision, tant que le modèle de CNR était correctement spécifié. Dans le chapitre 2, je propose l'algorithme L1P1, qui calcule les statistiques sur les valeurs aberrantes (L1) tout en générant des exemples d'apprentissage du CNR par le biais de permutations des modèles de réponse de type Likert observés (P1). L1P1 gère la situation où le chercheur n'a accès qu'aux modèles de réponse de type Likert dans l'échantillon d'intérêt, sans données d'entraînement. Les résultats ont montré que dans le cas d'un CNR échangeable (une hypothèse générale couvrant divers modèles de CNR), l'algorithme L1P1 produisait des valeurs p pour les répondants qui étaient calibrées en fonction de la sensibilité. Au chapitre 3, je propose l'algorithme L1P1 optimisé en termes de précision et augmenté de co-variables (L1P1-AO1). L1P1-AO1 traite la situation où le chercheur a accès à la fois aux modèles de réponse de type Likert et aux co-variables du CNR dans l'échantillon d'intérêt, sans disposer de données d'entraînement. Les résultats ont montré que pour les grands échantillons, L1P1-AO1 améliore généralement la précision par rapport à L1P1 de base avec une sensibilité nominale de 95 %, si les co-variables sont pertinentes pour la CNR
Fetched live from OpenAlex and de-inverted. Abstracts are not stored in this database: the inverted indexes are 8.6 GB of the frame’s 9.3 GB of text, and the host has 13 GB free.
How this classification was reachedexpand
Full frame distilled prediction
Teacher imitationNot calibrated prevalence, not ground truth. Human validation pending. Learned from the 10,348 direct Codex labels and 10,348 direct Gemma labels. Candidate is the union of thresholded teacher heads; consensus is their intersection. These outputs are machine_predicted_unvalidated and are not human labels or direct frontier model labels.
Codex and Gemma teacher scores by category
| Category | Codex | Gemma |
|---|---|---|
| Metaresearch | 0.123 | 0.177 |
| Meta-epidemiology (narrow) | 0.001 | 0.001 |
| Meta-epidemiology (broad) | 0.001 | 0.000 |
| Bibliometrics | 0.001 | 0.002 |
| Science and technology studies | 0.001 | 0.000 |
| Scholarly communication | 0.000 | 0.001 |
| Open science | 0.002 | 0.000 |
| Research integrity | 0.002 | 0.002 |
| Insufficient payload (model declined to judge) | 0.000 | 0.000 |
Machine scores (provisional)
The two teacher heads of the student model, read on this work. A score orders the frame for review; it never asserts a category, and the validation status ships verbatim with every row.
Baseline scores from an immature model (maturity gate not passed, 7 training rounds). Scores rank; they never assert a category.
score_only:v0-immature-baseline · verbatim from the scoring run: score_only means the number may rank works, and no category label ships from itClassification
machine, unvalidatedMachine predicted; both teacher heads agree on what is shown here.
How this classification was reached, model by model and score by score, is at the end of the page under "How this classification was reached".