MétaCan
Menu
Retour à la cohorte
Enregistrement W7115029224

Statistical detection of respondent-level content nonresponsivity in Likert-type survey data without measurement models

2025· dissertation· en· W7115029224 sur OpenAlexfundno aff

Notice bibliographique

RevueeScholarship@McGill (McGill) · 2025
Typedissertation
Langueen
DomaineSocial Sciences
ThématiqueSurvey Methodology and Nonresponse
Établissements canadiensnon disponible
Organismes subventionnairesNatural Sciences and Engineering Research Council of Canada
Mots-clésContent (measure theory)Statistical modelStatistical analysisMeasure (data warehouse)Sampling (signal processing)Pattern recognition (psychology)
DOInon disponible

Résumé

récupéré en direct d'OpenAlex

L’absence de réponse au contenu (CNR) constitue une menace importante pour la collecte de données de type Likert, c'est-à-dire, lorsque le répondant répond à la question sans y tenir compte du contenu. La CNR peut se produire lorsque le répondant est négligent, mais aussi lorsqu'il est de mauvaise foi et qu'il utilise des outils automatisés pour s'attaquer aux enquêtes en ligne. La CNR a des effets négatifs bien documentés sur l'analyse des données, tels que des estimations biaisées. Les chercheurs ont sonné l’alarme face à l'augmentation apparente de la prévalence de la CNR dans les études en ligne. Bien qu'il existe une littérature abondante sur la détection statistique de la CNR, les solutions proposées ont eu une applicabilité limitée sur trois aspects clés. Premièrement, les méthodes existantes s'appuient souvent fortement sur le jugement et les règles empiriques. Deuxièmement, les méthodes existantes sont souvent très exigeantes, en termes de disponibilité des données d'entraînement ou d'hypothèses paramétriques très techniques sur les données. Troisièmement, les méthodes existantes négligent souvent les questions statistiques pertinentes, à savoir que la prévalence du RNC est inconnue, que la distribution du RNC est inconnue et que les statistiques sur les valeurs aberrantes nécessitent une référence. Dans la présente thèse, dans chacun des trois chapitres, je propose une nouvelle solution statistique de détection des RNC qui est algorithmique, a peu d'exigences et possède des propriétés statistiques souhaitables répondant à ces questions.Dans le chapitre 1, je propose l'algorithme Supervised Classes, Unsupervised Mixing Proportions (SCUMP). SCUMP gère la situation dans laquelle le chercheur a accès à des répondants non CNR connus comme données d'entraînement alors qu'un échantillon arbitrairement grand de répondants CNR peut être généré à partir d'un modèle de population CNR. Les résultats ont montré que si un classificateur calibré à 95 % pour la spécificité perdait en précision lorsque la taille de l'entraînement augmentait, SCUMP ne perdait pas en précision, tant que le modèle de CNR était correctement spécifié. Dans le chapitre 2, je propose l'algorithme L1P1, qui calcule les statistiques sur les valeurs aberrantes (L1) tout en générant des exemples d'apprentissage du CNR par le biais de permutations des modèles de réponse de type Likert observés (P1). L1P1 gère la situation où le chercheur n'a accès qu'aux modèles de réponse de type Likert dans l'échantillon d'intérêt, sans données d'entraînement. Les résultats ont montré que dans le cas d'un CNR échangeable (une hypothèse générale couvrant divers modèles de CNR), l'algorithme L1P1 produisait des valeurs p pour les répondants qui étaient calibrées en fonction de la sensibilité. Au chapitre 3, je propose l'algorithme L1P1 optimisé en termes de précision et augmenté de co-variables (L1P1-AO1). L1P1-AO1 traite la situation où le chercheur a accès à la fois aux modèles de réponse de type Likert et aux co-variables du CNR dans l'échantillon d'intérêt, sans disposer de données d'entraînement. Les résultats ont montré que pour les grands échantillons, L1P1-AO1 améliore généralement la précision par rapport à L1P1 de base avec une sensibilité nominale de 95 %, si les co-variables sont pertinentes pour la CNR

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,123
score de la tête « metaresearch » (Gemma)0,177
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche, Méta-épidémiologie (sens strict), Intégrité de la recherche
Catégories consensuellesMétarecherche
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Observationnel · Signal consensuel: aucune
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,896
Score d'incertitude au seuil1,000

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,1230,177
Méta-épidémiologie (sens strict)0,0010,001
Méta-épidémiologie (sens large)0,0010,000
Bibliométrie0,0010,002
Études des sciences et des technologies0,0010,000
Communication savante0,0000,001
Science ouverte0,0020,000
Intégrité de la recherche0,0020,002
Charge utile insuffisante (le modèle a refusé de juger)0,0000,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,557
Tête enseignante GPT0,435
Écart entre enseignants0,122 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; les deux têtes enseignantes s’accordent sur ce qui est montré ici.

Devis d'étudeObservationnel
Domainenon disponible
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations0
Publié2025
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueeScholarship@McGill (McGill)Même sujetSurvey Methodology and NonresponseTravaux en français237 207