Statistical detection of respondent-level content nonresponsivity in Likert-type survey data without measurement models
Notice bibliographique
Résumé
L’absence de réponse au contenu (CNR) constitue une menace importante pour la collecte de données de type Likert, c'est-à-dire, lorsque le répondant répond à la question sans y tenir compte du contenu. La CNR peut se produire lorsque le répondant est négligent, mais aussi lorsqu'il est de mauvaise foi et qu'il utilise des outils automatisés pour s'attaquer aux enquêtes en ligne. La CNR a des effets négatifs bien documentés sur l'analyse des données, tels que des estimations biaisées. Les chercheurs ont sonné l’alarme face à l'augmentation apparente de la prévalence de la CNR dans les études en ligne. Bien qu'il existe une littérature abondante sur la détection statistique de la CNR, les solutions proposées ont eu une applicabilité limitée sur trois aspects clés. Premièrement, les méthodes existantes s'appuient souvent fortement sur le jugement et les règles empiriques. Deuxièmement, les méthodes existantes sont souvent très exigeantes, en termes de disponibilité des données d'entraînement ou d'hypothèses paramétriques très techniques sur les données. Troisièmement, les méthodes existantes négligent souvent les questions statistiques pertinentes, à savoir que la prévalence du RNC est inconnue, que la distribution du RNC est inconnue et que les statistiques sur les valeurs aberrantes nécessitent une référence. Dans la présente thèse, dans chacun des trois chapitres, je propose une nouvelle solution statistique de détection des RNC qui est algorithmique, a peu d'exigences et possède des propriétés statistiques souhaitables répondant à ces questions.Dans le chapitre 1, je propose l'algorithme Supervised Classes, Unsupervised Mixing Proportions (SCUMP). SCUMP gère la situation dans laquelle le chercheur a accès à des répondants non CNR connus comme données d'entraînement alors qu'un échantillon arbitrairement grand de répondants CNR peut être généré à partir d'un modèle de population CNR. Les résultats ont montré que si un classificateur calibré à 95 % pour la spécificité perdait en précision lorsque la taille de l'entraînement augmentait, SCUMP ne perdait pas en précision, tant que le modèle de CNR était correctement spécifié. Dans le chapitre 2, je propose l'algorithme L1P1, qui calcule les statistiques sur les valeurs aberrantes (L1) tout en générant des exemples d'apprentissage du CNR par le biais de permutations des modèles de réponse de type Likert observés (P1). L1P1 gère la situation où le chercheur n'a accès qu'aux modèles de réponse de type Likert dans l'échantillon d'intérêt, sans données d'entraînement. Les résultats ont montré que dans le cas d'un CNR échangeable (une hypothèse générale couvrant divers modèles de CNR), l'algorithme L1P1 produisait des valeurs p pour les répondants qui étaient calibrées en fonction de la sensibilité. Au chapitre 3, je propose l'algorithme L1P1 optimisé en termes de précision et augmenté de co-variables (L1P1-AO1). L1P1-AO1 traite la situation où le chercheur a accès à la fois aux modèles de réponse de type Likert et aux co-variables du CNR dans l'échantillon d'intérêt, sans disposer de données d'entraînement. Les résultats ont montré que pour les grands échantillons, L1P1-AO1 améliore généralement la précision par rapport à L1P1 de base avec une sensibilité nominale de 95 %, si les co-variables sont pertinentes pour la CNR
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,123 | 0,177 |
| Méta-épidémiologie (sens strict) | 0,001 | 0,001 |
| Méta-épidémiologie (sens large) | 0,001 | 0,000 |
| Bibliométrie | 0,001 | 0,002 |
| Études des sciences et des technologies | 0,001 | 0,000 |
| Communication savante | 0,000 | 0,001 |
| Science ouverte | 0,002 | 0,000 |
| Intégrité de la recherche | 0,002 | 0,002 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,000 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; les deux têtes enseignantes s’accordent sur ce qui est montré ici.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».