Interpretable data reduction in prediction modeling: extended redundancy analysis and its extensions and applications
Bibliographic record
Abstract
Avec les progrès techniques dans la mesure des comportements humains et des traits psychologiques, les objectifs de la recherche en psychologie exigent de plus en plus des méthodes statistiques pour les données à structure complexe. La modélisation de ces données est difficile car elles contiennent généralement un grand nombre de dimensions non pertinentes ou redondantes et des sous-groupes d'observations potentiellement hétérogènes. De plus, la gestion appropriée de la structure de covariance des mesures répétées ou groupées est essentielle lorsque les observations sont corrélées plutôt qu'indépendantes. L'évaluation des performances du modèle sur des données indépendantes invisibles est également importante car elle guide le choix de la structure finale du modèle lorsque les chercheurs cherchent à développer des modèles qui peuvent généraliser au-delà de l'échantillon actuel.La présente recherche propose des solutions à ces défis spécifiques dans le cadre de l'analyse de redondance étendue (extended redundancy analysis; ERA). L'ERA est un outil statistique qui effectue simultanément une réduction des données et une analyse de régression. Lorsque vous étudiez un phénomène social et comportemental complexe qui implique plusieurs ensembles de nombreux prédicteurs, l'ERA peut être utile car elle fournit une description compréhensible des relations prédicteur-réponse en résumant chaque ensemble de prédicteurs dans sa représentation de faible dimension - un composant. Cependant, l'ERA conventionnelle n'a pas de mécanisme efficace pour tenir compte de l'hétérogénéité inconnue mais potentielle des données. En outre, il n'est pas en mesure de soutenir l'analyse de réponses corrélées multiples sans supposer une distribution normale multivariée. En outre, toutes les mesures d'évaluation de modèle existantes pour l'ERA sont des mesures «dans l'échantillon», ce qui peut limiter la généralisabilité du modèle sélectionné.Pour relever ces défis, cette thèse présente deux nouvelles extensions de l'ERA et suggère une perspective alternative de l'évaluation du modèle. La première extension combine l'ERA avec une méthode de partitionnement récursif pour identifier des sous-groupes hétérogènes d'observations différenciées par des covariates auxiliaires (par exemple, le sexe, l'origine ethnique, etc.). La deuxième extension adopte des équations d'estimation généralisées afin de modéliser des variables de réponse corrélées avec une structure de covariance inconnue. Les deux extensions ERA adoptent diverses techniques de régularisation, telles que l'élagage ou la régularisation L2, permettant ainsi d'éviter le sur-ajustement et de déterminer la complexité du modèle en fonction des données. Les fondements théoriques des deux méthodes proposées sont examinés en détail, ainsi qu'une illustration de leur utilité empirique à l'aide des données de l'enquête nationale de 2012 sur la consommation de drogues et la santé aux États-Unis. Enfin, cette thèse démontre également l'avantage d'utiliser diverses méthodes de rééchantillonnage pour faire progresser l'évaluation du modèle existant dans l'échantillon en ERA sur la base des analyses de données simulées
Fetched live from OpenAlex and de-inverted. Abstracts are not stored in this database: the inverted indexes are 8.6 GB of the frame’s 9.3 GB of text, and the host has 13 GB free.
How this classification was reachedexpand
Full frame machine prediction
Teacher imitationNot calibrated prevalence, not ground truth. Human validation pending. The Gemma side is a direct model label for every work in the frame, read from the title-only record. The Codex side is a classifier learned from the 10,348 direct Codex labels and calibrated to design-weighted sample rates; fields without enough sample support carry no Codex call. Candidate is the union of the two sides; consensus is their intersection. These outputs are machine_predicted_unvalidated and are not human labels.
Distilled classifier scores by category (both heads)
| Category | Codex | Gemma |
|---|---|---|
| Metaresearch | 0.019 | 0.045 |
| Meta-epidemiology (narrow) | 0.002 | 0.001 |
| Meta-epidemiology (broad) | 0.002 | 0.003 |
| Bibliometrics | 0.003 | 0.004 |
| Science and technology studies | 0.001 | 0.002 |
| Scholarly communication | 0.002 | 0.003 |
| Open science | 0.002 | 0.004 |
| Research integrity | 0.001 | 0.003 |
| Insufficient payload (model declined to judge) | 0.002 | 0.001 |
Machine scores (provisional)
The two teacher heads of the student model, read on this work. A score orders the frame for review; it never asserts a category, and the validation status ships verbatim with every row.
Baseline scores from an immature model (maturity gate not passed, 7 training rounds). Scores rank; they never assert a category.
score_only:v0-immature-baseline · verbatim from the scoring run: score_only means the number may rank works, and no category label ships from itClassification
machine, unvalidatedMachine predicted; a candidate call from one source (direct Gemma or distilled Codex), not a consensus.
How this classification was reached, model by model and score by score, is at the end of the page under "How this classification was reached".