Identifying Site‐Level Data Integrity Risks in Alzheimer’s Trials via Subject‐Level Heuristics and a Novel Machine Learning Framework
Notice bibliographique
Résumé
BACKGROUND: Undetected data integrity issues in Alzheimer's disease (AD) trials often appear as "paradoxical" participant profiles with atypical or implausible profiles that can distort efficacy signals and threaten the validity of study conclusions. A unique mathematically-augmented machine learning (MAML) framework was used to identify high-risk study sites based on patterns in subject-level medical history data, despite a small sample size of trial sites. METHODS: Using data from a trial evaluating treatment for mild to moderate AD, 1855 subject-level variables were transformed into 7816 site-level features by computing distributional summaries of subject medical data (min, mean, max) across 36 sites. Sponsor-provided site-risk labels were used to train classification models including large language models and several standard ML methods such as Random Forest and XGBoost (LLM/ML) in three scenarios: (1) LLM/ML on all raw features (2) LLM/ML on MAML-derived features (3) LLM/ML on MAML-derived features and learned site relabeling. Leave-one-out cross-validation (LOOCV) assessed accuracy, sensitivity, specificity, and AUC due to the small sample size constraints. RESULTS: Scenario 3 achieved the highest predictive performance:XGBoost yielded an AUC of 0.99 (accuracy 0.89, sensitivity 0.93, specificity 0.86). In contrast, Scenario 1 trained with all features peaked at an AUC of 0.25, underscoring the value of MAML's data-driven relabeling to uncover latent site-level risks. The MAML framework grouped all five known high-risk sites and nine additional sites into a high-risk group defined by 10 key variables, predominately anxiety-related. High-risk sites consistently displayed statistical deviations from the canonical AD symptomatology structure. CONCLUSION: Pre-randomization, baseline subject data, can effectively flag site integrity risks in AD clinical trials by detecting deviations from the standard spectrum of symptomologies via MAML. This deviation can be used to better evaluate clinical trial sites. Incorporating these insights into ongoing and future AD trials may enhance data quality, mitigate bias, and reinforce confidence in trial outcomes. IMPACT: Due to AD's clinical heterogeneity and overlap with neuropsychiatric symptoms, our scalable approach offers early detection of anomalous trial behavior, supporting more trustworthy efficacy assessments across AD and related psychiatric trials.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction machine sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.
Scores du classifieur distillé par catégorie (deux têtes)
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,026 | 0,040 |
| Méta-épidémiologie (sens strict) | 0,001 | 0,001 |
| Méta-épidémiologie (sens large) | 0,002 | 0,002 |
| Bibliométrie | 0,003 | 0,002 |
| Études des sciences et des technologies | 0,001 | 0,002 |
| Communication savante | 0,002 | 0,002 |
| Science ouverte | 0,002 | 0,002 |
| Intégrité de la recherche | 0,001 | 0,002 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,001 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».