Outlier detection methods for meta-analyses of site-specific effect estimates from a multi-site network
Notice bibliographique
Résumé
Introduction: Data privacy legislation in Canada prohibits patient-level administrative health data from crossing jurisdictional boundaries. Accordingly, multi-site research networks often conduct distributed analyses and pool site-specific effect estimates (EEs) using meta-analysis models. Rare outcomes and heterogeneity in site-specific EEs can produce potential outliers that may bias pooled EEs. Limited research has compared outlier detection methods and the impact of potential outliers on meta-analysis results. Purpose and Objectives: The research purpose was to examine outlier detection methods for meta-analyses of site-specific EEs from a multi-site network. The objectives were to: 1) compare outlier detection methods for random-effects meta-analysis (REM) models, and 2) apply these methods to site-specific EEs from systematically selected real-world meta-analyses. Methods: We compared studentized residual estimates (StdR), relative change in pooled EE variance (RCPEV), relative change in estimated between-site variance (RCEBV), and model-based mean-shift method (MMS) using computer simulation. EEs were simulated assuming a normal distribution. Accuracy, misclassification error (ME), and F-1 score were assessed using random-effects analysis of variance models. We systematically selected meta-analyses conducted by investigators from the Canadian Network for Observational Drug Effect Studies (CNODES), applied outlier detection methods, and assessed the impact of potential outliers on REM results. Results: StdR had the highest accuracy (median: 89.9%) and lowest ME (median: 10.2%). RCPEV was the most consistent in all metrics. For StdR, the number of sites explained 95.1% and 93.0% of the variation in accuracy and ME values. For RCEBV and MMS, between-site variance described the most variation in accuracy and ME values. StdR and RCPEV were most sensitive to detect potential outliers in re-analyses of 39 published CNODES meta-analyses. Heterogeneity in site-specific EEs was reduced to zero in two-thirds of the meta-analyses when potential outliers were removed, and the precision of pooled EEs increased. Conclusions: StdR and RCPEV outperformed RCEBV and MMS in outlier detection. The number of sites and between-site variance explained the most variation in performance metrics for all methods. Excluding potential outliers from published meta-analyses, substantially reduced heterogeneity in site-specific EEs and increased the precision of pooled EEs.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,001 | 0,000 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,001 | 0,001 |
| Bibliométrie | 0,000 | 0,000 |
| Études des sciences et des technologies | 0,000 | 0,000 |
| Communication savante | 0,000 | 0,000 |
| Science ouverte | 0,000 | 0,000 |
| Intégrité de la recherche | 0,000 | 0,000 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,000 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».