MétaCan
Menu
Retour à la cohorte
Enregistrement W4404727371 · doi:10.1177/17407745241297947

Detecting irregularities in randomized controlled trials using machine learning

2024· article· en· W4404727371 sur OpenAlexafffund
Walter Nelson, Jeremy Petch, Jonathan Ranisau, Robin Zhao, Kumar Balasubramanian, Shrikant I. Bangdiwala

Notice bibliographique

RevueClinical Trials · 2024
Typearticle
Langueen
DomaineMathematics
ThématiqueStatistical Methods in Clinical Trials
Établissements canadiensImpactHamilton Health SciencesMcMaster UniversityPopulation Health Research InstituteUniversity of Toronto
Organismes subventionnairesCanadian Institutes of Health Research
Mots-clésInterquartile rangeArtificial intelligenceMachine learningConcordanceOutlierClinical trialComputer scienceRandomized controlled trialReceiver operating characteristicMedicineAnomaly detectionAlgorithmStatisticsData miningMathematicsSurgeryPathology

Résumé

récupéré en direct d'OpenAlex

BACKGROUND: Over the course of a clinical trial, irregularities may arise in the data. Trialists implement human-intensive, expensive central statistical monitoring procedures to identify and correct these irregularities before the results of the trial are analyzed and disseminated. Machine learning algorithms have shown promise for identifying center-level irregularities in multi-center clinical trials with minimal human intervention. We aimed to characterize the form-level data irregularities in several historical clinical trials and evaluate the ability of a machine learning-based outlier detection algorithm to identify them. METHODS: Data irregularities previously identified by humans in historical clinical trials were ascertained by comparing preliminary snapshots of the trial databases to the final, locked databases. We measured the ability of a machine learning based outlier detection algorithm to identify form-level irregularities using concordance (area under the receiver operator characteristic), positive predictive value (precision), and sensitivity (recall). RESULTS: We examined preliminary snapshots of seven historical clinical trials which randomized a total of 77,001 participants. We extracted a total of 1,267,484 completed entries from 358 case report forms containing irregularities from all snapshots across all trials, containing a total of 24,850 form-wide irregularities (median per-form form-level irregularity rate: 1.81%). Our proposed machine learning algorithm detects form-level irregularities with a median concordance of 0.74 (interquartile range = 0.57-0.89), slightly exceeding the performance of a previously proposed machine learning approach with a median area under the receiver operator characteristic of 0.73 (interquartile range = 0.54-0.88). CONCLUSION: Data irregularities in historical clinical trials were ascertained by comparing preliminary snapshots of the trial database to the final database. These irregularities can be categorized according to their scope. Irregularities can be successfully detected by a machine learning algorithm as early or earlier than a human can, without human intervention. Such an approach may complement existing techniques for central statistical monitoring in large multi-center randomized controlled trials and possibly improve the efficiency of costly data verification processes.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,717
score de la tête « metaresearch » (Gemma)0,990
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche, Méta-épidémiologie (sens strict), Méta-épidémiologie (sens large), Intégrité de la recherche, Charge utile insuffisante (le modèle a refusé de juger)
Catégories consensuellesMétarecherche
DomaineSignal candidat: Méthodes · Signal consensuel: aucune
Devis d'étudeSignal candidat: Théorique ou conceptuel · Signal consensuel: aucune
GenreSignal candidat: Méthodes · Signal consensuel: Méthodes
Score de désaccord entre enseignants0,624
Score d'incertitude au seuil1,000

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,7170,990
Méta-épidémiologie (sens strict)0,0010,000
Méta-épidémiologie (sens large)0,0320,008
Bibliométrie0,0010,001
Études des sciences et des technologies0,0000,001
Communication savante0,0010,000
Science ouverte0,0000,000
Intégrité de la recherche0,0010,002
Charge utile insuffisante (le modèle a refusé de juger)0,0020,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,869
Tête enseignante GPT0,696
Écart entre enseignants0,173 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; les deux têtes enseignantes s’accordent sur ce qui est montré ici.

Devis d'étudeThéorique ou conceptuel
DomaineMéthodes
GenreMéthodes

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations1
Publié2024
Routes d'admission2
Résumé présentoui

Explorer davantage

Même revueClinical TrialsMême sujetStatistical Methods in Clinical TrialsTravaux en français237 207