MétaCan
Menu
Retour à la cohorte
Enregistrement W4307560953 · doi:10.1186/s12874-022-01750-2

How can clinicians choose between conflicting and discordant systematic reviews? A replication study of the Jadad algorithm

2022· review· en· W4307560953 sur OpenAlexafffund
Carole Lunny, Sai Surabi Thirugnanasampanthar, Salmaan Kanji, Nicola Ferri, Dawid Pieper, Sera Whitelaw, Sara Tasnim, Harrison Nelson, Emma K. Reid, Jia He Zhang, Banveer Kalkat, Yuan Chi, Reema Abdoulrezzak, Di Wen Zheng, Lindy R.S. Pangka, Dian Wang, Parisa Safavi, Anmol Sooch, Kevin T. Kang, Andrea C. Tricco

Notice bibliographique

RevueBMC Medical Research Methodology · 2022
Typereview
Langueen
DomaineDecision Sciences
ThématiqueMeta-analysis and systematic reviews
Établissements canadiensQueen's UniversityMcGill University Health CentreUniversity of TorontoOttawa HospitalUniversity of British ColumbiaNova Scotia Health AuthorityCochraneSt. Michael's Hospital
Organismes subventionnairesCanadian Institutes of Health Research
Mots-clésJadad scaleReplicateSystematic reviewAlgorithmComputer scienceReplication (statistics)MEDLINEMedicineData scienceMeta-analysisMathematicsStatisticsPathologyBiology

Résumé

récupéré en direct d'OpenAlex

INTRODUCTION: The exponential growth of published systematic reviews (SRs) presents challenges for decision makers seeking to answer clinical, public health or policy questions. In 1997, an algorithm was created by Jadad et al. to choose the best SR across multiple. Our study aims to replicate author assessments using the Jadad algorithm to determine: (i) if we chose the same SR as the authors; and (ii) if we reach the same results. METHODS: We searched MEDLINE, Epistemonikos, and Cochrane Database of SRs. We included any study using the Jadad algorithm. We used consensus building strategies to operationalise the algorithm and to ensure a consistent approach to interpretation. RESULTS: We identified 21 studies that used the Jadad algorithm to choose one or more SRs. In 62% (13/21) of cases, we were unable to replicate the Jadad assessment and ultimately chose a different SR than the authors. Overall, 18 out of the 21 (86%) independent Jadad assessments agreed in direction of the findings despite 13 having chosen a different SR. CONCLUSIONS: Our results suggest that the Jadad algorithm is not reproducible between users as there are no prescriptive instructions about how to operationalise the algorithm. In the absence of a validated algorithm, we recommend that healthcare providers, policy makers, patients and researchers address conflicts between review findings by choosing the SR(s) with meta-analysis of RCTs that most closely resemble their clinical, public health, or policy question, are the most recent, comprehensive (i.e. number of included RCTs), and at the lowest risk of bias.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,852
score de la tête « metaresearch » (Gemma)0,938
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche, Méta-épidémiologie (sens strict), Méta-épidémiologie (sens large), Science ouverte, Intégrité de la recherche, Charge utile insuffisante (le modèle a refusé de juger)
Catégories consensuellesMétarecherche
DomaineSignal candidat: Méthodes · Signal consensuel: Méthodes
Devis d'étudeSignal candidat: Sans objet · Signal consensuel: aucune
GenreSignal candidat: Synthèse · Signal consensuel: Synthèse
Score de désaccord entre enseignants0,966
Score d'incertitude au seuil1,000

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,8520,938
Méta-épidémiologie (sens strict)0,0010,000
Méta-épidémiologie (sens large)0,0300,004
Bibliométrie0,0010,005
Études des sciences et des technologies0,0010,001
Communication savante0,0010,000
Science ouverte0,0090,003
Intégrité de la recherche0,0000,003
Charge utile insuffisante (le modèle a refusé de juger)0,0020,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,985
Tête enseignante GPT0,760
Écart entre enseignants0,225 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; les deux têtes enseignantes s’accordent sur ce qui est montré ici.

Devis d'étudeSans objet
DomaineMéthodes
GenreSynthèse

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations24
Publié2022
Routes d'admission2
Résumé présentoui

Explorer davantage

Même revueBMC Medical Research MethodologyMême sujetMeta-analysis and systematic reviewsTravaux en français237 207