MétaCan
Menu
Retour à la cohorte
Enregistrement W2884381622 · doi:10.1111/jep.12997

The evolution of <scp>GRADE</scp> (part 2): Still searching for a theoretical and/or empirical basis for the <scp>GRADE</scp> framework

2018· article· en· W2884381622 sur OpenAlexaff
Mathew Mercuri, Amiram Gafni

Notice bibliographique

RevueJournal of Evaluation in Clinical Practice · 2018
Typearticle
Langueen
DomaineDecision Sciences
ThématiqueMeta-analysis and systematic reviews
Établissements canadiensImpactMcMaster UniversityUniversity of Toronto
Organismes subventionnairesnon disponible
Mots-clésOperationalizationAcknowledgementTransparency (behavior)CLARITYComputer scienceEmpirical examinationEmpirical researchQuality (philosophy)Empirical evidenceScheme (mathematics)Management scienceActuarial scienceEpistemologyMathematicsStatisticsEconomics

Résumé

récupéré en direct d'OpenAlex

RATIONALE, AIMS, AND OBJECTIVES: The GRADE framework has been widely adopted as the preferred method for developing clinical practice recommendations. In the first article of our three part series examining the evolution of GRADE, we showed an absence (in the first two versions of GRADE) of a theoretical basis and/or empirical data to support why the presented criteria for determining the quality of evidence regarding the effect estimate and the components under consideration for determining the strength of the recommendation were included and other criteria/components excluded. Furthermore, often, it was not clear how to operationalize the included criteria/components (and integrate them) when using the framework. In part 2 of this series, we examine if version 3 of GRADE offered improvements on previous versions with respect to a justification scheme and how to operationalize the framework's criteria/components. METHODS: Narrative review. RESULTS: Our examination suggests that version 3 has done little to improve on the justification scheme that sustains GRADE. Still absent is a justification (theoretical and/or empirical) for why the criteria/components were chosen. Likewise, version 3 is still lacking clarity regarding how to implement and integrate the criteria/considerations in the framework (ie, operationalize the framework) when determining the quality of evidence or strength of recommendation. Transparency is now emphasized as the merit of GRADE. However, we are offered no theoretical justification for how the use of GRADE should achieve transparency or empirical evidence to support that transparency is achieved. CONCLUSIONS: While version 3 reveals acknowledgement by the authors of GRADE that the framework is a work in progress, it still lacks a justification scheme (theoretical and/or empirical) to sustain it and clarity in its criteria/components to operationalize it. As was suggested in part 1, such issues limit one's ability to scientifically assess the appropriateness of GRADE for its stated purpose.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,531
score de la tête « metaresearch » (Gemma)0,830
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesMétarecherche
DomaineSignal candidat: Méthodes · Signal consensuel: aucune
Devis d'étudeSignal candidat: Théorique ou conceptuel · Signal consensuel: aucune
GenreSignal candidat: Empirique · Signal consensuel: aucune
Score de désaccord entre enseignants0,469
Score d'incertitude au seuil0,578

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,5310,830
Méta-épidémiologie (sens strict)0,0020,004
Méta-épidémiologie (sens large)0,0070,009
Bibliométrie0,0180,018
Études des sciences et des technologies0,0050,020
Communication savante0,0340,022
Science ouverte0,0140,016
Intégrité de la recherche0,0170,034
Charge utile insuffisante (le modèle a refusé de juger)0,0050,003

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,730
Tête enseignante GPT0,651
Écart entre enseignants0,079 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; l’étiquette directe de Gemma et le classifieur distillé Codex s’accordent sur ce qui est montré ici.

Devis d'étudeThéorique ou conceptuel
DomaineMéthodes
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations19
Publié2018
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueJournal of Evaluation in Clinical PracticeMême sujetMeta-analysis and systematic reviewsTravaux en français237 207