MétaCan
Menu
Retour à la cohorte
Enregistrement W3028923082 · doi:10.1001/jamanetworkopen.2020.5535

Development and Validation of a Tool to Assess the Quality of Clinical Practice Guideline Recommendations

2020· article· en· W3028923082 sur OpenAlexafffund
Melissa Brouwers, Karen Spithoff, Kate Kerkvliet, Pablo Alonso‐Coello, Jako Burgers, Françoise Cluzeau, Béatrice Fervers, Ian D. Graham, Jeremy Grimshaw, Steven Hanna, Monika Kastner, Michelle E. Kho, Amir Qaseem, Sharon E. Straus, Iván D. Flórez

Notice bibliographique

RevueJAMA Network Open · 2020
Typearticle
Langueen
DomaineMedicine
ThématiqueClinical practice guidelines implementation
Établissements canadiensSt. Michael's HospitalNorth York General HospitalOttawa HospitalMcMaster UniversityUniversity of Ottawa
Organismes subventionnairesCanadian Institutes of Health Research
Mots-clésUsabilityGuidelineCronbach's alphaReliability (semiconductor)Scale (ratio)ExcellenceQuality (philosophy)PsychologyApplied psychologyRigourMedical educationMedicinePsychometricsComputer scienceClinical psychologyMathematics

Résumé

récupéré en direct d'OpenAlex

Importance: Clinical practice guidelines (CPGs) may lack rigor and suitability to the setting in which they are to be applied. Methods to yield clinical practice guideline recommendations that are credible and implementable remain to be determined. Objective: To describe the development of AGREE-REX (Appraisal of Guidelines Research and Evaluation-Recommendations Excellence), a tool designed to evaluate the quality of clinical practice guideline recommendations. Design, Setting, and Participants: A cross-sectional study of 322 international stakeholders representing CPG developers, users, and researchers was conducted between December 2015 and March 2019. Advertisements to participate were distributed through professional organizations as well as through the AGREE Enterprise social media accounts and their registered users. Exposures: Between 2015 and 2017, participants appraised 1 of 161 CPGs using the Draft AGREE-REX tool and completed the AGREE-REX Usability Survey. Main Outcomes and Measures: Usability and measurement properties of the tool were assessed with 7-point scales (1 indicating strong disagreement and 7 indicating strong agreement). Internal consistency of items was assessed with the Cronbach α, and the Spearman-Brown reliability adjustment was used to calculate reliability for 2 to 5 raters. Results: A total of 322 participants (202 female participants [62.7%]; 83 aged 40-49 years [25.8%]) rated the survey items (on a 7-point scale). All 11 items were rated as easy to understand (with a mean [SD] ranging from 5.2 [1.38] for the alignment of values item to 6.3 [0.87] for the evidence item) and easy to apply (with a mean [SD] ranging from 4.8 [1.49] for the alignment of values item to 6.1 [1.07] for the evidence item). Participants provided favorable feedback on the tool's instructions, which were considered clear (mean [SD], 5.8 [1.06]), helpful (mean [SD], 5.9 [1.00]), and complete (mean [SD], 5.8 [1.11]). Participants considered the tool easy to use (mean [SD], 5.4 [1.32]) and thought that it added value to the guideline enterprise (mean [SD], 5.9 [1.13]). Internal consistency of the items was high (Cronbach α = 0.94). Positive correlations were found between the overall AGREE-REX score and the implementability score (r = 0.81) and the clinical credibility score (r = 0.76). Conclusions and Relevance: This cross-sectional study found that the AGREE-REX tool can be useful in evaluating CPG recommendations, differentiating among them, and identifying those that are clinically credible and implementable for practicing health professionals and decision makers who use recommendations to inform clinical policy.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,270
score de la tête « metaresearch » (Gemma)0,484
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesMétarecherche
DomaineSignal candidat: Méthodes · Signal consensuel: aucune
Devis d'étudeSignal candidat: Expérimental (laboratoire) · Signal consensuel: aucune
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,730
Score d'incertitude au seuil0,900

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,2700,484
Méta-épidémiologie (sens strict)0,0010,001
Méta-épidémiologie (sens large)0,0020,005
Bibliométrie0,0120,008
Études des sciences et des technologies0,0020,002
Communication savante0,0070,006
Science ouverte0,0030,006
Intégrité de la recherche0,0030,003
Charge utile insuffisante (le modèle a refusé de juger)0,0030,002

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,645
Tête enseignante GPT0,624
Écart entre enseignants0,021 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; l’étiquette directe de Gemma et le classifieur distillé Codex s’accordent sur ce qui est montré ici.

Devis d'étudeExpérimental (laboratoire)
DomaineMéthodes
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations235
Publié2020
Routes d'admission2
Résumé présentoui

Explorer davantage

Même revueJAMA Network OpenMême sujetClinical practice guidelines implementationTravaux en français237 207