MétaCan
Menu
Retour à la cohorte
Enregistrement W4221009963 · doi:10.1186/s43058-021-00236-4

Development of the ASSESS tool: a comprehenSive tool to Support rEporting and critical appraiSal of qualitative, quantitative, and mixed methods implementation reSearch outcomes

2022· article· en· W4221009963 sur OpenAlexfundno aff
Nessa Ryan, Dorice Vieira, Joyce Gyamfi, Temitope Ojo, Donna Shelley, Olugbenga Ogedegbe, Juliet Iwelunmor, Emmanuel Peprah

Notice bibliographique

RevueImplementation Science Communications · 2022
Typearticle
Langueen
DomaineHealth Professions
ThématiqueHealth Policy Implementation Science
Établissements canadiensnon disponible
Organismes subventionnairesNational Institutes of HealthNational Center for Advancing Translational SciencesYork UniversityGeorgia Clinical and Translational Science Alliance
Mots-clésCritical appraisalDelphi methodDelphiComputer scienceManagement scienceProcess managementProcess (computing)Knowledge managementMedicineEngineering

Résumé

récupéré en direct d'OpenAlex

BACKGROUND: Several tools to improve reporting of implementation studies for evidence-based decision making have been created; however, no tool for critical appraisal of implementation outcomes exists. Researchers, practitioners, and policy makers lack tools to support the concurrent synthesis and critical assessment of outcomes for implementation research. Our objectives were to develop a comprehensive tool to (1) describe studies focused on implementation that use qualitative, quantitative, and/or mixed methodologies and (2) assess risk of bias of implementation outcomes. METHODS: A hybrid consensus-building approach combining Delphi Group and Nominal Group techniques (NGT) was modeled after comparative methodologies for developing health research reporting guidelines and critical appraisal tools. First, an online modified NGT occurred among a small expert panel (n = 5), consisting of literature review, item generation, round robin with clarification, application of the tool to various study types, voting, and discussion. This was followed by a larger e-consensus meeting and modified Delphi process with implementers and implementation scientists (n = 32). New elements and elements of various existing tools, frameworks, and taxonomies were combined to produce the ASSESS tool. RESULTS: The 24-item tool is applicable to a broad range of study designs employed in implementation science, including qualitative studies, randomized-control trials, non-randomized quantitative studies, and mixed methods studies. Two key features are a section for assessing bias of the implementation outcomes and sections for describing the implementation strategy and intervention implemented. An accompanying explanation and elaboration document that identifies and describes each of the items, explains the rationale, and provides examples of reporting and appraising practice, as well as templates to allow synthesis of extracted data across studies and an instructional video, has been prepared. CONCLUSIONS: The comprehensive, adaptable tool to support both reporting and critical appraisal of implementation science studies including quantitative, qualitative, and mixed methods assessment of intervention and implementation outcomes has been developed. This tool can be applied to a methodologically diverse and growing body of implementation science literature to support reviews or meta-analyses that inform evidence-based decision-making regarding processes and strategies for implementation.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Étiquettes directes de modèles (non validées)

Étiquettes de catégorie et de devis d'étude par modèle, issues des rondes d'étiquetage. C'est une sortie machine, non validée, et le désaccord entre modèles est livré comme donnée. Aucun devis ici n'est encore validé contre MEDLINE.

BrasCatégoriesDevis d'étudeConfiance
gemmaMétarecherche
Domaine: Présentation des résultats · Genre: Méthodes
Porte sur le système de recherche canadien: non · Porte sur un sujet canadien: non
Théorique ou conceptuellow
gptMétarecherche
Domaine: Présentation des résultats · Genre: Méthodes
Porte sur le système de recherche canadien: non · Porte sur un sujet canadien: non
Autre devishigh
modèles en désaccordL'accord compare des ensembles de catégories et des devis identiques entre les bras.

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,402
score de la tête « metaresearch » (Gemma)0,547
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesMétarecherche
DomaineSignal candidat: Présentation des résultats · Signal consensuel: aucune
Devis d'étudeSignal candidat: Théorique ou conceptuel · Signal consensuel: aucune
GenreSignal candidat: Méthodes · Signal consensuel: Méthodes
Score de désaccord entre enseignants0,598
Score d'incertitude au seuil0,737

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,4020,547
Méta-épidémiologie (sens strict)0,0050,006
Méta-épidémiologie (sens large)0,0060,009
Bibliométrie0,0350,021
Études des sciences et des technologies0,0030,004
Communication savante0,0130,015
Science ouverte0,0070,020
Intégrité de la recherche0,0040,010
Charge utile insuffisante (le modèle a refusé de juger)0,0260,012

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,924
Tête enseignante GPT0,840
Écart entre enseignants0,084 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Étiqueté directement par 2 modèles lisant le dossier complet.

Métarecherche

Les modèles divergent sur des parties de cette classification; chaque voix est préservée dans la section en fin de page.

Devis d'étudeThéorique ou conceptuel · Autre devis
DomainePrésentation des résultats
GenreMéthodes

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations37
Publié2022
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueImplementation Science CommunicationsMême sujetHealth Policy Implementation ScienceCatégorieMétarechercheTravaux en français237 207