MétaCan
Menu
Retour à la cohorte
Enregistrement W4385858554 · doi:10.1016/j.zefq.2023.06.007

A narrative review of recent tools and innovations toward automating living systematic reviews and evidence syntheses

2023· review· de· W4385858554 sur OpenAlexaff
Lena Schmidt, Mark Sinyor, Roger T. Webb, Christopher Marshall, Duleeka Knipe, Emily Eyles, Ann John, David Gunnell, Julian P. T. Higgins

Notice bibliographique

RevueZeitschrift für Evidenz Fortbildung und Qualität im Gesundheitswesen · 2023
Typereview
Languede
DomaineDecision Sciences
ThématiqueMeta-analysis and systematic reviews
Établissements canadiensUniversity of TorontoSunnybrook Health Science CentreHealth Sciences Centre
Organismes subventionnairesNational Institute for Health and Care Research
Mots-clésNarrativeSystematic reviewData scienceNarrative reviewComputer scienceEngineering ethicsPsychologyEngineeringMEDLINEChemistryArtLiteraturePsychotherapistBiochemistry

Résumé

récupéré en direct d'OpenAlex

Living reviews are an increasingly popular research paradigm. The purpose of a 'living' approach is to allow rapid collation, appraisal and synthesis of evolving evidence on an important research topic, enabling timely influence on patient care and public health policy. However, living reviews are time- and resource-intensive. The accumulation of new evidence and the possibility of developments within the review's research topic can introduce unique challenges into the living review workflow. To investigate the potential of software tools to support living systematic or rapid reviews, we present a narrative review informed by an examination of tools contained on the Systematic Review Toolbox website. We identified 11 tools with relevant functionalities and discuss the important features of these tools with respect to different steps of the living review workflow. Four tools (NestedKnowledge, SWIFT-ActiveScreener, DistillerSR, EPPI-Reviewer) covered multiple, successive steps of the review process, and the remaining tools addressed specific components of the workflow, including scoping and protocol formulation, reference retrieval, automated data extraction, write-up and dissemination of data. We identify several ways in which living reviews can be made more efficient and practical. Most of these focus on general workflow management, or automation through artificial intelligence and machine-learning, in the screening process. More sophisticated uses of automation mostly target living rapid reviews to increase the speed of production or evidence maps to broaden the scope of the map. We use a case study to highlight some of the barriers and challenges to incorporating tools into the living review workflow and processes. These include increased workload, the need for organisation, ensuring timely dissemination and challenges related to the development of bespoke automation tools to facilitate the review process. We describe how current end-user tools address these challenges, and which knowledge gaps remain that could be addressed by future tool development. Dedicated web presences for automatic dissemination of in-progress evidence updates, rather than solely relying on peer-reviewed journal publications, help to make the effort of a living evidence synthesis worthwhile. Despite offering basic living review functionalities, existing end-user tools could be further developed to be interoperable with other tools to support multiple workflow steps seamlessly, to address broader automatic evidence retrieval from a larger variety of sources, and to improve dissemination of evidence between review updates.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,083
score de la tête « metaresearch » (Gemma)0,369
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesaucune
DomaineSignal candidat: Méthodes · Signal consensuel: aucune
Devis d'étudeSignal candidat: Sans objet · Signal consensuel: aucune
GenreSignal candidat: Synthèse · Signal consensuel: Synthèse
Score de désaccord entre enseignants0,917
Score d'incertitude au seuil0,440

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,0830,369
Méta-épidémiologie (sens strict)0,0020,002
Méta-épidémiologie (sens large)0,0030,006
Bibliométrie0,0290,023
Études des sciences et des technologies0,0020,003
Communication savante0,0090,011
Science ouverte0,0030,006
Intégrité de la recherche0,0040,004
Charge utile insuffisante (le modèle a refusé de juger)0,0090,003

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,841
Tête enseignante GPT0,602
Écart entre enseignants0,239 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.

Devis d'étudeSans objet
DomaineMéthodes
GenreSynthèse

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations33
Publié2023
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueZeitschrift für Evidenz Fortbildung und Qualität im GesundheitswesenMême sujetMeta-analysis and systematic reviewsTravaux en français237 207