MétaCan
Menu
← Retour à la cohorte
Enregistrement W6949125122 · doi:10.5281/zenodo.12106294

Evaluation reports for TEBT-2023-0011 - Svendsen et al.

2024· peer-review· en· W6949125122 sur OpenAlexaff

Notice bibliographique

RevueZenodo (CERN European Organization for Nuclear Research) · 2024
Typepeer-review
Langueen
DomaineEarth and Planetary Sciences
ThématiqueSubterranean biodiversity and taxonomy
Établissements canadiensUniversity of Calgary
Organismes subventionnairesnon disponible
Mots-clésVocabularyProtocol (science)Reciprocity (cultural anthropology)Transparency (behavior)Representation (politics)Plan (archaeology)Term (time)Process (computing)

Résumé

récupéré en direct d'OpenAlex

Evaluation report for "Cross-mapping of terms used in chemical risk assessment with 1 those used in systematic review: research protocol" (Svendsen et al). This manuscript describes a protocol for cross-mapping core terms used by the systematic review and chemical risk assessment communities to improve inter-operability and communication. The proposed method originally consised of drafting a long list of terms using Term Frequency - Inverse Document Frequency (TF-IDF) method in the first phase, followed by three consecutive phases using consensus-based approaches to derive definitions of terms and identify overlaps. Editorial triage found that overall the objective, approach, and plan of analysis were clear and sound. The only suggestions to improve transparency was to add further detail on any text mining tool employed for the first phase and extend the consideration of lack of representation within recruited experts beyond specific institutions to also consider personal characteristics such as age, gender, race etc. The first round of peer review generated very valuable and detailed comments on the proposed methodology that highlight where detail on specific steps and/or justification for the selection of a specific approach is lacking, including grounding the protocol on a solid up-to-date understanding of methods for consensus building and controlled vocabulary development. Some more fundamental questions were raised about the symmetry of the translation effort and the reciprocity of the exchange between the two communities. The authors have clearly engaged with the peer review process and reflected on their proposed methods. The authors piloted the originally proposed Term Frequency - Inverse Document Frequency (TF-IDF) method on the document collections. As it did not perform as expected, a new and simpler manual approach has been suggested. As a result, the proposed methods have been amended and simplified. The authors have also provided detailed answers to comments and in most instances have amended the manuscript accordingly. During the second round of peer review, reviewers expressed their satisfaction with simplified methods. A few remaining issues have been addressed in responses to reviewers for which it would be desirable also to amend the text to improve transparency. The authors did as suggested and submitted the final version of the manuscript which was accepted. The following points of scientific interest were surfaced by the review process; first, piloting planned methods whenever feasible is worthwhile exercise that may lead to simpler, improved methods, secondly, the perspective of reviewers from other academic disciplines on similar issues was very useful and allowed authors to benefit from experience gained in those disciplines.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,327
score de la tête « metaresearch » (Gemma)0,542
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesMétarecherche
DomaineSignal candidat: Évaluation · Signal consensuel: aucune
Devis d'étudeSignal candidat: Sans objet · Signal consensuel: Sans objet
GenreSignal candidat: Autre · Signal consensuel: aucune
Score de désaccord entre enseignants0,673
Score d'incertitude au seuil0,830

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,3270,542
Méta-épidémiologie (sens strict)0,0040,004
Méta-épidémiologie (sens large)0,0070,016
Bibliométrie0,0100,010
Études des sciences et des technologies0,0040,003
Communication savante0,0120,009
Science ouverte0,0060,010
Intégrité de la recherche0,0100,010
Charge utile insuffisante (le modèle a refusé de juger)0,1390,035

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,141
Tête enseignante GPT0,288
Écart entre enseignants0,147 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; l’étiquette directe de Gemma et le classifieur distillé Codex s’accordent sur ce qui est montré ici.

Devis d'étudeSans objet
DomaineÉvaluation
GenreAutre

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations0
Publié2024
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueZenodo (CERN European Organization for Nuclear Research)→Même sujetSubterranean biodiversity and taxonomy→Travaux en français237 207→