MétaCan
Menu
Back to cohort
Record W7114792194 · doi:10.5281/zenodo.17783098

Um Guia Prático para Implementar uma Avaliação Responsável da Pesquisa em Organizações Realizadoras de Pesquisa

2025· article· W7114792194 on OpenAlexaff

Bibliographic record

VenueZenodo (CERN European Organization for Nuclear Research) · 2025
Typearticle
Language
FieldSocial Sciences
TopicEducation and Public Policy
Canadian institutionsUniversity of Ottawa
FundersArcadia Fund
KeywordsOrder (exchange)Local DevelopmentContext (archaeology)

Abstract

fetched live from OpenAlex

O "Guia Prático para Implementar uma Avaliação Responsável da Pesquisa em Organizações Realizadoras de Pesquisa" oferece orientações práticas, recursos e exemplos ilustrativos para instituições de pesquisa que buscam moldar e implementar práticas de avaliação responsável da pesquisa (ARP). Isso inclui instituições que desejam criar uma estratégia de ARP, organizações que querem reformular práticas existentes e organizações que simplesmente desejam adotar abordagens mais holísticas e inclusivas para a avaliação da pesquisa. Uma única abordagem para a avaliação da pesquisa certamente não serve para todos, portanto, o Guia foi concebido como uma ferramenta inspiradora. Ele é agnóstico em relação à disciplina, flexível e adaptável a diversos contextos organizacionais e disciplinares. Prevemos que o Guia Prático será modificado e atualizado ao longo do tempo, e especialmente enriquecido com exemplos reais e por meio do feedback de instituições de pesquisa à medida que começarem a utilizá-lo. O Guia Prático foi desenvolvido em conjunto com as partes interessadas que se reuniram em 31 de janeiro de 2025 em Maryland, EUA, cujas valiosas contribuições reconhecemos com gratidão. Agradecemos também o valioso feedback dos membros do Comitê Diretivo do DORA, Sean Sapcariu e Bernd Pulverer. Somos gratos a Janet Catterall por sua ajuda na compilação e organização das referências e recursos de apoio mencionados no Guia. A tradução deste Guia para o Português contou com a ajuda do Instituto de Ciências Biomédicas, do Projeto Métricas e da Rede Brasileira de Reprodutibilidade. Muito obrigada a Patrícia Gama, Justin Axel-Berg, Eduarda Centeno, Olavo Amaral, Ricardo Ceneviva, Isis Trajano e Juliana Fernandes. O Guia Prático foi criado como parte do Projeto TARA e, juntamente com o Reformscape, os Building Blocks for Impact e a Debiasing Committee Composition, forma um conjunto de ferramentas desenvolvido para auxiliar organizações que buscam reformar as práticas de avaliação de pesquisa. O Projeto TARA é apoiado pela Arcadia, uma fundação familiar beneficente que ajuda pessoas a registrar o patrimônio cultural, conservar e restaurar a natureza e promover o acesso aberto ao conhecimento, a quem agradecemos. Desde 2002, a Arcadia concedeu mais de US$ 1,2 bilhão a organizações em todo o mundo. Em maio de 2026, o Guia Prático para Organizações Realizadoras de Pesquisa (ORP) passou a contar com um guia complementar para Organizações Financiadoras de Pesquisa (OFP), desenvolvido em colaboração com o Grupo de Trabalho em Avaliação Responsável da Pesquisa (RRA) do Global Research Council e a Science Europe. Ele foi traduzido para o Português e está disponível aqui. O Guia Prático para OFPs foi concebido para ser utilizado em conjunto com a Ferramenta de Autoavaliação em Avaliação Responsável da Pesquisa para Financiadores (RRA Self-Assessment Tool for Funders), uma ferramenta diagnóstica que permite às organizações financiadoras avaliar seus próprios processos e planejar uma implementação mais estruturada da Avaliação Responsável da Pesquisa, alinhada às práticas globais. Essa ferramenta foi desenvolvida pelo Grupo de Trabalho em ARP do Global Research Council em colaboração com a DORA. Esta publicação está licenciada sob a Licença Creative Commons Atribuição-NãoComercial CC BY-NC. Esta informação pode ser livremente usada, copiada e adaptada para fins não comerciais, desde que a fonte seja citada. Os autores estão ordenados alfabeticamente por sobrenome.

Fetched live from OpenAlex and de-inverted. Abstracts are not stored in this database: the inverted indexes are 8.6 GB of the frame’s 9.3 GB of text, and the host has 13 GB free.

How this classification was reachedexpand

Full frame machine prediction

Teacher imitation

Not calibrated prevalence, not ground truth. Human validation pending. The Gemma side is a direct model label for every work in the frame, read from the title-only record. The Codex side is a classifier learned from the 10,348 direct Codex labels and calibrated to design-weighted sample rates; fields without enough sample support carry no Codex call. Candidate is the union of the two sides; consensus is their intersection. These outputs are machine_predicted_unvalidated and are not human labels.

metaresearch head score (Codex)0.008
metaresearch head score (Gemma)0.010
Version: metacan-v3-hybrid-931329e0061cValidation status: machine_predicted_unvalidated
Candidate categoriesMetaresearch
Consensus categoriesnone
DomainCandidate signal: Evaluation · Consensus signal: none
Study designCandidate signal: Not applicable · Consensus signal: none
GenreCandidate signal: Methods · Consensus signal: Methods
Teacher disagreement score0.992
Threshold uncertainty score0.078

Distilled classifier scores by category (both heads)

CategoryCodexGemma
Metaresearch0.0080.010
Meta-epidemiology (narrow)0.0010.001
Meta-epidemiology (broad)0.0010.001
Bibliometrics0.0020.002
Science and technology studies0.0040.006
Scholarly communication0.0110.009
Open science0.0020.009
Research integrity0.0040.004
Insufficient payload (model declined to judge)0.0230.008

Machine scores (provisional)

The two teacher heads of the student model, read on this work. A score orders the frame for review; it never asserts a category, and the validation status ships verbatim with every row.

Baseline scores from an immature model (maturity gate not passed, 7 training rounds). Scores rank; they never assert a category.

Opus teacher head0.072
GPT teacher head0.368
Teacher spread0.296 · how far apart the two teachers sit on this one work
Validation statusscore_only:v0-immature-baseline · verbatim from the scoring run: score_only means the number may rank works, and no category label ships from it

Classification

machine, unvalidated

Machine predicted; a candidate call from one source (direct Gemma or distilled Codex), not a consensus.

Study designNot applicable
DomainEvaluation
GenreMethods

How this classification was reached, model by model and score by score, is at the end of the page under "How this classification was reached".

Quick stats

Citations0
Published2025
Admission routes1
Has abstractyes

Explore more

Same venueZenodo (CERN European Organization for Nuclear Research)Same topicEducation and Public PolicyFrench-language works237,207