MétaCan
Menu
Retour à la cohorte
Enregistrement W2885369894 · doi:10.1093/reseval/rvy023

Formative, embedded evaluation to strengthen interdisciplinary team science: Results of a 4-year, mixed methods, multi-country case study

2018· article· en· W2885369894 sur OpenAlexafffund
Susan Roelofs, Nancy Edwards, Sarah Viehbeck, Cody Anderson

Notice bibliographique

RevueResearch Evaluation · 2018
Typearticle
Langueen
DomaineDecision Sciences
ThématiqueInterdisciplinary Research and Collaboration
Établissements canadiensWilfrid Laurier UniversityUniversity of WaterlooPublic Safety CanadaUniversity of Ottawa
Organismes subventionnairesSeventh Framework ProgrammeTerveyden ja hyvinvoinnin laitosUniversiteit van TilburgSyddansk UniversitetEuropean CommissionUniversity of Ottawa
Mots-clésFormative assessmentStakeholderParticipatory evaluationCitizen journalismPsychologySocial network analysisParticipatory action researchVariance (accounting)Knowledge managementMedical educationPublic relationsSociologyPolitical scienceBusinessComputer scienceMedicinePedagogy

Résumé

récupéré en direct d'OpenAlex

Evaluation of interdisciplinary, team science research initiatives is an evolving and challenging field. This descriptive, longitudinal, mixed methods case study examined how an embedded, formative evaluation approach contributed to team science in the interdisciplinary Research into Policy to Enhance Physical Activity (REPOPA) project, which focused on physical activity policymaking in six European countries with divergent policy systems and researcher–policymaker networks. We assessed internal project collaboration, communication, and networking in four annual data collection cycles with REPOPA team members. Data were collected using work package team and individual interviews, and quantitative collaboration and social network questionnaires. Interviews were content analyzed; social networks among team members and with external stakeholder were examined; collaboration scores were compared across 4 years using analysis of variance (ANOVA). Annual monitoring reports with action recommendations were prepared and discussed with consortium members. Results revealed consistently high response rates. Collaboration and communication scores, high at baseline, improved slightly, but ANOVA results were nonsignificant. Internal network changes tracked closely with implementation progress. External stakeholders were primarily governmental, with a marked shift from local/provincial level to national/international during the project. Diversity (disciplinary, organizational, and geopolitical) was a project asset influencing and also challenging collaboration, implementation, and knowledge translation strategies. In conclusion, formative evaluation using an embedded, participatory approach demonstrated utility, acceptability, and researcher engagement. A trusting relationship between evaluators and other project members built on joint identification of team science objectives for the evaluation at project outset, codeveloping guiding principles, and encouraging team reflexivity throughout the evaluation.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Étiquettes directes de modèles (non validées)

Étiquettes de catégorie et de devis d'étude par modèle, issues des rondes d'étiquetage. C'est une sortie machine, non validée, et le désaccord entre modèles est livré comme donnée. Aucun devis ici n'est encore validé contre MEDLINE.

BrasCatégoriesDevis d'étudeConfiance
gemmaMétarecherche
Domaine: Évaluation · Genre: Empirique
Porte sur le système de recherche canadien: non · Porte sur un sujet canadien: non
Qualitatiflow
gptMétarecherche
Domaine: Évaluation · Genre: Empirique
Porte sur le système de recherche canadien: non · Porte sur un sujet canadien: non
Observationnelhigh
modèles en désaccordL'accord compare des ensembles de catégories et des devis identiques entre les bras.

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,241
score de la tête « metaresearch » (Gemma)0,209
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesMétarecherche
DomaineSignal candidat: Évaluation · Signal consensuel: aucune
Devis d'étudeSignal candidat: Qualitatif · Signal consensuel: Qualitatif
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,759
Score d'incertitude au seuil0,936

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,2410,209
Méta-épidémiologie (sens strict)0,0020,001
Méta-épidémiologie (sens large)0,0020,002
Bibliométrie0,0040,003
Études des sciences et des technologies0,0070,005
Communication savante0,0060,005
Science ouverte0,0040,009
Intégrité de la recherche0,0030,002
Charge utile insuffisante (le modèle a refusé de juger)0,0010,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,450
Tête enseignante GPT0,656
Écart entre enseignants0,206 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Étiqueté directement par 2 modèles lisant le dossier complet.

Métarecherche

Les modèles divergent sur des parties de cette classification; chaque voix est préservée dans la section en fin de page.

Devis d'étudeQualitatif · Observationnel
DomaineÉvaluation
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations22
Publié2018
Routes d'admission2
Résumé présentoui

Explorer davantage

Même revueResearch EvaluationMême sujetInterdisciplinary Research and CollaborationCatégorieMétarechercheTravaux en français237 207