MétaCan
Menu
Retour à la cohorte
Enregistrement W4393901512 · doi:10.3138/cjpe-2024-0002

Evaluation Literacy and Use in Community Organizations: Insights and Implications for Evaluation Capacity Building

2024· article· en· W4393901512 sur OpenAlexaffvenue
David Buetti, Isabelle Bourgeois, Sébastien Savard

Notice bibliographique

RevueCanadian Journal of Program Evaluation · 2024
Typearticle
Langueen
DomaineDecision Sciences
ThématiqueEvaluation and Performance Assessment
Établissements canadiensUniversity of Ottawa
Organismes subventionnairesAustralian Government
Mots-clésCapacity buildingLiteracyBusinessCapacity developmentEnvironmental planningEnvironmental resource managementSociologyEconomic growthEconomicsPedagogyGeography

Résumé

récupéré en direct d'OpenAlex

Past research on evaluation capacity in community organizations has focused on their capacity to conduct rather than use evaluation. This study sought to address this gap by exploring evaluation use and the supporting processes, systems, and structures in the community sector. The authors administered an online survey to 102 individuals working or involved in community organizations to measure their perceptions of their organization’s capacity to use evaluation. The survey was based on an adaptation of Bourgeois and Cousins’ evaluation capacity framework and a related assessment tool, the Organizational Evaluation Capacity Assessment Instrument, for the community sector context. Their findings offer empirical insights into three critical dimensions of the adapted framework associated with evaluation use in community organizations: evaluation literacy, organizational decision-making, and learning benefits. This exploratory study generated several key findings, including the need for tools and policies that establish a strong link between evaluation and decision-making, expanding the scope of engagement in data interpretation beyond primary users, and extending the dissemination of findings to external stakeholders. Implications for practice and research are discussed.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Étiquettes directes de modèles (non validées)

Étiquettes de catégorie et de devis d'étude par modèle, issues des rondes d'étiquetage. C'est une sortie machine, non validée, et le désaccord entre modèles est livré comme donnée. Aucun devis ici n'est encore validé contre MEDLINE.

BrasCatégoriesDevis d'étudeConfiance
gptaucune catégorie
Domaine: non disponible · Genre: Empirique
Porte sur le système de recherche canadien: non · Porte sur un sujet canadien: non
Observationnelhigh
grokaucune catégorie
Domaine: non disponible · Genre: Empirique
Porte sur le système de recherche canadien: non · Porte sur un sujet canadien: non
Observationnelhigh
opusaucune catégorie
Domaine: non disponible · Genre: Empirique
Porte sur le système de recherche canadien: non · Porte sur un sujet canadien: non
Observationnelmedium
modèles en accordL'accord compare des ensembles de catégories et des devis identiques entre les bras.

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,046
score de la tête « metaresearch » (Gemma)0,019
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche, Communication savante
Catégories consensuellesMétarecherche
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Autre devis · Signal consensuel: aucune
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,956
Score d'incertitude au seuil0,999

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,0460,019
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0000,000
Bibliométrie0,0010,002
Études des sciences et des technologies0,0010,000
Communication savante0,0020,003
Science ouverte0,0000,000
Intégrité de la recherche0,0000,000
Charge utile insuffisante (le modèle a refusé de juger)0,0000,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,432
Tête enseignante GPT0,540
Écart entre enseignants0,108 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Étiqueté directement par 3 modèles lisant le dossier complet.

Les modèles n’ont appliqué aucune catégorie : rien dans la taxonomie ne correspondait à ce travail.
Devis d'étudeObservationnel
Domainenon disponible
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations3
Publié2024
Routes d'admission2
Résumé présentoui

Explorer davantage

Même revueCanadian Journal of Program EvaluationMême sujetEvaluation and Performance AssessmentTravaux en français237 207