MétaCan
Menu
Retour à la cohorte
Enregistrement W3176767185 · doi:10.1177/05390184211019161

Science needs more external evaluation, not less

2021· article· en· W3176767185 sur OpenAlex

Pourquoi ce travail est dans la base

Une base qui oublie comment elle a trouvé un travail ne peut pas être vérifiée. Voici les voies qui ont admis celui-ci.

affAu moins un auteur déclare une institution canadienne dans l'instantané OpenAlex épinglé.

Notice bibliographique

RevueSocial Science Information · 2021
Typearticle
Langueen
DomaineDecision Sciences
Thématiquescientometrics and bibliometrics research
Établissements canadiensUniversity of Ottawa
Organismes subventionnairesnon disponible
Mots-clésProductivityAccountabilityReductionismDemocracyPolitical scienceDiversity (politics)PoliticsSociologyPublic relationsEpistemologyEconomicsLaw

Résumé

récupéré en direct d'OpenAlex

When science is evaluated by bureaucrats and administrators, it is usually done by quantified performance metrics, for the purpose of economic productivity. Olof Hallonsten criticizes both the means (quantification) and purpose (economization) of such external evaluation. I share the concern that such neoliberal performance metrics are shallow, over-simplified and inaccurate, but differ in how best to oppose this reductionism. Hallonsten proposes to replace quantitative performance metrics with qualitative in-depth evaluation of science, which would keep evaluation internal to scientific communities. I argue that such qualitative internal evaluation will not be enough to challenge current external evaluation since it does little to counteract neoliberal politics, and fails to provide the accountability that science owes the public. To assure that the many worthy purposes of science (i.e. truth, democracy, well-being, justice) are valued and pursued, I argue science needs more and more diverse external evaluation. The diversification of science evaluation can go in many directions: towards both quantified performance metrics and qualitative internal assessments and beyond economic productivity to value science’s broader societal contributions. In addition to administrators and public servants, science evaluators must also include diverse counterpublics of scientists: civil society, journalists, interested lay public and scientists themselves. More diverse external evaluation is perhaps no more accurate than neoliberal quantified metrics, but by valuing the myriad contributions of science and the diversity of its producers and users, it is hopefully less partial and perhaps more just.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,069
score de la tête « metaresearch » (Gemma)0,063
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche, Bibliométrie, Études des sciences et des technologies, Communication savante
Catégories consensuellesMétarecherche, Bibliométrie, Communication savante
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Autre devis · Signal consensuel: aucune
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,923
Score d'incertitude au seuil0,999

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,0690,063
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0000,000
Bibliométrie0,0480,407
Études des sciences et des technologies0,0030,002
Communication savante0,0110,015
Science ouverte0,0040,001
Intégrité de la recherche0,0000,000
Charge utile insuffisante (le modèle a refusé de juger)0,0010,001

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,622
Tête enseignante GPT0,620
Écart entre enseignants0,002 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle