MétaCan
Menu
Back to cohort
Record W2619698812 · doi:10.1055/s-2004-814549

On the Value of Evaluation

2004· article· de· W2619698812 on OpenAlexaboutno aff
E. G. Jung

Bibliographic record

VenueAktuelle Dermatologie · 2004
Typearticle
Languagede
FieldDecision Sciences
TopicEvaluation and Performance Assessment
Canadian institutionsnot available
Fundersnot available
KeywordsValue (mathematics)MedicineHumanitiesPhilosophyComputer science

Abstract

fetched live from OpenAlex

Einst sind Wissenschaftler und deren Forschungsvorhaben durch Empfehlungen oder Kritik der Kollegen (Voten) beurteilt und entsprechend bewertet worden. Davon ist man abgekommen, um Subjektivismen auszumerzen. Jetzt wird begutachtet, reihum sowie kreuz und quer. Man ist entweder Gutachter oder zu Begutachtender, Objekt oder Subjekt, kaum gibt es in den sprachlich und förderungspolitisch umschriebenen Regionen noch unbetroffene Zuschauer. So kommt es dann, dass reihum begutachtet und empfohlen wird, jeder kennt jeden und eines jeden Projekte, jeder hat seine Nische zu finden und zu bewahren und die des anderen zu respektieren. Leben und leben lassen, wird die Devise, und eine gewisse, vergleichende Gerechtigkeit pendelt sich ein. Operative Kreise finden sich, fördern sich und vermögen sich als so formierte, kraftvolle und überzeugende Gruppe gegenüber anderen Forschungsgruppen einen Vorsprung und damit bedeutende Vorteile zu verschaffen. Dies betrifft sowohl das Renommee als auch die finanziellen Zuwendungen, ja es stellt dies das moderne Instrument dar, um neu gegründete Forschungsrichtungen anzustoßen, zu etablieren und zu stabilisieren. Das Vorgehen ist bewährt und findet Anerkennung. In großen Räumen ist die Bewertung durch Begutachtung (peer review) etwas besser dran, denn die Auswahl der Gutachter ist gezielter zu treffen, der Pool ist größer und damit sind die Kreise vielschichtiger und vielfältiger, also auch eher zu separieren. So ist es im angelsächsischen Sprachraum, der sich immer weiter, ja bald weltweit, dehnt. Da Gutachter aber auch „vor Ort” sich einen persönlichen Eindruck verschaffen müssen, entspannt sich ein aufwendiger Gutachter-Tourismus. Aufwändig wohl in finanzieller Hinsicht, aber noch viel stärker fällt der Zeitaufwand ins Gewicht; Zeit, welche den Gutachtern dann bei der eigenen Arbeit fehlt. Viele wenden sich davon ab! Bald werden sich gewiegte Gutachter finden, möglicherweise im Hauptamt, welche das Gutachterwesen an sich ziehen und so die Lenkung der Förderungsflüsse zu steuern wissen. Und wieder stehen die gefürchteten Subjektivismen vor der Türe! Deshalb versucht man, die Bewertung nicht mehr vordringlich nach den Anträgen, den Plänen also, auszurichten, sondern am Erfolg zu orientieren. Dazu dienen neben den akquirierten Drittmitteln in erster Linie die Publikationen und deren Zitate durch andere. Solche bibliometrischen Indikatoren gelten als messbare Zeichen der Qualität. Sie gelten als geeignet für die Bewertung der Forschung. Sie suggerieren den Politikern, den Medien, der Öffentlichkeit und auch den Wissenschaftlern untereinander, auf Grund des Drittmittelaufkommens (in harter Währung gemessen) und eines leicht lesbaren Zahlenwerkes des „Institut for Scientific Information” (ISI) in Philadelphia, Forschungsleistung zu bewerten. Dies betrifft einzelne Wissenschaftler, Forschungsgruppen und auch ganzer Hochschulen. Nun weitet sich aber die Bedeutung der verführerischen Bewertungsdaten in Windeseile aus. Die Politiker und die Entscheidungsträger in Ministerien und Hochschulgremien bedienen sich ihrer verständlicherweise ebenfalls. Eliteuniversitäten oder Schwerpunkte der Forschung werden daran orientiert, die immer karger werdende Forschungsförderung wird leistungsabhängig verteilt, geleitet nach eben den genannten Bewertungszahlen. Und Budgetentscheidungen basieren darauf, genau so wie Auswahl und Berufungen der Wissenschaftler und nun auch die Bemessung deren Gehälter. Bedenkt man dabei, dass das ISI , neuerdings im Besitz der Thomson Company in Toronto, bisher der alleinige Produzent der einzigen multidisziplinären Datenbank wissenschaftlicher Literatur mit Zitationszahlen darstellt, so sind alle Befürchtungen gegenüber Monopolsituationen nur zu leicht verständlich. Das ICI etabliert nun neben dem „Science Citation Index” und den „Journal Impact Factor” weitere maßgeschneiderte Evaluationsinstrumente (z. B. die ISI Essential Science Indicators oder die ISI Highly Cited Com.) zum käuflichen Erwerb. Gefahren ziehen auf! Konkurrenz wäre nötig und möglicherweise hilfreich. Also müsste ein zweites und von ISI unabhängiges Instrument geschaffen werden.Wenn man mit den Indikatoren anderer Bereiche, z. B. der Gastronomie, des Tourismus, etc. vergleicht, ist evident, dass auch bei konkurrierenden Evaluatoren enorme Unterschiede in der Bewertung zustande kommen. Solches ist auch auf dem Wissenschaftssektor zu erwarten. Konkurrenz allein hilft also nicht. Zunächst müssen offenbar die Datenerfassung, deren Evaluierung und die Wertung sowie die vergleichende Gewichtung und die fächerbezogenen Unterschiede erfasst und in ein differenziertes System eingebracht werden. Forschung an den Systemen und deren Bewertung sollte also vorangestellt werden. Dazu gehört auch die Erkundung der Diffusion und die Kontrolle der Qualität der Forschungsergebnisse und der Schutz vor Fälschungen. Dies ist umso wichtiger und notwendig, als die Evaluationsinstrumente immer größere Bedeutung und weitere Verbreitung erfahren.

Fetched live from OpenAlex and de-inverted. Abstracts are not stored in this database: the inverted indexes are 8.6 GB of the frame’s 9.3 GB of text, and the host has 13 GB free.

How this classification was reachedexpand

Full frame distilled prediction

Teacher imitation

Not calibrated prevalence, not ground truth. Human validation pending. Learned from the 10,348 direct Codex labels and 10,348 direct Gemma labels. Candidate is the union of thresholded teacher heads; consensus is their intersection. These outputs are machine_predicted_unvalidated and are not human labels or direct frontier model labels.

metaresearch head score (Codex)0.008
metaresearch head score (Gemma)0.005
Version: codex-gemma-dda1882f352aValidation status: machine_predicted_unvalidated
Candidate categoriesInsufficient payload (model declined to judge)
Consensus categoriesInsufficient payload (model declined to judge)
DomainCandidate signal: none · Consensus signal: none
Study designCandidate signal: Theoretical or conceptual · Consensus signal: Theoretical or conceptual
GenreCandidate signal: Empirical · Consensus signal: Empirical
Teacher disagreement score0.098
Threshold uncertainty score0.997

Codex and Gemma teacher scores by category

CategoryCodexGemma
Metaresearch0.0080.005
Meta-epidemiology (narrow)0.0000.000
Meta-epidemiology (broad)0.0000.000
Bibliometrics0.0000.001
Science and technology studies0.0000.000
Scholarly communication0.0000.000
Open science0.0010.000
Research integrity0.0000.000
Insufficient payload (model declined to judge)0.0040.007

Machine scores (provisional)

The two teacher heads of the student model, read on this work. A score orders the frame for review; it never asserts a category, and the validation status ships verbatim with every row.

Baseline scores from an immature model (maturity gate not passed, 7 training rounds). Scores rank; they never assert a category.

Opus teacher head0.184
GPT teacher head0.460
Teacher spread0.276 · how far apart the two teachers sit on this one work
Validation statusscore_only:v0-immature-baseline · verbatim from the scoring run: score_only means the number may rank works, and no category label ships from it

Classification

machine, unvalidated

Machine predicted; both teacher heads agree on what is shown here.

Study designTheoretical or conceptual
Domainnot available
GenreEmpirical

How this classification was reached, model by model and score by score, is at the end of the page under "How this classification was reached".

Quick stats

Citations1
Published2004
Admission routes1
Has abstractyes

Explore more

Same venueAktuelle DermatologieSame topicEvaluation and Performance AssessmentFrench-language works237,207