Enregistrement W2170505850 · doi:10.1016/j.ipm.2009.03.002

A systematic analysis of performance measures for classification tasks

2009· article· en· W2170505850 sur OpenAlexafffund

Marina Sokolova, Guy Lapalme

Notice bibliographique

RevueInformation Processing & Management · 2009

Typearticle

Langueen

DomaineComputer Science

ThématiqueText and Document Classification Technologies

Établissements canadiensComputer Research Institute of MontréalUniversité de MontréalChildren's Hospital of Eastern Ontario

Organismes subventionnairesMcGill University

Mots-clésConfusion matrixConfusionComputer scienceArtificial intelligenceClassifier (UML)Measure (data warehouse)Binary classificationMachine learningBinary numberNatural language processingSet (abstract data type)Class (philosophy)Data miningPattern recognition (psychology)MathematicsSupport vector machineArithmetic

DOI10.1016/j.ipm.2009.03.002

Résumé

récupéré en direct d'OpenAlex

Aucun résumé dans les sources couvertes. Son absence est consignée, pas traitée comme un négatif.

Aucun résumé. Ce n'est pas une lacune de cette base de données : OpenAlex n'en a pas non plus. 23,3 % de la base est dans cet état, et le tri y repère MOITIÉ moins de métarecherche ; l'absence est donc un biais mesuré, et non un champ manquant.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,043

score de la tête « metaresearch » (Gemma)0,212

Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated

Catégories candidatesMétarecherche

Catégories consensuellesaucune

DomaineSignal candidat: Méthodes · Signal consensuel: aucune

Devis d'étudeSignal candidat: Revue systématique · Signal consensuel: aucune

GenreSignal candidat: Empirique · Signal consensuel: aucune

Score de désaccord entre enseignants0,957

Score d'incertitude au seuil0,227

Scores du classifieur distillé par catégorie (deux têtes)

Catégorie	Codex	Gemma
Métarecherche	0,043	0,212
Méta-épidémiologie (sens strict)	0,002	0,001
Méta-épidémiologie (sens large)	0,003	0,003
Bibliométrie	0,016	0,014
Études des sciences et des technologies	0,001	0,001
Communication savante	0,004	0,006
Science ouverte	0,002	0,002
Intégrité de la recherche	0,002	0,002
Charge utile insuffisante (le modèle a refusé de juger)	0,001	0,001

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,023

Tête enseignante GPT0,268

Écart entre enseignants0,246 · la distance entre les deux têtes enseignantes sur ce seul travail

Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle