MétaCan
Menu
Retour à la cohorte
Enregistrement W4353015179 · doi:10.1038/s41592-023-02150-0

Understanding metric-related pitfalls in image analysis validation

2024· review· en· W4353015179 sur OpenAlexafffund
Annika Reinke, Minu D. Tizabi, Michael Baumgartner, Matthias Eisenmann, Doreen Heckmann-Nötzel, Ali Emre Kavur, Tim Rädsch, Carole H. Sudre, Laura Ación, Michela Antonelli, Tal Arbel, Spyridon Bakas, Arriel Benis, Florian Buettner, M. Jorge Cardoso, Veronika Cheplygina, Jianxu Chen, Evangelia Christodoulou, Beth A. Cimini, Keyvan Farahani, Luciana Ferrer, Adrián Galdrán, Bram van Ginneken, Ben Glocker, Patrick Godau, Daniel A. Hashimoto, Michael M. Hoffman, Merel Huisman, Fabian Isensee, Pierre Jannin, Charles E. Kahn, Dagmar Kainmueller, Bernhard Kainz, Alexandros Karargyris, Jens Kleesiek, Florian Kofler, Thijs Kooi, Annette Kopp‐Schneider, Michal Kozubek, Anna Kreshuk, Tahsin Kurç, Bennett A. Landman, Geert Litjens, Amin Madani, Klaus Maier‐Hein, Anne L. Martel, Erik Meijering, Bjoern Menze, Karel G. M. Moons, Henning Müller, Brennan Nichyporuk, Felix Nickel, Jens Petersen, Susanne M. Rafelski, Mauricio Reyes, Michael A. Riegler, Nicola Rieke, Julio Sáez-Rodríguez, Clara I. Sá‎nchez, Shravya Shetty, Ronald M. Summers, Abdel Aziz Taha, Aleksei Tiulpin, Sotirios A. Tsaftaris, Ben Van Calster, Gaël Varoquaux, Ziv Yaniv, Paul F. Jäger, Lena Maier‐Hein

Notice bibliographique

RevueNature Methods · 2024
Typereview
Langueen
DomaineMedicine
ThématiqueRadiomics and Machine Learning in Medical Imaging
Établissements canadiensSunnybrook Health Science CentreVector InstitutePrincess Margaret Cancer CentreMila - Quebec Artificial Intelligence InstituteUniversity of TorontoUniversity Health NetworkMcGill University
Organismes subventionnairesNational Cancer InstituteCentre For Medical Engineering, King’s College LondonEngineering and Physical Sciences Research CouncilNatural Sciences and Engineering Research Council of CanadaSydäntutkimussäätiöNational Institute of General Medical SciencesBundesministerium für Bildung und ForschungNederlandse Organisatie voor Wetenschappelijk OnderzoekCancer Research UKWellcome TrustInnosuisse - Schweizerische Agentur für InnovationsförderungAlzheimer's SocietyNIH Clinical CenterAgence Nationale de la RechercheSchweizerischer Nationalfonds zur Förderung der Wissenschaftlichen ForschungOulun YliopistoSilicon Valley Community FoundationEuropean CommissionNational Institutes of HealthNational Institute of Neurological Disorders and StrokeCanadian Institute for Advanced ResearchRoyal Academy of EngineeringNovo Nordisk FondenFoundation for Cardiovascular ResearchNational Science Foundation
Mots-clésComputer scienceData scienceMultidisciplinary approachStrengths and weaknessesBridging (networking)Metric (unit)Process (computing)Key (lock)Information retrievalArtificial intelligenceData miningPsychology

Résumé

récupéré en direct d'OpenAlex
Aucun résumé dans les sources couvertes. Son absence est consignée, pas traitée comme un négatif.

Aucun résumé. Ce n'est pas une lacune de cette base de données : OpenAlex n'en a pas non plus. 23,3 % de la base est dans cet état, et le tri y repère MOITIÉ moins de métarecherche ; l'absence est donc un biais mesuré, et non un champ manquant.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,018
score de la tête « metaresearch » (Gemma)0,047
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesaucune
DomaineSignal candidat: Méthodes · Signal consensuel: aucune
Devis d'étudeSignal candidat: Sans objet · Signal consensuel: aucune
GenreSignal candidat: Synthèse · Signal consensuel: Synthèse
Score de désaccord entre enseignants0,982
Score d'incertitude au seuil0,093

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,0180,047
Méta-épidémiologie (sens strict)0,0010,001
Méta-épidémiologie (sens large)0,0030,001
Bibliométrie0,0050,004
Études des sciences et des technologies0,0000,003
Communication savante0,0040,004
Science ouverte0,0030,002
Intégrité de la recherche0,0030,003
Charge utile insuffisante (le modèle a refusé de juger)0,0030,002

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,104
Tête enseignante GPT0,514
Écart entre enseignants0,410 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.

Devis d'étudeSans objet
DomaineMéthodes
GenreSynthèse

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations175
Publié2024
Routes d'admission2
Résumé présentnon

Explorer davantage

Même revueNature MethodsMême sujetRadiomics and Machine Learning in Medical ImagingTravaux en français237 207