MétaCan
Menu
Retour à la cohorte
Enregistrement W3108244608 · doi:10.1002/mp.14845

OpenKBP: The open‐access knowledge‐based planning grand challenge and dataset

2021· article· en· W3108244608 sur OpenAlexafffund

Notice bibliographique

RevueMedical Physics · 2021
Typearticle
Langueen
DomainePhysics and Astronomy
ThématiqueAdvanced Radiotherapy Techniques
Établissements canadiensPrincess Margaret Cancer CentreUniversity of Toronto
Organismes subventionnairesSchool of Natural Sciences, Mathematics, and Engineering, California State University, BakersfieldTata Memorial CentreUniversity of Texas MD Anderson Cancer CenterUniversity of Science and Technology of ChinaPeking UniversityMedizinische Universität WienUniversity of North Carolina at Chapel HillUniversidade de MacauCleveland ClinicHunan UniversityVirginia Commonwealth UniversityAmerican Association of Physicists in MedicineUniversidad Nacional de ColombiaAalto-YliopistoKU LeuvenXidian UniversityAnhui UniversitySichuan UniversityUniversität WienGovernment of CanadaYonsei UniversityJohns Hopkins UniversityMemorial Sloan-Kettering Cancer CenterUniversity of Texas Southwestern Medical CenterRensselaer Polytechnic InstituteHenry Ford Health SystemShanghai Jiao Tong UniversityUniversité Catholique de LouvainMassachusetts General Hospital
Mots-clésBenchmark (surveying)BenchmarkingCompetition (biology)Best practice

Résumé

récupéré en direct d'OpenAlex

Purpose To advance fair and consistent comparisons of dose prediction methods for knowledge‐based planning (KBP) in radiation therapy research. Methods We hosted OpenKBP, a 2020 AAPM Grand Challenge, and challenged participants to develop the best method for predicting the dose of contoured computed tomography (CT) images. The models were evaluated according to two separate scores: (a) dose score, which evaluates the full three‐dimensional (3D) dose distributions, and (b) dose‐volume histogram (DVH) score, which evaluates a set DVH metrics. We used these scores to quantify the quality of the models based on their out‐of‐sample predictions. To develop and test their models, participants were given the data of 340 patients who were treated for head‐and‐neck cancer with radiation therapy. The data were partitioned into training ( ), validation ( ), and testing ( ) datasets. All participants performed training and validation with the corresponding datasets during the first (validation) phase of the Challenge. In the second (testing) phase, the participants used their model on the testing data to quantify the out‐of‐sample performance, which was hidden from participants and used to determine the final competition ranking. Participants also responded to a survey to summarize their models. Results The Challenge attracted 195 participants from 28 countries, and 73 of those participants formed 44 teams in the validation phase, which received a total of 1750 submissions. The testing phase garnered submissions from 28 of those teams, which represents 28 unique prediction methods. On average, over the course of the validation phase, participants improved the dose and DVH scores of their models by a factor of 2.7 and 5.7, respectively. In the testing phase one model achieved the best dose score (2.429) and DVH score (1.478), which were both significantly better than the dose score (2.564) and the DVH score (1.529) that was achieved by the runner‐up models. Lastly, many of the top performing teams reported that they used generalizable techniques (e.g., ensembles) to achieve higher performance than their competition. Conclusion OpenKBP is the first competition for knowledge‐based planning research. The Challenge helped launch the first platform that enables researchers to compare KBP prediction methods fairly and consistently using a large open‐source dataset and standardized metrics. OpenKBP has also democratized KBP research by making it accessible to everyone, which should help accelerate the progress of KBP research. The OpenKBP datasets are available publicly to help benchmark future KBP research.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,008
score de la tête « metaresearch » (Gemma)0,027
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesScience ouverte
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Sans objet · Signal consensuel: Sans objet
GenreSignal candidat: Jeu de données · Signal consensuel: Jeu de données
Score de désaccord entre enseignants0,992
Score d'incertitude au seuil0,078

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,0080,027
Méta-épidémiologie (sens strict)0,0030,001
Méta-épidémiologie (sens large)0,0010,003
Bibliométrie0,0030,003
Études des sciences et des technologies0,0020,001
Communication savante0,0030,003
Science ouverte0,0080,007
Intégrité de la recherche0,0050,004
Charge utile insuffisante (le modèle a refusé de juger)0,0230,013

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,065
Tête enseignante GPT0,414
Écart entre enseignants0,350 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.

Devis d'étudeSans objet
Domainenon disponible
GenreJeu de données

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations114
Publié2021
Routes d'admission2
Résumé présentoui

Explorer davantage

Même revueMedical PhysicsMême sujetAdvanced Radiotherapy TechniquesTravaux en français237 207