Using an adult retinal image analysis foundation model for retinopathy of prematurity staging: are there benefits?
Notice bibliographique
Résumé
Retinopathy of prematurity (ROP) is a fibrovascular proliferative disease of the developing retina that can potentially lead to blindness in prematurely born infants. Detection of ROP in early stages is crucial for timely treatment. For ROP screening, specialized experts such as ophthalmologists are required, which may not be readily available. This has motivated the development of deep learning (DL) models to detect ROP and/or to stage its severity from color fundus photographs (CFPs) of the infant. The key challenge in the development of DL models for this task is the very limited availability of labeled training data. Recently, general data scarcity problems have been tackled in adult retinal image analysis with foundation models pre-trained on a huge number of (often) unlabeled images for auxiliary tasks, which are then fine-tuned for a specific downstream application. A representative example of a foundation model for adult retinal images is RETFound, which was trained on nearly one million unlabeled adult CFPs. Motivated by its public availability, this paper aims to investigate whether fine-tuning the adult RETFound model on a limited number of infant ROP images for disease severity staging leads to tangible performance benefits over fine-tuning generic deep learning-based image classifiers pre-trained on natural images from the ImageNet dataset. We perform extensive experiments on a large publicly available ROP dataset and surprisingly find that RETFound, despite having seen adult CFPs during pre-training, does not outperform the generic models. We believe that this finding highlights the unique challenges that pediatric medical image analysis presents and that the growing amount of adult foundation models may not help in alleviating data scarcity-related issues in pediatric applications.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,001 | 0,001 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,001 | 0,000 |
| Bibliométrie | 0,000 | 0,001 |
| Études des sciences et des technologies | 0,000 | 0,000 |
| Communication savante | 0,000 | 0,000 |
| Science ouverte | 0,000 | 0,000 |
| Intégrité de la recherche | 0,000 | 0,000 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,000 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».