When Jack of All Trades Is a Master of None: Comparing the Performance of GPT-4 Omni against Specialised Neural Networks in Identifying Malignant Dermatological Lesions from Smartphone Images and Structured Clinical Data
Notice bibliographique
Résumé
Introduction: Artificial intelligence (AI) can potentially assist in triaging suspicious skin lesions as malignant or benign. General-purpose multimodal large language models (LLMs), such as GPT-4o, have not been rigorously evaluated for this task. This study assessed GPT-4o's ability to triage skin lesions and compared its performance to specialised neural networks. METHODS: We evaluated GPT-4o using 1,000 random cases from the PAD-UFES-20 dataset with 50 repeated trials. GPT-4o was tested using clinical data-only, image-only, and multimodal inputs. GPT-4o's performance, consistency, and fairness across different demographic subgroups was evaluated. Its performance metrics were compared against specialised unimodal and multimodal neural networks trained on a separate subset of the PAD-UFES-20 dataset. RESULTS: GPT-4o exhibited poor triage performance across all modalities, with average balanced accuracies of 0.571, 0.602, and 0.622 for clinical data, image, and multimodal inputs, respectively. Sensitivity was consistently high (>0.95) with the trade-off of very low specificity. Mean agreement rates were high (>0.90); however, Fleiss' κ indicated only moderate consistency due to a strong bias toward malignant classifications. Fairness evaluations showed poorer discriminative performance in younger patients compared to middle-aged and elderly patients but no notable differences between different sex and skin tone subgroups. Specialised neural networks significantly outperformed GPT-4o on most pairwise comparisons. Multimodal inputs significantly improved GPT-4o performance over unimodal inputs. CONCLUSION: Although GPT-4o consistently triaged skin lesions with high sensitivity, its very low specificity limits clinical utility. Thus, general-purpose LLMs like GPT-4o are currently unsuitable for clinical dermatological diagnostics without significant field-specific developments and validation. .
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,000 | 0,000 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,001 | 0,000 |
| Bibliométrie | 0,000 | 0,000 |
| Études des sciences et des technologies | 0,000 | 0,000 |
| Communication savante | 0,000 | 0,000 |
| Science ouverte | 0,000 | 0,000 |
| Intégrité de la recherche | 0,000 | 0,000 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,000 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».