MétaCan
Menu
Retour à la cohorte
Enregistrement W4242864671 · doi:10.5858/2005-129-0609-mtsofv

Measuring the Significance of Field Validation in the College of American Pathologists Interlaboratory Comparison Program in Cervicovaginal Cytology: How Good Are the Experts?

2005· article· en· W4242864671 sur OpenAlexaff
Andrew A. Renshaw, Dina R. Mody, David C. Wilbur, Diane D. Davey, Terence J. Colgan

Notice bibliographique

RevueArchives of Pathology & Laboratory Medicine · 2005
Typearticle
Langueen
DomaineMedicine
ThématiqueCervical Cancer and HPV Research
Établissements canadiensMount Sinai Hospital
Organismes subventionnairesnon disponible
Mots-clésMedicineExpert opinionSquamous intraepithelial lesionMedical diagnosisContext (archaeology)CytologyCytopathologyGold standard (test)Cervical intraepithelial neoplasiaGynecologyMedical physicsPathologyObstetricsRadiologyCancerInternal medicineCervical cancer

Résumé

récupéré en direct d'OpenAlex

Abstract Context.—Expert opinion is often used as a gold standard for gynecologic cytology in the evaluation of new technologies, in the legal setting, and in the validation of cases for use in educational programs and proficiency testing. However, the reliability of expert opinion alone in selecting slides of a specific cytodiagnosis that can be reproducibly and reliably identified by subsequent reviewers has not been determined. Objective.—To assess the ability of expert opinion to select slides that are validated in subsequent reviews. Design.—In the College of American Pathologists Interlaboratory Comparison Program in Cervicovaginal Cytology, each case in every cytodiagnostic category is accepted for circulation only after review by 3 expert cytopathologists. The percentage of these cases that could not be reliably and reproducibly identified by program participants for each cytodiagnostic category (“failed field validation”) was determined during the duration of the program from 1989 to 2004. Results.—More than 10 000 conventional smears and ThinPrep cases were selected by the expert panel for circulation. Of these selected slides, 19% of conventional smears and 15% of ThinPrep specimens failed field validation. Compared with the overall slide performance, significantly higher percentages (P < .001) of conventional smears with reference diagnoses of unsatisfactory (51.7%), repair (58%), or low-grade intraepithelial lesion (31.8%) and of ThinPrep specimens with reference diagnoses of unsatisfactory (54.5%) and repair (76.9%) failed field validation. In contrast, significantly lower percentages of conventional smears with reference diagnoses of squamous cell carcinoma (4.5%), high-grade squamous intraepithelial lesion (9%), Trichomonas vaginalis infection (11.7%), or herpes (9.9%) and of ThinPrep specimens with reference diagnoses of adenocarcinoma (5.1%), herpes (2.1%), and fungal organism consistent with Candida (8.4%) failed field validation (P < .001 for all). Conclusions.—Between 15% and 19% of gynecologic cytologic cases that have been selected by expert cytopathologists as good examples of cytodiagnostic abnormalities fail field validation. The proportion of cases failing field validation varies with cytodiagnostic category, but it occurs in all cytodiagnostic entities.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,153
score de la tête « metaresearch » (Gemma)0,258
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche
Catégories consensuellesaucune
DomaineSignal candidat: Évaluation · Signal consensuel: aucune
Devis d'étudeSignal candidat: Observationnel · Signal consensuel: Observationnel
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,847
Score d'incertitude au seuil0,811

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,1530,258
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0000,001
Bibliométrie0,0020,001
Études des sciences et des technologies0,0010,001
Communication savante0,0020,002
Science ouverte0,0020,002
Intégrité de la recherche0,0020,001
Charge utile insuffisante (le modèle a refusé de juger)0,0010,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,046
Tête enseignante GPT0,354
Écart entre enseignants0,308 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.

Devis d'étudeObservationnel
DomaineÉvaluation
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations23
Publié2005
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueArchives of Pathology & Laboratory MedicineMême sujetCervical Cancer and HPV ResearchTravaux en français237 207