MétaCan
Menu
Retour à la cohorte
Enregistrement W4381386755 · doi:10.1017/s1049023x23001188

Analysis of Delphi Study Seven-Point Linear Scale Data by Parametric Methods–Use of the Mean and Standard Deviation

2023· article· en· W4381386755 sur OpenAlexaff
Jeffrey Michael Franc, Kevin Kei Ching Hung, Alessandro Pirisi, Eric S. Weinstein

Notice bibliographique

RevuePrehospital and Disaster Medicine · 2023
Typearticle
Langueen
DomaineSocial Sciences
ThématiqueDelphi Technique in Research
Établissements canadiensUniversity of Alberta
Organismes subventionnairesnon disponible
Mots-clésStatisticsDelphi methodStandard deviationRanking (information retrieval)StatisticDelphiInterquartile rangeRating scaleScale (ratio)MathematicsComputer scienceMedicineEconometricsInformation retrievalGeography

Résumé

récupéré en direct d'OpenAlex

Introduction: The Delphi technique is a unique survey method that involves an iterative process to gain consensus when consensus is challenging to establish and is widely used in Disaster Medicine research. Participants typically rate a variety of statements using a specified rating scale. The survey is repeated for several rounds, and at each round statements that do not reach a predefined level of consensus are advanced to the next round while giving the participants information about the responses of other participants for their comparison. The final statements are then ranked in order of the average rating. The statistical methods to analyze Delphi studies are not well described. This study investigates the use of a 1 to 7 linear rating scale along with parametric summary statistics for assessment of consensus and ranking of statements. Method: A study set of 9297 individual ratings on the 1 to 7 scale were obtained from previously performed Delphi studies and used to create 490,000 simulated Delphi ratings with various numbers of participants. Results: While the overall distribution of ratings was strongly left skewed the sampling distribution was near normally distributed for studies with five or more participants. The average difference between the standard deviation and interquartile range was -0.26/7. The overall risk of falsely concluding consensus using the standard deviation as a summary statistic was 7.3% when compared to using the interquartile range. The average difference between mean and median was -0.20/7. The risk of falsely ranking the statements by a value of 0.5 or more was near zero for all sample sizes when the mean was compared to the median. Conclusion: This study suggests that the use of the 1 to 7 linear rating scale in combination with the parametric summary statistics of standard deviation and mean is a valid method to analyze ratings from Delphi studies.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,004
score de la tête « metaresearch » (Gemma)0,002
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesaucune
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Observationnel · Signal consensuel: Observationnel
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,164
Score d'incertitude au seuil0,336

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,0040,002
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0000,000
Bibliométrie0,0000,003
Études des sciences et des technologies0,0000,001
Communication savante0,0000,000
Science ouverte0,0000,001
Intégrité de la recherche0,0000,000
Charge utile insuffisante (le modèle a refusé de juger)0,0000,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,182
Tête enseignante GPT0,487
Écart entre enseignants0,305 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.

Les modèles n’ont appliqué aucune catégorie : rien dans la taxonomie ne correspondait à ce travail.
Devis d'étudeObservationnel
Domainenon disponible
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations3
Publié2023
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revuePrehospital and Disaster MedicineMême sujetDelphi Technique in ResearchTravaux en français237 207