MétaCan
Menu
Retour à la cohorte
Enregistrement W4398946215 · doi:10.7910/dvn/wndofl

Replication data for Identifying science in the news

2022· dataset· en· W4398946215 sur OpenAlexaff
Alice Fleerackers, Lise Nehring, Juan Pablo Alperín, Asura Enkhbayar, Lauren A. Maggio, Laura Moorhead

Notice bibliographique

RevueHarvard Dataverse · 2022
Typedataset
Langueen
DomaineComputer Science
ThématiqueAdvanced Text Analysis Techniques
Établissements canadiensUniversity of VictoriaSimon Fraser University
Organismes subventionnairesnon disponible
Mots-clésReplication (statistics)Computer scienceComputational biologyData scienceInformation retrievalBiologyVirology

Résumé

récupéré en direct d'OpenAlex

This data set contains the data and codebook required to replicate the study "Identifying science in the news: An assessment of the precision and recall of Altmetric.com news mention data." It includes two data sets, both of which contain a collection of news stories published in the science and health sections of the following eight news media outlets during March-April 2021: The Guardian (Science Section), HealthDay, IFLScience, MedPage Today, News Medical, New York Times (Science Section), Popular Science, and Wired. The first data set (altmetric_dataset.csv) was obtained by downloading all of the news stories that mentioned research using the Altmetric Explorer. The second data set (content_analysis_dataset.csv) was obtained by collecting a random sample of 400 news stories from these 8 sources and manually identifying mentions of research within them. The codebook (news_mention_codebook.pdf) contains the coding instructions that were used to identify the mentions of research in content_analysis_dataset.csv.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,004
score de la tête « metaresearch » (Gemma)0,002
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesScience ouverte, Charge utile insuffisante (le modèle a refusé de juger)
Catégories consensuellesScience ouverte
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Sans objet · Signal consensuel: Sans objet
GenreSignal candidat: Jeu de données · Signal consensuel: Jeu de données
Score de désaccord entre enseignants0,148
Score d'incertitude au seuil0,999

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,0040,002
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0000,000
Bibliométrie0,0010,002
Études des sciences et des technologies0,0010,000
Communication savante0,0010,003
Science ouverte0,0260,009
Intégrité de la recherche0,0000,000
Charge utile insuffisante (le modèle a refusé de juger)0,0020,001

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,084
Tête enseignante GPT0,370
Écart entre enseignants0,286 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; les deux têtes enseignantes s’accordent sur ce qui est montré ici.

Devis d'étudeSans objet
Domainenon disponible
GenreJeu de données

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations1
Publié2022
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueHarvard DataverseMême sujetAdvanced Text Analysis TechniquesTravaux en français237 207