MétaCan
Menu
Retour à la cohorte
Enregistrement W2586196681 · doi:10.29173/cais467

Evaluation of Internet Search Engines: Methodological Issues and Assumptions

2013· article· en· W2586196681 sur OpenAlexaffvenue
Louise F. Spiteri, Nathalie Richard

Notice bibliographique

RevueProceedings of the Annual Conference of CAIS / Actes du congrès annuel de l ACSI · 2013
Typearticle
Langueen
DomaineComputer Science
ThématiqueInformation Retrieval and Search Behavior
Établissements canadiensDalhousie University
Organismes subventionnairesnon disponible
Mots-clésThe InternetSearch engineInformation retrievalComputer scienceWorld Wide WebData science

Résumé

récupéré en direct d'OpenAlex

This paper examines two questions: what methodological assumptions underlie existing evaluations of Internet search engines and how do they differ from those used to study information retrieval systems (IRSs)? an examination of 31 Internet-based studies reveals that they employ a methodology very similar to the experimental model that has been used to evaluate IRSs; in other words, the . . .

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,003
score de la tête « metaresearch » (Gemma)0,014
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesMétarecherche, Communication savante
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Observationnel · Signal consensuel: aucune
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,449
Score d'incertitude au seuil1,000

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,0030,014
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0000,000
Bibliométrie0,0000,000
Études des sciences et des technologies0,0000,000
Communication savante0,0010,009
Science ouverte0,0010,001
Intégrité de la recherche0,0000,000
Charge utile insuffisante (le modèle a refusé de juger)0,0000,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,130
Tête enseignante GPT0,349
Écart entre enseignants0,218 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.

Devis d'étudeObservationnel
Domainenon disponible
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations1
Publié2013
Routes d'admission2
Résumé présentoui

Explorer davantage

Même revueProceedings of the Annual Conference of CAIS / Actes du congrès annuel de l ACSIMême sujetInformation Retrieval and Search BehaviorTravaux en français237 207