MétaCan
Menu
Retour à la cohorte
Enregistrement W2507607131

Automated evaluation of hypertext search strategies

2005· article· en· W2507607131 sur OpenAlexaff
Richard C. Bodner

Notice bibliographique

Revuenon disponible
Typearticle
Langueen
DomaineComputer Science
ThématiqueInformation Retrieval and Search Behavior
Établissements canadiensUniversity of Toronto
Organismes subventionnairesnon disponible
Mots-clésRanking (information retrieval)HypertextComputer scienceInformation retrievalSearch engineSelection (genetic algorithm)SoftwareData miningArtificial intelligenceWorld Wide Web
DOInon disponible

Résumé

récupéré en direct d'OpenAlex

This thesis investigates the potential of using search agents to analyze the performance of interactive information retrieval systems. An evaluation framework uses idealized and simulated individual differences in hypertext search strategies to simulate differences in human search performance and link selection behaviour. Five distinct search strategies were identified and implemented in software. The software simulator allowed the search agents to interact with an information retrieval system, which employed dynamic hypertext as its interactive search mechanism. Three studies investigated the performance and behaviour of the search agents. The first study compared three embedded hypertext link-ranking strategies (which used textual similarity assessment algorithms) with corresponding human link rankings. Although the three algorithms studied had low overall correlation with the human participants, the analysis revealed that the algorithms performed better (relative to human judgments) under specific conditions (e.g., short vs. long documents) and were more highly correlated with the participants under those conditions. The second study compared performance when using different combinations of settings for the parameters that were relevant to each agent. Based on the results of this study, the best performing internal parameters for each agent were chosen and then used in a third study. The third study compared the performance of the agents with two different experimental factors, one representing variations in query tail size (i.e., how much of the prior search history/link selections were reflected in the current automatically generated query), and in newness (i.e., the extent to which agents were permitted to return to previously viewed documents). Both query tail size and newness affected the performance of the agents (precision decreased when newness increased and precision increased when query tail increased). This dissertation describes a framework for evaluating the effect of different search strategies and a search agent simulator based on the framework. The results of the simulation studies demonstrated a difference in terms of performance and link selection behaviour between the search agents. Effects of query difficulty and novelty on agent performance/behaviour were also identified. The simulator developed in this research should provide a useful platform for future studies of idealized search behaviour in interactive information retrieval.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,006
score de la tête « metaresearch » (Gemma)0,045
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesaucune
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Simulation ou modélisation · Signal consensuel: aucune
GenreSignal candidat: Empirique · Signal consensuel: Empirique
Score de désaccord entre enseignants0,006
Score d'incertitude au seuil0,030

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,0060,045
Méta-épidémiologie (sens strict)0,0010,000
Méta-épidémiologie (sens large)0,0010,000
Bibliométrie0,0020,001
Études des sciences et des technologies0,0000,000
Communication savante0,0020,002
Science ouverte0,0010,001
Intégrité de la recherche0,0010,000
Charge utile insuffisante (le modèle a refusé de juger)0,0010,000

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,072
Tête enseignante GPT0,357
Écart entre enseignants0,285 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.

Les modèles n’ont appliqué aucune catégorie : rien dans la taxonomie ne correspondait à ce travail.
Devis d'étudeSimulation ou modélisation
Domainenon disponible
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations1
Publié2005
Routes d'admission1
Résumé présentoui

Explorer davantage

Même sujetInformation Retrieval and Search BehaviorTravaux en français237 207