Common Pitfalls with Data Deduplication Parameters and Metrics
Notice bibliographique
Résumé
Content-defined chunking (CDC) based data deduplication is a complex process, leading to the use of rule-of-thumb approaches and standardized parameter values. However, our work challenges these standard approaches which can lead to worse deduplication ratios, and reemphasizes that parameters need to be optimized for each dataset. We expose new pitfalls, analyze the behaviour of the underlying deduplication process, and provide solutions to aid future deduplication work.Deduplication research often solely reports the expected chunk length of their system without providing the low-level parameters. Our results show that expected chunk length is inadequate for properly describing deduplication, making empirical reproducibility challenging. In fact, different parameter sets with the same expected chunk length can yield different deduplication ratios. We further show that this discrepancy can be explained by chunk length variance.We find that because expected average and standard deviation of chunk length do not account for file boundaries and fingerprint value noise, they can significantly differ from observed values. We show that these phenomena can also cause the same parameter set to give different chunk length distributions on different datasets, explaining why parameters must be tuned to each dataset. However, we find on our datasets that the maximum chunk length parameter does not need to be tuned, and that a rule-of-thumb value of 2<sup xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink">16</sup> is a reasonable selection. We provide our datasets in full to promote reproducibility and further work.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,000 | 0,000 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,000 | 0,000 |
| Bibliométrie | 0,000 | 0,001 |
| Études des sciences et des technologies | 0,000 | 0,000 |
| Communication savante | 0,000 | 0,001 |
| Science ouverte | 0,001 | 0,001 |
| Intégrité de la recherche | 0,000 | 0,000 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,000 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».