ScenarioBench: Trace-Grounded Compliance Evaluation for Text-to-SQL and RAG
Notice bibliographique
Résumé
ScenarioBench is a policy-grounded, trace-aware benchmark for evaluating Text-to-SQL and retrieval-augmented generation in compliance settings. Each YAML scenario ships with a no-peek gold-standard package-expected decision, minimal witness trace, governing clause set, and canonical SQL-enabling end-to-end scoring of both what a system decides and why it decides so. Systems must justify outputs with clause IDs retrieved from the same policy canon, making explanations falsifiable and audit-ready. The evaluator reports core signals-decision/trace quality, retrieval and SQL correctness (by result-set equivalence), latency, and a hallucination rate. A normalized Scenario Difficulty Index (SDI) and its budgeted variant (SDI-R) aggregate these while pricing retrieval difficulty and time. Unlike Spider/BIRD or KILT/RAG-style setups, ScenarioBench enforces clause-ID grounding under a strict nopeek rule. On a seed synthetic suite (<tex xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink">$N=16$</tex>), accuracy saturates (Acc <tex xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink">$=\mathbf{M}-\mathbf{F} 1=1.000)$</tex>, and a single budgeted reflection closes trace gaps (TrC & Coverage <tex xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink">$0.541 \rightarrow 1.000$</tex>) with zero hallucination at <tex xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink">$\sim+1 \text{ms}$</tex>-showing that marginal gains come from why-quality under explicit time budgets. Artifact & Code (v0.1.0): https://github.com/ShabnamAtf/ScenarioBench/releases/tag/v0.1.0
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,020 | 0,006 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,000 | 0,000 |
| Bibliométrie | 0,001 | 0,003 |
| Études des sciences et des technologies | 0,001 | 0,000 |
| Communication savante | 0,003 | 0,001 |
| Science ouverte | 0,001 | 0,001 |
| Intégrité de la recherche | 0,000 | 0,000 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,001 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».