MétaCan
Menu
Retour à la cohorte
Enregistrement W4393699878 · doi:10.5281/zenodo.4459196

Verification Witnesses from Verification Tools (SV-COMP 2021)

2021· dataset· en· W4393699878 sur OpenAlexaboutno aff
Dirk Beyer

Notice bibliographique

RevueZenodo (CERN European Organization for Nuclear Research) · 2021
Typedataset
Langueen
DomaineComputer Science
ThématiqueAdversarial Robustness in Machine Learning
Établissements canadiensnon disponible
Organismes subventionnairesnon disponible
Mots-clésComputer scienceVerificationProgramming languageSoftware

Résumé

récupéré en direct d'OpenAlex

Verification Witnesses This file describes the contents of an archive of the 10th Competition on Software Verification (SV-COMP 2021).<br> https://sv-comp.sosy-lab.org/2021/ The competition was run by Dirk Beyer, LMU Munich, Germany.<br> More information is available in the following article:<br> Dirk Beyer. <em>Software Verification: 10th Comparative Evaluation (SV-COMP 2021).</em> In Proceedings of the 27th International Conference on Tools and Algorithms for the Construction and Analysis of Systems (TACAS 2021, Luxembourg, March 27 - April 1), 2021. Springer. Copyright (C) Dirk Beyer<br> https://www.sosy-lab.org/people/beyer/ SPDX-License-Identifier: CC-BY-4.0<br> https://spdx.org/licenses/CC-BY-4.0.html Contents <code>LICENSE.txt</code>: specifies the license <code>README.txt</code>: this file <code>witnessFileByHash/</code>: This directory contains verification witnesses. Each verification witness in this directory is stored in a file whose name is the SHA2 256-bit hash of its contents followed by the filename extension .graphml. The format of each verification witness is described on the format web page: https://github.com/sosy-lab/sv-witnesses/ A verification witness contains also metadata in order to relate it to the verification task for which it was produced. <code>witnessInfoByHash/</code>: This directory contains for each verification witness in directory witnessFileByHash/ a record in JSON format (also using the SHA2 256-bit hash of the witness as filename, with .json as filename extension) that contains the meta data. <code>witnessListByProgramHashJSON/</code>: For convenient access to all verification witnesses for a certain program, this directory represents a function that maps each program (via its SHA2256-bit hash) to a set of verification witnesses (JSON records for verification witnesses as described above) that the verification tools have produced for that program. For each program for which verification witnesses exist, the directory contains a JSON file (using the SHA2 256-bit hash of the program as filename, with .json as filename extension) that contains all JSON records for verification witnesses for that program. The data structure is described in the following article:<br> Dirk Beyer. <em>A Data Set of Program Invariants and Error Paths.</em> In Proceedings of the 2019 IEEE/ACM 16th International Conference on Mining Software Repositories (MSR 2019, Montreal, Canada, May 26-27), pages 111-115, 2019. IEEE.<br> https://doi.org/10.1109/MSR.2019.00026 Other Archives Overview over archives from SV-COMP 2021 that are available at Zenodo: https://doi.org/10.5281/zenodo.4459196 Witness store (containing the generated verification witnesses) https://doi.org/10.5281/zenodo.4458215 Results (XML result files, log files, file mappings, HTML tables) https://doi.org/10.5281/zenodo.4459126 Verification tasks, version svcomp21 https://doi.org/10.5281/zenodo.4317433 BenchExec, version 3.6 All benchmarks were executed for SV-COMP 2021 https://sv-comp.sosy-lab.org/2021/<br> by Dirk Beyer, LMU Munich, based on the following components: https://gitlab.com/sosy-lab/sv-comp/archives-2021 svcomp21-0-g08c7a98 https://gitlab.com/sosy-lab/software/sv-benchmarks svcomp21-0-g4cc6b6d96a https://gitlab.com/sosy-lab/software/benchexec 3.6-0-gb278ebbb https://gitlab.com/sosy-lab/benchmarking/competition-scripts svcomp21-0-g8339740 https://gitlab.com/sosy-lab/sv-comp/bench-defs svcomp21-0-ga57fe48 Contact Feel free to contact me in case of questions: https://www.sosy-lab.org/people/beyer/

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,001
score de la tête « metaresearch » (Gemma)0,002
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesMéta-épidémiologie (sens strict), Études des sciences et des technologies, Communication savante, Charge utile insuffisante (le modèle a refusé de juger)
Catégories consensuellesCharge utile insuffisante (le modèle a refusé de juger)
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Sans objet · Signal consensuel: Sans objet
GenreSignal candidat: Jeu de données · Signal consensuel: Jeu de données
Score de désaccord entre enseignants0,296
Score d'incertitude au seuil1,000

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,0010,002
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0000,000
Bibliométrie0,0000,001
Études des sciences et des technologies0,0020,000
Communication savante0,0040,001
Science ouverte0,0050,003
Intégrité de la recherche0,0000,001
Charge utile insuffisante (le modèle a refusé de juger)0,0120,012

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,041
Tête enseignante GPT0,264
Écart entre enseignants0,223 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; les deux têtes enseignantes s’accordent sur ce qui est montré ici.

Devis d'étudeSans objet
Domainenon disponible
GenreJeu de données

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations1
Publié2021
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueZenodo (CERN European Organization for Nuclear Research)Même sujetAdversarial Robustness in Machine LearningTravaux en français237 207