MétaCan
Menu
Retour à la cohorte
Enregistrement W4393495165 · doi:10.5281/zenodo.8132450

Replication Package: Unboxing Default Argument Breaking Changes in Scikit Learn

2023· dataset· en· W4393495165 sur OpenAlexaff
João Eduardo Montandon, Luciana Lourdes Silva, Cristiano Politowski, Ghizlane El Boussaidi, Marco Túlio Valente

Notice bibliographique

RevueZenodo (CERN European Organization for Nuclear Research) · 2023
Typedataset
Langueen
DomaineEngineering
ThématiqueSafety Systems Engineering in Autonomy
Établissements canadiensÉcole de Technologie Supérieure
Organismes subventionnairesnon disponible
Mots-clésReplication (statistics)Argument (complex analysis)Computer scienceR packagePsychologyProgramming languageMathematicsStatisticsMedicineInternal medicine

Résumé

récupéré en direct d'OpenAlex

Replication Package This repository contains data and source files needed to replicate our work described in the paper "Unboxing Default Argument Breaking Changes in Scikit Learn". Requirements We recommend the following requirements to replicate our study: Internet access At least 100GB of space Docker installed Git installed Package Structure We relied on Docker containers to provide a working environment that is easier to replicate. Specifically, we configure the following containers: data-analysis, an R-based Container we used to run our data analysis. data-collection, a Python Container we used to collect Scikit's default arguments and detect them in client applications. database, a Postgres Container we used to store clients' data, obtainer from Grotov et al. storage, a directory used to store the data processed in data-analysis and data-collection. This directory is shared in both containers. docker-compose.yml, the Docker file that configures all containers used in the package. In the remainder of this document, we describe how to set up each container properly. Using VSCode to Setup the Package We selected VSCode as the IDE of choice because its extensions allow us to implement our scripts directly inside the containers. In this package, we provide configuration parameters for both data-analysis and data-collection containers. This way you can directly access and run each container inside it without any specific configuration. You first need to set up the containers $ cd /replication/package/folder $ docker-compose build $ docker-compose up # Wait docker creating and running all containers Then, you can open them in Visual Studio Code: Open VSCode in project root folder Access the command palette and select "Dev Container: Reopen in Container" Select either Data Collection or Data Analysis. Start working If you want/need a more customized organization, the remainder of this file describes it in detail. Longest Road: Manual Package Setup Database Setup The database container will automatically restore the dump in dump_matroskin.tar in its first launch. To set up and run the container, you should: Build an image: $ cd ./database $ docker build --tag 'dabc-database' . $ docker image ls REPOSITORY TAG IMAGE ID CREATED SIZE dabc-database latest b6f8af99c90d 50 minutes ago 18.5GB Create and enter inside the container: $ docker run -it --name dabc-database-1 dabc-database $ docker exec -it dabc-database-1 /bin/bash root# psql -U postgres -h localhost -d jupyter-notebooks jupyter-notebooks=# \dt List of relations Schema | Name | Type | Owner --------+-------------------+-------+------- public | Cell | table | root public | Code_cell | table | root public | Md_cell | table | root public | Notebook | table | root public | Notebook_features | table | root public | Notebook_metadata | table | root public | repository | table | root If you got the tables list as above, your database is properly setup. It is important to mention that this database is extended from the one provided by Grotov et al.. Basically, we added three columns in the table Notebook_features (API_functions_calls, defined_functions_calls, andother_functions_calls) containing the function calls performed by each client in the database. Data Collection Setup This container is responsible for collecting the data to answer our research questions. It has the following structure: dabcs.py, extract DABCs from Scikit Learn source code, and export them to a CSV file. dabcs-clients.py, extract function calls from clients and export them to a CSV file. We rely on a modified version of Matroskin to leverage the function calls. You can find the tool's source code in the `matroskin`` directory. Makefile, commands to set up and run both dabcs.py and dabcs-clients.py matroskin, the directory containing the modified version of matroskin tool. We extended the library to collect the function calls performed on the client notebooks of Grotov's dataset. storage, a docker volume where the data-collection should save the exported data. This data will be used later in Data Analysis. requirements.txt, Python dependencies adopted in this module. Note that the container will automatically configure this module for you, e.g., install dependencies, configure matroskin, download scikit learn source code, etc. For this, you must run the following commands: $ cd ./data-collection $ docker build --tag "data-collection" . $ docker run -it -d --name data-collection-1 -v $(pwd)/:/data-collection -v $(pwd)/../storage/:/data-collection/storage/ data-collection $ docker exec -it data-collection-1 /bin/bash $ ls Dockerfile Makefile config.yml dabcs-clients.py dabcs.py matroskin storage requirements.txt utils.py If you see project files, it means the container is configured accordingly. Data Analysis Setup We use this container to conduct the analysis over the data produced by the Data Collection container. It has the following structure: dependencies.R, an R script containing the dependencies used in our data analysis. data-analysis.Rmd, the R notebook we used to perform our data analysis datasets, a docker volume pointing to the storage directory. Execute the following commands to run this container: $ cd ./data-analysis $ docker build --tag "data-analysis" . $ docker run -it -d --name data-analysis-1 -v $(pwd)/:/data-analysis -v $(pwd)/../storage/:/data-collection/datasets/ data-analysis $ docker exec -it data-analysis-1 /bin/bash $ ls data-analysis.Rmd datasets dependencies.R Dockerfile figures Makefile If you see project files, it means the container is configured accordingly. A note on storage shared folder As mentioned, the storage folder is mounted as a volume and shared between data-collection and data-analysis containers. We compressed the content of this folder due to space constraints. Therefore, before starting working on Data Collection or Data Analysis, make sure you extracted the compressed files. You can do this by running the Makefile inside storage folder. $ make unzip # extract files $ ls clients-dabcs.csv clients-validation.csv dabcs.csv Makefile scikit-learn-versions.csv versions.csv $ make zip # compress files $ ls csv-files.tar.gz Makefile

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,011
score de la tête « metaresearch » (Gemma)0,080
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesaucune
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Sans objet · Signal consensuel: Sans objet
GenreSignal candidat: Jeu de données · Signal consensuel: aucune
Score de désaccord entre enseignants0,170
Score d'incertitude au seuil0,570

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,0110,080
Méta-épidémiologie (sens strict)0,0030,002
Méta-épidémiologie (sens large)0,0020,003
Bibliométrie0,0030,001
Études des sciences et des technologies0,0010,002
Communication savante0,0040,007
Science ouverte0,0060,008
Intégrité de la recherche0,0030,008
Charge utile insuffisante (le modèle a refusé de juger)0,1700,181

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,029
Tête enseignante GPT0,243
Écart entre enseignants0,214 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.

Les modèles n’ont appliqué aucune catégorie : rien dans la taxonomie ne correspondait à ce travail.
Devis d'étudeSans objet
Domainenon disponible
GenreJeu de données

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations0
Publié2023
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueZenodo (CERN European Organization for Nuclear Research)Même sujetSafety Systems Engineering in AutonomyTravaux en français237 207