Identifying Socio-Technical Risks in Open-Source Software for Scholarly Communications: Tools, Metrics, and Opportunities for Libraries to Support Sustainable Development
Notice bibliographique
Résumé
Objective – In the interest of helping libraries make evidence based decisions about open-source software (OSS), the objective of this research is to establish whether tools that automate the evaluation of OSS project communities could be used specifically on scholarly communications OSS (SC-OSS) projects to provide actionable insights for libraries to guide strategic decision making and corrective interventions. Methods – Seven OSS project communities were selected for evaluation, chosen from widely used scholarly communications software applications used in Canada for repositories, journal hosting, and archives. While all aspects of OSS projects may be evaluated at the project or network/ecosystem level, addressing the actors, software, or orchestration (Linåker et al., 2022), community evaluation that looks at the interaction patterns between project contributors is the practical focus of this research paper since there are multiple human factors that librarians who may not be software developers can impact. We identified a community analysis tool called csDetector (Almarimi et al., 2021) from the software engineering literature. This tool was chosen based on two main criteria: 1) ability to analyze data from GitHub repositories (the code sharing platform used by all selected SC-OSS projects) and 2) capacity to automatically produce results without manual intervention. Since some of the seven OSS projects were spread across multiple GitHub repositories, a total of 11 datasets from GitHub, each containing three months’ worth of data, were analyzed using csDetector. Results – The results produced by csDetector are interesting though not without limitations. The tool is complex and requires the user to have software development skills to use it effectively. It lacked sufficient documentation, which made interpreting the results challenging. The analysis from csDetector, which identifies community smells (i.e., types of organizational and social dysfunction within software projects [Tamburri et al, 2015, 2021a]), suggests that these SC-OSS project communities are experiencing knowledge sharing difficulties, weak collaboration practices, or other member interaction dysfunctions that can eventually permanently affect community health. Having a software tool that can take metrics from GitHub and detect community smells is a valuable way to illustrate problems in the project’s community and point the way to remedying dysfunction. Conclusion – While the OSS community analysis tool csDetector currently presents several hurdles before it can be used, and results generated come with caveats, it can be part of an approach to support evidence based decision-making pertaining to SC-OSS in libraries. The information provided can be worth monitoring (especially social network metrics such as centrality) and their results, particularly for community smells, identify problems that may be addressed by non-developers. Awareness of community smells in OSS can provide a deeper understanding of OSS sustainability as it provides a language to identify suboptimal social dynamics.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Étiquettes directes de modèles (non validées)
Étiquettes de catégorie et de devis d'étude par modèle, issues des rondes d'étiquetage. C'est une sortie machine, non validée, et le désaccord entre modèles est livré comme donnée. Aucun devis ici n'est encore validé contre MEDLINE.
| Bras | Catégories | Devis d'étude | Confiance |
|---|---|---|---|
| gemma | Communication savanteScience ouverte Domaine: non disponible · Genre: Empirique Porte sur le système de recherche canadien: non · Porte sur un sujet canadien: non | Sans objet | low |
| gpt | Communication savante Domaine: non disponible · Genre: Méthodes Porte sur le système de recherche canadien: non · Porte sur un sujet canadien: non | Théorique ou conceptuel | high |
Prédiction machine sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.
Scores du classifieur distillé par catégorie (deux têtes)
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,090 | 0,259 |
| Méta-épidémiologie (sens strict) | 0,001 | 0,001 |
| Méta-épidémiologie (sens large) | 0,001 | 0,001 |
| Bibliométrie | 0,036 | 0,026 |
| Études des sciences et des technologies | 0,004 | 0,005 |
| Communication savante | 0,026 | 0,031 |
| Science ouverte | 0,003 | 0,018 |
| Intégrité de la recherche | 0,003 | 0,003 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,002 | 0,001 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéeÉtiqueté directement par 2 modèles lisant le dossier complet.
Les modèles divergent sur des parties de cette classification; chaque voix est préservée dans la section en fin de page.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».