Global Research Integration Platform (GRIP): Open‐source Digital Voice Processing Toolkit
Notice bibliographique
Résumé
Abstract Background Producing speech is a cognitively complex task and can be collected through devices such as handheld recorders, tablets, and smartphones. Digital voice data can also capture information at a granular millisecond‐level precision and serve as a widespread tool to collect cognitively relevant data in almost any diverse real‐world environments. Digital voice recordings of spoken responses to neuropsychological test questions have been collected through the Framingham Heart Study (FHS) since 2005. The methods to analyze voice recordings were initially labor and time‐intensive approaches that were significant barriers to fully realizing the scientific objective of using speech and language as an alternative approach to cognitive assessment. Methods Through a collaboration with the Global Research Integration Platform (GRIP) and FHS, we leveraged existing open–source tools to create a digital voice processing toolkit that can be used by the general scientific community. GRIP is modularizing this toolkit to allow for seamless integration into various sites worldwide with low‐to‐high levels of technical experience. Table 1 lists the initial open‐source tools we tested on 9,253 audio recordings collected on 5,399 FHS participants. Each open‐source tool has a Python Github repository that we leveraged. Results With minimal manual intervention, we generated prosodic, spectral, cepstral, and sound quality features from the ComParE‐2016 feature set via openSMILE. We produced 65 LLDs (low‐level descriptors) every 10 milliseconds over a 60‐millisecond window and 6373 features generated by applying several statistical functionals to the LLDs. We segmented speakers via pyannote.audio and analyzed 9 acoustic and linguistic PRAAT features and 6373 openSMILE features in the context of a cognitive status classification task. Via Whisper, we generated timestamped transcriptions from both FHS and additional U.S. and international cohorts. We have noted difficulties in language detection and decreased transcription performance for non‐English speakers and English speakers with accents. We have used these data in numerous studies relating digital voice to AD related outcomes. Conclusion Digital voice is a prime candidate for scalable collection of cognitively relevant information. The modularized toolkit being developed will provide scaled non‐proprietary post‐processing of digital voice data that can be seamlessly integrated by users worldwide with low‐to‐high levels of technical experience.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction machine sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.
Scores du classifieur distillé par catégorie (deux têtes)
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,006 | 0,019 |
| Méta-épidémiologie (sens strict) | 0,003 | 0,001 |
| Méta-épidémiologie (sens large) | 0,001 | 0,002 |
| Bibliométrie | 0,004 | 0,002 |
| Études des sciences et des technologies | 0,000 | 0,001 |
| Communication savante | 0,003 | 0,003 |
| Science ouverte | 0,004 | 0,006 |
| Intégrité de la recherche | 0,001 | 0,002 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,057 | 0,042 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».