Increasing the greediness of generative flow networks through action-values
Notice bibliographique
Résumé
In recent years, deep learning has emerged as a highly promising tool in drug discovery, offering significant reductions in both time and cost associated with the process.Specifically, a novel generative method known as Generative Flow Networks (GFlowNets) has demonstrated promising results by showcasing its ability to generate a diverse pool of candidates for small molecule generation tasks.Recognizing the potential of GFlowNets, it is essential to investigate and improve their ability to generate high reward and diverse samples, which are crucial for drug development process.This thesis proposes an approach to address this challenge in complex and multi-dimensional scenarios, namely Q-learning GFlowNets (QGFN) -an approach which allows to control the greediness of a GFlowNet by leveraging the well-known reinforcement learning (RL) technique of action values.QGFN increases exploration diversity while preserving the ability to generate high-reward candidates.Empirical results show that QGFN effectively generates high-reward samples in a variety of tasks without sacrificing diversity.This work demonstrates significant improvements that can translate into practical applications in the field of drug discovery, contributing to its advancement.i Abrégé Ces dernières années, l'apprentissage profond est apparu comme un outil très prometteur dans la découverte de médicaments, offrant des réductions significatives du temps et des coûts associés au processus.Plus précisément, une nouvelle méthode générative connue sous le nom de Generative Flow Networks (GFlowNets) a démontré des résultats prometteurs en démontrant sa capacité à générer un pool diversifié de candidats pour des tâches de génération de petites molécules.Reconnaissant le potentiel des GFlowNets, il est essentiel d'étudier et d'améliorer leurs performances, leur rendement élevé et leurs échantillons diversifiés, ce qui est crucial pour le processus de développement de médicaments.Cette thèse propose une approche pour relever ce défi dans des scénarios complexes et multidimensionnels, à savoir QGFN -Controllable Greediness with Action Values.Les QGFN sont conçus pour accroître la diversité de l'exploration tout en préservant les candidats les plus rémunérateurs.Avec QGFN, nous introduisons la combinaison du réseau Q avec QGFN comme une politique plus gourmande pour échantillonner des trajectoires, avec une gourmandise contrôlée par ce réseau Q. Les résultats empiriques montrent que QGFN génère efficacement des échantillons très rémunérateurs dans diverses tâches sans sacrifier la diversité.De plus, ces travaux démontrent des améliorations significatives qui peuvent se traduire par des applications pratiques dans le domaine de la découverte de médicaments, contribuant ainsi à son avancement.List of Tables 5.1 Fragment-based molecule task: Reward and Diversity at inference after training. . . . . . . . . . . . . .
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction machine sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.
Scores du classifieur distillé par catégorie (deux têtes)
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,001 | 0,006 |
| Méta-épidémiologie (sens strict) | 0,001 | 0,000 |
| Méta-épidémiologie (sens large) | 0,001 | 0,001 |
| Bibliométrie | 0,001 | 0,000 |
| Études des sciences et des technologies | 0,000 | 0,001 |
| Communication savante | 0,001 | 0,002 |
| Science ouverte | 0,001 | 0,002 |
| Intégrité de la recherche | 0,001 | 0,002 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,009 | 0,001 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».