The Reach of Manifold Learning:Uniqueness bounds for latent representations
Notice bibliographique
Résumé
In manifold learning the aim is to represent data sets in lower dimension by fitting a manifold to the data. Here the word manifold refers to the more general idea of a subsets which can be described in fewer variables than the ambient space, as opposed to the stringent mathematical definition of a manifold. Lower dimensional representations can be found by projecting a data point to the (unique) nearest point on the manifold. However, for any non-linear manifold, such a unique projection does not exist everywhere. One way to study where a unique projection does exist is through reach. Reach gives a global bound on how far one can move from the manifold while ensuring that a unique nearest point exists. However, this bound is too restrictive in a practical setting, as many points further away will still have a unique nearest point. Instead we introduce a new uniqueness bound called the pointwise normal reach, which gives a bound on how far one can move in a normal direction while ensuring unique projections. In addition to the pointwise normal reach, we introduce a related uniqueness bound on immersed manifolds. This bound is beneficial as it utilises standard analytical tools to compute the bound. Finally, we use these bounds in practice, as we aim to understand the uniqueness of representation in the autoencoder algorithm. We create a test which asks if a datapoint is within reach of the assigned latent representation. A datapoint which fails this test is not ensured to have a unique best choice of latent representation. We employ Monte Carlo Sampling to estimate the pointwise normal reach of three autoencoders. We find that the algorithms fail this test for most data points. Thus, almost no data points are certain to have a unique best choice of representation. To improve this, we introduce a regularising term into the training algorithm. This significantly improves the amount of points which passes the reach test. However, the experimental setup is currently too expensive to employ for non-toy datasets.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction machine sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.
Scores du classifieur distillé par catégorie (deux têtes)
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,012 | 0,087 |
| Méta-épidémiologie (sens strict) | 0,003 | 0,001 |
| Méta-épidémiologie (sens large) | 0,002 | 0,003 |
| Bibliométrie | 0,003 | 0,002 |
| Études des sciences et des technologies | 0,003 | 0,010 |
| Communication savante | 0,004 | 0,018 |
| Science ouverte | 0,004 | 0,012 |
| Intégrité de la recherche | 0,004 | 0,011 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,006 | 0,002 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».