Assessing the quality of posterior samples from No-U-Turn Hamiltonian Monte Carlo
Bibliographic record
Abstract
ABR G La prsence de transitions divergentes dans les chantillons postrieurs gnrs par Stan compromet les proprits d'chantillons finis des estimateurs HMC cause d'une perte d'ergodicit gomtrique.Mme si ces divergences sont trs utiles pour identifier des problmes avec l'exploration de la distribution postrieure, il n'existe pas encore de mthode claire pour diminuer ou liminer ces transitions divergentes pour un modle gnral.Pour quelques modles, la meilleure solution est de prendre des chantillons avec des pas plus petits.Pour d'autres, reparamtrer tout le modle pourrait tre ncessaire.Ce travail examine en dtail les comportements de divergence.Nous utilisons d'abord les donnes de l'exemple 'Eight Schools' pour montrer que ces divergences empirent la qualit des chantillons gnrs par Stan.Nous discutons ensuite quelques options pour dterminer si un modle a besoin de plus petit pas ou d'un reparamtrage complet pour gnrer des chantillons de qualit.Dans le dernier chapitre, nous adaptons un modle conu pour des expriences d'incubation de sol pour montrer que, malgr un grand nombre de transitions divergentes dans les premiers rsultats, il est possible de gnrer des chantillons de plus haute qualit en rduisant simplement la taille de pas dans notre modle.De plus, nous montrons que certaines transitions divergentes peuvent avoir un effet sur les estimations de certains paramtres plus que sur d'autres.
Fetched live from OpenAlex and de-inverted. Abstracts are not stored in this database: the inverted indexes are 8.6 GB of the frame’s 9.3 GB of text, and the host has 13 GB free.
How this classification was reachedexpand
Full frame distilled prediction
Teacher imitationNot calibrated prevalence, not ground truth. Human validation pending. Learned from the 10,348 direct Codex labels and 10,348 direct Gemma labels. Candidate is the union of thresholded teacher heads; consensus is their intersection. These outputs are machine_predicted_unvalidated and are not human labels or direct frontier model labels.
Codex and Gemma teacher scores by category
| Category | Codex | Gemma |
|---|---|---|
| Metaresearch | 0.003 | 0.010 |
| Meta-epidemiology (narrow) | 0.001 | 0.001 |
| Meta-epidemiology (broad) | 0.002 | 0.001 |
| Bibliometrics | 0.000 | 0.000 |
| Science and technology studies | 0.001 | 0.000 |
| Scholarly communication | 0.000 | 0.001 |
| Open science | 0.001 | 0.000 |
| Research integrity | 0.001 | 0.002 |
| Insufficient payload (model declined to judge) | 0.000 | 0.000 |
Machine scores (provisional)
The two teacher heads of the student model, read on this work. A score orders the frame for review; it never asserts a category, and the validation status ships verbatim with every row.
Baseline scores from an immature model (maturity gate not passed, 7 training rounds). Scores rank; they never assert a category.
score_only:v0-immature-baseline · verbatim from the scoring run: score_only means the number may rank works, and no category label ships from itClassification
machine, unvalidatedMachine predicted; a candidate call from one teacher head, not a consensus.
How this classification was reached, model by model and score by score, is at the end of the page under "How this classification was reached".