Linear Asymptotic Convergence of Anderson Acceleration: Fixed-Point Analysis
Pourquoi ce travail est dans la base
Une base qui oublie comment elle a trouvé un travail ne peut pas être vérifiée. Voici les voies qui ont admis celui-ci.
Notice bibliographique
Résumé
.We study the asymptotic convergence of AA( \(m\) ), i.e., Anderson acceleration (AA) with window size \(m\) for accelerating fixed-point methods \(x_{k+1}=q(x_{k})\) , \(x_k \in \mathbb{R}^n\) . Convergence acceleration by AA( \(m\) ) has been widely observed but is not well understood. We consider the case where the fixed-point iteration function \(q(x)\) is differentiable and the convergence of the fixed-point method itself is root-linear. We identify numerically several conspicuous properties of AA( \(m\) ) convergence: First, AA( \(m\) ) sequences \(\{x_k\}\) converge root-linearly, but the root-linear convergence factor depends strongly on the initial condition. Second, the AA( \(m\) ) acceleration coefficients \(\boldsymbol{\beta }^{(k)}\) do not converge but oscillate as \(\{x_k\}\) converges to \(x^{*}\) . To shed light on these observations, we write the AA( \(m\) ) iteration as an augmented fixed-point iteration \(\boldsymbol{z}_{k+1} =\Psi (\boldsymbol{z}_k)\) , \(\boldsymbol{z}_k \in \mathbb{R}^{n(m+1)}\) , and analyze the continuity and differentiability properties of \(\Psi (\boldsymbol{z})\) and \(\boldsymbol{\beta }(\boldsymbol{z})\) . We find that the vector of acceleration coefficients \(\boldsymbol{\beta }(\boldsymbol{z})\) is not continuous at the fixed point \(\boldsymbol{z}^{*}\) . However, we show that, despite the discontinuity of \(\boldsymbol{\beta }(\boldsymbol{z})\) , the iteration function \(\Psi (\boldsymbol{z})\) is Lipschitz continuous and directionally differentiable at \(\boldsymbol{z}^{*}\) for AA(1), and we generalize this to AA( \(m\) ) with \(m\gt 1\) for most cases. Furthermore, we find that \(\Psi (\boldsymbol{z})\) is not differentiable at \(\boldsymbol{z}^{*}\) . We then discuss how these theoretical findings relate to the observed convergence behavior of AA( \(m\) ). The discontinuity of \(\boldsymbol{\beta }(\boldsymbol{z})\) at \(\boldsymbol{z}^{*}\) allows \(\boldsymbol{\beta }^{(k)}\) to oscillate as \(\{x_k\}\) converges to \(x^{*}\) , and the nondifferentiability of \(\Psi (\boldsymbol{z})\) allows AA( \(m\) ) sequences to converge with root-linear convergence factors that strongly depend on the initial condition. Additional numerical results illustrate our findings for several linear and nonlinear fixed-point iterations \(x_{k+1}=q(x_{k})\) and for various values of the window size \(m\) .KeywordsAnderson accelerationfixed-point methodroot-linear convergenceasymptotic convergence factorMSC codes65B0565F1065H1065K10
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,001 | 0,000 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,000 | 0,000 |
| Bibliométrie | 0,001 | 0,005 |
| Études des sciences et des technologies | 0,001 | 0,000 |
| Communication savante | 0,000 | 0,000 |
| Science ouverte | 0,001 | 0,000 |
| Intégrité de la recherche | 0,000 | 0,000 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,001 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle