The Development of a Versatile and Efficient Gradient-Enhanced Bayesian Optimizer for Nonlinearly Constrained Optimization with Application to Aerodynamic Shape Optimization

Aerodynamic shape optimization uses high-fidelity simulations to enable the development of more efficient engineering designs. Challenges of performing aerodynamic shape optimization include the high-dimensional design space, the numerous nonlinear constraints, and the multimodal design space. Inexact gradients provide an additional challenge, which is the result of having a chaotic flow that can, for example, arise from the use of a large-eddy simulation. Quasi-Newton methods have typically been used for aerodynamic shape optimization, but they are intended to be used for local optimization with accurate gradients. Alternatively, Bayesian optimizers are effective global optimizers that can utilize inexact data thanks to their probabilistic surrogate. Challenges of using a gradient-enhanced Bayesian optimizer include an ill-conditioned covariance matrix, limited development for local minimization, and few methods that can handle nonlinear equality constrains. Two methods are presented that bound the condition number of the covariance matrix below a user-set threshold without constraining its hyperparameters. Secondly, a framework for local optimization has been developed that leverages the optimizer’s probabilistic surrogate to create a trust region. This framework enables the Bayesian optimizer to reduce the optimality of the Rosenbrock function by 10 orders of magnitude in half as many iterations as popular quasi-Newton optimizers from SciPy and MATLAB. The Bayesian optimizer, with its probabilistic surrogate, is shown to outperform quasi-Newton optimizers when only inaccurate gradients are available, including for the optimization of the chaotic Lorenz 63 model. Finally, new acquisition functions, including an exact augmented Lagrangian, have been developed that make the Bayesian optimizer competitive with popular quasi-Newton optimizers for nonlinearly constrained problems. In particular, the developed Bayesian optimizer is competitive with the optimizer SNOPT for the nonlinearly constrained aerodynamic shape optimization of a transonic airfoil, where both optimizers reduced the optimality by five orders of magnitude. These developments enable the use of gradient-enhanced Bayesian optimizers for a wide range of applications that includes local or global optimization, nonlinear constraints, and cases with inaccurate function and gradient evaluations. L'optimisation de la forme aérodynamique utilise des simulations haute fidélité pour permettre le développement de conceptions techniques plus efficaces. Les défis posés par l'optimisation de la forme aérodynamique comprennent l'espace de conception à haute dimension, les nombreuses contraintes non linéaires et l'espace de conception multimodal. Les gradients inexacts constituent un défi supplémentaire, résultant d'un écoulement chaotique qui peut, par exemple, résulter de l'utilisation d'une simulation de grand tourbillon. Les méthodes de Quasi-Newton ont généralement été utilisées pour l'optimisation de la forme aérodynamique, mais elles sont destinées à l'optimisation locale avec des gradients précis. En revanche, les optimiseurs bayésiens sont des optimiseurs globaux efficaces qui peuvent utiliser des données inexactes grâce à leur substitut probabiliste. Les défis posés par l'utilisation d'un optimiseur bayésien à gradient amélioré comprennent une matrice de covariance mal conditionnée, un développement limité pour la minimisation locale et peu de méthodes capables de gérer des contraintes d'égalité non linéaires. Deux méthodes sont présentées qui limitent le nombre de conditions de la matrice de covariance en dessous d'un seuil fixé par l'utilisateur sans contraindre ses hyperparamètres. Deuxièmement, un cadre pour l'optimisation locale a été développé qui tire parti du substitut probabiliste de l'optimiseur pour créer une région de confiance. Ce cadre permet à l'optimiseur bayésien de réduire l'optimalité de la fonction de Rosenbrock de 10 ordres de grandeur en deux fois moins d'itérations que les optimiseurs quasi-Newton populaires de SciPy et MATLAB. L'optimiseur bayésien, avec son substitut probabiliste, s'avère plus performant que les optimiseurs de quasi-Newton lorsque seuls des gradients imprécis sont disponibles, y compris pour l'optimisation du modèle chaotique de Lorenz 63. Enfin, de nouvelles fonctions d'acquisition, y compris un lagrangien augmenté exact, ont été développées pour rendre l'optimiseur bayésien compétitif par rapport aux optimiseurs de quasi-Newton les plus courants pour les problèmes à contraintes non linéaires. En particulier, l'optimiseur bayésien développé est compétitif par rapport à l'optimiseur SNOPT pour l'optimisation de la forme aérodynamique sous contrainte non linéaire d'un profil transsonique, où les deux optimiseurs ont réduit l'optimalité de cinq ordres de grandeur. Ces développements permettent l'utilisation d'optimiseurs bayésiens à gradient amélioré pour une large gamme d'applications comprenant l'optimisation locale ou globale, les contraintes non linéaires et les cas avec des évaluations imprécises de la fonction et du gradient.

Fetched live from OpenAlex and de-inverted. Abstracts are not stored in this database: the inverted indexes are 8.6 GB of the frame’s 9.3 GB of text, and the host has 13 GB free.