G-2023-65
Complexity of trust-region methods with unbounded Hessian approximations for smooth and nonsmooth optimization
et référence BibTeX
Nous présentons une analyse de la borne de complexité dans le pire des cas pour les méthodes
de région de confiance en présence d'approximations du Hessien non bornées. Nous utilisons
l'algorithme de Aravkin et al. (2022) comme modèle, qui, bien qu'étant conçu
spécifiquement pour les problèmes non lisses régularisés, s'applique aussi dans le cas particulier
des problèmes lisses non contraints. Notre analyse fait l'hypothèse que la croissance des
approximations des Hessiens est contrôlée par le nombre d'itérations concluantes. Nous
montrons que la borne de complexité bien connue
\(\epsilon^{-2}\)
se détériore en \(\epsilon^{-2/(1-p)}\)
, où \(0 \le p < 1\)
est un paramètre
contrôlant la croissance des approximations des Hessiens. Plus les approximations des Hessiens
augmentent, et plus la borne se dégrade. Nous construisons une fonction objectif satisfaisant
toutes nos hypothèses pour laquelle la borne de complexité est atteinte, ce qui montre que
notre borne est la plus petite possible. Nous présentons des résultats numériques cohérents
avec notre analyse théorique.
Paru en décembre 2023 , 18 pages
Ce cahier a été révisé en mars 2024
Axe de recherche
Application de recherche
Document
G2365R.pdf (720 Ko)