Retour

G-2023-65

Complexity of trust-region methods with unbounded Hessian approximations for smooth and nonsmooth optimization

et

référence BibTeX

Nous présentons une analyse de la borne de complexité dans le pire des cas pour les méthodes de région de confiance en présence d'approximations du Hessien non bornées. Nous utilisons l'algorithme de Aravkin et al. (2022) comme modèle, qui, bien qu'étant conçu spécifiquement pour les problèmes non lisses régularisés, s'applique aussi dans le cas particulier des problèmes lisses non contraints. Notre analyse fait l'hypothèse que la croissance des approximations des Hessiens est contrôlée par le nombre d'itérations concluantes. Nous montrons que la borne de complexité bien connue \(\epsilon^{-2}\) se détériore en \(\epsilon^{-2/(1-p)}\), où \(0 \le p < 1\) est un paramètre contrôlant la croissance des approximations des Hessiens. Plus les approximations des Hessiens augmentent, et plus la borne se dégrade. Nous construisons une fonction objectif satisfaisant toutes nos hypothèses pour laquelle la borne de complexité est atteinte, ce qui montre que notre borne est la plus petite possible. Nous présentons des résultats numériques cohérents avec notre analyse théorique.

, 18 pages

Ce cahier a été révisé en mars 2024

Axe de recherche

Application de recherche

Document

G2365R.pdf (720 Ko)