G-2024-65
A nonsmooth exact penalty method for equality-constrained optimization: complexity and implementation
, et référence BibTeX
Les méthodes de pénalité constituent une classe bien connue d'algorithmes pour l'optimisation sous contraintes. Elles transforment un problème contraint en une séquence de problèmes sans contraintes dans l'espoir que les solutions approximatives de ces derniers convergent vers une solution du premier. S'il existe des multiplicateurs de Lagrange, les méthodes de pénalité exacte garantissent que le paramètre de pénalité ne doit augmenter qu'un nombre fini de fois, mais elles sont généralement ignorées dans l'optimisation lisse car les problèmes pénalisés ne sont pas lisses.
Cela a conduit les chercheurs à considérer que l'implémentation des méthodes de pénalités exactes n'était pas pratique. Récemment, les progrès des méthodes proximales ont conduit à des solveurs de plus en plus efficaces pour l'optimisation non lisse. Nous montrons que la méthode de pénalité exacte \(\ell_2\)
pour l'optimisation avec contraintes d'égalité peut en fait être implémentée efficacement en résolvant le problème pénalisé avec un algorithme de type proximal.
Nous étudions la convergence de notre algorithme et établissons une borne de complexité dans le pire des cas de
\(\mathcal{O}(\epsilon^{-2})\)
pour ramener une mesure de stationnarité en dessous de \(\epsilon > 0\)
sous la contrainte de qualification de Mangarasian-Fromowitz et la Lipschitz continuité du gradient de l'objectif et du jacobien de la contrainte. Dans un scénario dégénéré où le paramètre de pénalité croît sans limite, la complexité devient \(\mathcal{O}(\epsilon^{-8})\)
, ce qui est pire qu'une autre borne trouvée dans la littérature. Nous justifions cette différence en faisant valoir que notre mesure de faisabilité est correctement échelonnée. Enfin, nous présentons une expérience numérique sur des problèmes à petite échelle provenant d'une collection standard et nous comparons notre solveur à une méthode de lagrangien augmentée et à une méthode SQP. Notre implémentation préliminaire est à la hauteur du Lagrangien augmenté en termes de robustesse et d'efficacité. Elle est à égalité avec la méthode SQP en termes de robustesse, bien que la première reste en tête en termes de nombre d'évaluations de la fonction du problème.
Paru en septembre 2024 , 19 pages
Axe de recherche
Application de recherche
Document
G2465.pdf (620 Ko)