Algorithme proximal (optimisation)

En analyse numérique et plus précisément en optimisation mathématique, l'algorithme proximal (ou algorithme du point proximal) est un algorithme itératif de calcul d'un minimum d'une fonction convexe semi-continue inférieurement propre. Si la fonction n'est pas quadratique, chaque itération requiert la minimisation d'une fonction non linéaire fortement convexe. L'algorithme peut être vu comme une méthode de gradient implicite.

Certains algorithmes peuvent être interprétés comme des algorithmes proximaux. Il en est ainsi de la méthode des multiplicateurs (ou algorithme du lagrangien augmenté). Cette lecture permet alors d'en établir des propriétés de convergence, déduites de celles de l'algorithme proximal.

Le problème

Soient ${\displaystyle \mathbb {H} }$ un espace de Hilbert, dont le produit scalaire est noté ${\displaystyle \langle \cdot ,\cdot \rangle }$ et la norme associée est notée ${\displaystyle \|\cdot \|}$, et ${\displaystyle f:\mathbb {H} \to \mathbb {R} \cup \{+\infty \}}$ une fonction convexe semi-continue inférieurement propre. On s'intéresse au problème de trouver un minimum de ${\displaystyle f}$, c'est-à-dire un point ${\displaystyle x\in \mathbb {H} }$ tel que

${\displaystyle \forall \,x'\in \mathbb {H} ,\qquad f(x)\leqslant f(x').}$

Le problème revient à trouver une solution ${\displaystyle x}$ de l'inclusion

${\displaystyle \partial f(x)\ni 0,}$

où ${\displaystyle \partial f(x)}$ est le sous-différentiel de ${\displaystyle f}$ en ${\displaystyle x}$, parce que cette inclusion est une condition nécessaire et suffisante d'optimalité du problème de minimisation. On montre que, sous les propriétés énoncées de ${\displaystyle f}$, ${\displaystyle x\multimap \partial f(x)}$ est un opérateur monotone maximal^[1], ce qui permet de voir le problème comme un cas particulier de recherche de zéro d'opérateur monotone maximal et de voir l'algorithme proximal en optimisation comme un cas particulier de l'algorithme proximal pour la recherche de zéro de tels opérateurs.

L'algorithme

L'algorithme est en partie fondé sur le fait que, lorsque ${\displaystyle f}$ est convexe fermée propre et ${\displaystyle r>0}$, la fonction

${\displaystyle y\in \mathbb {H} \mapsto f_{x,r}(y):=f(y)+{\frac {1}{2r}}\|y-x\|^{2}\in \mathbb {R} \cup \{+\infty \}}$

est fortement convexe, de module ${\displaystyle r^{-1}}$, fermée propre et a donc un minimiseur unique. Dans la description de l'algorithme ci-dessous, on note

${\displaystyle f_{k}:=f_{x_{k},r_{k}}.}$

Algorithme proximal — On se donne un itéré initial ${\displaystyle x_{0}\in \mathbb {H} }$. L'algorithme proximal définit une suite d'itérés ${\displaystyle x_{1},x_{2},\ldots \in \mathbb {H} }$, en calculant ${\displaystyle x_{k+1}}$ à partir de ${\displaystyle x_{k}}$ par

${\displaystyle x_{k+1}=\operatorname {arg\,min} _{x\in \mathbb {H} }\,f_{k}(x),}$

où ${\displaystyle r_{k}>0}$ est un nombre réel pouvant être modifié à chaque itération.

Exprimé autrement, le calcul du nouvel itéré consiste à trouver l'unique solution ${\displaystyle x_{k+1}}$ de l'inclusion

${\displaystyle 0\in \partial f_{k}(x_{k+1})\equiv \partial f(x_{k+1})+{\frac {1}{r_{k}}}(x_{k+1}-x_{k}),}$

ce qui s'écrit aussi

${\displaystyle x_{k+1}=x_{k}-r_{k}g_{k+1},\quad {\mbox{avec}}\quad g_{k+1}\in \partial f(x_{k+1}).}$

L'algorithme peut donc être vu comme une méthode de sous-gradient implicite (dans le sens où le sous-gradient est évalué au nouveau point ${\displaystyle x_{k+1}}$ – inconnu – et non pas en l'itéré courant ${\displaystyle x_{k}}$) avec pas ${\displaystyle r_{k}}$. On voit aussi que chaque itération requiert la résolution d'un problème d'optimisation non linéaire (à moins que ${\displaystyle f}$ ne soit quadratique).

Pour expliquer le principe contre-intuitif de l'algorithme, puisque pour minimiser ${\displaystyle f}$, il faut qu'à chaque itération, l'algorithme proximal minimise la fonction ${\displaystyle f_{k}}$ qui semble bien être aussi compliquée que ${\displaystyle f}$, on peut remarquer les points suivants.

1. La fonction ${\displaystyle f_{k}}$ à minimiser (à chaque itération, ne l'oublions pas) peut être plus attrayante que ${\displaystyle f}$, du fait de sa forte convexité. Pour certains algorithmes, cette propriété est une aubaine, permettant d'accélérer leur convergence et de mieux la contrôler. Cette fonction a aussi un minimum unique, ce qui n'est pas nécessairement le cas de ${\displaystyle f}$.
2. Certains algorithmes de dualité peuvent être interprétés comme des algorithmes proximaux. Ces algorithmes de dualité s'appliquent en fait à des fonctions ${\displaystyle f}$ dont l'évaluation résulte de la minimisation d'une fonction (le lagrangien) et il n'est pas plus coûteux d'évaluer ${\displaystyle f}$ que de minimiser ${\displaystyle f_{k}}$, qui revient à minimiser une autre fonction (le lagrangien augmenté). Ces algorithmes de dualité ont donc tout leur sens. Leur interprétation en termes d'algorithme proximal permet alors d'en obtenir des propriétés difficiles à mettre en évidence autrement.
3. Observons que si ${\displaystyle \mathbb {E} =\mathbb {R} ^{n}}$ et ${\displaystyle f}$ est séparable, c'est-à-dire si elle s'écrit comme suit
   
   ${\displaystyle f(x)=\sum _{j=1}^{N}f_{j}(x_{D_{j}}),}$
   où les ${\displaystyle D_{j}}$ sont de petites parties de l'ensemble des indices ${\displaystyle \{1,\ldots ,n\}}$, il en est de même de ${\displaystyle f_{k}}$. C'est une propriété intéressante lorsqu'on cherche à résoudre de grands problèmes par des techniques de décomposition.
4. L'algorithme proximal a un effet stabilisant. Lorsque ${\displaystyle f}$ a plusieurs minimiseurs, l'algorithme génère une suite convergeant vers l'un d'entre eux. L'algorithme proximal est parfois utilisé pour stabiliser des algorithmes qui ne convergeraient pas sans modification lorsque le problème considéré devient singulier.

Convergence

Résolution approchée

Le calcul de l'itéré suivant par ${\displaystyle x_{k+1}=\operatorname {arg\,min} _{x\in \mathbb {H} }\,f_{k}(x)}$ est souvent coûteux en temps de calcul. Dès lors, l'on se contente souvent d'un calcul approché conservant toutefois les propriétés de convergence de l'algorithme idéal. On peut aussi arguer que ce calcul ne peut être réalisé exactement en arithmétique flottante. Différents critères ont donc été proposés pour déterminer ce qu'est une résolution approchée acceptable.

Critères d'arrêt de Rockafellar

Rockafellar (1976a) propose de se contenter d'un ${\displaystyle x_{k+1}}$ vérifiant

${\displaystyle {\mbox{(R1)}}\qquad \operatorname {dist} {\Bigl (}r_{k}\partial f_{k}(x_{k+1}),0{\Bigr )}\leqslant \varepsilon _{k},\qquad {\mbox{avec}}~~\sum _{k\geqslant 0}\varepsilon _{k}<\infty .}$

Ce critère requiert la connaissance complète du sous-différentiel ${\displaystyle \partial f(x_{k+1})}$, ce qui est rarement aisé. Cependant, si l'on connait un élément ${\displaystyle g_{k+1}\in \partial f(x_{k+1})}$, le critère pourra être renforcé en y remplaçant ${\displaystyle \operatorname {dist} (r_{k}\partial f_{k}(x_{k+1}),0)}$ par ${\displaystyle \|x_{k+1}+r_{k}g_{k+1}-x_{k}\|}$ puisque ${\displaystyle x_{k+1}+r_{k}g_{k+1}-x_{k}\in r_{k}\partial f_{k}(x_{k+1})}$.

On a le résultat de convergence faible suivant^[2].

Convergence faible — On suppose que ${\displaystyle f}$ est propre convexe fermée. On considère l'algorithme proximal avec le critère d'arrêt (R1) et ${\displaystyle r_{k}}$ uniformément positif. On note ${\displaystyle \{x_{k}\}}$ la suite générée par l'algorithme. Alors

1. si ${\displaystyle f}$ n'a pas de minimiseur, ${\displaystyle \{x_{k}\}}$ n'est pas bornée,
2. si ${\displaystyle f}$ a un minimiseur, ${\displaystyle \{x_{k}\}}$ converge faiblement vers un minimiseur ${\displaystyle {\bar {x}}}$ de ${\displaystyle f}$, ${\displaystyle (x_{k+1}-x_{k})\to 0}$ (convergence forte dans ${\displaystyle \mathbb {H} }$) et

${\displaystyle f(x_{k})-f({\bar {x}})\leq \left({\frac {\varepsilon _{k}+\|x_{k+1}-x_{k}\|}{r_{k}}}\right)\|x_{k+1}-{\bar {x}}\|\to 0.}$

Rockafellar (1976a) propose aussi un critère plus exigeant, celui dans lequel on requiert le calcul d'un ${\displaystyle x_{k+1}}$ vérifiant

${\displaystyle {\mbox{(R2)}}\qquad \operatorname {dist} {\Bigl (}r_{k}\partial f_{k}(x_{k+1}),0{\Bigr )}\leqslant \varepsilon _{k}\|x_{k+1}-x_{k}\|,\qquad {\mbox{avec}}~~\sum _{k\geqslant 0}\varepsilon _{k}<\infty .}$

On peut faire pour ce critère, la même remarque que celle faite pour le critère (R1), concernant le calcul du sous-différentiel ${\displaystyle \partial f(x_{k+1})}$.

On a alors le résultat de convergence forte suivant^[3]. On y impose que ${\displaystyle (\partial f)^{-1}}$ soit localement radialement lipschitzienne de module ${\displaystyle L}$ en zéro, ce qui signifie que

${\displaystyle \left\{{\begin{array}{l}f~{\mbox{a un unique minimiseur}}~{\bar {x}},\\\exists \,\delta >0:~~s\in \partial f(x),~~\|s\|\leqslant \delta \quad \Longrightarrow \quad \|x-{\bar {x}}\|\leqslant L\|s\|.\end{array}}\right.}$

D'autres expressions de cette propriété sont données dans le résultat, en termes de ${\displaystyle f}$ et de sa conjuguée ${\displaystyle f^{*}}$.

Convergence forte — On suppose que ${\displaystyle f}$ est propre convexe fermée, qu'elle a un unique minimiseur ${\displaystyle {\bar {x}}}$ et que, pour une constante ${\displaystyle L>0}$, elle vérifie l'une des propriétés équivalentes suivantes :

• ${\displaystyle (\partial f)^{-1}}$ est localement radialement lipschitzienne en zéro de module ${\displaystyle L}$,
• pour ${\displaystyle x}$ voisin de ${\displaystyle {\bar {x}}}$, on a ${\displaystyle f(x)\geqslant f({\bar {x}})+1/(2L)\|x-{\bar {x}}\|^{2}}$,
• pour ${\displaystyle s}$ voisin de ${\displaystyle 0}$, on a ${\displaystyle f^{*}(s)\leqslant f^{*}(0)+\langle s,{\bar {x}}\rangle +(L/2)\|s\|^{2}}$.

On considère l'algorithme proximal avec le critère d'arrêt (R2) et des paramètres ${\displaystyle r_{k}}$ uniformément positifs. On suppose que la suite générée ${\displaystyle \{x_{k}\}}$ est bornée. Alors ${\displaystyle \{x_{k}\}}$ converge fortement et linéairement vers ${\displaystyle {\bar {x}}}$ :

${\displaystyle \exists \,{\bar {k}},\quad \forall \,k\geqslant {\bar {k}}:\qquad \|x_{k+1}-{\bar {x}}\|\leqslant \theta _{k}\|x_{k}-{\bar {x}}\|,}$

où ${\displaystyle \theta _{k}:=(\mu _{k}+\varepsilon _{k})/(1-\varepsilon _{k})\leqslant {\bar {\theta }}<1}$ avec ${\displaystyle \mu _{k}:=L/(L^{2}+r_{k}^{2})^{1/2}\leqslant {\bar {\mu }}<1}$.

On note que si ${\displaystyle r_{k}\uparrow \infty }$, alors ${\displaystyle \mu _{k}\to 0}$ et ${\displaystyle \theta _{k}\to 0}$, ce qui implique qu'alors la suite ${\displaystyle \{x_{k}\}}$ converge superlinéairement vers ${\displaystyle {\bar {x}}}$.

Annexes

Notes et références

1. La monotonie maximale du sous-différentiel d'une fonction convexe fermée propre est due à Minty (1964) et Moreau (1965).
2. Théorème 4 chez Rockafellar (1976a).
3. Réunion du théorème 2 et de la proposition 7 chez Rockafellar (1976a).

Lien externe

• J. Ch. Gilbert, Éléments d'Optimisation Différentiable — Théorie et Algorithmes, syllabus de cours à l'ENSTA ParisTech, Paris.

Bibliographie

• (en) G.J. Minty (1964). On the monotonicity of the gradient of a convex function. Pacific Journal of Mathematics, 14, 243–247.
• J.J. Moreau (1965). Proximité et dualité dans un espace hilbertien. Bulletin de la Société Mathématique de France, 93, 273–299.
• (en) R.T. Rockafellar (1976a). Monotone operators and the proximal point algorithm. SIAM Journal on Control and Optimization, 14, 877–898.
• (en) R.T. Rockafellar (1976b). Augmented Lagrangians and applications of the proximal point algorithm in convex programming. Mathematics of Operations Research, 1, 97-116.