Opérateur monotone
# Opérateur monotone

En mathématiques, un opérateur monotone est une multifonction définie entre espaces préhilbertiens, ou plus généralement d'un espace de Banach dans son dual topologique, qui possède une propriété de monotonie que nous précisons dans les définitions ci-dessous. Lorsque cet opérateur est une « simple » fonction réelle d'une variable réelle, cette propriété de monotonie revient à supposer la croissance (non nécessairement stricte) de cette fonction. Lorsque cet opérateur est une application linéaire (non nécessairement autoadjointe), cette propriété de monotonie revient à supposer la semi-définie positivité de l'application.

Parmi les opérateurs monotones, il faut distinguer ceux que l'on qualifie de monotones maximaux. Ils possèdent une propriété de maximalité qui s'exprime en termes d'inclusion de graphe et qui leur donne des propriétés remarquables. Ainsi, pour un opérateur monotone $T$, l'inclusion fonctionnelle

$x+T(x)\ni 0,$

dans laquelle $T(x)$ est un ensemble, a au plus une solution $x$, alors que si $T$ monotone maximal, cette inclusion a une et une seule solution.

## Exemples.

   * Soient $E$ un espace de Banach, ${\mathcal {P}}(E)$ l'ensemble de ses parties et $f:E\to {\overline {\mathbb {R} }}$ une fonction convexe propre. Alors l'application sous-différentiel de $f$, $\partial f:E\to {\mathcal {P}}(E)$, est un opérateur monotone (on dit qu'il « dérive du potentiel $f$ ») ; il est monotone maximal si $f$ est fermée.

   * Si $E$ est un espace de Hilbert, la multifonction cône normal à un convexe $C$ : $x\in E\mapsto N_{C}(x)$ est un opérateur monotone. C'est un cas particulier du précédent, puisque le cône normal est le sous-différentiel de la fonction indicatrice de $C$ (une fonction convexe lorsque $C$ est convexe). Elle est monotone maximale si $C$ est fermé.

   * Le projecteur sur un convexe fermé non vide d'un espace de Hilbert est monotone.

## Multifonction

Soient $E$ et $F$ deux ensembles. Une fonction multivaluée, ou multifonction $T:E\multimap F$ est une application de $E$ dans l'ensemble ${\mathcal {P}}(F)$ des parties de $F$. Son graphe, son domaine, son image et sa réciproque sont notés respectivement ${\mathcal {G}}(T)$, ${\mathcal {D}}(T)$, ${\mathcal {R}}(T)$ et $T^{-1}$.

Si $F$ est un espace vectoriel, l'ensemble de ses parties hérite naturellement d'une loi externe et d'une addition (la somme de Minkowski), dont hérite à son tour l'ensemble des multifonctions de $E$ dans $F$.

## Opérateur monotone

Soit $H$ un espace préhilbertien dont le produit scalaire est noté $\langle \cdot ,\cdot \rangle$ et la norme associée $\|\cdot \|$.

Opérateurs monotones — Une multifonction $T:H\multimap H$ est dite :

* monotone si$\forall \,(x,y)\in {\mathcal {G}}(T)\quad \forall \,(x',y')\in {\mathcal {G}}(T)\qquad \langle y-y',x-x'\rangle \geqslant 0$ ;
* strictement monotone si l'inégalité ci-dessus est stricte lorsque $x\neq x'$ ;
* fortement monotone de module $\alpha >0$ si$\forall \,(x,y)\in {\mathcal {G}}(T)\quad \forall \,(x',y')\in {\mathcal {G}}(T)\qquad \langle y-y',x-x'\rangle \geqslant \alpha \|x-x'\|^{2}$.

Propriétés immédiates — Soit $T:H\multimap H$ un opérateur monotone.

* Si $\alpha$ est un réel positif et $a\in H$, $x\in H\to \alpha \,T(x)+a\subset H$ est monotone.
* $T^{-1}$ est monotone.
* Si $T':H\multimap H$ est monotone, alors $T+T'$ est monotone.

On peut exprimer la propriété de monotonie en utilisant uniquement la norme associée au produit scalaire de $H$. Les opérateurs vérifiant cette propriété sur un espace normé sont dits accrétifs.

Monotonie et accrétivité — Pour une multifonction $T:H\multimap H$, les propriétés suivantes sont équivalentes :

* $T$ est monotone,
* $T$ est accrétif, c'est-à-dire : pour tout $\lambda >0$, pour tout $(x,y)\in {\mathcal {G}}(T)$ et pour tout $(x',y')\in {\mathcal {G}}(T)$, on a

$\|x-x'\|\leq \|(x-x')+\lambda (y-y')\|.$

Par la propriété d'accrétivité, on voit que si $T$ est monotone, l'inclusion

$0\in x+T(x)$

a au plus une solution $x$. Pour les opérateurs monotones maximaux, cette inclusion aura une et une seule solution.

## Opérateur monotone maximal

### Définition

Opérateur monotone maximal — On dit qu'un opérateur $T:H\multimap H$ est monotone maximal s'il est monotone et s'il n'existe pas d'opérateur monotone $T'$ tel que ${\mathcal {G}}(T)$ est strictement inclus dans ${\mathcal {G}}(T')$. Une autre manière d'exprimer la maximalité d'un opérateur monotone $T$ est la suivante

$\left(\forall \,(x,y)\in {\mathcal {G}}(T)\quad \langle y-y',x-x'\rangle \geqslant 0\right)\Longrightarrow (x',y')\in {\mathcal {G}}(T).$

Le résultat de cette implication est donc que $y'\in Tx'$, ce qui pourra parfois être interprété comme un résultat d'existence de solution d'inclusion ($y'$ est donné et il faut trouver $x'$). Pour prolonger la remarque faite ci-dessus, si la monotonie de $T$ implique l'unicité de la solution $x$ de l'inclusion

$0\in x+T(x),$

la maximalité d'un opérateur monotone permet de montrer l'existence de solution de cette inclusion.

Propriétés immédiates — Si $T:H\multimap H$ est un opérateur monotone maximal, alors

* pour tout $\alpha$ strictement positif, $\alpha \,T$ est monotone maximal,
* $T^{-1}:H\multimap H$ est monotone maximal,
* ${\mathcal {G}}(T)$ est fermé dans $H\times H$,
* pour tout $x\in H$, $T(x)$ est un convexe fermé de $H$,
* pour tout $y\in H$, $T^{-1}(y)$ est un convexe fermé de $H$.

Pour la somme de deux opérateurs monotones maximaux, voir la section qui est consacrée à ce thème difficile.

### Exemples

* Soient $H$ un espace de Hilbert et $f:H\to \mathbb {R} \cup \{+\infty \}$ une fonction convexe fermée propre. Alors l'application sous-différentiel $\partial f:H\multimap H$ est monotone maximale. Le problème de trouver un $x\in H$ tel que $0\in \partial f(x)$ est équivalent à celui de trouver un point minimisant $f$.
* Soient $H$ un espace de Hilbert dont le produit scalaire est noté $\langle \cdot ,\cdot \rangle$, $K$ un convexe fermé non vide de $H$, $N_{K}(x)$ est le cône normal à $K$ en $x$ et $F:K\to H$ un opérateur univoque monotone (non nécessairement maximal) hémicontinu contenant $K$ dans son domaine. Alors $T:H\multimap H:x\mapsto T(x)=F(x)+N_{K}(x)$ est monotone maximal. Le problème de trouver un $x\in H$ tel que $0\in T(x)$ est équivalent à celui de trouver une solution $x\in H$ du problème de l'inéquation variationnelle suivante : $x\in K\qquad {\mbox{et}}\qquad \forall x'\in K\quad \langle F(x),x'-x\rangle \geqslant 0.$

### Caractérisations

Voici des caractérisations bien utiles de la monotonie maximale d'un opérateur. On note $I$ l'opérateur identité.

Caractérisation — Soient $H$ un espace de Hilbert et $T:H\multimap H$ un opérateur. Les propriétés suivantes sont équivalentes :

* $T$ est monotone maximal,
* $T$ est monotone et ${\mathcal {R}}(I+T)=H$,
* pour tout $\lambda >0$, $(I+\lambda T)^{-1}$ est non expansif et ${\mathcal {D}}((I+\lambda T)^{-1})=H$.

On note qu'un opérateur non expansif est nécessairement univoque. La propriété ${\mathcal {D}}((I+T)^{-1})=H$ équivaut à dire que pour tout $z\in H$, $(I+T)^{-1}(z)\neq \varnothing$ (c'est un singleton) ou encore que l'inclusion

$x+Tx\ni z$

a une (et une seule) solution $x$.

La résolvante d'un opérateur monotone maximal est l'application non expansive (donc univoque) suivante

$R_{T}:=(I+T)^{-1}:H\to H.$

La résolvante est définie sur $H$ tout entier. De plus, si l'on introduit l'opérateur univoque $S_{T}:=I-R_{T}$, on a

$\forall (x,x')\in H^{2}\quad \|R_{T}x-R_{T}x'\|^{2}+\|S_{T}x-S_{T}x'\|^{2}\leqslant \|x-x'\|^{2},$

propriété équivalente à la suivante

$\forall (x,x')\in H^{2}\quad \langle R_{T}x-R_{T}x',x-x'\rangle \geqslant \|R_{T}x-R_{T}x'\|^{2}.$

Cette propriété exprime la ferme non-expansivité de la résolvante $R_{T}$.

### Somme de deux opérateurs monotones maximaux

Si la somme de deux opérateurs monotones est un opérateur monotone, la somme de deux opérateurs monotones maximaux n'est pas nécessairement un opérateur monotone maximal, ne fût ce que parce que l'intersection de leur domaine peut être vide (auquel cas le domaine de leur somme est vide). On a le résultat suivant, dans lequel $P^{\circ }$ désigne l'intérieur d'une partie $P\subset E$, ${\overline {P}}$ désigne son adhérence forte et $T$ est dit localement borné en $x\in {\mathcal {D}}(T)$ s'il existe un voisinage $V$ de $x$ dont l'image $T(V)$ est bornée.

Somme de deux opérateurs monotones maximaux — Soient $E$ un espace de Banach réflexif et $T_{1}$, $T_{2}:E\multimap E$ deux opérateurs monotones maximaux vérifiant l'une des deux conditions équivalentes suivantes :

* ${\mathcal {D}}(T_{1})\cap {\mathcal {D}}(T_{2})^{\circ }\neq \varnothing$,
* il existe un point de ${\overline {{\mathcal {D}}(T_{1})}}\cap {\overline {{\mathcal {D}}(T_{2})}}$ en lequel $T_{2}$ est localement borné.

Alors $T_{1}+T_{2}$ est monotone maximal.

## Résolution d'inclusion monotone

Soit $T:E\multimap E$ un opérateur monotone maximal. Cette section décrit quelques algorithmes de résolution de l'inclusion monotone

$0\in T(x).$

Il s'agit de trouver $x\in E$ tel que l'ensemble $T(x)$ de $E$ contienne l'élément nul. Les descriptions sont brèves et renvoient aux articles dédiés aux algorithmes correspondants.

### Algorithme proximal

Voir

* l'article « Algorithme proximal » pour le cas où $T$ est monotone maximal et
* l'article « Algorithme proximal (optimisation) » pour le cas particulier où $T$ est le sous-différentiel d'une fonction convexe fermée propre.

### Algorithme de Douglas-Rachford

Il s'agit d'un algorithme adapté à la recherche d'un zéro de la somme $A+B$ de deux opérateurs monotones maximaux $A$ et $B:H\multimap H$. On cherche donc $x\in H$ tel que

$0\in (A+B)(x).$

L'algorithme est bien adapté au cas où les points proximaux $x_{p}:=R_{A}(x)$ et $x_{p}':=R_{B}(x)$ d'un point $x$ donné peuvent se calculer aisément.

Algorithme de Douglas-Rachford — On se donne un itéré initial $x_{0}\in H$ et un scalaire $r>0$. L'algorithme définit une suite d'itérés $x_{1},x_{2},\ldots \in H$, jusqu'à ce qu'un test d'arrêt soit satisfait. Il passe de $x_{k}$ à $x_{k+1}$ par les étapes suivantes :

* $y_{k}:=R_{rA}(x_{k})$,
* $z_{k}:=R_{rB}(2y_{k}-x_{k})$,
* $x_{k+1}:=x_{k}+2\alpha _{k}(z_{k}-y_{k})$, où $\alpha _{k}\in0,1]}$.

On montre que la suite $(x_{k})$ générée par cet algorithme converge faiblement vers un point $x$, si $A+B$ a un zéro et les amortisseurs $\alpha _{k}\in0,1]}$ sont tels que

$\sum _{k}\alpha _{k}(1-\alpha _{k})=+\infty ;$

dans ce cas $R_{rA}(x)$ est un zéro de $A+B$.

## Opérateur monotone d'un espace de Banach dans son dual topologique

Soit $V$ un espace de Banach et $V^{\prime }$ son dual topologique. Pour $x\in V$ et $x^{\prime }\in V^{\prime }$, on pose :

$\langle x^{\prime },x\rangle :=x^{\prime }(x)$

Un opérateur (non nécessairement linéaire) $A$ de $V$ dans $V^{\prime }$ est dit monotone si :

$\forall \,(x,y)\in V^{2}:\quad \langle Ax-Ay,x-y\rangle \geqslant 0$

