Différentiel généralisé
# Différentiel généralisé

En mathématiques, et plus spécifiquement en analyse non lisse, on appelle différentiel généralisé ou différentielle généralisée les différentes notions généralisant aux fonctions non dérivables dans un sens classique, la notion de différentielle des fonctions différentiables au sens de Fréchet. Les fonctions considérées ne sont le plus souvent que localement lipschitziennes. Lorsque la fonction est convexe à valeurs réelles, on retrouve généralement le concept de sous-différentiel.

La notion de dérivée est fondamentale en analyse fonctionnelle car elle permet d'approcher localement des fonctions par des modèles linéaires, plus simples à étudier. Ces modèles fournissent des renseignements sur les fonctions qu'ils approchent, si bien que de nombreuses questions d'analyse passent par l'étude des fonctions linéarisées (stabilité, inversibilité locale, etc).

Le différentiel de Clarke, dont il est principalement question ci-dessous, est une notion décrivant le comportement local d'une fonction en un point. Si la fonction est dérivable en ce point (il faut un peu plus que cela en réalité), ce différentiel se confond avec la dérivée. Sinon c'est un ensemble d'approximations linéaires censées décrire toutes les possibilités de variation infinitésimale de la fonction. Ce différentiel est donc sujet à des variations brusques qui apparaissent lorsqu'on quitte un point de non-différentiabilité. On montre toutefois que, en tant que fonction multivoque, le différentiel de Clarke garde la propriété de semi-continuité supérieure.

## Quelques notions de différentiel

Soient $\mathbb {E}$ et $\mathbb {F}$ deux espaces normés de dimension finie, $\Omega$ un ouvert de $\mathbb {E}$ et $F:\Omega \to \mathbb {F}$ une fonction localement lipschitzienne (c'est-à-dire lipschitzienne sur un voisinage de tout point de $\Omega$, avec une constante de Lipschitz pouvant varier avec le point). On note $\Omega _{F}$ l'ensemble des points où $F$ est Fréchet différentiable. Par le théorème de Rademacher, on sait que $\Omega \setminus \Omega _{F}$ est négligeable pour la mesure de Lebesgue dans $\mathbb {E}$.

### Différentiel de Clarke

**Définitions**

Le différentiel de Bouligand en $x\in \Omega$ de $F$ est l'ensemble

$\partial _{\rm {B}}F(x)=\{J:~{\mbox{il existe une suite}}~\{x_{k}\}\subset \Omega _{F}~{\mbox{telle que}}~x_{k}\to x~{\mbox{et}}~F'(x_{k})\to J\}.$

Ce différentiel n'est ni simple à calculer, ni facile à manier. Par exemple, il ne permet pas d'avoir des conditions d'optimalité en optimisation et ne permet pas d'avoir un théorème de la moyenne. On obtient de meilleures propriétés en prenant son enveloppe convexe, ce qui conduit au différentiel de Clarke.

Le différentiel de Clarke en $x\in \Omega$ est l'ensemble

$\partial _{\rm {C}}F(x)=\operatorname {co} \partial _{\rm {B}}F(x),$

où $\operatorname {co} P$ désigne l'enveloppe convexe de l'ensemble $P$.

Exemple. On considère la fonction linéaire par morceaux $F:\mathbb {R} ^{2}\to \mathbb {R} ^{2}$ définie en $x\in \mathbb {R} ^{2}$ par

$F(x)=\min(x,Mx),~~{\mbox{où}}~M={\begin{pmatrix}2&0\\1&1\end{pmatrix}}.$

On observe que $\Omega _{F}=\mathbb {R} ^{2}\setminus \mathbb {R} e^{2}$ et on obtient

$\partial _{\rm {B}}F(x)=\{I,M\}.$

On a alors

$\partial _{\rm {C}}F(x)=\operatorname {co} \{I,M\}=\{(1-t)I+tM:t\in [0,1]\}.$

**Premières propriétés**

On a bien sûr

$\partial _{\rm {B}}F(x)\subseteq \partial _{\rm {C}}F(x),$

avec égalité si $F$ est différentiable dans un voisinage de $x$ et si $F'$ est continue en $x$, auquel cas les deux différentiels sont le singleton $\{F'(x)\}$. Mais si $F$ est lipschitzienne dans un voisinage de $x$ et seulement dérivable en $x$, $\partial _{\rm {C}}F(x)$ n'est pas nécessairement un singleton, comme le montre le cas où la fonction $F:\mathbb {R} \to \mathbb {R}$ est définie par

$F(x)=\left\{{\begin{array}{ll}x^{2}\,\sin(1/x)&{\mbox{si}}~x\neq 0\\0&{\mbox{sinon.}}\end{array}}\right.$

Elle est localement lipschitzienne en zéro. Sa dérivée en $x\neq 0$ vaut $F'(x)=2x\sin(1/x)-\cos(1/x)$ et $F'(0)=0$, si bien que $F$ est dérivable en $x=0$, mais la dérivée n'est pas continue en $x=0$. En prenant des suites $\{x_{k}\}\to 0$, avec $x_{k}\neq 0$, telles que $\cos(1/x_{k})$ soit constant dans $[-1,1]$, on voit que $\partial _{\rm {B}}F(0)=\partial _{\rm {C}}F(0)=[-1,1]$.

Propriétés immédiates — Si $F:\mathbb {E} \to \mathbb {F}$ est $L$-lipschitzienne dans un voisinage de $x$, alors

* $\partial _{\rm {C}}F(x)$ est un convexe compact non vide ($\|J\|\leqslant L$ pour tout $J\in \partial _{\rm {C}}F(x)$),
* $\partial _{\rm {C}}F$ est semi-continue supérieurement en $x$.

On simplifie souvent le calcul de $\partial _{\rm {C}}F(x)$ en ne retenant que des suites $\{x_{k}\}$ dans $\Omega _{F}\setminus N$ où $N$ est un ensemble négligeable quelconque :

$\partial _{\rm {C}}F(x)=\operatorname {co} \{J:\exists \,\{x_{k}\}\subset \Omega _{F}\setminus N~{\mbox{telle que}}~x_{k}\to x~{\mbox{et}}~F'(x_{k})\to J\}.$

**C-régularité**

Les notion et propriété suivantes sont utiles pour obtenir le résultat de convergence locale de l'algorithme de Newton semi-lisse.

C-régularité — On dit que le C-différentiel $\partial _{\rm {C}}F(x)$ est régulier s'il ne contient que des opérateurs inversibles. On dit alors que le point $x$ est C-régulier.

Diffusion de la C-régularité — Si $F:\mathbb {E} \to \mathbb {F}$ est lipschitzienne dans un voisinage de $x$ et C-régulière en $x$, alors il existe des constantes $C>0$ et $\varepsilon >0$ telles que

$\sup _{x'\in B(x,\varepsilon ) \atop J\in \partial _{\rm {C}}F(x')}\;\max \;{\bigl\|J\|,\|J^{-1}\|{\bigr )}\leq C.$

### Différentiel produit

**Définition**

Le différentiel produit de $F$ en $x\in \Omega$ est le produit cartésien des différentiels de Clarke de chaque composante

$\partial _{\times }F(x)=\partial _{\rm {C}}F_{1}(x)\times \cdots \times \partial _{\rm {C}}F_{m}(x).$

Exemple. Si $F$ est donnée comme dans l'exemple ci-dessus, on obtient

$\partial _{\times }F(x)=\{(I-D)I+DM:D~{\mbox{est diagonale avec}}~D_{ii}\in [0,1]\}.$

**Propriété**

On a

$\partial _{\rm {C}}F(x)\subseteq \partial _{\times }F(x).$

Comme le montre l'exemple ci-dessus, on n'a pas nécessairement l'égalité.

