Différentiel généralisé

Le différentiel de Bouligand[1] en ${\displaystyle x\in \Omega }$ de ${\displaystyle F}$ est l'ensemble

${\displaystyle \partial _{\rm {B}}F(x)=\{J:~{\mbox{il existe une suite}}~\{x_{k}\}\subset \Omega _{F}~{\mbox{telle que}}~x_{k}\to x~{\mbox{et}}~F'(x_{k})\to J\}.}$

Ce différentiel n'est ni simple à calculer, ni facile à manier. Par exemple, il ne permet pas d'avoir des conditions d'optimalité en optimisation et ne permet pas d'avoir un théorème de la moyenne. On obtient de meilleures propriétés en prenant son enveloppe convexe, ce qui conduit au différentiel de Clarke.

Le différentiel de Clarke[2] en ${\displaystyle x\in \Omega }$ est l'ensemble

${\displaystyle \partial _{\rm {C}}F(x)=\operatorname {co} \partial _{\rm {B}}F(x),}$

où ${\displaystyle \operatorname {co} P}$ désigne l'enveloppe convexe de l'ensemble ${\displaystyle P}$.

Exemple. On considère la fonction linéaire par morceaux ${\displaystyle F:\mathbb {R} ^{2}\to \mathbb {R} ^{2}}$ définie en ${\displaystyle x\in \mathbb {R} ^{2}}$ par

On observe que ${\displaystyle \Omega _{F}=\mathbb {R} ^{2}\setminus \mathbb {R} e^{2}}$ et on obtient

${\displaystyle \partial _{\rm {B}}F(x)=\{I,M\}.}$

On a alors

${\displaystyle \partial _{\rm {C}}F(x)=\operatorname {co} \{I,M\}=\{(1-t)I+tM:t\in [0,1]\}.}$

On a bien sûr

${\displaystyle \partial _{\rm {B}}F(x)\subseteq \partial _{\rm {C}}F(x),}$

avec égalité si ${\displaystyle F}$ est différentiable dans un voisinage de ${\displaystyle x}$ et si ${\displaystyle F'}$ est continue en ${\displaystyle x}$, auquel cas les deux différentiels sont le singleton ${\displaystyle \{F'(x)\}}$. Mais si ${\displaystyle F}$ est lipschitzienne dans un voisinage de ${\displaystyle x}$ et seulement dérivable en ${\displaystyle x}$, ${\displaystyle \partial _{\rm {C}}F(x)}$ n'est pas nécessairement un singleton, comme le montre le cas où la fonction ${\displaystyle F:\mathbb {R} \to \mathbb {R} }$ est définie par[3]

${\displaystyle F(x)=\left\{{\begin{array}{ll}x^{2}\,\sin(1/x)&{\mbox{si}}~x\neq 0\\0&{\mbox{sinon.}}\end{array}}\right.}$

Elle est localement lipschitzienne en zéro. Sa dérivée en ${\displaystyle x\neq 0}$ vaut ${\displaystyle F'(x)=2x\sin(1/x)-\cos(1/x)}$ et ${\displaystyle F'(0)=0}$, si bien que ${\displaystyle F}$ est dérivable en ${\displaystyle x=0}$, mais la dérivée n'est pas continue en ${\displaystyle x=0}$. En prenant des suites ${\displaystyle \{x_{k}\}\to 0}$, avec ${\displaystyle x_{k}\neq 0}$, telles que ${\displaystyle \cos(1/x_{k})}$ soit constant dans ${\displaystyle [-1,1]}$, on voit que ${\displaystyle \partial _{\rm {B}}F(0)=\partial _{\rm {C}}F(0)=[-1,1]}$.

On simplifie souvent le calcul de ${\displaystyle \partial _{\rm {C}}F(x)}$ en ne retenant que des suites ${\displaystyle \{x_{k}\}}$ dans ${\displaystyle \Omega _{F}\setminus N}$ où ${\displaystyle N}$ est un ensemble négligeable quelconque[4] :

${\displaystyle \partial _{\rm {C}}F(x)=\operatorname {co} \{J:\exists \,\{x_{k}\}\subset \Omega _{F}\setminus N~{\mbox{telle que}}~x_{k}\to x~{\mbox{et}}~F'(x_{k})\to J\}.}$

Les notion et propriété suivantes sont utiles pour obtenir le résultat de convergence locale de l'algorithme de Newton semi-lisse.

Diffusion de la C-régularité — Si ${\displaystyle F:\mathbb {E} \to \mathbb {F} }$ est lipschitzienne dans un voisinage de ${\displaystyle x}$ et C-régulière en ${\displaystyle x}$, alors il existe des constantes ${\displaystyle C>0}$ et ${\displaystyle \varepsilon >0}$ telles que

${\displaystyle \sup _{x'\in B(x,\varepsilon ) \atop J\in \partial _{\rm {C}}F(x')}\;\max \;{\bigl (}\|J\|,\|J^{-1}\|{\bigr )}\leq C.}$

Le différentiel produit[5] de ${\displaystyle F}$ en ${\displaystyle x\in \Omega }$ est le produit cartésien des différentiels de Clarke de chaque composante

${\displaystyle \partial _{\times }F(x)=\partial _{\rm {C}}F_{1}(x)\times \cdots \times \partial _{\rm {C}}F_{m}(x).}$

Exemple. Si ${\displaystyle F}$ est donnée comme dans l'exemple ci-dessus, on obtient

On a[6]

${\displaystyle \partial _{\rm {C}}F(x)\subseteq \partial _{\times }F(x).}$

Comme le montre l'exemple ci-dessus, on n'a pas nécessairement l'égalité.

• Fonction semi-lisse

• (en) F.H. Clarke (1990). Optimization and Nonsmooth Analysis (seconde édition). Classics in Applied Mathematics 5. SIAM, Philadelphia, PA, USA.
• (en) F. Facchinei, J.-S. Pang (2003). Finite-Dimensional Variational Inequalities and Complementarity Problems (deux volumes). Springer Series in Operations Research. Springer.
• (en) A.F. Izmailov, M.V. Solodov (2014). Newton-Type Methods for Optimization and Variational Problems, Springer Series in Operations Research and Financial Engineering, Springer.