Cône tangent

Dans tout cet article, ${\displaystyle E}$ désigne un espace vectoriel réel — topologique si nécessaire (si ${\displaystyle E}$ est de dimension finie, on le suppose muni de sa topologie usuelle) — ${\displaystyle X}$ une partie non vide de ${\displaystyle E}$ et ${\displaystyle x}$ un point de ${\displaystyle E}$. On note :

• ${\displaystyle \Lambda X:=\{\lambda x\mid \lambda \in \Lambda ,x\in X\}}$, pour tout ${\displaystyle \Lambda \subset \mathbb {R} }$ (lorsque ${\displaystyle X=\{x\}}$, on utilise la notation simplifiée ${\displaystyle \Lambda x:=\Lambda \{x\}}$). ${\displaystyle X}$ est donc un cône si ${\displaystyle \mathbb {R} _{+}^{*}X\subset X}$.
• ${\displaystyle {\overline {X}}}$ l'adhérence de ${\displaystyle X}$ ;
• ${\displaystyle \operatorname {aff} X}$ son enveloppe affine, ${\displaystyle \operatorname {ir} X}$ son intérieur relatif et ${\displaystyle \partial _{\rm {rel}}X={\overline {X}}\setminus \operatorname {ir} X}$ sa frontière relative ;
• si ${\displaystyle X}$ est un sous-espace affine : ${\displaystyle {\overrightarrow {X}}}$ sa direction.

On note en outre :

• ${\displaystyle \operatorname {Im} f}$ l'image d'une application ${\displaystyle f}$ ;
• ${\displaystyle \operatorname {Ker} f}$ le noyau d'une application linéaire ${\displaystyle f}$ ;

Le cône des directions admissibles, ou cône radial[2] de ${\displaystyle X}$ en ${\displaystyle x}$, noté ${\displaystyle \operatorname {R} _{X}(x)}$, est défini par

Ce cône est donc vide si ${\displaystyle x\notin \operatorname {aff} X}$, et égal à ${\displaystyle {\overrightarrow {\operatorname {aff} X}}}$ tout entier dès que ${\displaystyle X-x}$ est une partie absorbante de ce sous-espace.

Comme pour le calcul de la dérivée d'une fonction, la définition des directions tangentes qui sont les éléments du cône tangent requiert un passage à la limite. Il n'est pas satisfaisant en effet de prendre le cône des directions admissibles comme cône tangent à ${\displaystyle X}$ en ${\displaystyle x}$. Par exemple, le cône des directions admissibles à un cercle de ${\displaystyle \mathbb {R} ^{2}}$ est vide en tout point, si bien que l'on ne retrouve pas, avec cette notion, celle des directions tangentes connue, aussi il en faut une nouvelle :

Direction tangente et cône tangent, au sens de Bouligand[3] — Le cône tangent, ou ensemble des directions tangentes (au sens de Bouligand) à ${\displaystyle X\subset E}$ en ${\displaystyle x\in E}$, noté ${\displaystyle \operatorname {T} _{X}(x)}$ (ou parfois ${\displaystyle \operatorname {T} (X,x)}$)[4], est défini par :

${\displaystyle \operatorname {T} _{X}(x):=\cap _{\varepsilon >0}{\overline {\left]1/\varepsilon ,+\infty \right[\;(X-x)}}}$.

Il résulte de cette définition que ${\displaystyle \operatorname {T} _{X}(x)}$ :

• est un cône fermé inclus dans l'adhérence de ${\displaystyle {\overrightarrow {\operatorname {aff} X}}}$ ;
• est égal à cette adhérence dès que ${\displaystyle x\in \operatorname {ir} X}$ (puisque ${\displaystyle \operatorname {R} _{X}(x)\subset \operatorname {T} _{X}(x)}$) ;
• est vide si ${\displaystyle x\notin {\overline {X}}}$ (donc n'a d'intérêt que si ${\displaystyle x\in \partial _{\rm {rel}}X}$) ;
• est inchangé lorsqu'on remplace ${\displaystyle X}$ par ${\displaystyle {\overline {X}}}$ ;
• commute aux réunions finies, c'est-à-dire : ${\displaystyle \operatorname {T} _{X\cup Y}(x)=\operatorname {T} _{X}(x)\cup \operatorname {T} _{Y}(x)}$ (pour toute partie ${\displaystyle Y}$ de ${\displaystyle E}$) ;
• est donc une fonction croissante de ${\displaystyle X}$, c'est-à-dire : ${\displaystyle X\subset Y\Rightarrow \operatorname {T} _{X}(x)\subset \operatorname {Y} _{Y}(x)}$,ce qui s'écrit aussi, par exemple : ${\displaystyle \operatorname {T} _{\cap _{i\in I}X_{i}}(x)\subset \cap _{i\in I}\operatorname {T} _{X_{i}}(x)}$ (pour toute famille non vide[5] ${\displaystyle (X_{i})_{i\in I}}$ de parties de ${\displaystyle E}$).

Lorsque ${\displaystyle E}$ est à bases dénombrables de voisinages, par exemple lorsque c'est un espace vectoriel normé, l'adhérence d'une partie de ${\displaystyle E}$ se réduit à sa fermeture séquentielle, et la définition du cône tangent se traduit alors par :

${\displaystyle d\in \operatorname {T} _{X}(x)}$ s'il existe des suites ${\displaystyle \{t_{k}\}\subset \mathbb {R} }$ et ${\displaystyle \{x_{k}\}}$ telles que

${\displaystyle \{x_{k}\}\subset X,\qquad t_{k}\to 0^{+}\qquad {\mbox{et}}\qquad {\frac {x_{k}-x}{t_{k}}}\to d}$

ou encore, s'il existe des suites ${\displaystyle \{t_{k}\}\subset \mathbb {R} }$ et ${\displaystyle \{d_{k}\}\subset E}$ telles que

${\displaystyle x+t_{k}d_{k}\in X,\qquad t_{k}\to 0^{+}\qquad {\mbox{et}}\qquad d_{k}\to d.}$

Autrement dit, ${\displaystyle d\in \operatorname {T} _{X}(x)}$ s'il existe une suite de vecteurs ${\displaystyle d_{k}\in E}$ convergeant vers ${\displaystyle d}$, telle que ${\displaystyle x+\mathbb {R} _{+}^{*}d_{k}}$ rencontre ${\displaystyle X}$ en des points de plus en plus proches de ${\displaystyle x}$ lorsque ${\displaystyle k\to \infty }$.

Pour définir le cône normal, on a besoin d'un produit scalaire sur ${\displaystyle E}$. On suppose donc que ${\displaystyle E}$ est un espace préhilbertien et l'on note ${\displaystyle \langle \cdot ,\cdot \rangle }$ son produit scalaire.

Vecteur normal, cône normal — Le cône normal, ou ensemble des vecteurs normaux à ${\displaystyle X}$ en ${\displaystyle x\in {\overline {X}}}$, noté ${\displaystyle \operatorname {N} _{X}(x)}$, est le cône dual négatif du cône tangent : ${\displaystyle \operatorname {N} _{X}(x):=-{\operatorname {T} _{X}(x)}^{*}}$ :

${\displaystyle p\in \operatorname {N} _{X}(x)\Leftrightarrow \forall d\in \operatorname {T} _{X}(x)\quad \langle p,d\rangle \leqslant 0.}$

Par conséquent, ${\displaystyle \operatorname {N} _{X}(x)}$ est un cône convexe fermé.

Exemple

Soit ${\displaystyle X}$ le cône (non convexe) ${\displaystyle (\mathbb {R} _{+}\times \{0\})\cup (\{0\}\times \mathbb {R} _{+})}$. Alors, ${\displaystyle \operatorname {T} _{X}(0)=X}$ donc ${\displaystyle \operatorname {N} _{X}(0)=\mathbb {R} _{-}\times \mathbb {R} _{-}}$.

Dans le cas où l'ensemble est convexe, le calcul du cône tangent et du cône normal se simplifient.

Un ensemble peut être représenté au moyen de fonctions. Par exemple, on peut utiliser des contraintes d'égalité et d'inégalité comme ci-dessous

où les contraintes d'égalité sont définies au moyen de la fonction ${\displaystyle c_{E}:E\to \mathbb {R} ^{m_{E}}}$ et les contraintes d'inégalité sont définies au moyen de la fonction ${\displaystyle c_{I}:E\to \mathbb {R} ^{m_{I}}}$. L'inégalité vectorielle ${\displaystyle c_{I}(x)\leqslant 0}$ doit ici être entendue composante par composante. On note ${\displaystyle E}$ l'ensemble des indices des contraintes d'égalité, qui s'écrivent donc aussi ${\displaystyle c_{i}(x)=0}$ pour tout indice ${\displaystyle i\in E}$. De même pour l'ensemble ${\displaystyle I}$ des contraintes d'inégalité.

Se pose alors la question de savoir calculer le cône tangent en un point ${\displaystyle x}$ à partir des dérivées premières des fonctions ${\displaystyle c_{E}}$ et ${\displaystyle c_{I}}$ en ${\displaystyle x}$.

Il est naturel de s'intéresser à l'expression suivante obtenue en linéarisant les fonctions ${\displaystyle c_{E}}$ et ${\displaystyle c_{I}}$ en ${\displaystyle x}$ :

où l'on a noté

On peut montrer que, sous des hypothèses raisonnables, on a toujours

${\displaystyle \operatorname {T} _{X}(x)\subset \operatorname {T} '_{X}(x).}$

On aimerait avoir égalité pour pouvoir calculer le cône tangent par une formule explicite, mais cette égalité n'est pas toujours vérifiée. On dit que les contraintes (on devrait dire les fonctions définissant les contraintes) ${\displaystyle c_{E}}$ et ${\displaystyle c_{I}}$ sont qualifiées en ${\displaystyle x}$ si ${\displaystyle \operatorname {T} _{X}(x)=\operatorname {T} '_{X}(x).}$ Comme ${\displaystyle \operatorname {T} _{X}(x)}$ ne dépend que de l'ensemble ${\displaystyle X}$, pas des fonctions ${\displaystyle c_{E}}$ et ${\displaystyle c_{I}}$, il s'agit d'une notion assurant que la représentation de ${\displaystyle X}$ par ${\displaystyle c_{E}}$ et ${\displaystyle c_{I}}$ convient.