Fonction indicatrice (analyse convexe)

La fonction indicatrice (ou simplement l'indicatrice) d'une partie ${\displaystyle P}$ d'un ensemble ${\displaystyle \mathbb {E} }$ est la fonction notée ${\displaystyle {\mathcal {I}}_{P}}$ et définie par

Cette fonction diffère de l'indicatrice ou fonction caractéristique d'un ensemble commune aux autres domaines des mathématiques, comme l'analyse (en particulier la théorie de la mesure), et son introduction en analyse convexe et en optimisation est motivée par les considérations suivantes.

• En analyse convexe, il est utile que cette fonction soit convexe lorsque l'ensemble l'est. Si c'est le cas de la fonction indicatrice définie ici, ce n'est pas le cas de la fonction caractéristique usuelle, laquelle obéit à d'autres motivations.
• En optimisation, cette fonction indicatrice permet également de représenter un problème de minimisation d'une fonction ${\displaystyle f}$ sur un ensemble ${\displaystyle P}$, par le problème de minimisation équivalent de ${\displaystyle f+{\mathcal {I}}_{P}}$ sans contrainte.

Si ${\displaystyle P}$ est une partie non vide d'un espace vectoriel ${\displaystyle \mathbb {E} }$, alors

• ${\displaystyle {\mathcal {I}}_{P}}$ est propre si et seulement si ${\displaystyle P\neq \varnothing }$ ;
• ${\displaystyle {\mathcal {I}}_{P}}$ est propre et convexe si et seulement si ${\displaystyle P}$ est non vide et convexe ;
• ${\displaystyle {\mathcal {I}}_{P}}$ est propre et fermée si et seulement si ${\displaystyle P}$ est non vide et fermé.

On suppose ici que ${\displaystyle \mathbb {E} }$ est un espace euclidien.

La conjuguée de l'indicatrice d'une partie ${\displaystyle P}$ de ${\displaystyle \mathbb {E} }$ est sa fonction d'appui :

En particulier, si ${\displaystyle K}$ est un cône de ${\displaystyle \mathbb {E} }$, la conjuguée de ${\displaystyle {\mathcal {I}}_{K}}$ est l'indicatrice de son cône dual négatif ${\displaystyle K^{-}}$ :

On suppose ici que ${\displaystyle \mathbb {E} }$ est un espace euclidien et que ${\displaystyle C}$ est un convexe de ${\displaystyle \mathbb {E} }$.

Le sous-différentiel de ${\displaystyle {\mathcal {I}}_{C}}$ est le cône normal ${\displaystyle N_{C}}$ de ${\displaystyle C}$ :

• (en) J. M. Borwein et A. S. Lewis, Convex Analysis and Nonlinear Optimization, New York, Springer, 2006, 2^e éd. (1^re éd. 2000) (lire en ligne)
• J.-B. Hiriart-Urruty, Optimisation et analyse convexe, EDP Sciences, 2009 (1^re éd. 1998, PUF)
• (en) Jean-Baptiste Hiriart-Urruty et Claude Lemaréchal, Fundamentals of Convex Analysis, Berlin, Springer, 2004 (1^re éd. 2001) (lire en ligne)
• (en) R. Tyrrell Rockafellar, Convex Analysis, Princeton, New Jersey, Princeton University Press, coll. « Princeton Mathematical Series » (n^o 28), 1970 (lire en ligne)

• Portail des mathématiques
• Portail de l'analyse