Inégalité de Jensen

Théorème — Inégalité de convexité

Soient f une fonction convexe, (x₁, … , x_n) un n-uplet de réels appartenant à l'intervalle de définition de f et (λ₁, … , λ_n) un n-uplet de réels positifs tels que

${\displaystyle \sum _{i=1}^{n}\lambda _{i}=1}$

Alors,

${\displaystyle f\left(\sum _{i=1}^{n}\lambda _{i}x_{i}\right)\leq \sum _{i=1}^{n}\lambda _{i}f\left(x_{i}\right)}$.

De nombreux résultats élémentaires importants d'analyse s'en déduisent, comme l'inégalité arithmético-géométrique : si (x₁, … , x_n) est un n-uplet de réels strictement positifs, alors :

${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}x_{i}\geq {\sqrt[{n}]{\prod _{i=1}^{n}x_{i}}}}$.

Inégalité de Jensen —  Soient g une fonction continue de [0, 1] dans ]a, b[ (avec –∞ ≤ a < b ≤ +∞) et φ une fonction convexe de ]a, b[ dans ℝ. Alors,

${\displaystyle \varphi \left(\int _{0}^{1}g(x)~\mathrm {d} x\right)\leq \int _{0}^{1}\varphi (g(x))~\mathrm {d} x}$.

Cet énoncé a un sens car sous ces hypothèses, l'intégrale de g appartient à [a, b] et φ ∘ g est continue sur [0, 1] donc intégrable.

Inégalité de Jensen[1]^,[2] —  Soient

• (Ω, A, μ) un espace mesuré de masse totale μ(Ω) égale à 1,
• g une fonction μ-intégrable à valeurs dans un intervalle réel I et
• φ une fonction convexe de I dans ℝ.

Alors,

${\displaystyle \varphi \left(\int _{\Omega }g~\mathrm {d} \mu \right)\leq \int _{\Omega }\varphi \circ g\,\mathrm {d} \mu ,}$

l'intégrale de droite pouvant être égale à +∞[3].

Cet énoncé a un sens car sous ces hypothèses, l'intégrale de g appartient à I.

Lorsque φ est strictement convexe, les deux membres de cette inégalité sont égaux (si et) seulement si g est constante μ-presque partout[4].

De ce théorème on déduit, soit directement[2]^,[5], soit via l'inégalité de Hölder, une relation importante entre les espaces L^p associés à une mesure finie de masse totale M ≠ 0 :

${\displaystyle 0<p<q\leq +\infty \Rightarrow \mathrm {L} ^{p}\supset \mathrm {L} ^{q}{\text{ et }}\forall f\in \mathrm {L} ^{q},\|f\|_{p}\leq M^{{\frac {1}{p}}-{\frac {1}{q}}}\|f\|_{q}}$,

avec égalité si et seulement si ${\displaystyle |f|}$ est constante presque partout.

L'énoncé ci-dessus se transcrit dans le langage de la théorie des probabilités et de la statistique :

Inégalité de Jensen —  Soit f une fonction convexe sur un intervalle réel I et X une variable aléatoire à valeurs dans I, dont l'espérance ${\displaystyle \mathbb {E} (f(X))}$ existe. Alors,

${\displaystyle f(\mathbb {E} (X))\leq \mathbb {E} [f(X)].}$

On peut alors en déduire un résultat important de statistique : le théorème de Rao-Blackwell. En effet, si L est une fonction convexe, alors d'après l'inégalité de Jensen,

${\displaystyle L(\mathbb {E} \{\delta (X)\})\leq \mathbb {E} \{L(\delta (X))\}\quad \Rightarrow \quad \mathbb {E} \{L(\mathbb {E} \{\delta (X)\})\}\leq \mathbb {E} \{L(\delta (X))\}.}$

Si δ(X) est un estimateur d'un paramètre non observé θ étant donné un vecteur X des observables, et si T(X) est une statistique suffisante pour θ, alors un estimateur plus performant, dans le sens de la minimisation des pertes, est donné par :

${\displaystyle \delta _{1}(X)=\mathbb {E} _{\theta }\{\delta (X')\,|\,T(X')=T(X)\},}$

C'est-à-dire l'espérance de δ par rapport à θ, prise sur tous les vecteurs X compatibles avec la même valeur de T(X).