Il s'agit, pour chacun des deux produits scalaires, de calculer les deux polynômes

${\displaystyle aX+b=u^{*}(1)\quad {\text{et}}\quad cX+d=u^{*}(X).}$

1. Pour ${\displaystyle \varphi }$ :

   ${\displaystyle b=\varphi (1,u^{*}(1))=\varphi (u(1),1)=1\quad {\text{et}}\quad a=\varphi (X,u^{*}(1))=\varphi (u(X),1)=-1}$

   ${\displaystyle {\text{donc}}\quad u^{*}(1)=1-X}$.

   ${\displaystyle d=\varphi (1,u^{*}(X))=\varphi (u(1),X)=0\quad {\text{et}}\quad c=\varphi (X,u^{*}(X))=\varphi (u(X),X)=1}$

   ${\displaystyle {\text{donc}}\quad u^{*}(X)=X}$.

2. Pour ${\displaystyle \psi }$ :

   ${\displaystyle {\frac {a}{2}}+b=\psi (1,u^{*}(1))=\psi (u(1),1)=1\quad {\text{et}}\quad {\frac {a}{3}}+{\frac {b}{2}}=\psi (X,u^{*}(1))=\psi (u(X),1)=-{\frac {1}{2}}}$

   ${\displaystyle {\text{donc}}\quad a=-12,\quad b=7\quad {\text{et}}\quad u^{*}(1)=7-12X}$.

   ${\displaystyle {\frac {c}{2}}+d=\psi (1,u^{*}(X))=\psi (u(1),X)={\frac {1}{2}}\quad {\text{et}}\quad {\frac {c}{3}}+{\frac {d}{2}}=\psi (X,u^{*}(X))=\psi (u(X),X)=-{\frac {1}{6}}}$

   ${\displaystyle {\text{donc}}\quad c=-5,\quad d=3\quad {\text{et}}\quad u^{*}(X)=3-5X}$.

On calcule le polynôme caractéristique

${\displaystyle \det(A-\lambda \mathrm {I} _{3})=(3-\lambda )(6-\lambda )(9-\lambda )}$.

Les valeurs propres de ${\displaystyle A}$ sont donc ${\displaystyle 3}$, ${\displaystyle 6}$ et ${\displaystyle 9}$, et les sous-espaces propres associés sont des droites. On détermine comme d'habitude des vecteurs propres, que l'on norme ; on obtient

${\displaystyle v_{3}={\frac {1}{\sqrt {5}}}(2,2,-1),\quad v_{6}={\frac {1}{\sqrt {5}}}(-1,2,2),\quad v_{9}={\frac {1}{\sqrt {5}}}(2,-1,2)}$.

Ces vecteurs sont bien orthogonaux deux à deux, comme il se doit. On a donc bien diagonalisé ${\displaystyle A}$ dans la base orthonormée ${\displaystyle (v_{3},v_{6},v_{9})}$.

1. Il suffit de montrer que ${\displaystyle u}$ est autoadjoint. On remarque pour cela que ${\displaystyle u(P)(X)}$ est le polynôme dérivé de ${\displaystyle (X^{2}-1)P'(X)}$. Comme ce polynôme s’annule en ${\displaystyle \pm 1}$, une intégration par parties donne
   ${\displaystyle \varphi (u(P),Q)=-\int _{-1}^{1}(X^{2}-1)P'(x)Q'(x)\,\mathrm {d} x}$,
   qui est bien symétrique en ${\displaystyle P}$ et ${\displaystyle Q}$.
2. Comme ${\displaystyle u}$ envoie un polynôme de degré ${\displaystyle d}$ sur un polynôme de degré au plus ${\displaystyle d}$, il suffit de le diagonaliser pour ${\displaystyle n=3}$.
   On calcule ${\displaystyle u(1)=0,\quad u(X)=2X,\quad u(X^{2})=6X^{2}-2,\quad u(X^{3})=12X^{3}-6X}$.
   Les valeurs propres de ${\displaystyle u}$ sont donc ${\displaystyle 0,\quad 2,\quad 6,\quad 12}$, et des vecteurs propres sont ${\displaystyle v_{0}=1,\quad v_{2}=X,\quad v_{6}=X^{2}-{\frac {1}{2}},\quad v_{12}=X^{3}+{\frac {3}{5}}X}$. Comme il se doit, ces vecteurs propres sont orthogonaux par rapport à ${\displaystyle \varphi }$ (on aurait pu aussi utiliser cette propriété pour les déterminer)

1. La matrice ${\displaystyle M}$ est symétrique, donc il existe une matrice orthogonale ${\displaystyle P}$ telle que ${\displaystyle M=PDP^{-1}}$, avec ${\displaystyle D}$ diagonale. Alors ${\displaystyle M=PD^{n}P^{-1}}$, et cette suite converge si et seulement si la suite ${\displaystyle (D^{n})}$ converge, autrement dit si et seulement si les valeurs propres de ${\displaystyle M}$ appartiennent à l'intervalle ${\displaystyle \left]-1,1\right]}$. De plus, la limite ${\displaystyle N}$ est alors la projection orthogonale sur l'espace propre associé à la valeur propre ${\displaystyle 1}$. Cette analyse suggère d'étudier la valeur propre ${\displaystyle 1}$. On trouve comme sous-espace propre associé la droite engendrée par ${\displaystyle v=(1,1,1)}$. Comme on sait que ${\displaystyle M}$ est diagonalisable dans une base orthogonale, on se place dans l'orthogonal de ${\displaystyle v}$, qui est le plan engendré par les vecteurs ${\displaystyle e=(1,-1,0)}$ et ${\displaystyle f=(0,1,-1)}$. On constate alors que ${\displaystyle M(f)=-f/12}$, ce qui donne une deuxième valeur propre égale à ${\displaystyle -1/12}$. Comme la trace de ${\displaystyle M}$ est égale à ${\displaystyle 7/6}$, la troisième valeur propre doit valoir ${\displaystyle 1/4}$, et la droite propre associée doit être orthogonale à v et à ${\displaystyle f}$, donc engendrée par ${\displaystyle g=(2,-1,-1)}$. Comme les trois valeurs propres sont dans l'intervalle ${\displaystyle \left]-1,1\right]}$, la suite ${\displaystyle (M^{n})}$ converge bien, et sa limite ${\displaystyle N}$ est la projection orthogonale sur la droite engendrée par ${\displaystyle v}$.
2. On sait que ${\displaystyle N(f)=N(g)=0}$ et ${\displaystyle N(v)=v}$. On obtient la matrice de ${\displaystyle N}$ dans la base canonique ${\displaystyle (e_{1},e_{2},e_{3})}$ en inversant la matrice de passage.
   Comme ${\displaystyle e_{1}={\frac {v+g}{3}}}$, ${\displaystyle e_{2}={\frac {2v+3f-g}{6}}}$ et ${\displaystyle e_{3}={\frac {2v-3f-g}{6}}}$, on a ${\displaystyle N(e_{1})=N(e_{2})=N(e_{3})={\frac {v}{3}}}$. En conséquence, ${\displaystyle N={\frac {1}{3}}{\begin{pmatrix}1&1&1\\1&1&1\\1&1&1\end{pmatrix}}}$.
3. Puisque ${\displaystyle M^{n}\to N}$, ${\displaystyle v_{n}=M^{n}v_{0}\to Nv_{0}}$, qui est le projeté orthogonal de ${\displaystyle v_{0}}$ sur la droite engendrée par ${\displaystyle v}$.

Le vecteur ${\displaystyle v=(1,1,1)}$ est manifestement un vecteur propre de ${\displaystyle M}$ pour la valeur propre ${\displaystyle a+2b}$. ${\displaystyle M}$ restreinte au plan ${\displaystyle v^{\bot }}$ est ${\displaystyle a-b}$ fois l'identité. Une base orthonormée de vecteurs propres est donc donnée par exemple par

${\displaystyle v_{1}={\frac {v}{\sqrt {3}}}}$, ${\displaystyle v_{2}={\frac {(0,1,-1)}{\sqrt {2}}}}$, ${\displaystyle v_{3}={\frac {(2,-1,1)}{\sqrt {6}}}}$.

Si ${\displaystyle P}$ est la matrice de passage de la base canonique à la base ${\displaystyle (v_{1},v_{2},v_{3})}$, on a donc ${\displaystyle P^{-1}MP=D}$, avec ${\displaystyle D}$ la matrice diagonale à coefficients diagonaux ${\displaystyle (a+2b,a-b,a-b)}$. On en déduit que ${\displaystyle M^{n}=PD^{n}P^{-1}}$, ce qui donne :

${\displaystyle M^{n}={\begin{pmatrix}{\frac {1}{\sqrt {3}}}&0&{\frac {2}{\sqrt {6}}}\\{\frac {1}{\sqrt {3}}}&{\frac {1}{\sqrt {2}}}&-{\frac {1}{\sqrt {6}}}\\{\frac {1}{\sqrt {3}}}&-{\frac {1}{\sqrt {2}}}&-{\frac {1}{\sqrt {6}}}\end{pmatrix}}{\begin{pmatrix}(a+2b)^{n}&0&0\\0&(a-b)^{n}&0\\0&0&(a-b)^{n}\end{pmatrix}}{\begin{pmatrix}{\frac {1}{\sqrt {3}}}&{\frac {1}{\sqrt {3}}}&{\frac {1}{\sqrt {3}}}\\0&{\frac {1}{\sqrt {2}}}&-{\frac {1}{\sqrt {2}}}\\{\frac {2}{\sqrt {6}}}&-{\frac {1}{\sqrt {6}}}&{\frac {1}{\sqrt {6}}}\end{pmatrix}}}$

et donc après calcul :

${\displaystyle M^{n}={\frac {(a+2b)^{n}}{2}}{\begin{pmatrix}1&1&1\\1&1&1\\1&1&1\end{pmatrix}}+{\frac {(a-b)^{n}}{3}}{\begin{pmatrix}2&-1&-1\\-1&2&-1\\-1&-1&2\end{pmatrix}}}$.

(Autre méthode : écrire ${\displaystyle M=(a-b)\mathrm {I} _{3}+3bN}$ et remarquer que ${\displaystyle N}$ est un projecteur.)

1. Comme ${\displaystyle M}$ est symétrique, il existe une matrice orthogonale ${\displaystyle P}$ telle que ${\displaystyle P^{-1}MP=D}$ diagonale. De plus, comme ${\displaystyle M}$ est définie positive, ses valeurs propres sont strictement positives, autrement dit les coefficients diagonaux de ${\displaystyle D}$ sont strictement positifs. En les remplaçant par leurs racines, on obtient une matrice diagonale ${\displaystyle E}$ telle que ${\displaystyle D=E^{2}}$. En posant alors ${\displaystyle N=PEP^{-1}}$, on a :
   • ${\displaystyle N^{2}=PE^{2}P^{-1}=M}$ ;
   • ${\displaystyle {}^{\mathrm {t} }\!N={}^{\mathrm {t} }\!P^{-1}{}^{\mathrm {t} }\!E\,{}^{\mathrm {t} }\!P=PEP^{-1}=N}$ donc ${\displaystyle N}$ est symétrique ;
   • ${\displaystyle N}$ est définie positive car ses valeurs propres sont strictement positives.
2. Réciproquement, soit ${\displaystyle N}$ symétrique positive telle que ${\displaystyle M=N^{2}}$. Alors il existe une matrice orthogonale ${\displaystyle P}$ telle que ${\displaystyle P^{-1}NP=E}$ diagonale, d'où ${\displaystyle P^{-1}MP=E^{2}}$. Donc ${\displaystyle N}$ et ${\displaystyle M}$ ont les mêmes sous-espaces propres, et les valeurs propres associées pour ${\displaystyle N}$ sont les racines carrées de celles pour ${\displaystyle M}$. Ceci détermine entièrement ${\displaystyle N}$.
3. Les valeurs propres de ${\displaystyle M}$ sont ${\displaystyle 3\pm 2{\sqrt {2}}}$, avec comme vecteurs propres associés ${\displaystyle (1,-1\pm {\sqrt {2}})}$.
   La matrice de passage est ${\displaystyle P={\begin{pmatrix}1&1\\-1+{\sqrt {2}}&-1-{\sqrt {2}}\end{pmatrix}}}$ et l'on a ${\displaystyle M=PDP^{-1}}$ avec ${\displaystyle D={\begin{pmatrix}3+2{\sqrt {2}}&0\\0&3-2{\sqrt {2}}\end{pmatrix}}}$.

Soit ${\displaystyle v}$ un vecteur propre pour ${\displaystyle A+B}$ pour la valeur propre ${\displaystyle \gamma }$. Alors, ${\displaystyle \gamma \|v\|^{2}=\langle (A+B)v,v\rangle =\langle Av,v\rangle +\langle Bv,v\rangle }$ donc il suffit de démontrer que ${\displaystyle \langle Av,v\rangle }$ est compris entre ${\displaystyle \alpha ^{-}\|v\|^{2}}$ et ${\displaystyle \alpha ^{+}\|v\|^{2}}$ (on aura bien sûr l'analogue pour ${\displaystyle B,\beta ^{-},\beta ^{+}}$). Soient ${\displaystyle \alpha _{1},\dots ,\alpha _{n}}$ les valeurs propres de ${\displaystyle A}$ et ${\displaystyle (v_{1},\dots ,v_{n})}$ les coordonnées de ${\displaystyle v}$ dans une base propre orthonormée associée. On a bien ${\displaystyle \langle Av,v\rangle =\sum _{k=1}^{n}\alpha _{k}v_{k}^{2}\leq \sum _{k=1}^{n}\alpha ^{+}v_{k}^{2}=\alpha ^{+}\|v\|^{2}}$ et (de même) minoré par ${\displaystyle \langle Av,v\rangle \geq \alpha ^{-}\|v\|^{2}}$.