Puisque ${\displaystyle A}$ et ${\displaystyle B}$ commutent, on a ${\displaystyle A^{2}+B^{2}=\left(A+\mathrm {i} B\right)\left(A-\mathrm {i} B\right)}$, et donc :

${\displaystyle \det \left(A^{2}+B^{2}\right)=\det \left(A+\mathrm {i} B\right)\det \left(A-\mathrm {i} B\right)=\det \left(A+\mathrm {i} B\right){\overline {\det \left(A+\mathrm {i} B\right)}}=\left|\det \left(A+\mathrm {i} B\right)\right|^{2}\geq 0}$.

Soient ${\displaystyle a=\det A}$ et ${\displaystyle b=\det B}$. D'après la formule de Laplace, ${\displaystyle A\,{}^{t}\!\left(\operatorname {com} A\right)=a\mathrm {I} _{n}}$ et ${\displaystyle B\,{}^{t}\!\left(\operatorname {com} B\right)=b\mathrm {I} _{n}}$ et d'après l'identité de Bézout, il existe ${\displaystyle u,v\in \mathbb {Z} }$ tels que ${\displaystyle au+bv=1}$. Les matrices ${\displaystyle U:=u\,{}^{t}\!\left(\operatorname {com} A\right)}$ et ${\displaystyle V:=v\,{}^{t}\!\left(\operatorname {com} B\right)}$ répondent donc au problème.

Notons ${\displaystyle L_{1},\dots ,L_{n}}$ les lignes de la matrice

${\displaystyle XI_{n}-C(P)={\begin{pmatrix}X&0&\dots &0&c_{0}\\-1&X&\dots &0&c_{1}\\0&-1&\dots &0&c_{2}\\\vdots &\vdots &\ddots &\vdots &\vdots \\0&0&\dots &-1&X+c_{n-1}\end{pmatrix}}}$.

En remplaçant ${\displaystyle L_{1}}$ par ${\displaystyle L_{1}+XL_{2}+X^{2}L_{3}+\dots +X^{n-1}L_{n}={\begin{pmatrix}0&0&\dots &0&P(X)\end{pmatrix}}}$ puis en développant par rapport à cette première ligne, on obtient :

${\displaystyle \det(XI_{n}-C(P))=(-1)^{n-1}P(X)D}$, avec ${\displaystyle D={\begin{pmatrix}-1&X&\dots &0\\0&-1&\dots &0\\\vdots &\vdots &\ddots &\vdots \\0&0&\dots &-1\end{pmatrix}}=(-1)^{n-1}}$.

Cette solution n'a pas été rédigée. Vous pouvez le faire en modifiant le paramètre « contenu » du modèle. ^{Comment faire ?}

Ce déterminant, développé suivant la première colonne, est égal à

${\displaystyle \left(\sum _{k=0}^{n-1}(-\lambda )^{k}D_{k}\right)+(-1)^{n}(\lambda ^{n}-\mu )D_{n}}$

avec

${\displaystyle D_{k}=\prod _{1\leq i<j\leq n+1 \atop i,j\neq k+1}\left(j-i\right)}$

donc

${\displaystyle {\frac {D_{k}}{D_{n}}}={\frac {{\cancel {\prod _{1\leq i<j\leq n+1 \atop i,j\neq k+1,n+1}}}\times \prod _{1\leq i<k+1}\left(n+1-i\right)\times \prod _{k+1<i<n+1}\left(n+1-i\right)}{{\cancel {\prod _{1\leq i<j\leq n+1 \atop i,j\neq k+1,n+1}}}\times \prod _{1\leq i<k+1}\left(k+1-i\right)\times \prod _{k+1<j<n+1}\left(j-(k+1)\right)}}={\frac {{\frac {n!}{(n-k)!}}\times (n-k-1)!}{k!\times (n-k-1)!}}={\binom {n}{k}}}$.

Il s'annule pour

${\displaystyle \mu ={\frac {\sum _{k=0}^{n}(-\lambda )^{k}D_{k}}{(-1)^{n}D_{n}}}=(-1)^{n}\sum _{k=0}^{n}(-\lambda )^{k}{\binom {n}{k}}=(\lambda -1)^{n}}$.