1°  ${\displaystyle 2a^{2}b^{2}+2a^{2}c^{2}+2b^{2}c^{2}+a^{4}+b^{4}+c^{4}=(a^{2}+b^{2}+c^{2})^{2}}$

2°  En posant :

${\displaystyle c^{2}=(a+b)^{2}}$

on obtient :

${\displaystyle 2a^{2}b^{2}+2a^{2}c^{2}+2b^{2}c^{2}-a^{4}-b^{4}-c^{4}=a^{4}+4a^{3}b+6a^{2}b^{2}+4ab^{3}+b^{4}-(a+b)^{4}=0}$

On peut donc mettre en facteur :

${\displaystyle (a+b)^{2}-c^{2}=(a+b+c)(a+b-c)}$

L'expression étant invariante par permutation circulaire de ${\displaystyle a}$, ${\displaystyle b}$ et ${\displaystyle c}$, et ${\displaystyle a+b-c}$ étant en facteur, on en déduit que ${\displaystyle b+c-a}$ et ${\displaystyle c+a-b}$ peuvent aussi se mettre en facteur.

L'expression à factoriser étant homogène du quatrième degré, nous avons donc :

${\displaystyle 2a^{2}b^{2}+2a^{2}c^{2}+2b^{2}c^{2}-a^{4}-b^{4}-c^{4}=(a+b+c)(a+b-c)(b+c-a)(c+a-b)}$

Pour ${\displaystyle b=-a}$, on obtient :

${\displaystyle (a+b+c)^{n}-a^{n}-b^{n}-c^{n}=(a-a+c)^{n}-a^{n}-(-a)^{n}-c^{n}=c^{n}-a^{n}+a^{n}-c^{n}=0}$

On peut donc mettre ${\displaystyle (a+b)}$ en facteur dans ${\displaystyle P}$ et comme ${\displaystyle P}$ est invariant par permutation circulaire des variables, on peut aussi mettre ${\displaystyle (b+c)}$ et ${\displaystyle (c+a)}$ en facteur dans ${\displaystyle P}$.

Il existe donc un polynôme homogène ${\displaystyle Q}$ de degré ${\displaystyle n-3}$ tel que :

${\displaystyle (a+b+c)^{n}-a^{n}-b^{n}-c^{n}=(a+b)(b+c)(c+a)\times Q}$

Pour n = 3.

${\displaystyle Q}$ est un polynôme homogène de degré ${\displaystyle 3-3=0}$. C'est donc une constante ${\displaystyle k}$ et on a :

${\displaystyle (a+b+c)^{3}-a^{3}-b^{3}-c^{3}=k(a+b)(b+c)(c+a)}$

Pour déterminer ${\displaystyle k}$, on peut prendre ${\displaystyle a=0}$, ${\displaystyle b=1}$ et ${\displaystyle c=1}$, on obtient :

${\displaystyle 2^{3}-0^{3}-1^{3}-1^{3}=k\times 1\times 2\times 1}$

soit

${\displaystyle 6=k\times 2}$

et donc ${\displaystyle k=3}$.

On a donc :

${\displaystyle (a+b+c)^{3}-a^{3}-b^{3}-c^{3}=3(a+b)(b+c)(c+a)}$

Pour n = 5.

${\displaystyle Q}$ est un polynôme homogène de degré ${\displaystyle 5-3=2}$. C'est donc un polynôme homogène de degré ${\displaystyle 2}$.

Comme ${\displaystyle P}$ est symétrique, il existera ${\displaystyle k}$ et ${\displaystyle l}$ tel que :

${\displaystyle (a+b+c)^{5}-a^{5}-b^{5}-c^{5}=(a+b)(b+c)(c+a)\left[k(a^{2}+b^{2}+c^{2})+l(ab+ac+bc)\right]}$

Pour déterminer ${\displaystyle k}$ et ${\displaystyle l}$, on peut prendre ${\displaystyle a=0}$, ${\displaystyle b=1}$ et ${\displaystyle c=1}$, on obtient :

${\displaystyle 15=2k+l}$

Il nous faut une deuxième équation. Prenons ${\displaystyle a=2}$, ${\displaystyle b=-1}$ et ${\displaystyle c=0}$, on obtient :

${\displaystyle 15=5k-2l}$

On obtient le système :

${\displaystyle {\begin{cases}2k+l=15\\5k-2l=15\end{cases}}}$

qui nous donne :

${\displaystyle {\begin{cases}k=5\\l=5\end{cases}}}$

La factorisation recherchée est donc :

${\displaystyle (a+b+c)^{5}-a^{5}-b^{5}-c^{5}=5(a+b)(b+c)(c+a)\left[a^{2}+b^{2}+c^{2}+ab+ac+bc\right]}$

${\displaystyle P}$ est un polynôme homogène du cinquième degré invariant par permutation circulaire de ses variables ${\displaystyle a,\,b,\,c}$. Nous rechercherons donc des facteurs sous forme de polynômes homogènes.

Commençons simple et recherchons des facteurs sous forme de polynômes homogènes du premier degré comme ${\displaystyle (a\pm b)}$ ou ${\displaystyle (a\pm b\pm c)}$. Pour cela nous vérifierons que le polynôme s'annule pour ${\displaystyle a=\pm b}$ ou ${\displaystyle a=\pm b\pm c}$.

Commençons par faire ${\displaystyle a=b}$. ${\displaystyle P}$ devient alors :

${\displaystyle b^{3}(b^{2}-c^{2})+b^{3}(c^{2}-b^{2})+c^{3}(b^{2}-b^{2})=0}$

On peut donc mettre ${\displaystyle (a-b)}$ en facteur.

Comme ${\displaystyle P}$ est invariant par permutation circulaire de ${\displaystyle a,\,b,\,c}$, on peut aussi mettre ${\displaystyle (b-c)}$ et ${\displaystyle (c-a)}$ en facteur.

${\displaystyle P}$ s'écrira donc sous la forme :

${\displaystyle P=(a-b)(b-c)(c-a)Q}$

${\displaystyle Q}$ étant un polynôme homogène du second degré invariant par permutation circulaire de ${\displaystyle a,\,b,\,c}$. Donc s'écrivant sous la forme :

${\displaystyle Q=x(a^{2}+b^{2}+c^{2})+y(ab+bc+ca)}$

Notre factorisation sera donc de la forme :

${\displaystyle a^{3}(b^{2}-c^{2})+b^{3}(c^{2}-a^{2})+c^{3}(a^{2}-b^{2})=(a-b)(b-c)(c-a)\left[x(a^{2}+b^{2}+c^{2})+y(ab+bc+ca)\right]}$

Pour déterminer ${\displaystyle x}$ et ${\displaystyle y}$, nous donnerons des valeurs à ${\displaystyle a,\,b,\,c}$.

Pour :

${\displaystyle {\begin{cases}a=0\\b=1\\c=2\end{cases}}}$

nous obtenons :

${\displaystyle 0^{3}(1^{2}-2^{2})+1^{3}(2^{2}-0^{2})+2^{3}(0^{2}-1^{2})=(0-1)(1-2)(2-0)\left[x(0^{2}+1^{2}+2^{2})+y(0\times 1+1\times 2+2\times 0)\right]}$

soit :

${\displaystyle -4=2(5x+2y)}$

Pour :

${\displaystyle {\begin{cases}a=1\\b=2\\c=3\end{cases}}}$

nous obtenons :

${\displaystyle 1^{3}(2^{2}-3^{2})+2^{3}(3^{2}-1^{2})+3^{3}(1^{2}-2^{2})=(1-2)(2-3)(3-1)\left[x(1^{2}+2^{2}+3^{2})+y(1\times 2+2\times 3+3\times 1)\right]}$

soit :

${\displaystyle -22=2(14x+11y)}$

Nous devons donc résoudre le système :

${\displaystyle {\begin{cases}5x+2y=-2\\14x+11y=-11\end{cases}}}$

qui donne :

${\displaystyle {\begin{cases}x=0\\y=-1\end{cases}}}$

En reportant, nous obtenons la factorisation :

${\displaystyle a^{3}(b^{2}-c^{2})+b^{3}(c^{2}-a^{2})+c^{3}(a^{2}-b^{2})=-(a-b)(b-c)(c-a)(ab+bc+ca)}$

${\displaystyle P}$ est un polynôme homogène du sixième degré invariant par permutation circulaire de ses variables ${\displaystyle a,\,b,\,c}$ (${\displaystyle d}$ n'est pas concernée).

On peut vérifier que pour ${\displaystyle a=b}$, le polynôme s'annule. On peut donc mettre ${\displaystyle (a-b)}$ en facteur et par permutation circulaire ${\displaystyle (b-c)}$ et ${\displaystyle (c-a)}$

On peut aussi vérifier que pour ${\displaystyle a=d}$, le polynôme s'annule. On peut donc mettre ${\displaystyle (a-d)}$ en facteur et par permutation circulaire ${\displaystyle (b-d)}$ et ${\displaystyle (c-d)}$

La factorisation de ${\displaystyle P}$ sera donc de la forme :

${\displaystyle P=k(a-b)(b-c)(c-a)(a-d)(b-d)(c-d)}$

Par identification ou en donnant des valeurs aux variables, on voit que ${\displaystyle k=-1}$.

On a donc obtenu la factorisation suivante :

${\displaystyle (b^{2}c^{2}+a^{2}d^{2})(b-c)(a-d)+(c^{2}a^{2}+b^{2}d^{2})(c-a)(b-d)+(a^{2}b^{2}+c^{2}d^{2})(a-b)(c-d)=-(a-b)(b-c)(c-a)(a-d)(b-d)(c-d)}$