Nous avons ${\displaystyle \qquad ta=q_{T}(ta)\ \mathrm {repr} _{T}(ta),}$ avec

${\displaystyle \qquad q_{T}(ta)\in Q}$ et ${\displaystyle \mathrm {repr} _{T}(ta)\in T.}$

En passant aux inverses, nous obtenons

${\displaystyle \qquad a^{-1}t^{-1}=\mathrm {repr} _{T}(ta)^{-1}\ q_{T}(ta)^{-1},}$

avec

${\displaystyle \qquad \mathrm {repr} _{T}(ta)^{-1}\in T^{-1}}$ et ${\displaystyle q_{T}(ta)^{-1}\in Q.}$

Puisque ${\displaystyle \ T^{-1}}$ est une transversale gauche de Q dans G, nous avons donc

${\displaystyle \qquad V(a^{-1})=\prod _{t\in T}q_{T}(ta)^{-1}Q'.}$

En passant aux inverses et en tenant compte que V est un homomorphisme, nous trouvons

${\displaystyle \qquad V(a)=\prod _{t\in T}q_{T}(ta)Q'.}$

${\displaystyle \qquad V(a)=R(a).}$

Notons que, d’après un exercice de la série Action de groupe, G_x et G_y sont conjugués et ont donc le même ordre, de sorte que, puisque Q est un sous-groupe de Sylow de G_x, c’est aussi un sous-groupe de Sylow de G_y, mais ce fait ne nous servira pas.
Par hypothèse, il existe un élément g de G tel que

${\displaystyle (1)\qquad y=g^{-1}x.}$

Pour tout élément u de Q, nous avons donc

${\displaystyle \qquad gug^{-1}x=guy}$.

Puisque y est point fixe de Q, nous pouvons remplacer uy par y, donc

${\displaystyle \qquad gug^{-1}x=gy,}$

d'où, d’après (1),

${\displaystyle \qquad gug^{-1}x=x,}$

donc ${\displaystyle \ gQg^{-1}}$ fixe x.
Ainsi,

${\displaystyle (2)\qquad gQg^{-1}\leq G_{x}.}$

Par hypothèse, il existe un nombre premier p tel que Q soit un p-sous-groupe de Sylow de G_x. Puisque ${\displaystyle \ gQg_{-1}}$ a le même ordre que Q, il résulte de (2) que ${\displaystyle \ gQg_{-1}}$ est lui aussi un p-sous-groupe de Sylow de G_x. Donc, d’après le théorème de Sylow, ${\displaystyle \ Q}$ et ${\displaystyle \ gQg_{-1}}$ sont conjugués dans ${\displaystyle \ G_{x}.}$
Il existe donc un élément h de ${\displaystyle \ G_{x}.}$ tel que

${\displaystyle \qquad gQg^{-1}=hQh^{-1}.}$

Ceci entraîne

${\displaystyle \qquad h^{-1}gQg^{-1}h=Q,}$

donc

${\displaystyle (3)\qquad h^{-1}g\in N_{G}(Q).}$

De plus, ${\displaystyle \ (h^{-1}g)y=h^{-1}(gy),}$ d'où, d’après (1), ${\displaystyle \ (h^{-1}g)y=h^{-1}x.}$ Puisque h appartient à ${\displaystyle \ G_{x},}$ ceci peut s'écrire

${\displaystyle \qquad (h^{-1}g)y=x.}$

D'après (3), il en résulte que x et y appartiennent à la même ${\displaystyle \ N_{G}(Q)}$-orbite.

Puisque Q est un sous-groupe de Sylow de G contenu dans G_x, c’est un sous-groupe de Sylow de G_x, donc il suffit d'appliquer le point a).

Faire opérer G à gauche sur son ensemble sous-jacent par conjugaison : g * x = g x g^-1. Les éléments de ${\displaystyle \ C_{G}(Q)}$ sont les points fixes de Q pour cette opération. Deux éléments de l’ensemble sous-jacent de G appartiennent à la même G-orbite si et seulement s'ils sont conjugués dans G. Puisque ${\displaystyle \ C_{G}(Q)}$ est contenu dans ${\displaystyle \ N_{G}(Q)}$, deux éléments de ${\displaystyle \ C_{G}(Q)}$ appartiennent à la même ${\displaystyle \ N_{G}(Q)}$-orbite si et seulement s'ils sont conjugués dans ${\displaystyle \ N_{G}(Q)}$. Le point c) résulte donc clairement du point b).

Faire opérer G à gauche sur l’ensemble de ses parties par conjugaison. Alors U et W sont des points fixes de P, donc, d’après le point b), s'ils sont conjugués dans G (c'est-à-dire s'ils appartiennent à la même G-orbite) ils appartiennent à la même N_G(P)-orbite. Puisqu’ils sont contenus dans P et donc dans N_G(P), cela revient à dire qu’ils sont conjugués dans N_G(P).

Puisque H est un sous-groupe de Hall de G, l’ordre de G est de la forme ab, où a est l’ordre de H et où b est un nombre naturel premier avec a. Pour démontrer l'énoncé, on peut par exemple prouver que H est l’ensemble des éléments x de G tels que x^a = 1.
Puisque H est d'ordre a, nous savons que x^a = 1 pour tout élément x de H. Réciproquement, prouvons que si x est un élément de G tel que x^a = 1, alors x appartient à H.
Puisque H est normal dans G, nous pouvons considérer le groupe G/H et l'homomorphisme canonique f de G sur G/H. De notre hypothèse x^a = 1 résulte f(x)^a = 1, autrement dit l’ordre de f(x) divise a. D'autre part, l’ordre de G/H est b, donc l’ordre de f(x) divise b. Ainsi, l’ordre de f(x) divise à la fois a et b. Puisque a et b sont premiers entre eux, l’ordre de f(x) est donc égal à 1, donc f(x) est l'élément neutre de G/H; autrement dit x appartient à H, comme annoncé.
Nous avons donc prouvé que H est l’ensemble des éléments x de G tels que x^a = 1. Il en résulte clairement que H est le seul sous-groupe d'ordre a de G et est donc caractéristique dans G.

On raisonne par récurrence sur l’ordre de G. Si cet ordre est égal à 1, G est résoluble, donc nous pouvons supposer que ${\displaystyle \vert G\vert >1.}$ Nous pouvons alors considérer le plus petit facteur premier de ${\displaystyle \vert G\vert ,}$ soit p, et choisir un p-sous-groupe de Sylow P de G. D'après le chapitre Transfert, théorème du complément normal de Burnside de la théorie, P admet un complément normal dans G, soit N. Il est clair que N est un sous-groupe de Hall de G, donc tout sous-groupe de Sylow de N est un sous-groupe de Sylow de G. D'après les hypothèses de l'énoncé, il en résulte que tout sous-groupe de Sylow de N est cyclique. D'autre part, ${\displaystyle \vert P\vert >1,}$ donc ${\displaystyle \vert N\vert <\vert G\vert ,}$ donc, par hypothèse de récurrence, N est résoluble. D'autre part, N est produit semi-direct de N et de P, donc G/N est isomorphe à P. Puisque P est cyclique, il est commutatif et donc résoluble. Ainsi, N et G/N sont résolubles, donc G est résoluble.

Soient G un groupe d'ordre n et p un diviseur premier de n. Puisque n est sans carrés, tout p-sous-groupe de Sylow de G est d'ordre premier et est donc cyclique. La thèse résulte donc du point a).

Supposons que, par absurde, on ait

(hyp. 1)${\displaystyle \qquad \vert G\vert =p^{a}n_{p}}$ avec ${\displaystyle a=1}$ ou ${\displaystyle 2.}$

D'après un théorème de Sylow, ${\displaystyle n_{p}\equiv 1{\pmod {p}}}$ et, en particulier,

(2)${\displaystyle \qquad n_{p}}$ est premier avec ${\displaystyle p.}$

Choisissons un ${\displaystyle p}$-sous-groupe de Sylow ${\displaystyle P}$ de ${\displaystyle G.}$
D'après (1) et (2),

(3)${\displaystyle \qquad P}$ est d'ordre ${\displaystyle p^{a}.}$

Puisque ${\displaystyle a}$ est égal à ${\displaystyle 1}$ ou à ${\displaystyle 2}$, il en résulte que

(4)${\displaystyle \qquad P}$ est abélien.

Toujours d'après les théorèmes de Sylow, ${\displaystyle n_{p}}$ est l'indice de ${\displaystyle N_{G}(P)}$ dans ${\displaystyle G}$, donc, d'après l'hypothèse (1), ${\displaystyle N_{G}(P)}$ est d'ordre ${\displaystyle p^{a}.}$ Donc, d'après (3), ${\displaystyle N_{G}(P)=P.}$ Puisqu'on a vu en (4) que ${\displaystyle P}$ est abélien, ${\displaystyle P}$ est donc évidemment central dans ${\displaystyle N_{G}(P)}$, donc, d'après le théorème du complément normal de Burnside, ${\displaystyle P}$ admet un complément normal ${\displaystyle H}$ dans ${\displaystyle G.}$ Puisque ${\displaystyle G}$ est supposé simple, il faut ${\displaystyle H=G}$ ou ${\displaystyle H=1.}$ Le cas ${\displaystyle H=G}$ est impossible, car il entraîne ${\displaystyle P=1}$, ce qui est impossible puisque ${\displaystyle p}$ divise ${\displaystyle \vert G\vert .}$ Dans le cas ${\displaystyle H=1}$, on aurait ${\displaystyle G=P}$, donc ${\displaystyle G}$ serait un ${\displaystyle p}$-groupe, ce qui est impossible, puisque tout groupe ayant pour ordre une puissance de nombre premier est nilpotent et a fortiori résoluble, alors que ${\displaystyle G}$, supposé être un groupe simple non abélien, n'est pas résoluble. Cela montre que l'hypothèse (1) est contradictoire, d'où l'énoncé du point a).

Puisque ${\displaystyle \vert G\vert }$ n'est pas divisible par ${\displaystyle p^{3}}$, nous avons

(1)${\displaystyle \qquad \vert G\vert =p^{a}m}$, où ${\displaystyle m}$ est premier avec ${\displaystyle p}$ et où ${\displaystyle a}$ est égal à ${\displaystyle 1}$ ou à ${\displaystyle 2.}$

D'après les théorèmes de Sylow, ${\displaystyle m}$ est divisible par le nombre ${\displaystyle n_{p}}$ des ${\displaystyle p}$-sous-groupes de Sylow de ${\displaystyle G.}$ Soit ${\displaystyle m=n_{p}b.}$ Alors (1) s'écrit

${\displaystyle \qquad \vert G\vert =p^{a}n_{p}b}$,

où ${\displaystyle b}$ (qui divise ${\displaystyle m}$) est premier avec ${\displaystyle p.}$ D'après le point a), ${\displaystyle b}$ n'est pas égal à ${\displaystyle 1}$, ce qui achève de démontrer le point b).

Notons ${\displaystyle n_{p}}$ le nombre des ${\displaystyle p}$-sous-groupes de Sylow de ${\displaystyle G}$ et ${\displaystyle p^{a}}$ la plus grande puissance de ${\displaystyle p}$ qui divise ${\displaystyle \vert G\vert .}$
D'après les théorèmes de Sylow,

(1)${\displaystyle \qquad \vert G\vert }$ est divisible par ${\displaystyle p^{a}n_{p}.}$

De plus, puisque ${\displaystyle G}$ est supposé simple et non abélien, le théorème 5, point a) du chapitre théorique donne

(2)${\displaystyle \qquad n_{p}\geq p+1.}$

Si ${\displaystyle \qquad \vert G\vert }$ est divisible par ${\displaystyle p^{3}}$, alors, d'après (1) et (2),

${\displaystyle \qquad \vert G\vert \geq (p+1)p^{3},}$

d'où, largement, ${\displaystyle \vert G\vert \geq 2p(p+1)}$, donc l'énoncé est vrai dans ce cas.
Reste le cas où ${\displaystyle \vert G\vert }$ n'est pas divisible par ${\displaystyle p^{3}.}$ Alors, d'après le point b),

${\displaystyle \qquad \vert G\vert =p^{a}n_{p}b}$,

où ${\displaystyle a}$ est égal à ${\displaystyle 1}$ ou à ${\displaystyle 2}$ et où ${\displaystyle b\geq 2.}$ Donc

${\displaystyle \qquad \vert G\vert \geq 2p^{a}n_{p}.}$

D'après (2), cela entraîne ${\displaystyle \vert G\vert \geq 2p^{a}(p+1).}$ Puisque ${\displaystyle a\geq 1}$, on a donc encore ${\displaystyle \vert G\vert \geq 2p(p+1).}$

Soit, par absurde,

(hyp. 1)${\displaystyle \qquad G}$ un groupe simple d'ordre ${\displaystyle p(p+1)}$ ou ${\displaystyle p^{2}(p+1)}$.

L'ordre de ${\displaystyle G}$ n'est pas premier, donc ${\displaystyle G}$ est un groupe simple non abélien. D'après les hypothèses et les théorèmes de Sylow, le nombre ${\displaystyle n_{p}}$ des ${\displaystyle p}$-sous-groupes de Sylow de ${\displaystyle G}$ divise ${\displaystyle p+1}$ et, d'après le théorème 5, point a) du chapitre théorique, ${\displaystyle n_{p}\geq p+1}$, donc ${\displaystyle n_{p}=p+1.}$ L'hypothèse (1) donne donc

${\displaystyle \vert G\vert =pn_{p}}$ ou ${\displaystyle p^{2}n_{p}}$,

ce qui contredit le point a). L'hypothèse (1) est donc absurde, d'où l'énoncé.

Choisissons un 2-sous-groupe de Sylow P de G. Puisque 2 ne divise qu'une fois l’ordre de G, P est d'ordre 2. Il est donc cyclique. Puisque 2 est le plus petit facteur premier de l’ordre de G, il résulte d'un théorème démontré dans la théorie que G est 2-nilpotent, d'où l'énoncé. Voici une démonstration plus directe. P est normal dans N_G(P) et on a vu dans les exercices de la série Conjugaison, centralisateur, normalisateur qu'un sous-groupe normal d'ordre 2 est central, donc P est central dans N_G(P). D'après le théorème du complément normal de Burnside, il en résulte que P admet un complément normal dans G. Un tel complément est d'ordre n, d'où l'énoncé.

D'après les théorèmes de Sylow, le nombre des p-sous-groupes de Sylow de G est de la forme np+1, avec n naturel ≥ 0, et il divise ${\displaystyle {\frac {p^{2}+1}{2}}.}$ De ce second fait, il résulte que

(1) n < p.

D'autre part, puisque np+1 divise ${\displaystyle {\frac {p^{2}+1}{2}},}$ il divise a fortiori ${\displaystyle 2n^{2}\ {\frac {p^{2}+1}{2}}=n^{2}p^{2}+n^{2}}$. Comme np est congru à -1 modulo np+1, il en résulte que n² + 1 est multiple de np+1, d'où n² ≥ np. Si n était non nul, on aurait donc n ≥ p, ce qui contredit (1). Donc n = 0, c'est-à-dire que le nombre des p-sous-groupes de Sylow de G est égal à 1.

On montre facilement que si a est un nombre naturel, a² + 1 n'est divisible ni par 3 ni par 4. Donc l’ordre 2p (p² + 1) de G n’est pas divisible par 3 et il est divisible par 4 sans être divisible par 8. Choisissons un 2-sous-groupe de Sylow S de G. D'après ce qui précède, S est d'ordre 4 (et, en particulier, abélien) donc Aut(S) est d'ordre 2 ou 6, selon que S est un groupe cyclique ou un groupe de Klein. (Pour le cas où S est cyclique, voir le chapitre Automorphismes d'un groupe cyclique. Pour le cas où S est un groupe de Klein, et donc un 2-groupe élémentaire, voir un problème de la série Groupes commutatifs finis, 1.) On a vu que |G| n’est pas divisible par 3, donc

PGCD(|Aut(S)|, |G|) = 2.

D'après le « cas particulier » du théorème du complément normal de Burnside, S admet donc un complément normal N dans G. (On aurait aussi pu utiliser le théorème qui dit que si G est un groupe fini > 1, si q désigne le plus petit facteur premier de l’ordre de G, si l’ordre de G n'est divisible ni par q³ ni par 12, alors G est q-nilpotent.) N est d'ordre ${\displaystyle p{\frac {p^{2}+1}{2}},}$ donc, d’après la partie a) du problème, il n'a qu'un p- sous-groupe de Sylow, soit P. D'après le chapitre Sous-groupes caractéristiques (exemples), P est caractéristique dans N. Puisque N est normal dans G, P est donc normal dans G. Puisque l’ordre de G n'est divisible qu'une fois par p, P est un p-sous-groupe de Sylow de G. Puisqu’il est normal dans G, c’est le seul p-sous-groupe de Sylow de G.

Il résulte des hypothèses que l'ordre de G est composé, donc, puisque G est supposé simple, G est un groupe simple fini non abélien. D'autre part, il est clair que les ${\displaystyle p}$-sous-groupes de Sylow de G sont d'ordre ${\displaystyle p^{2},}$ donc ils sont abéliens. Donc, d'après le chapitre théorique,

(1)${\displaystyle \qquad P\cap Z(N_{G}(P))=1}$,

ce qui entraîne que ${\displaystyle (N_{G}(P)}$ n'est pas abélien. On a vu dans les exercices sur le chapitre Groupes diédraux (problème Classification des groupes d'ordre 18) que tout groupe non abélien d'ordre ${\displaystyle 2p^{2}}$ est isomorphe soit au groupe diédral d'ordre ${\displaystyle 2p^{2}}$, soit au groupe diédral généralisé construit sur ${\displaystyle \mathbb {Z} /p\mathbb {Z} \times \mathbb {Z} /p\mathbb {Z} ,}$ soit au produit direct ${\displaystyle \mathbb {Z} /p\mathbb {Z} \times D_{2p}}$, où ${\displaystyle D_{2p}}$ désigne le groupe diédral d'ordre ${\displaystyle 2p.}$ Donc pour démontrer l'énoncé, il suffit de prouver que

(thèse 2)${\displaystyle \qquad N_{G}(P)}$ n'est pas isomorphe au produit direct ${\displaystyle \mathbb {Z} /p\mathbb {Z} \times D_{2p}.}$

Supposons que cette thèse soit fausse, ce qui revient à supposer que

(hyp. 3)${\displaystyle \qquad N_{G}(P)}$ soit produit direct interne ${\displaystyle K\times L}$, où K est un groupe d'ordre p et L un groupe isomorphe à ${\displaystyle D_{2p}.}$

Alors ${\displaystyle Z(N_{G}(P))=Z(K)\times Z(L)=K\times Z(L)}$, donc

(4)${\displaystyle \qquad Z(N_{G}(P))}$ contient K.

Puisque P est le seul p-sous-groupe de Sylow de ${\displaystyle N_{G}(P)}$, K est contenu dans P, donc, d'après (4), ${\displaystyle P\cap Z(N_{G}(P))\not =1}$, ce qui contredit (1). Cette contradiction prouve que notre hypothèse (3) est absurde, autrement dit notre thèse (2) est vraie. Comme nous l'avons vu, cela prouve l'énoncé.