Soit ${\displaystyle 4n}$ l'ordre de G. D'après le chapitre théorique, G contient un sous-groupe cyclique ${\displaystyle C_{2n}}$ d'ordre ${\displaystyle 2n}$ tel que tout élément de ${\displaystyle G\setminus C_{2n}}$ soit d'ordre 4. Puisque ${\displaystyle r}$ est impair et divise l'ordre ${\displaystyle 4n}$ de G, il divise ${\displaystyle 2n}$ (et même ${\displaystyle n}$). Autrement dit, ${\displaystyle r}$ divise l'ordre de ${\displaystyle C_{2n}.}$ D'après les propriétés des groupes cycliques, ${\displaystyle C_{2n}}$ contient donc un et un seul sous-groupe d'ordre ${\displaystyle r}$, soit ${\displaystyle C_{r}}$ et ce sous-groupe est cyclique. Ceci démontre entre autres l'assertion d'existence de l'énoncé. Soit H un sous-groupe d'ordre ${\displaystyle r}$ de G. Puisque ${\displaystyle r}$ est impair, H ne comprend aucun élément d'ordre 4. Donc, puisque tout élément de ${\displaystyle G\setminus C_{2n}}$ est d'ordre 4, H est contenu dans ${\displaystyle C_{2n}.}$ D'après la première partie de la démonstration, H est donc égal à ${\displaystyle C_{r}}$, qui est cyclique, ce qui achève de démontrer l'énoncé.

Puisque G est d'ordre 8, tout élément de G a pour ordre un diviseur de 8. Puisque G n’est pas abélien, il n’est pas cyclique et n'a donc pas d'élément d'ordre 8. Si tout élément de G était d'ordre 1 ou 2, G serait abélien (voir un exercice de la série Groupes, premières notions). Donc nous pouvons choisir dans G un élément a d'ordre 4. Choisissons un élément b de G hors de <a>. Puisque <a> est d'indice 2 dans G, a et b engendrent G. D'autre part, puisque <a> est un sous-groupe d'indice 2 de G, il est normal dans G, donc x ↦ b x b^-1 définit un automorphisme de <a>. Si cet automorphisme était l'identité, b commuterait avec a, donc G serait abélien, ce qui contredit les hypothèses. Donc l'automorphisme x ↦ b x b^-1 de <a> n’est pas l'identité. Or un groupe cyclique d'ordre 4 n'a pour automorphismes que l'identité et l'automorphisme x ↦ x^-1 (voir par exemple Automorphismes d'un groupe cyclique). Donc pour tout élément x de <a>,

b x b^-1 = x^-1.

En particulier,

b a b^-1 = a^-1.

Si b est d'ordre 2, ceci entraîne que G est isomorphe à D₈ (voir un théorème du chapitre Groupes diédraux). Supposons maintenant que b n’est pas d'ordre 2. Il doit alors être d'ordre 4. Puisque <a> est normal d'indice 2 dans G, b² appartient à <a>. Comme b² est d'ordre 2 et que a² est le seul élément d'ordre 2 de <a>, on a donc b² = a². D'après le chapitre théorique, il en résulte que G est dicyclique d'ordre 8, autrement dit est isomorphe au groupe des quaternions.

La paire {a,b} est une partie génératrice de G, donc, d'après un théorème du chapitre Commutateurs, groupe dérivé, D(G) est le sous-groupe normal de G engendré par les commutateurs [x, y], où x et y parcourent {a,b}. On peut évidemment négliger les [x, y] pour lesquels x = y (car alors [x,y] = 1). Puisque, d'autre part, [a,b] est l'inverse de [b,a], on peut se limiter au seul commutateur [b,a], c'est-à-dire que

(1) D(G) est le sous-groupe normal de G engendré par ${\displaystyle [b,a]=(b^{-1}a^{-1}b)a=a^{2}.}$

Puisque tout sous-groupe d'un groupe cyclique C est caractéristique dans C, ${\displaystyle <a^{2}>}$ est caractéristique dans <a>. D'autre part, <a> est normal dans G (par exemple parce qu'il est d'indice 2 dans G). Donc ${\displaystyle <a^{2}>}$ est normal dans G et est donc le sous-groupe normal de G engendré par ${\displaystyle a^{2}.}$ Dès lors, notre résultat (1) signifie que ${\displaystyle D(G)=<a^{2}>=\{1,a^{2},\ldots ,a^{2n-2}\},}$ ce qui démontre la première assertion de l'énoncé. Le dérivé de G est donc abélien, donc G est résoluble.

D'après le point a), D(G) est d'indice 4 dans G. Notamment parce que b n'appartient pas à <a>, il est clair que les quatre éléments de G/D(G) sont

D(G), D(G)a, D(G)b et D(G)ab.

Supposons d'abord que n est impair.
Alors la relation ${\displaystyle b^{2}=a^{n}}$ montre que ${\displaystyle b^{2}}$ n'appartient pas à ${\displaystyle <a^{2}>=D(G),}$ donc D(G)b est d'ordre 4 dans G/D(G), donc G/D(G) est un groupe cyclique d'ordre 4 (admettant D(G)b pour générateur).

Supposons maintenant que n est pair.
Alors la relation ${\displaystyle b^{2}=a^{n}}$ montre que ${\displaystyle b^{2}}$ appartient à ${\displaystyle <a^{2}>=D(G),}$ donc D(G)b est d'ordre 2 dans G/D(G). Comme D(G)a est lui aussi d'ordre 2 dans G/D(G), G/D(G) est un groupe d'ordre 4 qui comprend plus d'un élément d'ordre 2, donc G/D(G) est un groupe de Klein.

On a vu dans un problème de la série Groupes alternés que tout groupe d'ordre 12 ayant plusieurs sous-groupes d'ordre 3 est isomorphe à A₄. On peut donc se limiter au cas où G n'a qu'un sous-groupe d'ordre 3. Ce sous-groupe est alors normal dans G. Désignons-le par N₃. Choisissons un élément c d'ordre 3 dans N₃ et prouvons que

(thèse 1) le centralisateur de c dans G comprend un élément d'ordre 2.

Tout conjugué de c dans G est un élément d'ordre 3. Puisque le seul sous-groupe d'ordre 3 de G est N₃, tout conjugué de c dans G est donc égal à un des deux éléments de N₃ distincts du neutre. Donc c a au plus deux conjugués dans G. D'après un théorème démontré dans le chapitre Action de groupe, le nombre des conjugués de c dans G est égal à l'indice dans G du centralisateur de c dans G, donc cet indice est égal à 1 ou à 2. Dans les deux cas, l’ordre du centralisateur de c est pair, donc d’après le théorème de Cauchy, le centralisateur de c comprend un élément d'ordre 2, ce qui prouve notre thèse (1).
Choisissons un élément z d'ordre 2 dans le centralisateur de c et posons a = cz. Alors a est d'ordre 6. Prouvons que si y est un élément de G n'appartenant pas à <a>, alors

(thèse 2) {a, y} engendre G et y a y^-1 = a^-1.

Puisque <a> est d'indice 2 dans G et que y n'appartient pas à G, {a, y} engendre G. D'autre part, puisque <a> est d'indice 2 dans G, il est normal dans G, donc x ↦ y x y^-1 définit un automorphisme de <a>. Puisque {a, y} engendre G et que G est supposé non abélien, y ne commute pas avec a, donc l'automorphisme x ↦ y x y^-1 de <a> n’est pas l'identité. Comme un groupe cyclique d'ordre 6 n'a pour automorphismes que l'identité et l'automorphisme x ↦ x^-1 (voir le chapitre Automorphismes d'un groupe cyclique), on a donc y x y^-1 = x^-1 pour tout élément x de <a>, ce qui achève de prouver la thèse (2).
Supposons d’abord que les 2-sous-groupes de Sylow de G, c'est-à-dire ses sous-groupes d'ordre 4, sont cycliques. Nous pouvons alors choisir un élément b d'ordre 4 dans G. Puisqu'un groupe d'ordre 6 n'a pas d'élément d'ordre 4, b n'appartient pas à <a>. Nous pouvons donc faire y = b dans (2), donc

(3) b a b^-1 = a^-1.

D'autre part, puisque <a> est d'indice 2 dans G, il est normal dans G, donc b² appartient à <a>. Puisque b est d'ordre 4, b² est donc un élément d'ordre 2 de <a>. Comme <a> est cyclique d'ordre 6, son seul élément d'ordre 2 est a³, donc b² = a³. Joint à (3), ceci prouve que G est dicyclique.
Supposons maintenant que les 2-sous-groupes de Sylow de G sont des groupes de Klein. Alors G comprend au moins deux éléments d'ordre 2. On a déjà noté que <a> ne comprend qu'un élément d'ordre 2, donc nous pouvons choisir dans G un élément b d'ordre 2 n'appartenant pas à <a>. D'après (2), b a b^-1 = a^-1. Joint au fait que b est d'ordre 2, ceci entraîne que G est diédral.

Soit G un groupe d'ordre 12; prouvons que G est résoluble. Tout groupe abélien est résoluble, donc nous pouvons supposer que G n'est pas abélien. Alors, d'après le point a), G est isomorphe à A₄, à D₁₂ (groupe diédral d'ordre 12) ou à DC₃ (groupe dicyclique d'ordre 12). Si G est isomorphe à A₄, il est résoluble d'après un exercice de la série Groupes résolubles. Si G est diédral, il est résoluble comme tout groupe diédral (voir un exercice de la série Groupes diédraux). S'il est dicyclique, il est résoluble comme tout groupe dicyclique (voir un des exercices ci-dessus).
Remarque. On peut prouver autrement que tout groupe G d'ordre 12 est résoluble. G est isomorphe à un sous-groupe du produit direct de G par un groupe d'ordre 2. Ce produit direct est d'ordre 24 et on a prouvé dans l'exercice « Résolubilité des groupes d'ordre 24 » de la série Groupes nilpotents que tout groupe d'ordre 24 est résoluble. Donc G est isomorphe à un sous-groupe d'un groupe résoluble, donc il est résoluble.

D'après le chapitre théorique, tout élément de G est de la forme ${\displaystyle a^{i}}$ ou de la forme ${\displaystyle a^{i}b}$, avec ${\displaystyle i\in \{0,\ldots ,2n-1\}}$.
Soit i un nombre naturel tel que ${\displaystyle i\leq 2n-1}$. Si x est un élément de la forme ${\displaystyle a^{j}}$, le conjugué ${\displaystyle x^{-1}a^{i}x}$ de ${\displaystyle a^{i}}$ est égal à ${\displaystyle a^{i}}$; si maintenant x est de la forme ${\displaystyle a^{j}b}$, le conjugué ${\displaystyle x^{-1}a^{i}x}$ de ${\displaystyle a^{i}}$ est égal à

${\displaystyle (a^{j}b)^{-1}a^{i}a^{j}b=b^{-1}a^{i}b=a^{-i}.}$

La classe de conjugaison de ${\displaystyle a^{i}}$ est donc ${\displaystyle \{a^{i},a^{-i}\}}$. Cette classe est un singleton si ${\displaystyle a^{i}}$ est égal à 1 ou à ${\displaystyle a^{n}}$; dans le cas contraire, la classe est un ensemble à deux éléments.
Nous avons donc trouvé juqu'ici les classes de conjugaison d'éléments de <a>, à savoir les n + 1 classes

${\displaystyle \{1\},\{a^{n}\},\{a,a^{2n-1}\},\ldots \{a^{n-1},a^{n+1}\}.}$

Avant de continuer, notons que l'hypothèse ${\displaystyle b^{-1}ab=a^{-1}}$ entraîne ${\displaystyle bab^{-1}=a^{-1}}$ (par exemple parce que, l'automorphisme ${\displaystyle t\mapsto b^{-1}tb}$ de G appliquant a sur ${\displaystyle a^{-1}}$, l'automorphisme réciproque ${\displaystyle t\mapsto btb^{-1}}$ applique ${\displaystyle a^{-1}}$ sur a et applique donc a sur ${\displaystyle a^{-1}}$.
Si x est un élément de la forme ${\displaystyle a^{j}}$, le conjugué ${\displaystyle x^{-1}a^{i}bx}$ de ${\displaystyle a^{i}b}$ est égal à

${\displaystyle a^{-j}a^{i}ba^{j}=a^{i-j}ba^{j}=a^{i-j}(ba^{j}b^{-1})b=a^{i-j}a^{-j}b=a^{i-2j}b.}$

Si x est de la forme ${\displaystyle a^{j}b}$, le conjugué ${\displaystyle x^{-1}a^{i}bx}$ de ${\displaystyle a^{i}b}$ est égal à

${\displaystyle b^{-1}a^{-j}a^{i}ba^{j}b=(b^{-1}a^{i-j}b)a^{j}b=a^{2j-i}b.}$

Donc les conjugués de b sont ${\displaystyle b,a^{2}b,\ldots a^{2n-2}b}$ et les conjugués de ab sont ${\displaystyle ab,a^{3}b,\ldots a^{2n-1}b}$.
Donc G admet exactement n + 3 classes de conjugaison, à savoir

${\displaystyle \{1\},\{a^{n}\},\{a,a^{2n-1}\},\ldots \{a^{n-1},a^{n+1}\},\{b,a^{2}b,\ldots a^{2n-2}b\}=<a^{2}>b}$ et ${\displaystyle \{ab,a^{3}b,\ldots a^{2n-1}b\}=<a^{2}>ab.}$

On a vu dans le chapitre théorique que tout élément de G peut se mettre d'une et une seule façon sous la forme

aⁱ b ^j avec i, j entiers naturels, 0 ≤ i ≤ 2n - 1 et 0 ≤ j ≤ 1

et que G admet la « table de multiplication » suivante :

pour tous i, i', j, j' tels que 0 ≤ i, i' ≤ 2n - 1 et 0 ≤ j, j' ≤ 1,

${\displaystyle \qquad (a^{i}b^{j})(a^{i'}b^{j'})=a^{r_{2n}(i+(-1)^{j}i'+njj')}b^{r_{2}(j+j')},}$

où r_2n( ) désigne le reste par 2n et r₂( ) le reste par 2.
Notons f l'application de G dans H qui, pour ${\displaystyle 0\leq i\leq 2n-1}$ et ${\displaystyle 0\leq j\leq 1}$, envoie ${\displaystyle a^{i}b^{j}}$ sur ${\displaystyle A^{i}B^{j}}$ et prouvons que f est un homomorphisme.
Les mêmes raisonnements par lesquels nous avons établi la « table de multiplication » de G prouvent que nous avons dans H :

pour tous i, i', j, j' tels que 0 ≤ i, i' ≤ 2n - 1 et 0 ≤ j, j' ≤ 1,

${\displaystyle \qquad (A^{i}B^{j})(A^{i'}B^{j'})=A^{r_{2n}(i+(-1)^{j}i'+njj')}B^{r_{2}(j+j')},}$

ce qui entraîne clairement que f est un homomorphisme de G dans H. Cet homomorphisme applique a sur A et b sur B, d'où l'assertion d'existence de l'énoncé. Puisque a et b engendrent G, f est l'unique homomorphisme de G dans H qui applique a sur A et b sur B.

Puisque l'ordre de ${\displaystyle Q_{8}}$ est une puissance de 2, l'énoncé revient à dire que si P désigne un 2-sous-groupe de Sylow de ${\displaystyle S_{7}}$, P ne contient pas de sous-groupe isomorphe à ${\displaystyle Q_{8}.}$
On a vu dans les exercices sur les groupes diédraux que les 2-sous-groupes de Sylow de ${\displaystyle S_{7}}$ sont isomorphes au produit direct

${\displaystyle \mathbb {Z} /2\mathbb {Z} \times D_{8}}$,

où ${\displaystyle D_{8}}$ désigne le groupe diédral d'ordre 8. Tout revient donc à prouver que

(thèse 1)${\displaystyle \qquad \mathbb {Z} /2\mathbb {Z} \times D_{8}}$ n'a pas de sous-groupe isomorphe à ${\displaystyle Q_{8}.}$

Un élément d'ordre 4 de ${\displaystyle \mathbb {Z} /2\mathbb {Z} \times D_{8}}$ doit être de la forme ${\displaystyle (a,b)}$, où ${\displaystyle b}$ est d'ordre 4. Puisque ${\displaystyle D_{8}}$ a exactement deux éléments d'ordre 4, ${\displaystyle \mathbb {Z} /2\mathbb {Z} \times D_{8}}$ a donc exactement quatre éléments d'ordre 4. D'autre part, on a vu dans le chapitre théorique que ${\displaystyle Q_{8}}$ a exactement six éléments d'ordre 4, donc la thèse (1) est bien vraie.