Définition

Soit G un groupe. On appelle suite dérivée de G la suite ${\displaystyle ((D^{n}(G))_{n\in \mathbb {N} }}$, où ${\displaystyle \ D^{n}(G)}$ est défini par récurrence sur n par :
${\displaystyle \ D^{0}(G)=G,\quad D^{n+1}(G)=D(D^{n}(G))}$ pour tout ${\displaystyle n\in \mathbb {N} .}$

Théorème

Soit ${\displaystyle f:G_{1}\mapsto G_{2}}$ un homomorphisme de groupes. Pour tout nombre naturel n,

${\displaystyle f(D^{n}(G_{1}))\subseteq D^{n}(G_{2})}$

et on a l'égalité si f est surjectif.

Démonstration. C'est banal si n est nul. Supposons que ce soit vrai pour un nombre naturel n et prouvons que cela reste vrai si on remplace n par n + 1. Nous avons vu dans le chapitre Commutateurs, groupe dérivé que si A et B sont des sous-groupes de ${\displaystyle G_{1}}$, alors l'image de (A, B) par f est (f(A), f(B)). En faisant ${\displaystyle \ A=B=D^{n}(G_{1})}$, nous trouvons

${\displaystyle \ (1)\quad f(D^{n+1}(G_{1}))=D(f(D^{n}(G_{1}))).}$

Par hypothèse de récurrence, nous avons ${\displaystyle \ f(D^{n}(G_{1}))\subseteq D^{n}(G_{2})}$ et l'égalité est vraie si f' est surjectif. En passant aux dérivés, nous trouvons que ${\displaystyle \ D(f(D^{n}(G_{1})))\subseteq D^{n+1}(G_{2})}$ et que l'égalité est vraie si f est surjectif. Il résulte donc de (1) que ${\displaystyle f(D^{n+1}(G_{1}))\subseteq D^{n+1}(G_{2})}$ et que l'égalité est vraie si f est surjectif, ce qui démontre l'énoncé par récurrence sur n.

En particulier, si H est un sous-groupe d'un groupe G, Dⁿ(H) est contenu dans Dⁿ(G) pour tout n. (Dans le précédent théorème, faire G₁ = H, G₂ = G et prendre pour f l'homomorphisme inclusion ${\displaystyle x\mapsto x}$ de H dans G.)

Théorème

Soit G un groupe. Les groupes ${\displaystyle D^{n}(G)}$ sont des sous-groupes caractéristiques (et donc distingués) de G.

Démonstration. Dans le théorème précédent, faisons G₁ = G₂ = G. Nous trouvons que ${\displaystyle \ D^{n}(G)}$ est stable par tout endomorphisme de G, donc est caractéristique dans G.

Théorème

Soient G un groupe et ${\displaystyle \ (G_{n})}$ une suite de sous-groupes possédant les propriétés suivantes : ${\displaystyle G_{0}=G}$ et, pour tout n, ${\displaystyle \ G_{n+1}}$ est un sous-groupe distingué de ${\displaystyle \ G_{n}}$ tel que ${\displaystyle \ G_{n}/G_{n+1}}$ soit commutatif. Alors ${\displaystyle D^{n}(G)\subseteq G_{n}}$ pour tout n.

Démonstration. C'est banal si n = 0. Supposons que ce soit vrai pour un nombre naturel n et prouvons que cela reste vrai si on remplace n par n + 1. De ce que ${\displaystyle \ G_{n}/G_{n+1}}$ est commutatif, il résulte (chapitre Commutateurs, groupe dérivé) que ${\displaystyle (1)\quad D(G_{n})\subseteq G_{n+1}.}$ Par hypothèse de récurrence, ${\displaystyle D^{n}(G)\subseteq G_{n}}$, d'où, par passage aux dérivés, ${\displaystyle D^{n+1}(G)\subseteq D(G_{n}).}$. En faisant suivre ceci de (1), nous trouvons ${\displaystyle D^{n+1}(G)\subseteq G_{n+1}}$, ce qui démontre l'énoncé par récurrence sur n.

Définition

Un groupe G est dit résoluble s'il existe un nombre naturel n tel que ${\displaystyle \ D^{n}(G)=1.}$ Dans ce cas, le plus petit nombre naturel n tel que ${\displaystyle \ D^{n}(G)=1}$ est appelé la classe de résolubilité de G. On dit aussi que G est résoluble de classe n.

Remarques.
1) Si G est un groupe résoluble de classe n, la suite finie ${\displaystyle \ G=D^{0}(G),D^{1}(G),\ldots ,D^{n}(G)=1}$ est évidemment strictement décroissante. (Si on avait ${\displaystyle \ D^{i}(G)=D^{i+1}(G)}$ pour un certain ${\displaystyle i\leq n-1}$, l’application de ${\displaystyle \ D^{n-1-i}}$ aux deux membres donnerait ${\displaystyle \ D^{n-1}(G)=D^{n}(G)}$, d'où ${\displaystyle \ D^{n-1}(G)=1}$, ce qui contredit la minimalité de n.)
2) Un groupe est résoluble de classe 0 si et seulement s'il est réduit à l'élément neutre.
3) Un groupe est résoluble de classe 1 si et seulement s'il est commutatif et non réduit à l'élément neutre. Tout groupe commutatif est résoluble.
4) Un groupe résoluble non réduit à l'élément neutre est distinct de son dérivé.
5) Un groupe G est résoluble si et seulement si D(G) est résoluble. Si D(G) est résoluble de classe n et que G n’est pas réduit à l'élément neutre (auquel cas, d’après la remarque précédente, D(G) est distinct de G), G est résoluble de classe n + 1.
6) Un groupe simple résoluble est commutatif et donc cyclique d'ordre premier. En effet, soit G un groupe simple résoluble. Puisque G est simple, il n’est pas réduit à l'élément neutre. Puisqu’il est résoluble, il résulte donc d'une précédente remarque que D(G) < G. Puisque D(G) est distingué dans G et que G est simple, on a donc D(G) = 1, donc G est commutatif. Or on a vu que tout groupe simple commutatif est cyclique d'ordre premier.
7) Un groupe simple non commutatif n’est pas résoluble. (C'est une autre formulation de la remarque précédente.)
8) Soit f un homomorphisme d'un groupe G₁ dans un groupe G₂. Nous avons vu que pour tout n, f(Dⁿ(G₁)) est égal à Dⁿ(f(G₁)). Il en résulte que si f est un homomorphisme partant d'un groupe G résoluble de classe n, alors f(G) est résoluble de classe ≤ n. En particulier, si H est un sous-groupe distingué de G, si G est résoluble de classe n, alors G/H est résoluble de classe ≤ n. (Considérer l'homomorphisme canonique de G sur G/H.)
9) En appliquant la remarque 8) à un isomorphisme f et à l'isomorphisme réciproque, on voit que si G est un groupe résoluble de classe n, tout groupe isomorphe à G est résoluble de classe n.
10) Nous avons vu que si H est un sous-groupe d'un groupe G, Dⁿ(H) est contenu dans Dⁿ(G) pour tout n. Donc si G est un groupe résoluble de classe n, tout sous-groupe de G est résoluble de classe ≤ n.

Théorème

Soient G un groupe et H un sous-groupe distingué de G. Si G/H est résoluble de classe p et H résoluble de classe q, G est résoluble de classe ≤ p + q.

Démonstration. Soit π l'homomorphisme canonique de G sur G/H. Nous avons π(D^p(G)) = D^p(π (G)) = D^p(G/H). Par définition de p, D^p(G/H) = 1, donc π(D^p(G)) = 1, c'est-à-dire que D^p(G) ⊆ H. Dès lors, D^q(D^p(G)) ⊆ D^q(H), autrement dit D^p+q(G) ⊆ {1}, donc G est bien résoluble de classe ≤ p + q.
Remarque. G peut être résoluble de classe < p + q. Prendre par exemple pour G le produit direct d'un groupe commutatif non trivial H par un groupe commutatif non trivial K. Alors G, H et G/H (qui est isomorphe à K) sont tous trois résolubles de classe 1.

Remarque. Deux groupes K et Q étant donnés, on dit qu'un groupe G est extension de K par Q s'il existe un sous-groupe normal N de G tel que N soit isomorphe à K et G/N isomorphe à Q. En particulier, si H est un sous-groupe normal d'un groupe G, G est extension de H par G/H. Dans cette terminologie, le théorème qui précède montre qu'une extension d'un groupe résoluble par un groupe résoluble est elle-même un groupe résoluble.

Corollaire

Soient G un groupe, H et K des sous-groupes de G tels que K normalise H (autrement dit, K est contenu dans le normalisateur de H dans G). Si K est résoluble de classe p et H résoluble de classe q, alors le sous-groupe HK de G est résoluble de classe ≤ p + q.

Démonstration. D'après le second théorème d'isomorphisme, HK/H est isomorphe à un quotient de K et est donc résoluble de classe ≤ p, donc HK est résoluble de classe ≤ p + q d’après le théorème précédent.

Remarque. Le produit direct d'un groupe résoluble de classe p et d'un groupe résoluble de classe q est résoluble de classe r, où r désigne le plus grand des deux nombres p et q. (Voir exercices.)

Théorème

Soient G un groupe et n un nombre naturel. Les trois conditions suivantes sont équivalentes :
1) G est résoluble de classe ≤ n;
2) il existe une suite de composition G = G₀ ⊇ G₁ ⊇ ... ⊇ G_n = 1 où tous les G_i sont distingués dans G et dont tous les quotients sont commutatifs;
3) il existe une suite de composition G = G₀ ⊇ G₁ ⊇ ... ⊇ G_n = 1 dont tous les quotients sont commutatifs;

Démonstration. Supposons 1) et prouvons 2). Il suffit évidemment de prendre G_i égal à Dⁱ(G).
Il est banal que 2) entraîne 3).
Prouvons que 3) entraîne 1). Dans l'hypothèse 3), nous avons, d’après un théorème précédent, Dⁱ(G) ⊆ G_i pour tout i. C'est vrai en particulier pour i = n, donc Dⁿ(G) = 1, donc G est résoluble de classe ≤ n, ce qui prouve 1).

Théorème

Si un groupe résoluble G admet une suite de Jordan-Hölder, tous les quotients des suites de Jordan-Hölder de G sont cycliques d'ordres premiers (et, en particulier, G est fini).

Démonstration. Soit G_i/G_i+1 un quotient d'une suite de Jordan-Hölder de G. Prouvons que ce quotient est un groupe résoluble. Puisque G_i est sous-groupe du groupe résoluble G, il est résoluble. Donc G_i/G_i+1 est quotient d'un groupe résoluble et est donc résoluble comme annoncé. D'autre part, par définition d'une suite de Jordan-Hölder, G_i/G_i+1 est simple. Il est donc à la fois simple et résoluble. Nous avons vu dans une remarque que tout groupe simple résoluble est cyclique d'ordre premier, d'où l'énoncé.

Théorème

Soit G un groupe fini. Pour que G soit résoluble, il faut et il suffit qu’il admette une suite de composition dont tous les quotients sont cycliques d'ordre premier.

Démonstration. Supposons d’abord G résoluble et prouvons qu’il admet une suite de composition dont tous les quotients sont cycliques d'ordre premier. Puisque G est fini, il admet une suite de Jordan-Hölder. Puisque nous supposons G résoluble, il résulte du théorème précédent que les quotients d'une telle suite sont cycliques d'ordre premier, d'où notre thèse. Réciproquement, supposons que G admette une suite de composition dont tous les quotients sont cycliques d'ordre premier. Alors ces quotients sont commutatifs, donc G est résoluble d’après l'avant-dernier théorème, partie 3) ⇒ 1).