Commutateurs d'éléments et de sous-groupes

Définition

Soient G un groupe, x et y deux éléments de G. L'élément ${\displaystyle \ x^{-1}y^{-1}xy}$ de G est appelé le commutateur de x et y et nous le noterons (x, y) ou, de préférence, [x, y].

Remarque. Cette définition est celle qu'adopte Bourbaki^[1]. D'autres auteurs^[2] désignent comme le commutateur de x et y l'élément ${\displaystyle \ xyx^{-1}y^{-1}}$. Il est clair que le commutateur de x et de y selon une de ces définitions est le commutateur de x^-1 et y^-1 selon l'autre définition, ce qui permet de traduire facilement un énoncé relatif à une définition en un énoncé relatif à l'autre définition.

Il est clair que [y, x] = [x, y]^-1. D'autre part, [x, y] = (yx)^-1xy, donc [x, y] = 1 si et seulement si x et y commutent.

Définition

Soient G un groupe, A et B deux sous-groupes de G. On note (A, B) ou, de préférence, [A, B] le sous-groupe de G engendré par les éléments de la forme [a, b], avec ${\displaystyle a\in A,b\in B}$.

Remarques

• Nous avons vu que, si x et y sont deux éléments de G, la relation [x, y] = 1 a lieu si et seulement si x et y commutent. Il en résulte que [A, B] = 1 si et seulement tout élément de A commute avec tout élément de B.
• Il est clair que si A₁ et B₁ sont des sous-groupes de G contenus dans A et dans B respectivement, [A₁, B₁] est contenu dans [A, B] (puisqu’il y a une partie génératrice de [A₁, B₁] qui est contenue dans [A, B]).
• Soit X l’ensemble des commutateurs ${\displaystyle [a,b]=a^{-1}b^{-1}ab}$ avec ${\displaystyle a\in A}$ et ${\displaystyle b\in B}$, soit Y l’ensemble des commutateurs ${\displaystyle [b,a]=b^{-1}a^{-1}ba}$ avec ${\displaystyle a\in A}$ et ${\displaystyle b\in B}$. Par définition, [A, B] est le sous-groupe de G engendré par X et [B, A] est le sous-groupe de G engendré par Y. Il est clair que ${\displaystyle Y=X^{-1}}$, donc X et Y engendrent le même sous-groupe, donc [A, B] = [B, A].

Proposition

Soient G un groupe, A et B des sous-groupes de G. La relation [A, B] ⊆ B a lieu si et seulement si A normalise B.

Démonstration

Supposons [A, B] ⊆ B et prouvons que A normalise B. Puisque l’ensemble des commutateurs a^-1b^-1ab, avec a dans A et b dans B, est contenu dans [A, B], nous avons a^-1b^-1ab ∈ B pour tout a ∈ A et tout b ∈ B. Cela entraîne a^-1b^-1a ∈ B pour tout a ∈ A et tout b ∈ B, donc A normalise B. Réciproquement, supposons que A normalise B. Alors a^-1b^-1a ∈ B pour tout a ∈ A et tout b ∈ B, donc a^-1b^-1ab ∈ B pour tout a ∈ A et tout b ∈ B, donc tout commutateur [a, b], avec a dans A et b dans B, appartient à B. Puisque [A, B] est le sous-groupe de G engendré par ces commutateurs et que B est un sous-groupe de G, [A, B] est donc contenu dans B.

Proposition

Soient G₁ et G₂ deux groupes, A et B deux sous-groupes de G₁, f un homomorphisme de G₁ dans G₂. L'image de [A, B] par f est [f(A), f(B)].

Démonstration

Désignons par X l’ensemble des commutateurs [a, b] avec a dans A et b dans B. Il est clair que f(X) est l’ensemble Y des commutateurs [a', b'] avec a' dans f(A) et b' dans f(B). En passant aux sous-groupes engendrés, nous trouvons <f(X)> = <Y>, ce qui peut s'écrire f(<X>) = <Y>. Par définition de [A, B], <X> est égal à [A, B] et, de même, <Y> est égal à [f(A), f(B)], d'où l'énoncé.

On en déduit facilement le corollaire suivant :

Corollaire

Soient G un groupe, A et B deux sous-groupes de G. Si A et B sont normaux dans G (resp. caractéristiques dans G, resp. stables par tout endomorphisme de G, resp. stables par tout endomorphisme surjectif de G), [A, B] l'est aussi.

(Pour ce qui est des sous-groupes normaux, on se rappellera qu'un sous-groupe de G est normal dans G si et seulement s'il est stable par tout automorphisme intérieur de G.)

Groupe dérivé

Définition

Soit G un groupe. On appelle groupe dérivé de G et on note D(G) ou G' le sous-groupe [G, G] de G, autrement dit le sous-groupe de G engendré par les commutateurs d'éléments de G.

Remarques

• Le groupe dérivé de G n’est pas forcément réduit à l’ensemble des commutateurs d'éléments de G^[3].
• Le groupe dérivé de G est parfois appelé groupe des commutateurs de G, ce qui est un abus de langage, vu la remarque précédente.
• Nous avons vu que, si A et B sont deux sous-groupes de G, [A, B] = 1 si et seulement tout élément de A commute avec tout élément de B. En faisant A = B = G, nous trouvons que D(G) = 1 si et seulement G est commutatif.
• Si nous désignons par C l'ensemble des commutateurs de G, alors ${\displaystyle C=C^{-1}}$ (puisque [b,a] est l'inverse de [a,b]), donc D(G), qui est le sous-groupe de G engendré par C, est aussi le sous-monoïde de G engendré par C, autrement dit D(G) est l'ensemble des produits de commutateurs d'éléments de G.

Théorème

Soit f un homomorphisme d'un groupe G₁ dans un groupe G₂. Alors f(D(G₁)) est contenu dans D(G₂). Si f est surjectif, on a l'égalité.

Démonstration

Nous avons vu que si A et B sont deux sous-groupes de G₁, l'image de [A, B] par f est [f(A), f(B)]. En faisant A = B = G₁, nous trouvons que l'image de D(G₁) par f est [f(G₁), f(G₁)]. Comme [f(G₁), f(G₁)] est contenu dans [G₂, G₂] = D(G₂) et lui est égal si f est surjectif, l'énoncé en résulte.

Théorème

Le groupe dérivé d'un groupe G est un sous-groupe caractéristique (et donc distingué) de G.

Démonstration

En faisant G₁ = G₂ = G dans le théorème précédent, nous trouvons que D(G) est stable par tout endomorphisme de G. A fortiori, c’est un sous-groupe caractéristique de G.

Théorème

Soit f un homomorphisme d'un groupe G dans un groupe abélien A. Le groupe dérivé de G est contenu dans le noyau de f. Si ${\displaystyle \ \pi }$ désigne l'homomorphisme canonique de G sur G/D(G), tout homomorphisme de G dans un groupe abélien A s'écrit de façon unique ${\displaystyle \ {\tilde {f}}\circ \pi }$, où ${\displaystyle \ {\tilde {f}}}$ est un homomorphisme de G/D(G) dans A.
Autre formulation : soient G un groupe et A un groupe abélien, soit ${\displaystyle \pi }$ l'homomorphisme canonique de G sur G/D(G); alors ${\displaystyle g\mapsto g\circ \pi }$ définit une bijection de Hom(G/D(G), A) sur Hom(G, A).

Démonstration

D'après un théorème précédent, f(D(G)) est contenu dans D(A). Puisque A est abélien, D(A) = 1, donc f(D(G)) = 1, ce qui prouve la première assertion de l'énoncé. La seconde en résulte, compte tenu des théorèmes sur la décomposition d'un homomorphisme (chapitre sur les sous-groupes distingués et les groupes quotients).

Théorème

Soit G un groupe. Le groupe quotient G/D(G) est commutatif.

Démonstration

Soit ${\displaystyle \ \pi }$ l'homomorphisme canonique de G sur G/D(G). Puisque ${\displaystyle \ \pi }$ est surjectif, nous avons, d’après un précédent théorème, ${\displaystyle \ \pi (D(G))}$ = ${\displaystyle \ D(\pi (G))}$, autrement dit ${\displaystyle \ \pi (D(G))}$ = D(G/D(G)). Le premier membre est égal à D(G)/D(G) et est donc réduit à l'élément neutre. Le second membre D(G/D(G)) est donc réduit à l'élément neutre. Nous avons vu que le dérivé d'un groupe est réduit à l'élément neutre si et seulement si ce groupe est commutatif, donc G/D(G) est commutatif. (On peut évidemment donner une démonstration plus directe.)

Définition

G étant un groupe, le groupe (commutatif) G/D(G) est appelé l'abélianisé de G. On le note parfois G_ab.

Théorème

Soit G un groupe. Tout sous-groupe de G contenant D(G) est distingué dans G.

Démonstration

Nous avons vu (chapitre Sous-groupes distingués et groupes quotients, section Sous-groupes d'un groupe quotient) que si G est un groupe et H un sous-groupe distingué de G, alors un sous-groupe K de G contenant H est distingué dans G si et seulement si K/H est distingué dans G/H. Dans le cas où H = D(G), le quotient G/H = G/D(G) est commutatif, donc tous ses sous-groupes sont distingués. Il en résulte que tout sous-groupe K de G contenant D(G) est distingué dans G.

Remarque. On trouvera une autre démonstration dans les exercices.

Théorème

Soient G un groupe et H un sous-groupe distingué de G. Pour que le quotient G/H soit commutatif, il faut et il suffit que H contienne D(G).

Démonstration

Si le quotient G/H est commutatif, alors, d’après un des théorèmes ci-dessus, D(G) est contenu dans le noyau de l'homomorphisme canonique de G sur G/H, c'est-à-dire est contenu dans H. Réciproquement, soit H un sous-groupe distingué de G contenant D(G). Alors, d’après le troisième théorème d'isomorphisme, G/H est isomorphe au quotient de G/D(G) par H/D(G). Comme G/D(G) est commutatif et que tout quotient d'un groupe commutatif est commutatif, G/H est commutatif.

Le sous-groupe dérivé d'un groupe G est donc le plus petit sous-groupe normal H de G tel que G/H soit abélien.

Théorème

Soient G un groupe et X une partie génératrice de G. Le dérivé de G est le sous-groupe normal de G engendré par les commutateurs [x, y], où x et y parcourent X.

Démonstration

Désignons par H le sous-groupe normal de G engendré par les commutateurs [x, y], où x et y parcourent X. Puisque D(G) est lui-même un sous-groupe normal de G qui comprend les commutateurs en question, nous avons, par minimalité du sous-groupe normal engendré, ${\displaystyle H\subseteq D(G)}$. Il reste à prouver que D(G) est contenu dans H. Désignons par ${\displaystyle \varphi }$ l'homomorphisme canonique de G sur G/H. Puisque X est une partie génératrice de G et que ${\displaystyle \varphi }$ est surjectif, il résulte d'un théorème démontré au chapitre Groupes, premières notions que ${\displaystyle \varphi (X)}$ est une partie génératrice de G/H. Puisque H comprend tous les commutateurs [x, y] avec x et y dans X, tous les éléments de ${\displaystyle \varphi (X)}$ commutent entre eux (en effet, si x et y sont des éléments de X, le commutateur [x, y] appartient à H, donc ${\displaystyle \varphi ([x,y])}$ est l'élément neutre de G/H, or ${\displaystyle \varphi }$ étant un homomorphisme, ${\displaystyle \varphi ([x,y])=[\varphi (x),\varphi (y)]}$, d'où ${\displaystyle [\varphi (x),\varphi (y)]=1}$, ce qui prouve que ${\displaystyle \varphi (x)}$ et ${\displaystyle \varphi (y)}$ commutent). Ainsi, G/H admet une partie génératrice dont tous les éléments commutent entre eux. D'après un théorème démontré au chapitre Conjugaison, centralisateur, normalisateur, il en résulte que le groupe G/H est commutatif. D'après un théorème ci-dessus, H contient donc D(G), ce qui achève la démonstration.

Remarque. Dans le théorème précédent, X ne contient pas nécessairement l'inverse de chacun de ses éléments ; on peut donc légitimement se demander si le théorème n'est valable qu'avec la définition des commutateurs adoptée dans ce cours, c'est-à-dire [x, y] = x^-1y^-1xy (et non [x, y] = xyx^-1y^-1 ) pour tous x et y dans G. En examinant la démonstration ci-dessus, on peut constater qu'elle ne repose que sur des résultats indépendants de la définition choisie pour le commutateur de deux éléments d'un groupe. Le théorème est donc valable tel quel indépendamment de la définition choisie.

Une autre façon de voir cela consiste à montrer que le sous-groupe normal de G engendré par Com₁(X) est égal au sous-groupe normal de G engendré par Com₂(X), où Com₁(X) (resp. Com₂(X)) est l'ensemble des éléments de la forme x^-1y^-1xy (resp. xyx^-1y^-1) avec x et y dans X. Pour ce faire, remarquons tout d'abord que tout élément de Com₁(X) est conjugué d'un élément de Com₂(X) : en effet, si a et b sont deux éléments d'un groupe, ab est toujours conjugué de ba, puisque ab = a(ba)a^-1 ; on obtient donc l'argument en posant a = x^-1y^-1 et b = xy . De même, tout élément de Com₂(X) est conjugué d'un élément de Com₁(X). Il en résulte que les conjugués des éléments de Com₁(X) sont exactement les conjugués des éléments de Com₂(X), car la relation d'équivalence sur G « être conjugué à » est transitive. Or nous avons vu dans un exercice de la série Conjugaison, centralisateur, normalisateur que dans un groupe quelconque G₀, le sous-groupe normal engendré par une partie Y de G₀ est le sous-groupe de G₀ engendré par les conjugués des éléments de Y. Le sous-groupe normal de G engendré par Com₁(X) (resp. Com₂(X)) est donc le sous-groupe de G engendré par les conjugués des éléments de Com₁(X) (resp. Com₂(X)). On en déduit que le sous-groupe normal de G engendré par Com₁(X) est égal au sous-groupe normal de G engendré par Com₂(X), comme annoncé.

Théorème

Le dérivé du groupe symétrique S_n est le groupe alterné A_n.

Démonstration

Désignons par ${\displaystyle \ \epsilon }$ l'homomorphisme de S_n dans {1, - 1} qui applique ${\displaystyle \sigma }$ sur sa signature. Puisque le groupe d'arrivée de cet homomorphisme est commutatif, il résulte d'un théorème ci-dessus que D(S_n) est contenu dans le noyau de ${\displaystyle \epsilon }$, autrement dit est contenu dans A_n. Prouvons que réciproquement, A_n est contenu dans D(S_n). Puisque A_n est engendré par les cycles d'ordre 3, il suffit de prouver que tout cycle d'ordre 3 est un commutateur d'éléments de S_n. Soit (a b c) un cycle d'ordre 3. Puisqu’il est d'ordre 3, il est le carré de son inverse (c b a) :

${\displaystyle (1)\qquad (abc)=(cba)(cba)}$.

Puisque (c b a) et (a b c) ont la même structure cyclique, ils sont conjugués l'un de l'autre. Nous pouvons d'ailleurs préciser que ${\displaystyle (cba)=(ac)(abc)(ac)^{-1}}$. En remplaçant par cette valeur le second facteur (c b a) du second membre de (1), nous trouvons

${\displaystyle (abc)=(cba)(ac)(cba)^{-1}(ac)^{-1}}$,

ce qui prouve bien que ${\displaystyle (abc)}$ est un commutateur, comme annoncé.

Remarques

• Pour prouver que (a b c) est un commutateur, on aurait aussi pu noter que (a b c) = (a b) (a c) (a b)^-1 (a c)^-1.
• Comme déjà dit, le groupe dérivé d'un groupe G n’est pas forcément réduit aux commutateurs d'éléments de G. On verra cependant dans les exercices que tout élément de A_n est un commutateur d'éléments de S_n.

Compléments

On va donner dans cette section quelques résultats qui ne figurent pas dans tous les livres d’introduction à la théorie des groupes.

Soient x, y, z des éléments d'un groupe G. On écrit x^y pour y^-1xy, notation qu’il ne faut évidemment pas confondre avec la notation xⁿ, où n est un entier rationnel. On a toujours x^yz = (x^y)^z (composition des automorphismes intérieurs).

Théorème

Soient x, y, z des éléments d'un groupe G. On a les identités suivantes :

1° [x, y]^-1 = [y, x]

2° x^y = x [x, y]

3° x^y = [y, x^-1] x

4° [x, y]^z = [x^z, y^z]

5° [x, yz] = [x, z] [x, y]^z

6° ${\displaystyle \ \lbrack x,yz\rbrack =\lbrack x,z\rbrack \cdot \lbrack z,\lbrack y,x\rbrack \ \rbrack \cdot \lbrack x,y\rbrack }$

7° [xy, z] = [x, z]^y [y, z]

8° ${\displaystyle \ \lbrack xy,z\rbrack =\lbrack x,z\rbrack \cdot \lbrack \ \lbrack x,z\rbrack ,y\rbrack \cdot \lbrack y,z\rbrack }$

9° ${\displaystyle \ [x,y^{-1}]=([x,y]^{y^{-1}})^{-1}}$

10° [x, y^-1] = [ [y^-1, x], y] [y, x]

11° Identité de Hall-Witt :

${\displaystyle \ [\ [x,y^{-1}],z]^{y}\ \ [\ [y,z^{-1}],x]^{z}\ \ [\ [z,x^{-1}],y]^{x}=1.}$

Démonstration. La relation 1° a déjà été notée. La relation 4° s'obtient en appliquant l'égalité f([x, y]) = [f(x), f(y)] , vraie pour tout homomorphisme de groupes f, au cas où f est l'automorphisme intérieur ${\displaystyle \ x\mapsto z^{-1}xz}$. La relation 2° s'obtient par un calcul immédiat. Il en est de même de 3°, qu'on peut aussi tirer de 2° en passant aux inverses et en remplaçant x par x^-1. La relation 5° se vérifie par calcul. On peut obtenir 6° à partir de 5° en remplaçant dans 5° [x, y]^z par une valeur tirée de 3°. On peut tirer 7° de 5° en passant aux inverses et en faisant un changement de variables. On peut tirer 8° de 7° à l'aide de 2° comme on a tiré 6° de 5° à l'aide de 3° ; on peut aussi tirer 8° de 6° en passant aux inverses et en faisant un changement de variables. On obtient 9° en faisant z = y^-1 dans 5°. On obtient 10° en faisant y = z^-1 dans 6° et en opérant un changement de variable. Pour prouver 11° (l'identité de Hall-Wittt), on peut abréger les calculs en notant que le premier facteur de l'identité peut s'écrire

${\displaystyle \ [\ [x,y^{-1}],z]^{y}\ =T(x,z,y)^{-1}T(y,x,z),}$

où on pose:

${\displaystyle \ T(a,b,c)=aba^{-1}ca.}$

Des expressions analogues des deux autres facteurs de l'identité de Hall-Witt s'obtiennent à partir de celle-ci par une permuation circulaire des variables et quand on multiplie les trois résultats membre à membre, chaque facteur T() est détruit par le facteur T()^-1 qui suit.

Théorème

Soient G un groupe et A, B deux sous-groupes de G ; alors A et B normalisent [A, B], autrement dit [A, B] est sous-groupe normal du sous-groupe <A, B> de G engendré par A et B.

Démonstration. Soient a et a' deux éléments de A, soit b un élément de B. D'après la septième des identités énumérées plus haut,

${\displaystyle \ [aa',b]=[a,b]^{a'}[a',b].}$

Ceci donne

${\displaystyle \ [a,b]^{a'}=[aa',b][a',b]^{-1}.}$

Les deux facteurs du second membre appartiennent à [A, B], donc ${\displaystyle \ [a,b]^{a'}}$ appartient à [A, B]. Puisque les [a, b], avec a dans A et b dans B, engendrent [A, B], il en résulte que A normalise [A, B]. De même, B normalise [B, A] = [A, B].

Théorème des trois sous-groupes (ou lemme des trois sous-groupes)

Soient G un groupe, N un sous-groupe normal de G et H, K, L trois sous-groupes de G. Si deux des sous-groupes [ [H, K], L], [ [K, L], H] et [ [L, H], K] sont contenus dans N, le troisième l'est aussi.

Démonstration. Il suffit de prouver que

${\displaystyle (1)}$ si [ [K, L], H] et [ [L, H], K] sont contenus dans N, [ [H, K], L] l'est aussi.

(Les autres cas s'en déduisent par une permutation circulaire des variables.)

Commençons par le prouver dans le cas particulier où N = 1.

Dans ce cas, [ [K, L], H] = [ [L, H], K] = 1 et il s'agit de prouver que [ [H, K], L] = 1.

Cette thèse revient à dire que tout élément de L commute avec tout élément de [H, K] ; puique [H, K] est engendré par les éléments [h, k] avec h dans H et k dans K, la thèse revient à dire que pour tout h dans H, pour tout k dans K et pour tout l dans L, [ [h, k], l] = 1.

D'après l'identité de Hall-Witt,

${\displaystyle \ (2)\qquad [\ [h,k],l]^{k^{-1}}\ \ [\ [k^{-1},l^{-1}],h]^{l}\ \ [\ [l,h^{-1}],k^{-1}]^{h}=1.}$

D'après les hypothèses [ [K, L], H] = [ [L, H], K] = 1, nous avons ${\displaystyle [\ [k^{-1},l^{-1}],h]=[\ [l,h^{-1}],k^{-1}]=1,}$ d'où ${\displaystyle [\ [k^{-1},l^{-1}],h]^{l}=[\ [l,h^{-1}],k^{-1}]^{h}=1,}$ donc (2) donne ${\displaystyle \ [\ [h,k],l]^{k^{-1}}=1,}$ donc [ [h, k], l] = 1. Comme nous l'avons vu, cela prouve la thèse (1) dans le cas particulier où N = 1.

Passons au cas général. Désignons par p l'homomorphisme canonique de G sur G/N. Alors

[ [p(K), p(L)], p(H)] = p([ [K, L], H]).

Puisque [ [K, L], H] est supposé contenu dans N, le second membre est égal à {N}, autrement dit au sous-groupe de G/N réduit à l'élément neutre. Donc [ [p(K), p(L)], p(H)] est le sous-groupe de G/N réduit à l'élément neutre. De même, [ [p(L), p(H)], p(K)] est le sous-groupe de G/N réduit à l'élément neutre. D'après la première partie de la démonstration, [ [p(H), p(K)], p(L)] est le sous-groupe de G/N réduit à l'élément neutre. Autrement dit, [ [p(H), p(K)], p(L)] = {N}, ce qui revient à dire que [ [H, K], L] est contenu dans N. Le théorème est donc démontré.

Corollaire du théorème des trois sous-groupes

Soient G un groupe et H, K, L trois sous-groupes normaux de G. Alors

[ [H, K], L] est contenu dans [ [K, L], H] [ [L, H], K].

Démonstration. Puisque H, K et L sont supposés normaux dans G, [ [K, L], H] et [ [L, H], K] le sont aussi, donc [ [K, L], H] [ [L, H], K] est un sous-groupe normal de G. Comme il contient [ [K, L], H] et [ [L, H], K], il résulte du théorème des trois sous-groupes qu’il contient [ [H, K], L].

Ce corollaire du théorème des trois sous-groupes permet de démontrer certaines propriétés de la suite centrale descendante d'un groupe.

Remarque. Si H, K et L sont des sous-groupes d'un groupe G, [ [H, K], L] n’est pas forcément égal au sous-groupe de G engendré par les éléments [ [h, k], l] avec h dans H, k dans K et l dans L. (Voir les exercices.)

Notes et références

1. ↑ N. Bourbaki, Algèbre, ch. I, § 6, n^o 2; Paris, 1970, p. 65.
2. ↑ Par exemple P. Tauvel, Algèbre, 2^e éd., Paris, 2005, p. 42.
3. ↑ N. Bourbaki, Algèbre, ch. I, § 6, exerc. 16, Paris, 1970, p. 137, en donne un exemple qui repose sur la théorie des espaces vectoriels. Voir aussi J. J. Rotman, An introduction to the theory of groups, 4^e éd., tirage 1999, pp. 34-35.