Dans ce chapitre, on va démontrer le théorème de Nielsen-Schreier, selon lequel tout sous-groupe d'un groupe libre est lui-même un groupe libre. La longueur du chapitre tient surtout à ce qu'on est entré dans des minuties dont on espère qu'elles aideront le lecteur à se sentir en terrain solide^[1].

Pour un ensemble X, nous définirons, comme au chapitre Groupes libres, premiers éléments, le groupe libre F(X) construit sur X comme l'ensemble des mots signés réduits sur X, muni de la loi de groupe « juxtaposition suivie de réduction ».

Comme au chapitre Groupes libres, premiers éléments, nous noterons ${\displaystyle {\widetilde {X}}}$ la base canonique de F(X), c'est-à-dire l'ensemble des ((x, 1)), où x parcourt X. Donc ${\displaystyle {\widetilde {X}}\cup ({\widetilde {X}})^{-1}}$ est l'ensemble de ce que nous appelons les lettres signées sur X, autrement dit l'ensemble des mots signés (réduits) de longueur 1 sur X.

Pour un mot signé ${\displaystyle v=((x_{1},\epsilon _{1}),\ldots ,(x_{r},\epsilon _{r}))}$ et un mot signé ${\displaystyle w=((y_{1},\zeta _{1}),\ldots ,(y_{s},\zeta _{s}))}$, nous utiliserons de nouveau la notation ${\displaystyle v_{\mathrm {juxt} }w}$ pour désigner le mot signé

${\displaystyle ((x_{1},\epsilon _{1}),\ldots ,(x_{r},\epsilon _{r}),(y_{1},\zeta _{1}),\ldots ,(y_{s},\zeta _{s}))}$

(non forcément réduit, même si ${\displaystyle v}$ et ${\displaystyle w}$ le sont).

Segments initiaux et parties schreiériennes

Définition

Soit X un ensemble. Pour un élément ${\displaystyle v=((x_{1},\epsilon _{1}),\ldots ,(x_{r},\epsilon _{r}))}$ de F(X), on définit un segment initial de v comme un mot signé (réduit) de la forme ${\displaystyle ((x_{1},\epsilon _{1}),\ldots ,(x_{s},\epsilon _{s}))}$ avec ${\displaystyle 0\leq s\leq r}$.
Nous dirons qu'un segment initial de w est un segment initial propre de w s'il est distinct de w.
Si v, w sont des éléments de F(X), si v est un segment initial de w, nous dirons aussi que w commence par v. (Nous avons déjà employé cette expression dans le cas où v est de longueur 1.)

Dire que ${\displaystyle v}$ est un segment initial de ${\displaystyle w}$ revient à dire qu'il existe un mot signé ${\displaystyle v'}$ tel que ${\displaystyle w=v_{\mathrm {juxt} }v'}$. Le mot signé vide et w lui-même sont des segments initiaux de w. Si ${\displaystyle r\geq 1,}$ le plus long segment initial propre de ${\displaystyle ((x_{1},\epsilon _{1}),\ldots ,(x_{r},\epsilon _{r}))}$ est ${\displaystyle v=((x_{1},\epsilon _{1}),\ldots ,(x_{r-1},\epsilon _{r-1})).}$

Définition

Soit X un ensemble. Si ${\displaystyle v}$, ${\displaystyle w}$ sont des éléments de F(X) (mot signés sur X), s'il existe un élément ${\displaystyle v'}$ de F(X) tel que ${\displaystyle w=v'_{\mathrm {juxt} }v}$, nous dirons que w finit par v.

Définition

Soit X un ensemble. Nous dirons qu'une partie S de F(X) est schreiérienne si elle est non vide et que, pour tout élément w de longueur ${\displaystyle \geq 1}$ de S, le plus long segment initial propre de w appartient lui aussi à S. Cela revient à dire que S n'est pas vide et que, pour tout élément w de S, tout segment initial de w appartient lui aussi à S.

Par exemple d'après la seconde des caractérisations qu'on vient de donner d'une partie schreiérienne, il est clair que toute partie schreiérienne de F(X) comprend l'élément 1 de F(X), c'est-à-dire le mot signé vide.

Transversales droites de Schreier

Définition

Soient X un ensemble et H un sous-groupe de F(X). Si une transversale droite T de H dans F(X) est une partie schreiérienne de F(X), on dit habituellement que T est une transversale droite de Schreier de H dans F(X).

Lemme 1.

Soient X un ensemble, soit F(X) le groupe libre construit sur X, soit H un sous-groupe de F(X). Il existe une transversale droite de Schreier de H dans F(X).

Démonstration. Dans la présente démonstration, on dira simplement « classe à droite » pour « classe à droite de H dans F(X) ».
Pour toute classe à droite C, définissons la longueur de C comme le plus petit nombre naturel n tel que C comprenne un élément (mot signé) de longueur n.
Pour tout nombre naturel n, désignons par ${\displaystyle Cl_{n}}$ l'ensemble des classes à droite de longueur n. (Il est possible que ${\displaystyle Cl_{n}}$ soit vide. Si H est d'indice fini dans F(X), il n'y a qu'un nombre fini de classes à droite, donc les longueurs de ces classes ne prennent qu'un nombre fini de valeurs.)
Soit n un nombre naturel, soit ${\displaystyle T_{n}}$ une partie de F(X) possédant les propriétés suivantes :

(1) tout élément de ${\displaystyle T_{n}}$ est de longueur n et appartient à une classe à droite de longueur n;

(2) pour toute classe à droite C de longueur n, il existe un et un seul élément de ${\displaystyle T_{n}}$ qui appartient à C.

Soit maintenant K une classe à droite de longueur n + 1 (s'il en existe). Nous allons prouver

(thèse 3) qu'il existe dans K un mot signé de longueur n + 1 dont le plus long segment initial propre (autrement dit le segment initial de longueur n) appartient à ${\displaystyle T_{n}}$.

Choisissons dans K un élément de longueur n + 1, soit

${\displaystyle ((x_{1},\epsilon _{1}),\ldots ,(x_{n+1},\epsilon _{n+1}))=x_{1}^{\epsilon _{1}}\cdots x_{n+1}^{\epsilon _{n+1}}.}$

Alors ${\displaystyle x_{1}^{\epsilon _{1}}\cdots x_{n}^{\epsilon _{n}}}$ est de longueur n.
Prouvons que

(thèse 4) la classe à droite ${\displaystyle Hx_{1}^{\epsilon _{1}}\cdots x_{n}^{\epsilon _{n}}}$ est de longueur n.

Puisqu'elle comprend l'élément ${\displaystyle x_{1}^{\epsilon _{1}}\cdots x_{n}^{\epsilon _{n}}}$, qui, comme on l'a noté, est de longueur n, la classe à droite ${\displaystyle Hx_{1}^{\epsilon _{1}}\cdots x_{n}^{\epsilon _{n}}}$ est de longueur ${\displaystyle \leq n.}$ Si elle était de longueur ${\displaystyle \not =n,}$ elle serait donc de longueur < n et comprendrait donc un élément w de longueur < n.
Pour un tel élément w, on aurait

${\displaystyle Hx_{1}^{\epsilon _{1}}\cdots x_{n}^{\epsilon _{n}}=Hw,}$

d'où

${\displaystyle Hx_{1}^{\epsilon _{1}}\cdots x_{n}^{\epsilon _{n}}x_{n+1}^{\epsilon _{n+1}}=Hwx_{n+1}^{\epsilon _{n+1}},}$

d'où, par choix de ${\displaystyle x_{1}^{\epsilon _{1}}\cdots x_{n+1}^{\epsilon _{n+1}},}$

${\displaystyle K=Hwx_{n+1}^{\epsilon _{n+1}},}$

donc K comprendrait l'élément ${\displaystyle wx_{n+1}^{\epsilon _{n+1}},}$ de longueur ${\displaystyle \leq }$ long(w) + 1 ${\displaystyle \leq n,}$ donc K serait de longueur ${\displaystyle \leq n,}$ ce qui contredit les hypothèses sur K. La contradiction obtenue prouve notre thèse (4), à savoir que

la classe à droite ${\displaystyle Hx_{1}^{\epsilon _{1}}\cdots x_{n}^{\epsilon _{n}}}$ est de longueur n.

Nous pouvons donc faire ${\displaystyle C=Hx_{1}^{\epsilon _{1}}\cdots x_{n}^{\epsilon _{n}}}$ dans l'hypothèse (2). Nous trouvons que

(5) ${\displaystyle T_{n}}$ comprend un élément ${\displaystyle ((y_{1},\zeta _{1}),\ldots ,(y_{n},\zeta _{n}))=y_{1}^{\zeta _{1}}\cdots y_{n}^{\zeta _{n}}}$ de longueur n qui appartient à ${\displaystyle Hx_{1}^{\epsilon _{1}}\cdots x_{n}^{\epsilon _{n}}}$.

De

${\displaystyle y_{1}^{\zeta _{1}}\cdots y_{n}^{\zeta _{n}}\in Hx_{1}^{\epsilon _{1}}\cdots x_{n}^{\epsilon _{n}}}$

résulte

${\displaystyle y_{1}^{\zeta _{1}}\cdots y_{n}^{\zeta _{n}}x_{n+1}^{\epsilon _{n+1}}\in Hx_{1}^{\epsilon _{1}}\cdots x_{n}^{\epsilon _{n}}x_{n+1}^{\epsilon _{n+1}},}$

d'où, par choix de ${\displaystyle x_{1}^{\epsilon _{1}}\cdots x_{n}^{\epsilon _{n}}x_{n+1}^{\epsilon _{n+1}},}$

(6) ${\displaystyle y_{1}^{\zeta _{1}}\cdots y_{n}^{\zeta _{n}}x_{n+1}^{\epsilon _{n+1}}\in K.}$

(Nous allons voir que le mot signé ${\displaystyle y_{1}^{\zeta _{1}}\cdots y_{n}^{\zeta _{n}}x_{n+1}^{\epsilon _{n+1}}}$ est réduit.)
Puisque la classe à droite K est supposée de longueur n + 1, son élément ${\displaystyle y_{1}^{\zeta _{1}}\cdots y_{n}^{\zeta _{n}}x_{n+1}^{\epsilon _{n+1}}}$ est de longueur au moins n + 1, ce qui n'est possible que s'il est de longueur n + 1 exactement.
Donc ${\displaystyle y_{1}^{\zeta _{1}}\cdots y_{n}^{\zeta _{n}}x_{n+1}^{\epsilon _{n+1}}}$ est un mot signé réduit de longueur n + 1 qui, d'après (6), appartient à K et dont, d'après (5), le plus long segment initial propre appartient à ${\displaystyle T_{n}}$.
Nous avons donc démontré notre thèse (3), à savoir que si ${\displaystyle T_{n}}$ satisfait aux hypothèses (1) et (2), alors toute classe à droite K de longueur n + 1 comprend un mot signé de longueur n + 1 dont le plus long segment initial propre appartient à ${\displaystyle T_{n}}$.
D'après l'axiome du choix, il existe donc une application ${\displaystyle f_{n+1}}$ de ${\displaystyle Cl_{n+1}}$ (ensemble des classes à droite de longueur n + 1) dans F(S) telle que, pour toute classe à droite K de longueur n + 1,

(7)n${\displaystyle f_{n+1}(K)}$ soit un mot signé de longueur n + 1 appartenant à K

et

(8) le plus long segment initial propre de ${\displaystyle f_{n+1}(K)}$ appartienne à ${\displaystyle T_{n}.}$

Désignons par ${\displaystyle T_{n+1}}$ l'image de l'application ${\displaystyle f_{n+1}}$.
Alors, d'après (7) et (8),

(9) tout élément de ${\displaystyle T_{n+1}}$ est un mot signé de longueur n + 1 et appartient à une classe à droite de longueur n + 1;

(10) pour toute classe à droite K de longueur n + 1, il existe un et un seul élément de ${\displaystyle T_{n+1}}$ qui appartient à K;

(11) pour tout élément v de ${\displaystyle T_{n+1}}$, le plus long segment initial propre de v appartient à ${\displaystyle T_{n}.}$

Les deux premières de ces trois propriétés sont les analogues de (1) et (2) avec n + 1 au lieu de n. D'après la théorie des ensembles, nous pouvons donc construire inductivement, en partant de ${\displaystyle T_{0}=\{1\},}$ une suite infinie

${\displaystyle (T_{n})_{n\in \mathbb {N} }}$

possédant les propriétés suivantes :

(12) tout élément de ${\displaystyle T_{n}}$ est de longueur n et appartient à une classe à droite de longueur n;

(13) pour toute classe à droite C de longueur n, il existe un et un seul élément de ${\displaystyle T_{n}}$ qui appartient à C;

(14) pour tout élément v de ${\displaystyle T_{n+1}}$, le plus long segment initial propre de v appartient à ${\displaystyle T_{n}.}$

Prouvons que ${\displaystyle \bigcup _{n\in \mathbb {N} }T_{n}}$ est alors une transversale droite de Schreier de H dans F(X).
Prouvons d'abord que c'est une transversale droite de H dans F(X).
Soit C une classe à droite; il s'agit de prouver

(thèse 15) qu'il existe un et un seul élément de ${\displaystyle \bigcup _{n\in \mathbb {N} }T_{n}}$ qui appartient à C.

Notons ${\displaystyle l}$ la longueur de la classe à droite C. D'après (13),

(16) il existe un et un seul élément de ${\displaystyle T_{l}}$ qui appartient à C.

Si ${\displaystyle n}$ est un nombre naturel distinct de ${\displaystyle l}$, si w est un élément de ${\displaystyle T_{n}}$, alors, d'après (12), la classe à droite de w modulo H est de longueur ${\displaystyle n\not =l}$ et est donc distincte de C, donc aucun élément de ${\displaystyle T_{n}}$ n'appartient à C.
Joint à (16), cela prouve notre thèse (15), donc

${\displaystyle \bigcup _{n\in \mathbb {N} }T_{n}}$ est une transversale droite de H dans F(X).

Prouvons que cette transversale droite est schreiérienne.
Soit w un mot signé de longueur non nulle appartenant à ${\displaystyle \bigcup _{n\in \mathbb {N} }T_{n}}$; il s'agit de prouver que

(thèse 17) le plus long segment initial propre de w appartient à ${\displaystyle \bigcup _{n\in \mathbb {N} }T_{n}}$.

Notons ${\displaystyle l}$ la longueur de w; donc ${\displaystyle l\geq 1.}$ Puisque w appartient à ${\displaystyle T_{r}}$ pour un certain ${\displaystyle r}$ et que, d'après (12), les éléments de ${\displaystyle T_{r}}$ sont de longueur ${\displaystyle r}$, ce nombre ${\displaystyle r}$ est égal à ${\displaystyle l}$, donc w appartient à ${\displaystyle T_{l}.}$ D'après (14), le plus long segment initial propre de w appartient donc à ${\displaystyle T_{l-1}\subseteq \bigcup _{n\in \mathbb {N} }T_{n},}$ ce qui prouve notre thèse (17) et achève la démonstration.

Théorème de Nielsen-Schreier

On va maintenant démontrer le théorème de Nielsen-Schreier, selon lequel tout sous-groupe d'un groupe libre est libre. Quelques lemmes qu'on utilisera à cette fin serviront encore à démontrer un autre théorème, le théorème de Howson.

Soient X un ensemble, T une partie schreiérienne de F(X), w un élément de F(X) n'appartenant pas à T. Il existe au moins un segment initial de w qui n'appartient pas à T (à savoir w), donc nous pouvons considérer le plus court segment initial de w n'appartenant pas à T.

Lemme 2.

Soient X un ensemble, T une partie schreiérienne de F(X), ${\displaystyle w=((x_{1},\epsilon _{1})\ldots ,(x_{n},\epsilon _{n}))}$ un élément de F(X) n'appartenant pas à T.
Le plus court segment initial de w n'appartenant pas à T est l'unique segment initial

${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r},\epsilon _{r}))}$

de w tel que

(i) ${\displaystyle r\geq 1}$;

(ii) ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r-1},\epsilon _{r-1}))\in T;}$

(iii) ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r},\epsilon _{r}))\notin T.}$

Autrement dit, le plus court segment initial de w n'appartenant pas à T est l'unique segment initial de w de la forme

${\displaystyle t_{\mathrm {juxt} }x}$,

avec ${\displaystyle t\in T,x\in {\tilde {X}}\cup ({\tilde {X}})^{-1},t_{\mathrm {juxt} }x\notin T.}$

Démonstration. Il est clair que si ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r},\epsilon _{r}))}$ désigne le plus court segment initial de w n'appartenant pas à T, les conditions (i), (ii) et (iii) sont satisfaites. (La condition (i) est satisfaite parce que, comme on l'a noté, toute partie schréiérienne de F(X) comprend le neutre de F(X).)
Il reste à prouver que si un segment initial ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r},\epsilon _{r}))}$ de w satisfait aux conditions (i), (ii) et (iii), ce segment est le plus court segment initial de w n'appartenant pas à T.
Soit v un segment initial de w strictement plus court que ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r},\epsilon _{r}))}$; il s'agit de prouver que v appartient à T. Or v est un segment initial de ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r-1},\epsilon _{r-1})).}$ Puisque, d'après l'hypothèse (ii), ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r-1},\epsilon _{r-1}))}$ appartient à T et puisque T est schreiérienne, v appartient à T, comme annoncé.

Soient X un ensemble, T une partie schreiérienne de F(X), w un élément de F(X). Il existe au moins un segment initial de w qui appartient à T (à savoir le segment initial vide), donc nous pouvons considérer le plus long segment initial de w qui appartient à T.

Lemme 3.

Soit X un ensemble, soit T une partie schreiérienne de F(X), soit ${\displaystyle w=((x_{1},\epsilon _{1})\ldots ,(x_{n},\epsilon _{n}))}$ un élément de F(X) n'appartenant pas à T.
Le plus long segment initial de w appartenant à T est l'unique segment initial

${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r},\epsilon _{r}))}$

de w possédant les propriétés suivantes :

(i) ${\displaystyle r\leq n-1;}$

(ii) ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r},\epsilon _{r}))\in T;}$

(iii) ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r+1},\epsilon _{r+1}))\notin T.}$

Si w' désigne le plus court segment initial de w n'appartenant pas à T, le plus long segment initial de w appartenant à T est le plus long segment initial propre de w'.

Démonstration. Il est clair que si ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r},\epsilon _{r}))}$ désigne le plus long segment initial de w appartenant à T, les conditions (i), (ii) et (iii) sont satisfaites.
Il reste à prouver que si un segment initial ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r},\epsilon _{r}))}$ de w satisfait aux conditions (i), (ii) et (iii), ce segment est le plus court segment initial de w n'appartenant pas à T.
Soit s un nombre naturel tel que ${\displaystyle r<s\leq n}$; il s'agit de prouver que

${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{s},\epsilon _{s}))}$ n'appartient pas à T. Or ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{r+1},\epsilon _{r+1}))}$ est un segment initial de ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{s},\epsilon _{s}))}$ et, d'après l'hypothèse (iii), n'appartient pas à T. Puisque T est schreiérienne, il en résulte que ${\displaystyle ((x_{1},\epsilon _{1})\ldots ,(x_{s},\epsilon _{s}))}$ n'appartient pas à T, comme annoncé.

Nous avons ainsi démontré la première assertion de l'énoncé. La seconde résulte de la première et du lemme 2.

Définition

Soient X un ensemble, T une partie schreiérienne de F(X), soit w un élément de F(X) n'appartenant pas à T.
Nous définirons la lettre signée pivot de w (relativement à T) comme la dernière lettre signée du plus court segment initial de w n'appartenant pas à T.
(Ce n'est pas une dénomination standard.)

Lemme 4.

Soient X un ensemble, T une partie schreiérienne de F(X), w un élément de F(X) n'appartenant pas à T. La lettre signée pivot de w (relativement à T) est l'unique lettre signée x telle que w admette un segment initial de la forme ${\displaystyle t_{\mathrm {juxt} }x}$ avec ${\displaystyle t\in T}$ et ${\displaystyle t_{\mathrm {juxt} }x\notin T.}$

Démonstration. C'est une conséquence immédiate du lemme 2.

Lemme 5.

Soient X un ensemble et ${\displaystyle {\tilde {X}}}$ la base canonique de F(X). Soient H un sous-groupe de F(X) et T une transversale droite de Schreier de H dans F(X).
Pour tout élément t de T et tout élément ${\displaystyle x=((x',1))}$ de ${\displaystyle {\tilde {X}}}$, désignons par ${\displaystyle h_{t,x}}$ l'unique élément de H tel que

${\displaystyle tx\in h_{t,x}T.}$

Pour tout élément w de F(X), notons ${\displaystyle {\overline {w}}}$ l'unique élément de T qui appartient à la classe à droite de w modulo H.
Alors

1° ${\displaystyle h_{t,x}=tx({\overline {tx}})^{-1}.}$

Soient t un élément de T et x un élément de ${\displaystyle {\tilde {X}}}$ tels que

${\displaystyle h_{t,x}\not =1.}$

Alors

2° ${\displaystyle h_{t,x}\notin T,(h_{t,x})^{-1}\notin T;}$

3° ${\displaystyle h_{t,x}=t_{\mathrm {juxt} }x_{\mathrm {juxt} }({\overline {tx}})^{-1}}$

(et en particulier ${\displaystyle tx=t_{\mathrm {juxt} }x}$ et ${\displaystyle x({\overline {tx}})^{-1}=x_{\mathrm {juxt} }({\overline {tx}})^{-1}}$);

4° le plus long segment initial de ${\displaystyle h_{t,x}}$ appartenant à T est t ;

5° la lettre signée pivot de ${\displaystyle h_{t,x}}$ (par rapport à T) est x ;

6° le plus long segment initial de ${\displaystyle (h_{t,x})^{-1}}$ appartenant à T est ${\displaystyle {\overline {tx}}}$ ;

7° la lettre signée pivot de ${\displaystyle (h_{t,x})^{-1}}$ (par rapport à T) est ${\displaystyle x^{-1}.}$

Démonstration. Soit w un élément de F(X). Puisque T est une transversale droite de H dans F(X),

(1) w s'écrit d'une et une seule façon sous la forme ${\displaystyle w=ht}$ avec h dans H et t dans T.

Alors

(2) h est l'unique élément de H tel que ${\displaystyle w\in hT.}$

D'autre part, t appartient à Hw, donc, dans les notations de l'énoncé, ${\displaystyle {\overline {w}}=t,}$ donc ${\displaystyle w({\overline {w}})^{-1}=wt^{-1}=h.}$ Donc, d'après (2), ${\displaystyle w({\overline {w}})^{-1}}$ est l'unique élément h de H tel que ${\displaystyle w\in hT.}$ En faisant w = tx, nous obtenons l'assertion 1° de l'énoncé.

Soient t un élément de T et x un élément de ${\displaystyle {\tilde {X}}}$ tels que

(3) ${\displaystyle h_{t,x}\not =1.}$

Puisque ${\displaystyle h_{t,x}}$ appartient à H et que ${\displaystyle H\cap T=1}$ (ceci parce que T est une transversale droite de H dans F(X) et que T, étant schreiérienne, comprend l'élément 1), nous avons donc

${\displaystyle h_{t,x}\notin T.}$

De même, puisque ${\displaystyle (h_{t,x})^{-1}}$ appartient à H et que ${\displaystyle H\cap T=1}$, nous avons

${\displaystyle (h_{t,x})^{-1}\notin T.}$

Nous avons donc prouvé l'assertion 2° de l'énoncé (ce qui nous permet de parler de la lettre signée pivot de ${\displaystyle h_{t,x}}$ et de celle de ${\displaystyle (h_{t,x})^{-1}}$).

L'hypothèse (3), à savoir ${\displaystyle h_{t,x}\not =1,}$ signifie

${\displaystyle tx({\overline {tx}})^{-1}\not =1,}$

autrement dit

(4) ${\displaystyle tx\not ={\overline {tx}}.}$

On vérifie facilement que pour tout élément v de F(X), la condition ${\displaystyle v={\overline {v}}}$ équivaut à ${\displaystyle v\in T.}$ Donc l'hypothèse (3), compte tenu de sa forme (4), revient à

(5) ${\displaystyle tx\notin T.}$

Prouvons que

(thèse 6) ${\displaystyle {\overline {tx}}x^{-1}\notin T.}$

Dans le cas contraire, on aurait

${\displaystyle {\overline {tx}}x^{-1}t^{-1}\in Tt^{-1},}$

d'où, en passant aux inverses,

${\displaystyle tx{\overline {tx}}^{-1}\in tT^{-1},}$

${\displaystyle h_{t,x}\in tT^{-1},}$

${\displaystyle h_{t,x}=tt'^{-1}}$ avec t' dans T,

${\displaystyle h_{t,x}t'=1t}$ avec t' dans T,

d'où, d'après l'unicité affirmée en (1), ${\displaystyle h_{t,x}=1,}$ ce qui contredit l'hypothèse (3). Nous avons donc prouvé la thèse (6), à savoir

(7) ${\displaystyle {\overline {tx}}x^{-1}\notin T.}$

Prouvons que

(thèse 8) ${\displaystyle tx=t_{\mathrm {juxt} }x.}$

Dans le cas contraire, t serait de longueur au moins 1 et sa dernière lettre signée serait ${\displaystyle x^{-1};}$ donc tx serait un segment initial de t (son plus long segment initial propre); puisque t appartient à T et que T est schreiérienne, tx appartiendrait donc à T, ce qui contredit (5). Nous avons donc prouvé la thèse (8), à savoir

(9) ${\displaystyle tx=t_{\mathrm {juxt} }x.}$

Prouvons que

(thèse 10) ${\displaystyle ({\overline {tx}})^{-1}}$ ne commence pas par la lettre signée ${\displaystyle x^{-1}.}$

Dans le cas contraire, ${\displaystyle {\overline {tx}}}$ finirait par la lettre signée x, donc ${\displaystyle {\overline {tx}}x^{-1}}$ serait un segment intial de ${\displaystyle {\overline {tx}}}$. Mais ${\displaystyle {\overline {tx}}}$ appartient à T et T est schreiérienne, donc ${\displaystyle {\overline {tx}}x^{-1}}$ appartiendrait à T, ce qui contredit (7). Nous avons donc prouvé notre thèse (10), à savoir que

(11) ${\displaystyle ({\overline {tx}})^{-1}}$ ne commence pas par la lettre signée ${\displaystyle x^{-1}.}$

D'après (9), la dernière lettre signée de tx est x, donc, d'après (11),

${\displaystyle tx({\overline {tx}})^{-1}=(tx)_{\mathrm {juxt} }({\overline {tx}})^{-1},}$

ce qui, d'après (9), peut s'écrire

${\displaystyle tx({\overline {tx}})^{-1}=(t_{\mathrm {juxt} }x)_{\mathrm {juxt} }({\overline {tx}})^{-1},}$

(12) ${\displaystyle h_{t,x}=t_{\mathrm {juxt} }x_{\mathrm {juxt} }({\overline {tx}})^{-1},}$

ce qui prouve l'assertion 3° de l'énoncé.

Nous avons vu en (5) que tx n'appartient pas à T. Puisque t appartient à T, notre résultat (12) et les lemmes 3 et 4 montrent donc que le plus long segment initial de ${\displaystyle h_{t,x}}$ appartenant à T est égal à t et que la lettre signée pivot de ${\displaystyle h_{t,x}}$ (par rapport à T) est x, ce qui prouve les assertions 4° et 5° de l'énoncé.

En passant aux inverses dans la relation (12), nous trouvons

(13) ${\displaystyle h_{t,x}^{-1}={\overline {tx}}_{\mathrm {juxt} }x^{-1}\ _{\mathrm {juxt} }t^{-1}.}$

Nous avons vu en (7) que ${\displaystyle {\overline {tx}}x^{-1}}$ n'appartient pas à T. Puisque ${\displaystyle {\overline {tx}}}$ appartient à T, la relation (13) et les lemmes 3 et 4 montrent donc que le plus long segment initial de ${\displaystyle h_{t,x}^{-1}}$ appartenant à T est égal à ${\displaystyle {\overline {tx}}}$ et que la lettre signée pivot de ${\displaystyle h_{t,x}^{-1}}$ (par rapport à T) est ${\displaystyle x^{-1}}$, ce qui prouve les assertions 6° et 7° de l'énoncé.

Lemme 6

Soient X un ensemble et ${\displaystyle {\tilde {X}}}$ la base canonique de F(X). Soient H un sous-groupe de F(X) et T une transversale droite de Schreier de H dans F(X).
Pour tout élément t de T et tout élément x de ${\displaystyle {\tilde {X}}}$, désignons par ${\displaystyle h_{t,x}}$, comme au lemme 5, l'unique élément de H tel que

${\displaystyle tx\in h_{t,x}T.}$

Soient t, u des éléments de T et x, y des éléments de ${\displaystyle {\tilde {X}}}$ tels que

${\displaystyle h_{t,x}\not =1}$ et ${\displaystyle h_{u,y}\not =1.}$

Soient ${\displaystyle \epsilon }$ et ${\displaystyle \eta }$ des éléments de ${\displaystyle \{1,-1\}\subset \mathbb {Z} .}$
On suppose que

(i) le plus long segment initial de ${\displaystyle h_{t,x}^{\epsilon }}$ appartenant à T est égal au plus long segment initial de ${\displaystyle h_{u,y}^{\eta }}$ appartenant à T

et que

(ii) la lettre signée pivot de ${\displaystyle h_{t,x}^{\epsilon }}$ (par rapport à T) est égale à la lettre signée pivot de ${\displaystyle h_{u,y}^{\eta }}$ (par rapport à T).

(D'après le lemme 3, seconde assertion, les hypothèses (i) et (ii) reviennent à dire que le plus court segment initial de ${\displaystyle h_{t,x}^{\epsilon }}$ n'appartenant pas à T est égal au plus court segment initial de ${\displaystyle h_{u,y}^{\eta }}$ n'appartenant pas à T.)
Alors

1° ${\displaystyle \epsilon =\eta$ ;}

2° x = y;

3° t = u.

Démonstration. Posons x = ((x', 1)) et y = ((y', 1)), avec x' et y' dans X.
D'après le lemme 5, assertions 5° et 7°, la lettre signée pivot de ${\displaystyle h_{t,x}^{\epsilon }}$ (par rapport à T) est égale à ${\displaystyle x^{\epsilon }=((x',\epsilon ))}$ et la lettre signée pivot de ${\displaystyle h_{u,y}^{\eta }}$ (par rapport à T) est ${\displaystyle y^{\eta }=((y',\eta )).}$ D'après l'hypothèse (ii) de l'énoncé, nous avons donc

${\displaystyle ((x',\epsilon ))=((y',\eta )),}$

d'où

(1) ${\displaystyle \epsilon =\eta }$

et

(2) x = y,

ce qui prouve les assertions 1° et 2° de l'énoncé.
D'après (1), nous avons

(3) ou bien ${\displaystyle \epsilon =\eta =1}$ ou bien ${\displaystyle \epsilon =\eta =-1.}$

Supposons d'abord

(hyp. 4) ${\displaystyle \epsilon =\eta =1.}$

Alors l'hypothèse (i) de l'énoncé signifie que

le plus long segment initial de ${\displaystyle h_{t,x}}$ appartenant à T est égal au plus long segment initial de ${\displaystyle h_{u,y}}$ appartenant à T.

D'après le lemme 5, assertion 4°, cela revient à dire que t = u, ce qui achève de démontrer l'énoncé dans l'hypothèse (4).
Si maintenant l'hypothèse (4) n'est pas satisfaite, alors, d'après (3),

${\displaystyle \epsilon =\eta =-1.}$

Donc l'hypothèse (i) de l'énoncé signifie que

le plus long segment initial de ${\displaystyle h_{t,x}^{-1}}$ appartenant à T est égal au plus long segment initial de ${\displaystyle h_{u,y}^{-1}}$ appartenant à T.

D'après le lemme 5, assertion 6°, cela revient à dire que

(5) ${\displaystyle {\overline {tx}}={\overline {uy}},}$

où, pour tout élément w de F(X), ${\displaystyle {\overline {w}}}$ désigne l'unique élément de T appartenant à Hw.
Nous avons vu en (2) que y = x, donc notre résultat (5) peut s'écrire

${\displaystyle {\overline {tx}}={\overline {ux}},}$

d'où

Htx = Hux

Ht = Hu,

${\displaystyle t\in Hu.}$

Comme t appartient à T et que u est l'unique élément de T qui appartient à Hu, on a donc t = u, ce qui achève de démontrer l'énoncé.

Lemme 7

Soient X un ensemble et ${\displaystyle {\tilde {X}}}$ la base canonique de F(X). Soient H un sous-groupe de F(X) et T une transversale droite de Schreier de H dans F(X).
Pour tout élément t de T et tout élément x de ${\displaystyle {\tilde {X}}}$, désignons par ${\displaystyle h_{t,x}}$, comme aux lemmes 5 et 6, l'unique élément de H tel que

${\displaystyle tx\in h_{t,x}T.}$

Désignons par Y l'ensemble

${\displaystyle \{h_{t,x}\vert t\in T,x\in {\tilde {X}},h_{t,x}\not =1\}}$.

Si r est un nombre naturel > 0, si ${\displaystyle t_{1},\ldots ,t_{r}}$ sont des éléments de T et ${\displaystyle x_{1},\ldots ,x_{r}}$ des éléments de ${\displaystyle {\tilde {X}}}$ tels que ${\displaystyle h_{t_{1},x_{1}},\ldots ,h_{t_{r},x_{r}}}$ soient tous distincts de 1, si ${\displaystyle \epsilon _{1},\ldots ,\epsilon _{r}}$ sont des éléments de ${\displaystyle \{1,-1\}\subset \mathbb {Z} ,}$ si le mot signé dans Y

${\displaystyle ((h_{t_{1},x_{1}},\epsilon _{1}),\ldots ,(h_{t_{r},x_{r}},\epsilon _{r}))}$

est réduit (sur Y), alors

l'élément ${\displaystyle h_{t_{1},x_{1}}^{\epsilon _{1}}\cdots h_{t_{r},x_{r}}^{\epsilon _{r}}}$ de F(X) commence (une fois explicité dans F(X)) par le plus court segment initial de ${\displaystyle h_{t_{1},x_{1}}^{\epsilon _{1}}}$ n'appartenant pas à T.

Démonstration. Rappelons que d'après le lemme 5, assertion 2°, ${\displaystyle h_{t,x}\notin T,(h_{t,x})^{-1}\notin T,}$ de sorte qu'il est légitime de parler du plus court segment initial de ${\displaystyle h_{t_{1},x_{1}}^{\epsilon _{1}}}$ n'appartenant pas à T.
On raisonne par récurrence sur r. Pour r = 1, l'énoncé est banal. Supposons que r est au moins égal à 2 et que l'énoncé est vraie pour r - 1 au lieu de r.

(1) Notons ${\displaystyle t'_{2}\ _{\mathrm {juxt} }x'_{2}=t'_{2}x'_{2}}$, avec ${\displaystyle t'_{2}\in T,x'_{2}\in {\tilde {X}}\cup ({\tilde {X}})^{-1},t'_{2}x'_{2}\notin T,}$ le plus court segment initial de ${\displaystyle h_{t_{2},x_{2}}^{\epsilon _{2}}}$ n'appartenant pas à T.

Par hypothèse de récurrence sur r, ${\displaystyle h_{t_{2},x_{2}}^{\epsilon _{2}}\cdots h_{t_{r},x_{r}}^{\epsilon _{r}}}$ commence par ${\displaystyle t'_{2}\ _{\mathrm {juxt} }x'_{2}.}$ On peut donc écrire

(2) ${\displaystyle h_{t_{2},x_{2}}^{\epsilon _{2}}\cdots h_{t_{r},x_{r}}^{\epsilon _{r}}=(t'_{2}\ _{\mathrm {juxt} }x'_{2})_{\mathrm {juxt} }w,}$

avec ${\displaystyle w\in F(X).}$
Alors

(3) ${\displaystyle h_{t_{1},x_{1}}^{\epsilon _{1}}\ h_{t_{2},x_{2}}^{\epsilon _{2}}\cdots h_{t_{r},x_{r}}^{\epsilon _{r}}=h_{t_{1}^{\epsilon _{1}},x_{1}}\star (t'_{2}\ _{\mathrm {juxt} }{x'_{2}}_{\mathrm {juxt} }w),}$

où ${\displaystyle \star }$ désigne la loi de groupe de F(X). D'après le lemme 5, assertion 3°, ${\displaystyle h_{t_{1},x_{1}}^{\epsilon _{1}}}$ est de la forme

(4) ${\displaystyle {h_{t_{1},x_{1}}}^{\epsilon _{1}}=t'_{1}\ _{\mathrm {juxt} }x'_{1}\ _{\mathrm {juxt} }{t''_{1}}^{-1},}$ avec ${\displaystyle t'_{1},t''_{1}\in T,x'_{1}\in {\tilde {X}}\cup ({\tilde {X}})^{-1},t'_{1}x'_{1}\notin T,t''_{1}(x''_{1})^{-1}\notin T.}$

Le résultat (3) s'écrit alors

(5) ${\displaystyle h_{t_{1},x_{1}}^{\epsilon _{1}}\ h_{t_{2},x_{2}}^{\epsilon _{2}}\cdots h_{t_{r},x_{r}}^{\epsilon _{r}}=({{t'_{1}}\ _{\mathrm {juxt} }}{x'_{1}\ _{\mathrm {juxt} }}{t''_{1}}^{-1})\star ({t'_{2}}\ _{\mathrm {juxt} }{x'_{2}}_{\mathrm {juxt} }w).}$

Supposons que l'énoncé soit faux, c'est-à-dire que

(hyp. 6) ${\displaystyle h_{t_{1},x_{1}}^{\epsilon _{1}}\cdots h_{t_{r},x_{r}}^{\epsilon _{r}}}$ ne commence pas par le plus court segment initial de ${\displaystyle h_{t_{1},x_{1}}^{\epsilon _{1}}}$ n'appartenant pas à T.

D'après (4) et le lemme 2, cela revient à dire que

${\displaystyle h_{t_{1},x_{1}}^{\epsilon _{1}}\cdots h_{t_{r},x_{r}}^{\epsilon _{r}}}$ ne commence pas par ${\displaystyle t'_{1}\ \mathrm {juxt} x'_{1},}$

ce qui, d'après (5), revient à dire que

${\displaystyle ({{t'_{1}}\ _{\mathrm {juxt} }}{x'_{1}\ _{\mathrm {juxt} }}{t''_{1}}^{-1})\star ({t'_{2}}\ _{\mathrm {juxt} }{x'_{2}}_{\mathrm {juxt} }w)}$ ne commence pas par ${\displaystyle t'_{1}\ \mathrm {juxt} x'_{1}.}$

Vu la définition de la loi de groupe ${\displaystyle \star }$ de F(X), il faut donc que

(7) ${\displaystyle {t'_{2}}\ _{\mathrm {juxt} }{x'_{2}}_{\mathrm {juxt} }w}$ commence par ${\displaystyle {t''_{1}}\ _{\mathrm {juxt} }{x'_{1}}^{-1}.}$

On a vu en (4) que ${\displaystyle t''_{1}}$ appartient à T et que ${\displaystyle t''_{1}(x''_{1})^{-1}}$ n'appartient pas à T, donc, d'après (7) et le lemme 2,

(8) ${\displaystyle {t''_{1}}\ _{\mathrm {juxt} }{x'_{1}}^{-1}}$ est le plus court segment initial de ${\displaystyle {t'_{2}}\ _{\mathrm {juxt} }{x'_{2}}_{\mathrm {juxt} }w}$ n'appartenant pas à T.

D'autre part, d'après (1), ${\displaystyle t'_{2}}$ appartient à T et ${\displaystyle t'_{2}x'_{2}}$ n'appartient pas à T, donc, d'après le lemme 2, le plus court segment initial de ${\displaystyle {t'_{2}}\ _{\mathrm {juxt} }{x'_{2}}_{\mathrm {juxt} }w}$ n'appartenant pas à T est ${\displaystyle {t'_{2}}\ _{\mathrm {juxt} }x'_{2}.}$ La comparaison de ceci avec (8) donne

(9) ${\displaystyle {t''_{1}}\ _{\mathrm {juxt} }{x'_{1}}^{-1}={t'_{2}}\ _{\mathrm {juxt} }x'_{2}.}$

D'après (4) et le lemme 2, le membre gauche de (9) est le plus court segment initial de ${\displaystyle h_{t_{1},x_{1}}^{-\epsilon _{1}}}$ n'appartenant pas à T et, d'après (1), le membre droit de (9) est le plus court segment initial de ${\displaystyle h_{t_{2},x_{2}}^{\epsilon _{2}}}$ n'appartenant pas à T. La relation (9) signifie donc que

le plus court segment initial de ${\displaystyle h_{t_{1},x_{1}}^{-\epsilon _{1}}}$ n'appartenant pas à T et le plus court segment initial de ${\displaystyle h_{t_{2},x_{2}}^{\epsilon _{2}}}$ n'appartenant pas à T sont égaux.

D'après le lemme 6, on a donc

(10) ${\displaystyle -\epsilon _{1}=\epsilon _{2}}$

et ${\displaystyle t_{1}=t_{2},x_{1}=x_{2},}$, ces deux égalités entraînant évidemment

(11) ${\displaystyle h_{t_{1},x_{1}}=h_{t_{2},x_{2}}.}$

Les résultats (10) et (11) contredisent l'hypothèse (2), selon laquelle le mot signé ${\displaystyle ((h_{t_{1},x_{1}},\epsilon _{1}),\ldots ,(h_{t_{r},x_{r}},\epsilon _{r}))}$ sur Y est réduit. Cette contradiction prouve que notre hypothèse (6) est fausse, donc l'énoncé est vrai.

Lemme 8

Soient X un ensemble et ${\displaystyle {\tilde {X}}}$ la base canonique de F(X). Soient H un sous-groupe de F(X) et T une transversale droite de Schreier de H dans F(X).
Pour tout élément t de T et tout élément x de ${\displaystyle {\tilde {X}}}$, désignons par ${\displaystyle h_{t,x}}$, comme aux lemmes 5 à 6bis, l'unique élément de H tel que

${\displaystyle tx\in h_{t,x}T.}$

L'ensemble des ${\displaystyle h_{t,x},}$ avec ${\displaystyle t\in T,x\in {\tilde {X}}}$ et ${\displaystyle h_{t,x}\not =1,}$ est une base du groupe H.

Démonstration. Désignons par Y l'ensemble

${\displaystyle Y=\{h_{t,x}\vert t\in T,x\in X,h_{t,x}\not =1\}.}$

Il s'agit donc de prouver que Y est une base du groupe H.
D'après le chapitre Classes modulo un sous-groupe, section Sous-groupe d'indice fini d'un groupe de type fini, l'ensemble des ${\displaystyle h_{t,x},}$ avec ${\displaystyle t\in T}$ et ${\displaystyle x\in {\tilde {X}},}$ est une partie génératrice de H. Il est clair que si on ôte l'élément 1 d'une partie génératrice d'un groupe, on obtient encore une partie génératrice de ce groupe (le sous-groupe engendré par une partie A contient ${\displaystyle A\cup \{1\}}$, donc, par minimalité du sous-groupe engendré par ${\displaystyle A\cup \{1\}}$, le sous-groupe engendré par ${\displaystyle A\cup \{1\}}$ est contenu dans le sous-groupe engendré par A). Donc

Y est une partie génératrice de H.

D'après la définition d'une partie libre donnée au chapitre Groupes libres, premiers éléments, une partie d'un groupe G est une partie libre de G si et seulement c'est une base du sous-groupe de G qu'elle engendre. Donc, pour prouver que Y est une base de H, il suffit de prouver que

(thèse 1) Y est une partie libre de F(X).

Soient r un nombre naturel ${\displaystyle \geq 1,t_{1},\ldots ,t_{r}}$ des éléments de T, ${\displaystyle x_{1},\ldots x_{r}}$ des éléments de la base canonique de F(X), ${\displaystyle \epsilon _{1},\ldots ,\epsilon _{r}}$ des éléments de ${\displaystyle \{1,-1\}\subset \mathbb {Z} }$ tels que

${\displaystyle h_{t_{1},x_{1}},\ldots ,h_{t_{r},x_{r}}}$ soient tous ${\displaystyle \not =1}$ dans F(X)

et que

(hyp. 2) le mot signé ${\displaystyle ((h_{t_{1},x_{1}},\epsilon _{1}),\ldots ,(h_{t_{r},x_{r}},\epsilon _{r}))}$ sur Y soit réduit.

Pour prouver notre thèse (1), il s'agit de prouver que

(thèse 3) ${\displaystyle h_{t_{1},x_{1}}^{\epsilon _{1}}\cdots h_{t_{r},x_{r}}^{\epsilon _{r}}\not =1}$ dans F(X).

Puisque les ${\displaystyle h_{t_{i},x_{i}}}$ sont distincts de 1, ils n'appartiennent pas à T (voir lemme 5, assertion 2°), donc on peut parler du plus court segment initial de ${\displaystyle h_{t_{i},x_{i}}}$ n'appartenant pas à T. D'après le lemme 7,

(4) ${\displaystyle h_{t_{1},x_{1}}^{\epsilon _{1}}\cdots h_{t_{r},x_{r}}^{\epsilon _{r}}}$ commence (une fois explicité dans F(X)) par le plus court segment initial de ${\displaystyle h_{t_{1},x_{1}}^{\epsilon _{1}}}$ n'appartenant pas à T.

Puisque ce segment initial n'appartient pas à T, il est distinct de 1, donc le résultat (4) entraîne la thèse (3), donc l'énoncé est démontré.

On va maintenant introduire quelques définitions qui permettront d'étendre le lemme 8 aux groupes libres généraux au lieu des groupes libres F(X). C'est un petit travail assez trivial, sur lequel on peut passer rapidement.

Définition

Soient L un groupe libre, X une base de L, v et w des éléments de L. Nous dirons que v est un segment initial de w relativement à la base X de L si, l'expression réduite de w dans la base X étant ${\displaystyle {x_{1}}^{\epsilon _{1}}\cdots {x_{n}}^{\epsilon _{n}}}$, v est un des éléments ${\displaystyle {x_{1}}^{\epsilon _{1}}\cdots {x_{r}}^{\epsilon _{r}}}$, avec ${\displaystyle 0\leq r\leq n}$.