Hiérarchie arithmétique

Un sous-ensemble de N est dit Σ_n, respectivement Π_n, s'il peut être défini par une formule à une variable libre Σ_n, respectivement Π_n, et il est dit Δ_n s'il est à la fois Σ_n et Π_n. On déduit directement de la définition des formules Σ_n et Π_n qu'un ensemble est Π_n si et seulement si son complémentaire est Σ_n, et donc les ensembles Δ_n sont aussi les ensembles Σ_n dont le complémentaire est aussi Σ_n.

Il peut être commode d'étendre la notion aux uples d'entiers naturels : un sous-ensemble de N^p, où p est un entier naturel non nul, est Σ_n, respectivement Π_n, s'il est défini par une formule Σ_n, respectivement Π_n, à p variables libres.

De façon équivalente on parle aussi de prédicat ou de relation sur N Σ_n ou Π_n.

On classe ainsi tous les sous-ensembles définissables au premier ordre de N comme Σ_n ou Π_n, c'est ce que l'on appelle la hiérarchie arithmétique. Classer un ensemble dans la hiérarchie permet d'une certaine façon de mesurer le « degré de calculabilité » de l'ensemble grâce à la complexité logique d'une formule qui le définit. Plus un ensemble est haut dans la hiérarchie, « moins » il est calculable.

En effet, en suivant les méthodes employées par Gödel pour démontrer son premier théorème d'incomplétude[2], on montre que la classe des ensembles Σ₁ est exactement la classe des ensembles récursivement énumérables. Ainsi, Δ₁ désigne la classe des ensembles récursivement énumérables et de complémentaire récursivement énumérable, donc la classe des ensembles récursifs.

Si l'on ajoute un quantificateur « inutile » (c'est-à-dire portant sur une variable qui n'apparait pas dans la formule), en tête ou en queue du préfixe de quantificateurs d'une formule Σ_n ou Π_n, on obtient une formule trivialement équivalente. Il est donc immédiat que :

Par ailleurs on a, évidemment par définition des Δ_n :

Le treillis de l'inclusion sur la hiérarchie arithmétique est entièrement décrit par ces relations d'inclusion, en particulier ces inclusions sont des inclusions strictes, ce qui résulte essentiellement de l'indécidabilité du problème de l'arrêt, qui dit directement que Δ₁ est une partie stricte de Σ₁ et donc de Π₁.

Chaque classe Σ_n, Π_n ou Δ_n est stable par intersection et réunion; on le déduit en construisant dans l'ordre adéquat la forme prénexe de la conjonction ou de la disjonction de deux formules Σ_n ou Π_n. Elles sont également stables par produit cartésien. La classe des ensembles Δ_n est stable par passage au complémentaire et donc par toutes les opérations booléennes.

On peut montrer que tout ensemble de la hiérarchie peut toujours se définir au même niveau par une formule où chaque alternance est réduite à un seul quantificateur et où la matrice est une formule Σ₀ :

• Σ_n : ∃x₁ ∀x₂ ∃x₃ … Qx_n F
• Π_n : ∀x₁ ∃x₂ ∀x₃ … Qx_n F

où F est Σ₀.

On peut utiliser pour ceci le codage des couples de Cantor, qui se manipule par des formules Σ₀.

Un ensemble Σ_n s'écrit A = { n∈N / ∃(a₁, …, a_k)∈N^k, P(n, a₁, …, a_k) } avec P une formule Π_n-1 à k+1 variables libres. On peut alors former l'ensemble B = { (n, a₁, …, a_k)∈N^k+1 / P(n, a₁, …, a_k) }, qui est Π_n-1 dans N^k+1, et constater que A est le projeté de B selon la première coordonnée.

Une quantification existentielle correspond ainsi à une projection. On peut en déduire une autre définition de la hiérarchie arithmétique qui ne fait pas appel directement aux formules. En effet, la classe Σ_n étant définie (pour des sous-ensembles de N^p p > 0) :

• La classe des ensembles Π_n est la classe des ensembles dont le complémentaire est Σ_n ;
• La classe des ensembles Σ_n+1 est la classe des projetés des ensembles Π_n.

Ceci définit la hiérarchie, la classe des ensembles Σ₀ étant définie.

Il est cependant possible de prendre une autre classe de sous-ensembles de la réunion des N^p, p > 0, comme point de départ, en conservant la même hiérarchie à partir du rang 1. Par exemple, on peut partir :

• de la classe des ensembles primitifs récursifs (les projetés d'ensembles primitifs récursifs sont bien les ensembles récursivement énumérables, d'après le théorème de forme normale de Kleene) ;
• Les ensembles définis par des équations polynomiales sans paramètres (les projetés de ces ensembles sont alors les ensembles diophantiens, donc les ensembles récursivement énumérables selon le théorème de Matiiassevitch).

Dans le second cas, cela revient, pour la définition par les formules, à prendre à la place des formules Σ₀ les formules sans quantificateurs (même bornés).