Crise des fondements

Les mathématiques de l'époque fonctionnent très bien comme outil de représentation de la réalité. Par exemple, en physique, elles permettent de calculer avec précision différents phénomènes.

Il semble que la géométrie, telle qu'explicitée par Euclide, soit à l'abri d'une remise en question. En effet, les postulats et les axiomes qu'il a formulés dans ses Éléments forment un tout cohérent où chaque proposition est démontrée. Plusieurs mathématiciens tentent de déduire le cinquième postulat des quatre autres postulats. Gauss, Lobatchevski (1839) et Bolyai (1832), en rejetant ce postulat, créent des nouvelles géométries : les géométries non euclidiennes. Il n'est plus nécessaire que deux droites soient parallèles pour que la géométrie soit cohérente. Le cinquième postulat est seulement nécessaire pour la cohérence de la géométrie euclidienne.

Au XIX^e siècle, la théorie des groupes prend son essor. Il ne s'agit plus de nombres, mais d'objets qui marient à la fois des notions de fonctions et d'ensembles (qui ne sont pas formellement décrits à ce moment) pour en faire une abstraction algébrique. Les groupes ne généralisent pas la notion de nombre. Il y a donc un sentiment de fracture qui apparaît.

Pendant la première moitié du XIX^e siècle, la logique, héritée de la Grèce antique, est vue comme un outil philosophique. Boole (1847) jette les bases de son algèbre et De Morgan (1847) publie ses lois. La logique devient une branche à part entière des mathématiques. Il s'agit encore de notions qui ne généralisent pas celle de nombre.

En 1879, Frege clarifie le raisonnement logique. Cette formalisation permet de dégager les trois caractéristiques qu'une théorie mathématique devrait avoir :

1. cohérence : impossibilité de démontrer une proposition et son contraire ;
2. complétude : pour tout énoncé, ou bien il est démontrable, ou bien son opposé est démontrable à l'intérieur de la théorie ;
3. décidabilité : il existe une procédure de décision permettant de tester tout énoncé de la théorie.

Avec Georg Cantor, la théorie des ensembles met à l'avant-plan les ensembles infinis, objets aux propriétés particulières qui demandent une nouvelle approche.

Vers la fin du XIX^e siècle et au début du XX^e siècle, plusieurs mathématiciens ont tenté de construire les mathématiques sur des bases solides : Frege, Ernst Zermelo, David Hilbert et Bertrand Russell, entre autres. Cette construction était rendue nécessaire après la découverte de problèmes dans la théorie des ensembles permettant des paradoxes comme le paradoxe de Russell, qui compromettaient la cohérence même des mathématiques et la laissant sous la menace du principe d'explosion. La capacité des mathématiques à représenter le monde par exemple au travers des Sciences physiques était alors sérieusement en danger: de tels paradoxes ne permettaient plus aucune prédiction par le calcul de l'évolution d'un système physique, puisque n'importe quel calcul contradictoire et incompatible devenait possible.

David Hilbert (1899) rafraîchit la géométrie euclidienne, alors que les géométries non-euclidiennes sont explorées. Surtout, il propose en 1898 de réduire l'arithmétique à la logique. Son but est de montrer que les nombres sont des objets qui se déduisent d'un système d'axiomes non-contradictoires. Il précise son projet en 1922 en posant l’Entscheidungsproblem (problème de la décision). Il demande s'il existe une procédure (un algorithme) permettant de vérifier si une expression formelle peut se déduire d'un système d'axiomes donnés. Cela aboutit en 1928 à un programme de recherche qui s'articule autour de trois questions : les mathématiques sont-elles complètes, cohérentes, et décidables ?

Trois écoles se forment au début du XX^e siècle pour tenter de formaliser la logique et la métamathématique :

• logiciste : menée par Russell et Whitehead (à partir de 1903) ;
• formaliste : menée par David Hilbert (1904-) ;
• intuitionniste : menée par Brouwer (1907-).

Russell et Whitehead, s'appuyant sur la logique et plusieurs axiomes, tentent de construire de façon cohérente les mathématiques. Leur travail, complexe et incomplet, culmine avec Principia Mathematica (1910-1913). L'école formaliste voit les mathématiques comme le résultat de définitions et d'axiomes qui permettent de les construire de façon quasi-mécanique. Finalement, l'école intuitionniste remet en cause certaines méthodes de la logique classique.

Parmi les systèmes proposés, la théorie ZFC, chronologiquement une des premières, reste la plus prisée au XXI^e siècle.

Kurt Gödel avec ses théorèmes d'incomplétude (1931) a démontré que dès qu'une théorie est assez riche pour rendre compte de l'arithmétique, elle ne peut à la fois être complète, décidable et démontrablement cohérente.

• Jean Ladrière, Les limitations internes des formalismes. Étude sur la signification du théorème de Gödel et des théorèmes apparentés dans la théorie des fondements des mathématiques, ed.Nauwelaerts-Gauthier-Villars, Leuven-Paris, 1957; réed. éd. J. Gabay, coll "les grands classiques", Paris 1992
• François Rivenc et Philippe de Rouillan, Logique et fondements des mathématiques (1850-1914). Anthologie, Payot, 1992. Recueil de textes.

• Controverse Brouwer-Hilbert (en)
• Fondements des mathématiques
• Paradoxe de Russell

• Portail de la logique
• Portail des mathématiques