« Je ne dissimule en aucune façon que, par cette entreprise, j’entre en opposition, dans une certaine mesure, avec les conceptions largement répandues concernant l’infini mathématique et avec les points de vue que l’on a fréquemment adoptés sur l’essence de la grandeur numérique. »
Georg Cantor, Fondements d’une théorie générale des multiplicités (1883).
Les découvertes de Georg Cantor réalisées entre 1870 et 1883, montrant que le domaine de l’infini peut être ordonné avec la même rigueur que le domaine fini, sont parmi les plus belles et les plus importantes des mathématiques.
Aujourd’hui, à l’école ou à l’université, Cantor est présenté comme l’auteur de la théorie des ensembles, même s’il préférait l’expression théorie des multiplicités. Toutefois, Cantor ne revendiquerait certainement pas la paternité d’une bonne partie de ce que l’on enseigne sous le nom de théorie des ensembles dans le cadre axiomatique des mathématiques modernes, car son but n’était pas de réduire les divers domaines des mathématiques à de simples idées d’ « ensembles ». Il cherchait plutôt à élaborer conceptuellement l’idée controversée – philosophique aussi bien que mathématique – de l’infini réel. Dans cette démarche, il traita de ce problème avec la même rigueur que Gauss ou son élève Weierstrass.
Cantor commença en partant du problème abordé par Bernhard Riemann dans son article Sur la possibilité de représenter une fonction par une série trigonométrique, présenté pour son habilitation à l’université de Göttingen (1854), et se laissa guider en même temps par la pensée philosophique de Platon, saint Augustin, Leibniz (et également en partie par saint Thomas d’Aquin) sur l’infini réel. Le problème consistait à découvrir s’il existe des multiplicités infinies qui soient différentes en grandeur.
Par exemple, Galileo Galilei, dans ses Discorsi de 1638, posait l’énigme suivante : la série des carrés 1, 4, 9, 16,… contient-elle autant de nombres que la série des nombres naturels 1, 2, 3, 4,… — et dans quelle mesure faut-il prendre en compte que les nombres de la première sont de moins en moins densément distribués par rapport à ceux de la seconde au fur et à mesure de leur croissance ? Il écrivit les deux rangées à côté l’une de l’autre :
1 2 3 4
1² 2² 3² 4²
Et pensa alors qu’entre deux agrégats infinis, il est impossible de comparer les grandeurs. Galilée se situe ainsi dans la lignée d’Aristote, pour qui l’infini existe en puissance, mais ne peut exister en acte et donc en aucun cas faire l’objet de mesure. Cependant, la méthode implicitement utilisée par Galilée s’avère, elle, utile dans la mesure où la correspondance entre deux agrégats infinis (on peut en quelque sorte les superposer) peut conduire à une conclusion qui n’est pas celle de Galilée : qu’ils sont en fait de « grandeur équivalente ». En opérant ainsi, on passe de l’infini en puissance, la limite ? vers quoi on tend sans jamais l’atteindre, à un infini réalisé en nombre et donc « mesurable », puisqu’on constate une « correspondance » entre les deux agrégats infinis. C’est la rupture qu’effectue Cantor avec la conception aristotélicienne de l’infini en ouvrant à celui-ci la porte du nombre.
La même question, plus difficile que pour les carrés, se posait pour les rapports entre fractions et nombres rationnels. En effet, on trouve déjà entre 0 et 1 une infinité de nombres rationnels comme, par exemple, la suite 1/2, 1/3, 1/4,… ; et entre chaque nombre naturel et son successeur, il existe également un nombre infini de fractions. L’un des premiers grands travaux du jeune Cantor fut de prouver qu’il y a autant de nombres rationnels que de nombres naturels. Il inventa une méthode spéciale, la « méthode de la diagonale », pour prouver que les nombres rationnels sont en correspondance biunivoque avec les naturels 1, 2, 3, 4,… en dépit du fait qu’il y en ait déjà une infinité entre 0 et 1.
La preuve sous forme simplifiée est la suivante : Cantor réduit tous les nombres rationnels à des fractions, trouve un système pour les ordonner, et met le tout sous cette forme
Ensuite, à partir de 1, il suit le chemin montré dans le tableau ci-dessus, pour faire la séquence linéaire 1, 2, 1/2, 1/3, 2/2, 3, 4, 3/2, …, etc., qui contient tous les nombres rationnels possibles.
Comme dans le cas des carrés, le cinquième axiome d’Euclide (« Le tout est plus grand que ses parties ») est réfuté de façon décisive par ce procédé. Cantor écrit en 1887 : « Il n’y a pas contradiction lorsque, comme cela arrive souvent avec les agrégats infinis, deux d’entre eux – dont l’un est partie ou constituant de l’autre – ont [le même nombre d’éléments]. C’est la méprise sur ce sujet qui a, selon moi, été le principal obstacle à l’introduction des nombres infinis depuis l’Antiquité. »
Cantor ne croyait cependant pas que différents agrégats infinis de points pouvaient toujours être mis simplement en correspondance biunivoque. On ne pouvait, par exemple, pas le faire avec les fractions décimales infinies. La preuve de Cantor (simplifiée) est la suivante. Nous notons par M l’agrégat de toutes les fractions décimales infinies entre 0 et 1, donc des nombres tels 0,1213… ou 0,4999… On émet maintenant l’hypothèse que, quelle que soit la tentative que l’on fasse pour mettre en correspondance les nombres naturels avec les fractions décimales de M, il restera toujours au moins une de ces fractions sans correspondant. Une liste ordonnée de paires de nombres pourrait ressembler à ceci :
1 et 0,397…
2 et 0,216…
3 et 0,752…
etc.
Construisons maintenant une fraction décimale de façon complètement synthétique : comme premier chiffre derrière le zéro et la virgule, nous choisissons un chiffre qui soit différent du premier chiffre de la première fraction décimale de notre liste ; comme deuxième chiffre, un chiffre qui soit différent du deuxième chiffre de la deuxième fraction décimale ; comme troisième chiffre, un chiffre qui soit différent du troisième chiffre de la troisième fraction décimale, etc. Cette nouvelle fraction décimale n’est ainsi pas égale à la première fraction de la liste (car elle en diffère par le premier chiffre) ; elle n’est pas égale à la seconde fraction décimale de la liste (car elle en diffère par le second chiffre) – nous voyons donc qu’elle ne peut être égale à aucune fraction décimale de la liste… Il est ainsi prouvé qu’il est complètement impossible d’apparier toutes les fractions décimales existant entre 0 et 1 avec les nombres naturels. L’agrégat de ces fractions décimales est si énorme, est infini à un tel degré, qu’il surpasse de loin l’infinité des nombres naturels.
Cantor prouve ainsi qu’il existe des gradations dans l’infini : des agrégats infinis de grandeur équivalente et d’autres inférieurs ou supérieurs. Il donna le nombre naturel w à tout agrégat pouvant être apparié avec l’agrégat des nombres naturels. C’était le premier nombre infini. A ce type d’agrégat appartiennent entre autres les nombres pairs et impairs, les carrés et les nombres rationnels.
Cantor a donc prouvé en 1873 que a) les nombres rationnels (fractions) peuvent être un à un mis en correspondance avec les nombres naturels, mais que b) une telle correspondance biunivoque n’est pas possible entre les nombres réels (c’est-à-dire l’ensemble des points sur une ligne) et les nombres naturels. Ainsi, il existe dans le domaine de l’infini au moins deux agrégats de puissances fondamentalement différentes. Il se demande alors si le concept de dimension spatiale peut mener à une autre différenciation de l’infini. A la grande surprise de Dedekind (avec lequel il échangeait de nombreuses lettres à ce sujet) [1], et au grand chagrin d’autres mathématiciens (en particulier Kronecker), Cantor peut donner la preuve, en 1877, que la réponse est « non » : tous les points d’une surface (par exemple, le carré unité) peuvent être mis en correspondance univoque avec les points d’une ligne (par exemple, l’intervalle fermé [1,0]).
La dimension spatiale en tant que telle ne peut donc être définie par une gradation déterminée de l’infini réel.
Cantor écrit à Dedekind : « Nous devrions rechercher la distinction entre la configuration de dimensions différentes dans d’autres aspects que les nombres [que Riemann] estimait caractéristiques des coordonnées indépendantes. » Il fait référence par là à la thèse d’habilitation de Riemann, Sur les hypothèses qui servent de fondement à la géométrie.
La preuve de la fécondité du concept de Cantor dans le domaine de la topologie et de la géométrie se trouve ainsi faite. En même temps qu’il parvient à l’idée de puissance d’agrégats (infinis), il élabore le principe qui va lui permettre de formuler sa théorie du transfini dans ces Fondements d’une théorie générale des multiplicités (1883), indépendamment du concept de dérivation à partir des agrégats de points, et de la mener à une conclusion préliminaire.
L’infini réel a un ordonnancement déterminé et possède des gradations légitimes, construites suivant des principes héréditaires agissant de façon réflexive, et donc intelligiblement présentés. Cantor définit le premier principe héréditaire comme « l’addition d’une unité à un nombre donné, déjà formé ». Le second principe héréditaire dit que « quand une série déterminée de nombres entiers définis se présente, dont il n’existe pas de plus grande (…) on crée un nouveau nombre, pensé comme la frontière de ces nombres, c’est-à-dire défini comme le plus grand nombre suivant après eux tous ».
Le premier principe décrit la genèse de la séquence de nombres entiers positifs, le second assure la transition vers le transfini. Un troisième principe, baptisé « principe de limitation » — « s’embarquer dans la création d’un nouveau nombre entier avec l’aide d’un des deux principes uniquement dans le cas où la totalité de tous les nombres précédents possède, par rapport à leur domaine propre, la puissance d’une classe de nombres déjà disponible et définie » — divise le domaine des nombres ordinaux [2] transfinis en classes de nombres bien ordonnées, légitimement séquentielles, qui « s’offrent, de façon uniforme, comme représentants naturels de la séquence légitime de puissances croissantes d’agrégats biens définis », comme ordonnancement bien défini du transfini (Hypothèses, Section 1).
Autrement dit, quelle que soit l’infinitude d’un ensemble, on peut en construire un autre qui soit d’une infinitude – puissance – supérieure. Ces nombres – infinités d’infinis – Cantor les appelle « transfinis ». Pour les noter, il choisit la première lettre de l’alphabet hébreu, ?. Le dénombrable étant le plus petit infini, ce sera ? (indice 0). Au-delà vient la série des ? du non dénombrable. Et avec ces transfinis, bien que non dénombrables, on peut calculer : il y a une arithmétique des transfinis. Cantor définissait son projet comme l’« extension du calcul arithmétique au-delà du fini ».
Cet ordonnancement croissant et légitime, fonction de puissances croissantes, définit l’ordonnancement transfini de l’infini réel, bien distinct du mauvais infini qui consiste à ajouter stupidement et linéairement encore un autre 1, jusqu’à la fin.
Ecoutons Cantor dans sa Théorie des multiplicités : « Par « multiplicité » ou « agrégat », j’entends généralement toute multiplicité qui puisse être pensée comme unité, c’est-à-dire toute totalité d’éléments définis qui puissent être assemblés dans un tout par une loi, et je crois bien qu’ici je suis en train de définir quelque chose d’étroitement associé à l’eidos ou à l’idéa platoniciens [3], tout autant qu’à ce que dans son Philèbe ou le bien suprême, Platon appelle mikton. Il l’oppose [mikton] à l’apeiron, c’est-à-dire l’illimité, l’indéterminé, ce que j’appelle l’infini non authentique, de même qu’au peras, c’est-à-dire la limite, et il l’explique comme un « mélange » ordonné de ces deux derniers. Platon indique lui-même que ces concepts sont d’origine pythagoricienne […]. »
A l’opposé du « mauvais infini », le concept de transfini est une unité qui comprend une infinité, unité qui n’est pas une quelconque entité objective mais réside dans l’esprit humain, « un » avec son potentiel infini, sa capacité de formuler des idées et des hypothèses multiples.
Conséquence fondamentale : l’infini n’est plus défini à partir du fini, mais le fini à partie de l’infini – « est fini ce qui n’est pas infini ». Le fini prend ainsi sa place dans le concert des nombres, dans l’ordonnancement transfini. Dans la multitude des ensembles, la partie qui s’est prise pour le tout se trouve ainsi remise à sa place. L’Univers aristotélicien s’est effondré et se trouve remplacé par ce que le mathématicien David Hilbert appelle « le produit le plus pur du génie mathématique et la réalisation la plus achevée de l’activité intellectuelle humaine ».
