En 1900, lors de l’Exposition Universelle, à Paris, a lieu le deuxième congrès de mathématiques. L’exposé de David Hilbert (1862-1943, mathématicien allemand, considéré comme un des plus grands mathématiciens du XXème siècle) est l’un des plus attendus. Le 8 août 1890, il présente donc sa liste de 23 problèmes qui tiennent les mathématiciens en échec et qui marqueront le cours des mathématiques du XXème siècle.
On s’intéresse dans cet article au troisième problème de Hilbert, qui est considéré comme le plus facile, et qui a eu une existence brève puisque la solution a été apportée par Dehn dès 1900. Il fallait spécifier deux tétraèdres de même base et de même hauteur, qui ne se subdivisent d’aucune manière en tétraèdres superposables, et qui ne se laissent pas compléter par des tétraèdres superposables en des polyèdres pour lesquels une telle subdivision en tétraèdres superposables soit possible (Ouf ! On peut respirer…). Autrement dit, si deux polyèdres ont même volume, peut-on produire un puzzle pour passer de l’un à l’autre ? Ou encore, si l’on a deux polyèdres de même volume, peut-on découper le premier en un nombre fini de morceaux (polyèdres) et obtenir le second en recollant les morceaux ?
La réponse à ce problème est négative. En particulier il est impossible de découper un cube en un nombre fini de polyèdres et de reconstituer un tétraèdre régulier (de même volume) à partir des morceaux. La démonstration de Dehn repose sur l’introduction d’un nouvel invariant appelé l’invariant de Dehn.
Découpages et recollements
Soient et
deux parties de
. On dit qu’elles sont équivalentes par découpage et recollement (ou équidécomposables) s’il existe une partition de
(resp. de
),
(resp.
)
et, pour chaque , une isométrie
qui applique
sur
. On note alors
.
Cette relation est clairement une relation d’équivalence.
Polygones, polyèdres, tétraèdres
Afin de se mettre d’accord, il est nécessaire de définir clairement les notions de polygones (ou devrait-on dire de domaines polygonaux) dans le plan, de polyèdre et de tétraèdre dans l’espace.
Un polygone est une figure géométrique plane, formée d’une suite de segments, chacun d’entre eux partageant une extrémité avec le précédent et le suivant, délimitant ainsi un contour fermé. Par exemple, les triangles, les rectangles, les hexagones sont des polygones…

Un polyèdre est traditionnellement une forme tridimensionnelle qui se compose d’un nombre fini de faces polygonales qui sont des parties de plans; les faces se rencontrent par paires le long des arêtes qui sont des segments de droite, et les arêtes se rencontrent aux points nommés sommets.
Un tétraèdre est un polyèdre dont les 4 faces sont des triangles. Il est dit régulier si ses 4 faces sont des triangles équilatéraux.

Découpage des polyèdres : pourquoi cette question ?
Nous connaissons tous la formule élémentaire qui donne l’aire d’un triangle : la base fois la hauteur divisé par deux. La preuve de ce résultat consiste à découper le triangle en petits polygones et à les réarranger afin d’obtenir un rectangle qui a la même aire.
Peut-on utiliser un argument semblable (c’est-à-dire une preuve par découpage et recollement) afin d’obtenir le volume d’une pyramide ? En effet, on obtiendrait une preuve « élémentaire » du théorème XII.5 d’Euclide (qui dit que deux pyramides de même base et de même hauteur ont même volume). Et nous obtiendrions ainsi une définition élémentaire du volume d’un polyèdre. En effet, Euclide utilise un processus infini, l’exhaustion (un passage à la limite). Les démonstrations ultérieures de cette formule font toutes appel à des méthodes relevant de près ou de loin à un calcul intégral et aucune démonstration géométrique plus simple n’a pu être trouvée.
Le tétraèdre régulier n’est pas équidécomposable avec le cube de même volume.
Pour prouver ce théorème, Dehn a introduit un nouvel invariant qui porte son nom : l’invariant de Dehn.
Invariant de Dehn, version produit tensoriel
Les sous-groupes de étant soit dense, soit de la forme
,
, on a
qui est un sous-groupe distingué (car
est abélien) de
. On peut ainsi considérer le groupe quotient
, qui peut être vu comme le groupe des angles de droite (au moyen de la mesure des angles en radians).
On pourra alors définir l’invariant de Dehn dans le produit tensoriel .
Par définition du produit tensoriel, on a une application -bilinéaire naturelle
On a aussi une fonction -bilinéaire
Par la propriété universelle du produit tensoriel, il existe une unique application -linéaire
On peut ainsi définir l’invariant de Dehn indépendamment de la fonction en l’exprimant dans le produit tensoriel.
Soit un polyèdre dans l’espace. On définit l’invariant de Dehn de
comme le nombre réel :
où l’on somme sur toutes les arêtes du polyèdre,
représentant la longueur de l’arête
et
l’angle entre deux faces dont l’intersection est
.
On a donc le théorème suivant :
Si deux polyèdres sont équidécomposables, ils ont le même invariant de Dehn.
qui repose sur le caractère additif de l’invariant de Dehn : si un polyèdre est réunion disjointe de polyèdres
, on a
On souhaite donc calculer l’invariant de Dehn du cube et celui du tétraèdre. Pour cela on a besoin d’un résultat préliminaire :
Un élément , avec
, est nul si et seulement si
est rationnel. En effet, si
, on a
.
Supposons maintenant que est irrationnel. Par la propriété universelle du produit tensoriel, étant donnés
et
deux applications bilinéaires, il existe une unique application -linéaire
On aura gagné si on trouve telle que
. Comme
est un
-espace vectoriel et qu’il existe des bases de
comme
-espace vectoriel, et comme
et
sont
-indépendants, on les complète en une base et on envoie
sur
et
sur
. Cet homomorphisme se factorise par
et c’est ce que l’on désirait.
Preuve du théorème
Considérons le cube . On utilisant la bilinéarité du produit tensoriel sur
on a
Considérons maintenant le tétraèdre régulier de volume 1 avec des cotés de longueur
(
). En utilisant le résultat préliminaire et la liberté de la famille
où
est tel que
, on a
.
Jolie application du produit tensoriel non ?

