Le lemme de Margulis est un résultat de géométrie riemannienne, branche de la géométrie qui étudie les espaces courbes munis d'une métrique. Il est nommé en l'honneur du mathématicien russe Gregori Margulis qui en établit une version de référence en 1975, mais celle-ci s'inscrit dans une succession de nombreux résultats apparentés.
Le lemme porte sur les sous-groupes du groupe des isométries d'une variété à courbure négative mais bornée ; il s'applique donc notamment au cadre de la géométrie hyperbolique. L'idée générale de l'énoncé est que, quand on limite l'écart entre les points et les images en dessous d'une certaine valeur (la constante de Margulis), les orbites d'un tel groupe ont nécessairement une structure simple. Dans une formulation plus géométrique, cela conduit à une décomposition entre les parties "mince" et "épaisse" de la variété, les parties dites minces ayant une structure simple.
Formulation algébrique pour les variétés à courbure négative
Un des énoncés classiques du lemme de Margulis est le suivant
Lemme de Margulis[1] —
Soit une variété riemannienne, simplement connexe, à courbure sectionnelle négative et bornée. On note d la distance induite par la métrique riemannienne. Il existe des constantes telles qu'on ait la propriété suivante : pour tout sous-groupe discret du groupe des isométries de , pour tout , en notant
La recherche de la valeur optimale du figurant dans le théorème précédent est alors un problème intéressant ; on lui donne le nom de constante de Margulis.
Plus précisément, on peut chercher une valeur optimale ne dépendant en fait que de la dimension et de la borne inférieure sur la courbure. Quitte à normaliser cette borne inférieure à la valeur -1, on obtient une quantité qui ne dépend que de la dimension et est appelée la constante de Margulis en dimension .
Un autre type de problème intéressant est la recherche de la constante de Margulis de certains espaces particuliers, par exemple les espaces hyperboliques (de courbure constante -1). Ainsi :
Parmi les exemples de variétés à courbure négative particulièrement étudiés figurent les espaces symétriques associés à des groupes de Liesemi-simples. Dans ce cadre, le lemme de Margulis admet un énoncé très algébrique qui avait en fait été établi auparavant par Hans Zassenhaus.[4]
Si est un groupe de Lie semi-simple il existe , voisinage de l'identité dans et une valeur telle que tout sous-groupe discret engendré par contient un sous-groupe nilpotent d'indice .
Un tel voisinage est qualifié de voisinage de Zassenhaus de . Si est compact ce théorème est équivalent au théorème de Jordan-Schur.
Conséquence géométrique : décomposition en parties mince et épaisse
Soit une variété riemannienne et soit . La partie mince de est formée par les points tels que le rayon d'injectivité de en est inférieur à ; on la note ordinairement . La partie épaisse, notée ordinairement , est le complémentaire. Ainsi on a la partition .
Lorsque est à courbure négative et est inférieure à la constante de Margulis du revêtement universel de , les composantes de la partie mince ont une structure très simple.
Si on considère de façon plus spécifique le cas des variétés hyperboliques de volume fini, en prenant inférieur à la constante de Margulis de et un espace hyperbolique de dimension , alors il y a deux sortes de composantes dans la partie mince[5] :
les cusps, composantes non bornées, qui sont difféomorphes au produit d'un cercle et d'un espace plat de dimension ;
les tubes de Margulis , qui sont des voisinages de géodésiques fermées de de longueur on . Ces composantes sont bornées, et si est orientable, elles sont difféomorphes au produit d'un cercle et d'une boule de dimension .
Notamment, une variété hyperbolique de volume finie est difféomorphe à l'intérieur d'une variété compacte à bord (bord éventuellemnt vide).
Le lemme de Margulis joue un rôle important dans l'étude des variétés à courbure négative. Outre la décomposition en parties mince et épaisse, on peut citer les applications suivantes
Le lemme du collier décrit de façon plus précise les composantes de la partie mince of the thin parts. Il énonce que toute géodésique fermée de longueur sur une surface hyperbolique est contenu dans un cylindre plongé de diamètre de l'ordre de .
Le lemme de Margulis fournit directement une réponse existentielle au problème de la recherche du covolume minimal parmi les variétés hyperboliques : comme le volume d'un tube de Margulis peut être borné par dessous à l'aide de la seule dimension, il y a une bonré inférieure strictement positive aux volumes des variétés hyperboliques de dimension , et ce pour tout [6].