Le groupe de symétrie, ou groupe des isométries, d'un objet (image, signal, etc.) est le groupe de toutes les isométries sous lesquelles cet objet est globalement invariant, l'opération de ce groupe étant la composition. C'est un sous-groupe du groupe euclidien, qui est le groupe des isométries de l'espace affine euclidien ambiant.
(Si cela n'est pas indiqué, nous considérons ici les groupes de symétrie en géométrie euclidienne, mais le concept peut aussi être étudié dans des contextes plus larges, voir ci-dessous.)
Les « objets » peuvent être des figures géométriques, des images et des motifs, tels que les motifs de papier peint. La définition peut être rendue plus précise en précisant ce que l'on entend par image ou motif, par exemple une fonction de position avec des valeurs dans un ensemble de couleurs. Pour la symétrie des corps en 3D, par exemple, on peut aussi vouloir prendre en compte la composition physique. Le groupe des isométries de l'espace induit une action de groupe sur les objets qu'il contient.
Le groupe de symétrie est quelquefois appelé le groupe de symétrie complet afin de souligner qu'il inclut les isométries qui renversent l'orientation (comme les réflexions, les réflexions glissées et les antirotations) sous lesquelles la figure est invariante. Le sous-groupe des isométries qui conservent l'orientation (i.e. les translations, les rotations et les compositions de celles-ci, à savoir, les déplacements) et qui laissent la figure invariante est appelé son groupe de symétrie propre ou groupe des déplacements. Le groupe de symétrie propre d'un objet est égal à son groupe de symétrie complet si et seulement si l'objet est chiral (et ainsi, il n'existe pas d'isométries renversant l'orientation sous lesquelles il est invariant).
Tout groupe de symétrie dont les éléments ont un point fixe commun, ce qui est vrai pour tous les groupes de symétrie de figures bornées, peut être représenté comme un sous-groupe du groupe orthogonal O(n) en choisissant comme origine un point fixe. Le groupe de symétrie propre est alors un sous-groupe du groupe spécial orthogonal SO(n), c'est pourquoi il est aussi appelé le groupe des rotations de la figure.
Les groupes de symétrie discrets sont de trois sortes :
Il existe aussi les groupes de symétries continues, qui contiennent des rotations d'angles arbitrairement petits ou des translations de distances arbitrairement petites. Le groupe de toutes les symétries d'une sphère O(3) est un exemple de ceci, et en général, de tels groupes de symétries continues sont étudiés comme des groupes de Lie.
À la classification des sous-groupes du groupe euclidien correspond une classification des groupes de symétrie.
On dit que deux figures géométriques ont le même type de symétrie si leurs groupes de symétries respectifs H1, H2 sont des sous-groupes conjugués du groupe euclidien E(n), c'est-à-dire s'il existe une isométrie g de Rn telle que H1=g-1H2g. Par exemple :
Quelquefois, un concept plus large, le « même type de symétrie » est utilisé, par exemple dans les 17 groupes de papier peint.
Lorsque l'on considère les groupes d'isométrie, on peut se limiter à ceux où pour tous les points, l'ensemble des images sous les isométries est topologiquement fermé. Ceci exclut, par exemple, en dimension 1, le groupe des translations par un nombre rationnel. Une « figure » ayant ce groupe de symétrie est impossible à dessiner et homogène à un niveau de détail arbitraire, sans être réellement homogène.
Les groupes d'isométries en dimension 1 où, pour tous les points, l'ensemble des images sous les isométries est topologiquement fermé sont :
À conjugaison près, les groupes de point discrets dans un espace bidimensionnel appartiennent aux classes suivantes :
C1 est le groupe trivial contenant seulement l'opération identité, qui apparaît lorsque la figure n'a pas de symétrie du tout, par exemple la lettre F. C2 est le groupe de symétrie de la lettre Z, C3 celui d'un triskèle, C4 d'un svastika et C5, C6 etc. sont les groupes de symétrie de figures similaires au svastika avec cinq, six, etc. bras à la place de quatre.
D1 est le groupe à 2 éléments contenant l'opération identité et une réflexion unique, qui apparaît lorsque la figure a seulement un seul axe de symétrie bilatéral, par exemple la lettre A. D2, qui est isomorphe au groupe de Klein, est le groupe de symétrie d'un rectangle non carré.
Les groupes de symétrie concrets dans chacun de ces cas ont deux degrés de liberté pour le centre de rotation, et dans le cas des groupes diédriques, un de plus pour les positions des miroirs.
Les groupes d'isométrie restants en 2D avec un point fixé, où pour tous les points, l'ensemble des images sous les isométries est topologiquement fermé, sont :
Pour les figures non bornées, les groupes d'isométrie supplémentaires peuvent inclure les translations ; ceux qui sont fermés sont :
À conjugaison près, l'ensemble des groupes ponctuels de symétrie 3D (voir l'article : Groupes ponctuels de symétrie en dimension 3 (en)) est constitué de 7 séries infinies et de 7 autres séparées. En cristallographie, ils sont restreints pour être compatibles avec les symétries discrètes de translation d'un réseau cristallin. Cette restriction cristallographique de la famille infinie de groupes ponctuels généraux a pour résultat 32 groupes ponctuels cristallographiques (27 à partir des 7 séries infinies et 5 des 7 autres)[1].
Les groupes ponctuel de symétrie continus incluent quant à eux :
Pour les objets et les champs scalaires, la symétrie cylindrique implique des plans verticaux de réflexion. Ce n'est pas le cas pour les champs de vecteurs : en coordonnées cylindriques relativement à un certain axe, a une symétrie cylindrique relative à cet axe si et seulement si et ont cette symétrie, i.e., ne dépendent pas de φ. Il existe de plus une réflexion si et seulement si .
Pour la symétrie sphérique, il n'existe pas de telle distinction, elle implique des plans de réflexion.
Les groupes de symétrie continus sans point fixe incluent ceux avec vissages, tel le groupe d'une hélice infinie.
Dans des contextes plus larges, un groupe de symétrie peut être n'importe quelle sorte de groupe de transformations, ou groupe d'automorphismes. Une fois que l'on connaît à quelle sorte de structure mathématique on a affaire, on peut déterminer quelles applications la préservent. Inversement, en précisant la symétrie, on peut définir la structure, ou au moins clarifier ce que l'on entend par un invariant, langage géométrique permettant de l'appréhender ; c'est une façon de voir le programme d'Erlangen.
Par exemple, les groupes d'automorphismes de certains modèles de géométries finies ne sont pas des "groupes de symétrie" au sens usuel, bien qu'ils conservent la symétrie. Ils le font en conservant les familles d'ensembles de points plutôt que les ensembles de points ou "objets" eux-mêmes[2].
Comme ci-dessus, le groupe d'automorphismes de l'espace induit une action de groupe sur les objets qu'il contient.
Pour une figure géométrique donnée dans un espace géométrique donné, on considère la relation d'équivalence suivante : deux automorphismes de l'espace sont équivalents si les deux images de la figure sont les mêmes (ici "les mêmes" ne signifie pas quelque chose comme "le même à une translation et une rotation près", mais signifie "exactement le même"). Alors, la classe d'équivalence de l'identité est le groupe de symétrie de la figure et chaque classe d'équivalence correspond à une version isomorphe de la figure.
Il existe une bijection entre deux classes d'équivalence quelconques : l'inverse d'un représentant de la première classe d'équivalence, composé par un représentant de la seconde.
Dans le cas d'un groupe d'automorphisme fini de l'espace entier, son ordre est l'ordre du groupe de symétrie de la figure multiplié par le nombre de versions isomorphes de la figure[a].
Exemples :