Groupe (mathématiques)

Un des groupes les plus communs est l'ensemble des entiers relatifs ℤ, qui est constitué des nombres

..., −4, −3, −2, −1, 0, 1, 2, 3, 4, ...

Les propriétés suivantes de l'addition usuelle servent de modèle pour les axiomes de la définition générale donnée plus bas.

1. Pour deux entiers quelconques a et b, la somme a+b est aussi un entier. En d'autres termes, le fait d'additionner deux entiers ne peut jamais mener à un résultat non entier. On dit que l'addition est une loi de composition interne.
2. Pour tous entiers a, b et c, (a + b) + c = a + (b + c). Littéralement, additionner d'abord a et b, puis ajouter c au résultat donne le même résultat final qu'ajouter a à la somme de b et c. Cette propriété est nommée associativité.
3. Si a est un entier, alors 0 + a = a + 0 = a. Zéro est ce qu'on appelle un élément neutre pour l'addition, parce qu'ajouter 0 à tout entier donne cet entier.
4. Pour tout entier a, il existe un entier b tel que a + b = b + a = 0. L'entier b est appelé l'élément symétrique de l'entier a et est noté −a (pour l'addition, on dit aussi opposé).

Les entiers relatifs, munis de l'opération « + », forment un objet mathématique qui appartient à une vaste classe d'objets partageant des similarités de structure. La définition formelle suivante, qui englobe l'exemple précédent et beaucoup d'autres, dont les groupes de symétries détaillés plus bas, permet de comprendre ces structures sans traiter chaque cas séparément.

Un groupe est un couple (G, • ) dont le premier terme est un ensemble G et le second une opération « • » (on dit aussi loi de composition) sur cet ensemble qui, à deux éléments a et b de G, associe un autre élément a • b. Le symbole « • » est un signe général qui désigne une opération donnée, comme l'addition ci-dessus. On exige que la loi satisfasse quatre propriétés : les axiomes de groupe[5].

Loi de composition interne

Pour tous a et b éléments de G, le résultat a • b est aussi dans G.

Associativité

Pour tous éléments a, b et c de G, l'égalité (a • b) • c = a • (b • c) est vraie.

Élément neutre

Il existe un élément e de G tel que, pour tout a dans G, e • a = a • e = a, "e" est appelé élément neutre du groupe (G, •).

Symétrique

Pour tout élément a de G, il existe b dans G tel que a • b = b • a = e, où e est l'élément neutre. b est appelé symétrique de a.

L'ordre des arguments peut ne pas être indifférent, autrement dit l'égalité :

a • b = b • a

n'est pas toujours vraie. Un groupe dans lequel on a toujours a • b = b • a est dit commutatif, ou abélien (en l'honneur de Niels Abel)[5]. Ainsi, le groupe additif des nombres entiers relatifs est abélien mais le groupe de symétrie décrit ci-dessous ne l'est pas.

• Lorsque la loi est notée additivement (c'est-à-dire que l'on note a + b pour a • b) :
  • le symétrique est appelé opposé et l'opposé de a est noté −a ;
  • le neutre est souvent appelé zéro et noté 0.
• Lorsque la loi est notée multiplicativement (c'est-à-dire que l'on note ab pour a • b) :
  • le symétrique est appelé inverse et l'inverse de a est noté a⁻¹ ;
  • le neutre est parfois appelé unité et noté 1.

En pratique, on limite l'utilisation de la notation additive aux groupes abéliens.

Les symétries (c'est-à-dire les rotations et réflexions) d'un carré munies de la composition forment un groupe appelé groupe diédral et noté D₄ ou D₈, selon les auteurs. Pour des raisons indiquées dans l'article Groupe diédral, on adoptera ici la notation D₈. Voici la liste des éléments de ce groupe :

id (identité : chaque point est conservé)	r1 (rotation de 90° vers la droite)	r2 (rotation de 180°)	r3 (rotation de 270° vers la droite)
fv (retournement vertical)	fh (retournement horizontal)	fd (retournement suivant la première diagonale)	fc (retournement suivant la deuxième diagonale)
Les éléments du groupe de symétrie (D8). Les sommets sont colorés et numérotés uniquement pour visualiser les transformations.

• l'application identité, laissant tout inchangé, est notée id ;
• les rotations de 90° , 180° et 270° vers la droite, notées respectivement r₁, r₂ et r₃. Le centre de toutes ces rotations est le point d'intersection des diagonales du carré ;
• les réflexions ayant pour axes les médiatrices des côtés du carré (f_h et f_v) ou ses diagonales (f_d et f_c).

Deux symétries quelconques peuvent être composées, c'est-à-dire appliquées l'une après l'autre. Le résultat obtenu en exerçant a puis b est écrit symboliquement

b • a (« appliquer la symétrie b après avoir appliqué a. » L'écriture de droite à gauche utilisée ici provient de la composition de fonctions.)

Le groupe D₈ est décrit par la table de Cayley ci-contre. Il s'agit d'un tableau analogue aux tables de multiplications des écoliers.

Ainsi, à l'intersection de la ligne f_h et de la colonne r₃ se trouve f_d (case coloriée en bleu). Cela signifie que

f_h • r₃ = f_d.

Autrement dit, appliquer au carré une rotation d'angle 270° vers la droite (r₃) puis un retournement horizontal (f_h) revient à lui appliquer un retournement suivant la première diagonale (f_d).

Étant donnés cet ensemble de symétrie et l'opération décrite ci-dessus, les axiomes de groupes peuvent être compris ainsi :

1. L'opération doit être une loi de composition interne : pour toutes symétries a et b, b • a doit être aussi une symétrie du carré. Par exemple r₃ • f_h = f_c
   c'est-à-dire que faire pivoter le carré de 270° vers la droite après l'avoir retourné horizontalement revient à l'avoir retourné suivant la deuxième diagonale (f_c). Toutes les combinaisons de deux symétries donnent une symétrie, comme l'atteste la table de Cayley ci-contre.
2. L'hypothèse d'associativité traite de la composition de plus de deux symétries : soient trois éléments a, b et c de D₈, il existe deux façons de calculer « a puis b puis c ». La condition

   a • (b • c) = (a • b) • c

   signifie que la composition de trois éléments est indépendante de l'ordre de priorité des opérations. Cela peut aussi être vérifié en examinant la table de Cayley ci-contre. Par exemple, on peut remarquer que

   (f_d • f_v) • r₂ = r₃ • r₂ = r₁

   est égal à

   f_d • (f_v • r₂) = f_d • f_h = r₁

3. L'élément neutre est la symétrie notée id, qui laisse tout invariant. Quelle que soit la symétrie a, composer a et id revient à appliquer a :

   id • a = a,

   a • id = a.

4. Un élément symétrique est la transformation réciproque d'une symétrie donnée. Chaque symétrie peut être « défaite ». Chacune des transformations id, f_h, f_v, f_d, f_c et la rotation à 180° r₂ est son propre symétrique, ce qui revient à dire qu'appliquer deux fois une de ces transformations revient à laisser le carré invariant. Les rotations r₃ et r₁ sont symétriques l'une de l'autre. Formellement, on écrit :

   f_h • f_h = id,

   r₃ • r₁ = r₁ • r₃ = id.

Au contraire du groupe des entiers déjà cité, l'ordre dans lequel sont effectuées les opérations est important, dans D₈ : f_h • r₁ = f_c mais r₁ • f_h = f_d. On dit que D₈ n'est pas commutatif. On voit ici que la structure de groupe est plus délicate que le premier exemple sur les entiers pouvait le laisser supposer.

L'axiome d'associativité permet de définir l'opération sur trois éléments et non plus deux, en « levant » les parenthèses. En effet, quels que soient les éléments a, b et c du groupe, il est possible de définir a • b • c sans ambigüité :

a • b • c = (a • b) • c = a • (b • c).

Puisque les parenthèses peuvent être écrites n'importe où dans une série de plusieurs termes, il est d'usage de les omettre.

Les axiomes peuvent être réduits. Par exemple, on obtient une définition équivalente si on remplace les deux derniers axiomes de la définition ci-dessus par la condition suivante :

Il existe un élément e de G qui est neutre à gauche (c'est-à-dire que, pour tout a dans G, e • a = a) et tel que pour tout élément a de G, il existe b dans G tel que b • a = e (ce qu'on peut exprimer en disant que tout élément de G admet un symétrique à gauche en association avec e).

Il y a unicité de l'élément neutre et, pour chaque élément a du groupe, unicité du symétrique de a. Cela signifie qu'un groupe possède exactement un élément neutre et que chaque élément du groupe possède un et un seul symétrique. L'emploi de l'article défini est donc correct : on parle du « symétrique » d'un élément et du « neutre » du groupe.

Dans un groupe, tout élément a est régulier, ou « simplifiable », c'est-à-dire que si a • x = a • y ou si x • a = y • a, alors x = y (cela se déduit du fait que a est symétrisable, et de l'associativité).

Pour que les morphismes de groupes soient les fonctions « compatibles avec la structure de groupe », on adopte la définition suivante :

Une fonction f : G → H entre deux groupes munis respectivement de deux lois • et * est un morphisme si l'égalité

f(a • b) = f(a) * f(b).

est vraie pour tous les éléments a et b de G, c'est-à-dire que le résultat est le même, que l'on effectue l'opération avant ou après avoir appliqué la fonction f.

On démontre (au début de l'article détaillé) qu'alors, f est bien « compatible » non seulement avec les lois des deux groupes, mais avec leurs neutres et symétriques respectifs ; plus précisément : l'image de l'élément neutre du groupe (G ; •) est l'élément neutre de (H ; *) et l'image du symétrique a⁻¹ de tout élément a est le symétrique de l'image de a, autrement dit : f(a⁻¹) = f(a)⁻¹.

Deux groupes G et H sont dits isomorphes s'il existe deux morphismes de groupes f : G → H et g : H → G tels que la composée de ces deux fonctions, quel que soit l'ordre, donne l'identité. C'est-à-dire que, quels que soient a élément de G et b de H,

g(f(a)) = a et

f(g(b)) = b.

Du point de vue de la structure de groupe, G et H sont en quelque sorte « le même groupe ».

Le treillis des sous-groupes de D₈, représenté sous forme de diagramme de Hasse.

Intuitivement, un sous-groupe est un groupe H inclus dans un autre groupe G. Cela signifie que l'élément neutre de G est contenu dans H et, quels que soient h₁ et h₂ éléments de H, h₁ • h₂ et h₁⁻¹ appartiennent aussi à H.

Dans l'exemple du groupe D₈ ci-dessus, l'identité et les rotations forment un sous-groupe R = {id, r₁, r₂, r₃} coloré en rouge dans le tableau : la composée de deux rotations est une rotation et chaque rotation a pour symétrique une rotation, celle telle que la somme des angles des deux rotations est 360° (un tour complet).

Une condition nécessaire et suffisante pour qu'un sous-ensemble H d'un groupe G soit un sous-groupe de G est qu'il soit non vide et que, quels que soient les éléments a et b de H :

a⁻¹ • b ∈ H.

Cela permet par exemple de montrer que l'image d'un morphisme de groupes est un sous-groupe du groupe d'arrivée.

La connaissance du treillis des sous-groupes d'un groupe donné est importante pour la compréhension de ce groupe.

Étant donné un sous-ensemble S d'un groupe G, le sous-groupe engendré par S est constitué par tous les produits des éléments de S avec des symétriques de ces éléments, l'opération pouvant être répétée plusieurs fois. C'est le plus petit sous-groupe contenant S. Dans l'exemple D₈, le sous-groupe engendré par r₂ et f_v est constitué de ces deux éléments, de l'identité et de f_h = f_v • r₂. C'est un sous-groupe, car combiner deux éléments, ou leurs symétriques donne un élément de cet ensemble.

Si un groupe est engendré par un de ses éléments, on dit qu'il est monogène. Si le groupe est de plus fini, on le dit cyclique. Par exemple, le groupe (Z ; +) des entiers relatifs est monogène car il est engendré par le seul élément 1 : on peut obtenir n'importe quel entier en ajoutant 1 avec lui-même ou avec son opposé -1. Le sous-groupe de Z engendré par 2 est constitué des nombres pairs (noté 2Z), celui qui est engendré par 3 est le sous-groupe des multiples de 3 (noté 3Z), etc.

Dans de nombreuses situations, il est souhaitable de considérer que deux éléments d'un groupe sont les mêmes s'ils diffèrent d'un élément d'un sous-groupe donné.

Par exemple, dans D₈, une fois qu'un retournement a été effectué, le carré ne peut jamais revenir à la position de r₂ par application de rotations, sans autre retournement. Il est possible de classer les figures du carré données dans l'exemple ci-dessus suivant deux parties : celle qui rassemble les figures pour lesquelles la suite des sommets 1-2-3-4 est parcourue dans le sens des aiguilles d'une montre, et celle des figures où 1-2-3-4 est parcouru dans l'autre sens. Il est possible de passer d'une figure d'une de ces parties à une autre par un retournement, mais aucune rotation ne permet de passer d'un carré de type « 1-2-3-4 dans le sens des aiguilles d'une montre » à un carré de l'autre type. Ainsi, deux figures du même type diffèrent d'une rotation.

La notion de classe suivant un sous-groupe formalise ceci : un sous-groupe H définit une classe à gauche et une classe à droite, qui peuvent être vues comme des translations de H par des éléments arbitraires g du groupe. Les classe à gauche et classe à droite suivant H contenant g sont respectivement

gH = {g • h, h ∈ H} et Hg = {h • g, h ∈ H},

c'est-à-dire les ensembles constitués de tous les éléments de la forme g • h (classe à gauche) et de la forme h • g (classe à droite), où h est un élément de H.

Les classes suivant un sous-groupe H forment une partition de G, c'est-à-dire que la réunion de toutes les classes à gauche est égale à G et l'intersection de deux classes à gauche différentes est vide.

L'égalité g₁H = g₂H a lieu si et seulement si g₁⁻¹g₂ ∈ H, c'est-à-dire lorsque g₁ et g₂ diffèrent d'un élément de H. De même pour les classes à droite suivant H. Les classes à gauche et à droite suivant H peuvent être égales, mais ce n'est pas le cas en général. Si, pour tout élément g de G, gH = Hg, alors H est un sous-groupe normal (ou distingué) de G.

Dans D₈, les classes à gauche gR relatives au sous-groupe R constitué par les rotations sont : soit R si g est une rotation, soit l'ensemble U = f_vR = {f_v, f_d, f_h, f_c} colorié en vert sur la table de Cayley donnée plus haut. Le sous-groupe R est distingué car les classes à gauche et à droite sont égales : f_vR = U = Rf_v, par exemple, cette égalité étant aussi vraie pour tous les éléments autres que f_v.

Dans Z, le sous groupe 2Z des nombres pairs définit deux classes : celle des nombres pairs et celle des nombres impairs. Les classes à gauche et à droite dans Z sont toujours égales car ce groupe est commutatif.

Le groupe diédral D₆ des symétries d'un triangle équilatéral ABC possède plusieurs sous groupes : il y a trois sous-groupes contenant l'identité et la symétrie par rapport à une hauteur, les sous-groupes de rotation de 120 degrés (sens direct et sens indirect), le sous-groupe contenant l'identité seulement et le groupe diédral lui-même. Certains de ces sous-groupes sont normaux, d'autres non, et cela peut se voir très simplement.

Si H est normal, pour tout g appartenant à D₆, g H g ⁻¹ = H. Supposons que H soit le sous groupe contenant l'identité e, et la symétrie s par rapport à l'axe vertical (hauteur issue de A). Si g est la rotation de 120 degrés dans le sens direct, les éléments de g H g ⁻¹ sont l'identité et la symétrie par rapport à la hauteur issue de B (prendre l'exemple d'un point M proche de B, g ⁻¹ fait tourner M de –120 degrés, s envoie M de l'autre côté de l'axe vertical et g ramène M vers B par la rotation de 120 degrés). Autrement dit, g H g ⁻¹ est différent de H, mais surtout g H g ⁻¹ est semblable à H, mais par rapport à un autre axe. Les deux groupes H et g H g ⁻¹ ne diffèrent que par un changement de coordonnée.

Un groupe normal est en quelque sorte indépendant du système de coordonnées. On voit tout de suite que le groupe contenant l'identité et la symétrie par rapport à une droite n'est pas normal, mais que le groupe contenant l'identité, la rotation de 120 degrés et la rotation de 240 degrés l'est : il n'y a pas d'axe privilégié.

Ce genre d'exemple suggère que dans le groupe des matrices orthogonales, le sous-groupe des matrices conservant l'orientation est probablement normal, tandis que le sous-groupe qui conserve un hyperplan particulier ne l'est pas.

Lorsqu'un sous-groupe est distingué, l'ensemble des classes qu'il définit forme également un groupe, appelé groupe quotient de G par N et noté G / N.

G / N = {gN, g ∈ G}

L'opération de ce nouveau groupe est induite par celle de G :

(gN) • (hN) = (g • h)N

pour tous éléments g et h de G. Cette étude est motivée par l'idée que l'application G → G / N qui, à tout élément g du groupe associe sa classe gN, est un morphisme de groupes. La classe eN = N est l'élément neutre du groupe quotient et le symétrique de gN est (gN)⁻¹ = (g⁻¹)N.

Les éléments du groupe quotient D₈ / R sont R lui-même, qui représente l'élément neutre, et U = f_vR. La loi de groupe de ce quotient est représentée dans le tableau ci-contre. Par exemple, U • U = f_vR • f_vR = (f_v • f_v)R = R. Le sous-groupe R = {id, r₁, r₂, r₃} et le groupe quotient correspondant sont tous les deux commutatifs, alors que D₈ ne l'est pas. L'idée de construire de grands groupes à partir d'autres plus petits est formalisée par la notion de produit semi-direct.

Graphe de Cayley du groupe D₈

Le quotient et les sous-groupes permettent de décrire tout groupe par sa présentation : chaque groupe est le quotient du groupe libre sur l'ensemble de ses générateurs, quotienté par le sous-groupe des relations. Le groupe diédral D₈, par exemple, peut être engendré par deux éléments a et b, où a est l'une des deux rotations d'ordre 4 (par exemple celle d'angle ${\displaystyle -\pi /2}$) et b un retournement quelconque (par exemple celui d'axe vertical). Une présentation de ce groupe est :

${\displaystyle \langle a,b|a^{4}=b^{2}=e,ab=ba^{3}\rangle .\,}$

Une présentation d'un groupe peut aussi servir à construire le graphe de Cayley, un outil utilisé pour représenter graphiquement les groupes discrets.

Les sous-groupes et groupes quotients sont liés par la relation suivante : un sous-ensemble H de G peut être vu comme une injection H → G, c'est-à-dire que chaque élément de G possède au plus un antécédent par cette fonction. La notion d'application injective est liée avec celle d'application surjective (une application pour laquelle tout élément de l'ensemble d'arrivée admet au moins un antécédent). L'application canonique G → G / N est surjective. Les théorèmes d'isomorphisme permettent d'exhiber des morphismes injectifs, surjectifs et bijectifs « naturels » d'un groupe afin de comprendre sa structure.

De nombreux systèmes numériques, comme les nombres entiers et rationnels, bénéficient naturellement d'une structure de groupe. Dans certains cas, l'addition et la multiplication donnent chacune lieu à une structure de groupe. Ces considérations ont donné naissance à des structures algébriques plus élaborées : les anneaux et les corps.

Le groupe des nombres entiers Z muni de l'addition, noté (Z, +), a été décrit plus haut. L'ensemble des nombres entiers, muni de la multiplication (Z, ×), ne forme pas un groupe. La loi est bien interne, associative, et il existe un élément neutre (le nombre 1), mais pas d'inverse en général : par exemple, l'équation 3 · b = 1 n'admet pas de solution dans Z. L'inverse de 3 serait 1/3, qui n'est pas entier, mais rationnel.

Le besoin d'inverses des nombres entiers amène à considérer les fractions a/b où a et b sont deux entiers, b étant différent de zéro. Ces fractions d'entiers sont appelées nombres rationnels et l'ensemble qu'elles constituent est noté Q.

L'ensemble des rationnels muni de la multiplication, (Q, ·), ne constitue pas un groupe, car le nombre 0 ne possède pas d'inverse pour la multiplication (il n'existe aucun nombre rationnel x tel que x · 0 = 1).

Cependant, l'ensemble des nombres rationnels non nuls : Q \ {0} = {q ∈ Q, q ≠ 0}, muni de la multiplication, forme un groupe noté (Q \ {0}, ·).

L'ensemble des nombres rationnels (y compris zéro) forme aussi un groupe lorsqu'il est muni de l'addition. L'entrelacement de l'addition et de la multiplication produit une nouvelle structure plus complexe que celle de groupe : les anneaux (Z, par exemple) et, si la division est possible (comme avec Q), les corps commutatifs.

L'ensemble des classes du groupe quotient de (Z, +) par son sous-groupe pZ engendré par un entier p, noté Z/pZ est particulièrement intéressant lorsque p est un nombre premier.

Pour tout nombre premier p, Z/pZ, muni cette fois de la multiplication (et privé de zéro), est un groupe. Ses éléments sont les entiers non divisibles par p, considérés modulo p, c'est-à-dire que chaque nombre est assimilé au reste de sa division euclidienne par p : deux éléments sont considérés comme équivalents lorsque leur différence est un multiple de p.

Par exemple, si p = 5, il y a exactement 4 éléments : 1 ; 2 ; 3 et 4. Les multiples de 5 sont exclus. 6 et −4 sont considérés comme équivalents à 1. Le produit 4 · 4 = 1 puisque le produit usuel 16 est équivalent à 1, car 5 divise 16 − 1 = 15. On note 16 ≡ 1 (mod 5).

La primalité de p assure que le produit de deux entiers non divisibles par p n'est pas divisible par p, donc la multiplication sur l'ensemble de classes considérés est une loi de composition interne. L'élément neutre est 1 et l'associativité provient de la propriété correspondante sur les entiers relatifs. Enfin, le dernier axiome de groupe nécessite que, pour chaque élément a non divisible par p, il existe un entier b non divisible par p tel que :

a · b ≡ 1 (mod p), c'est-à-dire p divise la différence a · b − 1.

L'inverse b peut être déterminé en utilisant le théorème de Bachet-Bézout et le fait que le PGCD de a et p est 1. Dans le cas p = 5 ci-dessus, l'inverse de 4 est 4 et l'inverse de 3 est 2, car 3 · 2 = 6 ≡ 1 (mod 5). Ainsi, les axiomes de groupes sont vérifiés. En fait, cet exemple est similaire à (Q\{0}, ·), car il montre que l'ensemble des éléments non nuls, muni de la multiplication, est un groupe, ce qui, conjointement au groupe additif, donne un corps fini noté F_p. Ces groupes sont cruciaux pour la cryptographie à clé publique.

Les racines sixièmes complexes de l'unité forment un groupe cyclique. z est un générateur, mais pas z², car les puissances impaires de z ne sont pas des puissances de z².

Un groupe cyclique est un groupe dont tous les éléments sont des puissances (quand le groupe est noté additivement, le terme multiple est utilisé) d'un certain élément a. En notation multiplicative, les éléments du groupe sont :

..., a⁻³, a⁻², a⁻¹, a⁰ = e, a, a², a³, ...,

où a² signifie a • a, et a⁻³ désigne a⁻¹ • a⁻¹ • a⁻¹=(a • a • a)⁻¹ etc. Un tel élément a est un générateur, ou élément primitif du groupe.

Un exemple typique est celui des racines n^e de l'unité, qui sont les nombres complexes z tels que zⁿ = 1, muni de la multiplication (n désignant un nombre entier strictement positif). Tout groupe cyclique contenant n éléments est isomorphe à ce groupe. La théorie des corps montre que le groupe (F_p,×) est cyclique : pour p = 5, par exemple, 3 est un générateur car 3¹ = 3, 3² = 9 ≡ 4, 3³ ≡ 2 et 3⁴ ≡ 1. Tout groupe cyclique infini est isomorphe au groupe des entiers relatifs (Z, +). Comme ces deux prototypes sont abéliens, tout groupe cyclique est abélien.

Les groupes de symétries sont constitués des symétries d'objets mathématiques donnés, que ces objets soient de nature géométrique, comme le groupe des symétries du carré vu en introduction, ou de nature algébrique, comme les équations polynomiales et leurs solutions. D'un point de vue conceptuel, la théorie des groupes peut être pensée comme l'étude de la symétrie. Les symétries simplifient grandement l'étude des objets géométriques ou analytiques. On dit qu'un groupe opère sur un objet X si chaque élément du groupe peut être associé à une opération sur X de façon que la composition de ces opérations soit compatible avec la loi du groupe. Par exemple, le groupe diédral D₈ opère sur le carré.

Rotations et retournements du groupe de symétries d'un grand icosaèdre.

En chimie, notamment en cristallographie[10], les groupes d'espaces et groupes ponctuels de symétrie décrivent des symétries moléculaires et les symétries de cristaux. Ces symétries sous-tendent le comportement chimique et physique de ces systèmes et la théorie des groupes permet la simplification de l'analyse quantique de ces propriétés. Par exemple, la théorie des groupes est utilisée pour montrer que des transitions d'atomes entre certains niveaux quantiques ne peuvent pas se produire à cause de la symétrie des niveaux[10].

Les groupes ne sont pas seulement utiles pour estimer les implications des symétries dans les molécules, mais ils prédisent aussi, de façon surprenante, que les molécules peuvent parfois changer de symétrie. L’effet Jahn-Teller, connu aussi en tant que « distorsion Jahn-Teller », décrit la distorsion de la géométrie des molécules non linéaires dans certaines situations. Historiquement, cet effet a été proposé dans un théorème publié en 1937 par Hermann Arthur Jahn et Edward Teller, dans lequel ils démontrent que toute molécule non linéaire possédant un niveau électronique fondamental dégénéré subira une distorsion géométrique qui lèvera cette dégénérescence, ce qui aura pour effet de diminuer l’énergie totale de la molécule.

De même, la théorie des groupes aide à prévoir les changements dans les propriétés physiques qui se produisent quand un matériau subit une transition de phase, par exemple, d'une forme cristalline cubique en une forme tétraédrique. Ainsi les matériaux ferroélectriques, dans lesquels le changement d'une phase paraélectrique à une phase ferroélectrique se produit à la température de Curie et est lié à un changement de l'état hautement symétrique paraélectrique à un état ferroélectrique de moindre symétrie, accompagné d'un mode appelé phonon, c'est-à-dire un « paquet élémentaire de vibration » qui s'étend de la fréquence zéro à la transition.

Une telle brisure spontanée de symétrie a trouvé une application en physique des particules élémentaires, où son apparition est reliée à l'apparition de bosons de Goldstone.

Le buckminsterfullerène possède une symétrie icosaédrique.	L'ammoniac, NH3. Son groupe de symétries est d'ordre 6, engendré par une rotation de 120° et une réflexion.	Le Cubane C8H8 est caractérisé par une symétrie octaédrique.	L'ion complexe Hexaaquacopper(II), [Cu(OH2)6]2+. Comparé à une forme parfaitement symétrique, la molécule est dilatée verticalement d'environ 22 % (effet Jahn-Teller).	Le groupe de triangle (2,3,7), un groupe hyperbolique, opère sur ce pavage du plan hyperbolique.

Les groupes de symétries finis comme le groupe de Mathieu sont utilisés en théorie des codes, qui est à son tour appliquée à la correction préventive d'erreurs de données transmises et dans les lecteurs de CD. Une autre application est la théorie de Galois différentielle, qui caractérise les fonctions possédant des primitives d'une certaine forme, ce qui donne des critères de théorie des groupes pour déterminer quand certaines équations différentielles se comportent bien. Les propriétés géométriques qui restent stables par une action de groupe sont étudiées en théorie géométrique des invariants (en).

Deux vecteurs (illustration de gauche) multipliés par des matrices (illustrations du milieu et de droite). L'illustration centrale représente une rotation de 90° dans le sens des aiguilles d'une montre, alors que celle de droite consiste à étirer l'abscisse en la multipliant par 2.

Un groupe de matrices (en) est constitué de matrices et muni de la multiplication matricielle. Le groupe général linéaire GL(n,R) contient toutes les matrices inversibles à n lignes et n colonnes et coefficients réels. Le groupe diédral mentionné ci-dessus peut être vu comme un très petit groupe de matrices. Un autre groupe de matrices très important est le groupe spécial orthogonal SO(n). Il décrit toutes les rotations possibles à n dimensions. Via les angles d'Euler, les matrices de rotation sont utilisées en infographie pour la synthèse d'images.

La théorie des représentations est à la fois une application du concept de groupe et important pour une compréhension plus profonde de ce concept. Elle consiste à étudier un groupe par son action sur d'autres espaces. Une grande catégorie de représentations de groupes est celle des représentations linéaires, lorsque le groupe opère sur un espace vectoriel comme l'espace euclidien à trois dimensions. Une représentation d'un groupe G sur un espace vectoriel réel à n dimensions est simplement un morphisme de groupes

ρ: G → GL(n, R)

du groupe G vers le groupe général linéaire. De cette façon, l'opération de groupe, qui peut être définie de façon abstraite, est transposée en la multiplication de matrices, ce qui la rend accessible à des calculs explicites.

Étant donné une action de groupe, cela donne des moyens supplémentaires pour étudier l'objet sur lequel le groupe opère. Mais aussi des informations sur le groupe lui-même. Les représentations de groupes sont un principe d'organisation de la théorie des groupes finis, des groupes de Lie, des groupes algébriques et des groupes topologiques, en particulier les groupes compacts ou localement compacts.

Les groupes de Galois ont été développés pour aider à la résolution d'équations polynomiales en identifiant leurs symétries. Par exemple, les solutions de l'équation quadratique ax² + bx + c = 0 sont données par :

${\displaystyle x={\frac {-b\pm {\sqrt {b^{2}-4ac}}}{2a}}.}$

L'échange de « + » et « - » dans l'expression, c'est-à-dire la permutation des deux solutions de l'équation, peut être vu comme une action de groupe très simple. Des formules similaires sont connues pour les équations cubiques et quartiques, mais n'existent pas en général pour les équations polynomiales de degré 5 ou davantage. Les propriétés abstraites des groupes de Galois associés à des polynômes donnent un critère permettant de déterminer si une équation polynomiale est résoluble par radicaux, c'est-à-dire si les solutions peuvent être exprimées à partir des coefficients du polynôme en utilisant seulement l'addition, la multiplication et les racines n^e, comme dans la formule ci-dessus.

Le problème peut être traité en utilisant la théorie des corps, en considérant le corps de rupture du polynôme. La théorie de Galois moderne généralise les groupes de Galois évoqués ci-dessus aux extensions de corps et établit, par le théorème fondamental de la théorie de Galois, une relation précise entre les corps et les groupes, soulignant une fois de plus le rôle important des groupes dans les divers champs des mathématiques.

La classification des groupes finis mène rapidement à des mathématiques profondes et difficiles. D'après le théorème de Lagrange, les groupes finis d'ordre p, où p est un nombre premier, sont nécessairement cycliques, donc abéliens et isomorphes à Z_p. On peut également montrer que les groupes d'ordre p² sont abéliens. Ce résultat ne se généralise pas à p³, comme le montre le groupe diédral D₈ non abélien d'ordre 8 = 2³. Un système de calcul formel peut être utilisé pour établir une liste des petits groupes, mais il n'existe aucune classification de tous les groupes finis.

Une étape intermédiaire est la classification des groupes simples finis. Un groupe G non trivial est dit simple si ses seuls sous-groupes normaux sont son sous-groupe trivial (réduit à l'élément neutre) et le groupe G lui-même. Le théorème de Jordan-Hölder désigne les groupes simples comme étant les « briques » utilisées pour construire tous les groupes finis. L'élaboration de la liste des groupes finis simples fut un résultat majeur de la théorie des groupes contemporaine[11]. Richard Borcherds, lauréat de la médaille Fields en 1998, parvint à prouver les conjectures monstrous moonshine, une relation surprenante et profonde entre le plus grand groupe sporadique fini simple (le groupe Monstre) et certaines formes modulaires, qui font partie de l'analyse complexe et de la théorie des cordes, une théorie supposée unifier la description de nombreux phénomènes physiques.

Le cercle trigonométrique du plan complexe muni de la multiplication usuelle est un groupe. Il est topologique car la multiplication est continue. C'est aussi une variété car chaque petit morceau (comme celui indiqué en rouge) est semblable à la droite réelle. Ces deux propriétés en font un groupe de Lie.

Certains espaces topologiques peuvent être munis d'une loi de groupe. Pour que la loi du groupe et la topologie interagissent correctement, les opérations du groupe doivent être continues, c'est-à-dire que g • h, et g⁻¹ ne doivent pas beaucoup varier si g et h varient peu. De tels groupes sont dits groupes topologiques. Les exemples les plus courants sont le groupe additif des nombres réels, le groupe multiplicatif des réels non nuls et de même, (K, +) et (K \ {0}, ×) pour tout corps topologique K, comme le corps des nombres complexes ou celui des nombres p-adiques. Lorsque — comme dans ces six exemples — le groupe est localement compact, il a une mesure de Haar et peut donc être étudié via l'analyse harmonique. La mesure de Haar offre un formalisme abstrait des intégrales invariantes. L'invariance signifie, dans le cas de (R, +) par exemple :

${\displaystyle \int f(x)\,{\rm {d}}x=\int f(x+c)\,{\rm {d}}x}$

pour toute constante c. Les groupes de matrices à coefficients dans ces corps relèvent de ce régime, comme les anneaux adèles et les groupes algébriques adéliques (en), qui sont fondamentaux en théorie des nombres. Les groupes de Galois d'extensions de corps infinis comme le groupe de Galois absolu peuvent aussi être équipés d'une topologie, la topologie de Krull, qui est à son tour centrale pour généraliser la connexion entre les corps et les groupes d'extensions de corps infinis esquissée plus haut. Une généralisation avancée de cette idée, adaptée aux besoins de la géométrie algébrique, est le groupe fondamental étale (en).

Les groupes de Lie (du nom de Sophus Lie) sont des groupes qui ont une structure de variété différentiable, c'est-à-dire qui sont des espaces localement semblables à un espace euclidien d'une certaine dimension. Là encore, la structure additionnelle — ici, la structure de variété — doit être compatible avec celle de groupe, c'est-à-dire que les fonctions correspondant à la multiplication et à l'inverse doivent être différentiables.

Un exemple standard est le groupe général linéaire introduit plus haut : il est un sous-ensemble ouvert de l'espace de toutes les matrices carrées à n lignes et n colonnes car défini par l'ensemble des matrices carrées A telles que

det (A) ≠ 0,

où det désigne le déterminant, qui est une application continue.

Les groupes de Lie sont d'une importance fondamentale en physique : le théorème de Noether exprime l'équivalence qui existe entre les lois de conservation et l'invariance des lois physiques en ce qui concerne les symétries en physique. Les rotations, ainsi que les translations dans l'espace et le temps, sont des symétries de base des lois de la mécanique. Elles peuvent notamment être utilisées pour construire des modèles simples — imposer par exemple un axe de symétrie à une situation conduit généralement à une nette simplification des équations nécessaires à sa description physique. Un autre exemple est la transformation de Lorentz, qui relie les mesures du temps et de la vitesse de deux observateurs en mouvement relatif. Elle peut être déduite par un raisonnement purement théorique sur le groupe des transformations de Galilée de l'espace de Minkowski. Ce dernier sert — en l'absence d'une gravitation significative — à modéliser l'espace-temps en relativité restreinte. Le groupe des isométries de l'espace de Minkowski est appelé groupe de Poincaré. De ce fait, celui-ci joue un rôle pivot en relativité restreinte et, par conséquent, pour la théorie quantique des champs.

• Jean Fresnel, Groupes, Paris, Hermann, 2001 (ISBN 978-2-7056-1448-5)
• Roger Godement, Introduction à la théorie des groupes de Lie, Berlin, Springer, 2004, 305 p. (ISBN 3-540-20034-7, lire en ligne)
• Serge Lang, Algèbre [détail des éditions]
• Felix Ulmer, Théorie des groupes - Cours et exercices, Ellipses, 2012