Caractère d'un groupe compact

G désigne un groupe compact. Une représentation (continue) complexe de G de dimension finie est un morphisme continu ρ:G→GL(V), où V est un espace vectoriel complexe de dimension finie. On appelle caractère associé à ρ l'application χ_ρ définie par :

${\displaystyle \forall s\in G,\,\chi _{\rho }(s)=Tr\left[\rho (s)\right]}$.

où Tr désigne la trace. On parle simplement de caractère ou de caractère irréductible pour désigner le caractère associé à une représentation ou une représentation irréductible.

Deux représentations ρ₁:G→GL(V₁) et ρ₂:G→GL(V₂) sont équivalentes s'il existe un isomorphisme linéaire T:V₁→V₂ tel que pour tout g∊G on a : ρ₂(g)∘T=T∘ρ₁(g). Les caractères associés à des représentations équivalentes sont égaux.

Pour un groupe compact, toute représentation complexe de dimension finie est équivalente à une représentation unitaire. Certains auteurs ne parlent donc dans ce cadre que de représentations unitaires.

Les caractères associés aux représentations duale ρ* et conjuguée ρ de ρ sont égaux au conjugué du caractère associé à ρ :

${\displaystyle \chi _{\rho ^{*}}=\chi _{\overline {\rho }}={\overline {\chi _{\rho }}}.}$

La seconde égalité est immédiate et la première résulte du fait que ρ* est équivalente à ρ, ce qui peut se démontrer en se ramenant – à nouveau par équivalence – au cas où ρ est unitaire.

Le caractère associé à la somme directe de deux représentations est égal à la somme des caractères qui leur sont associés :

${\displaystyle \chi _{\rho _{1}\oplus \rho _{2}}=\chi _{\rho _{1}}+\chi _{\rho _{2}}.}$

Le caractère associé au produit tensoriel de deux représentations est égal au produit des caractères qui leur sont associés :

${\displaystyle \chi _{\rho _{1}\otimes \rho _{2}}=\chi _{\rho _{1}}.\chi _{\rho _{2}}.}$

• Tout caractère est une fonction continue (donc bornée et de carré intégrable pour la mesure de Haar λ).

En effet, la fonction χ_ρ est continue, comme composée de deux applications continues : ρ et l'application trace. Son image est donc une partie compacte (donc bornée) de ℂ. A forti χ_ρ est de carré intégrable, car λ est une mesure finie. De plus, toute borne explicite pour ρ en fournit une pour χ_ρ car si V est de dimension n, |χ_ρ(g)|≤n║ρ(g)║ (en particulier si ρ est unitaire, |χ_ρ(g)|≤n).

• Les caractères sont des fonctions centrales : ils sont constants sur les classes de conjugaison de G.

En effet, pour tous s et t dans G, on a :

${\displaystyle \chi _{\rho }(sts^{-1})=Tr\left[\rho (sts^{-1})\right]=Tr\left[\rho (s)\rho (t)\rho (s)^{-1}\right]=Tr\left[\rho (t)\right]=\chi _{\rho }(t)}$.

• Pour deux représentations irréductibles non équivalentes ρ et σ, les caractères associés sont orthogonaux au sens où${\displaystyle \int _{G}\chi _{\rho }(t).{\overline {\chi _{\sigma }(t)}}~\mathrm {d} \lambda (t).}$

En effet, pour toute représentation (V, ρ), le caractère χ_ρ appartient au sous-espace C(ρ) engendré, dans l'espace de Hilbert L²(λ), par les coefficients matriciels de ρ (dans n'importe quelle base de V). Or si ρ et σ sont irréductibles et non équivalentes, C(ρ) et C(σ) sont orthogonaux.

L'espace de Banach L²(λ), muni du produit de convolution défini par :

${\displaystyle \forall f,g\in \mathrm {L} ^{2}(G),\,f*g(s)=\int _{G}f(t).g(s^{-1}t)~\mathrm {d} \lambda (t),}$

est une algèbre de Banach. Son centre est la sous-algèbre fermée des fonctions centrales mesurables sur G de carré intégrable. Les caractères χ_ρ, quand ρ parcourt un ensemble maximal de représentations (continues, complexes, de dimensions finies) irréductibles non équivalentes, forment une base hilbertienne de ce centre. Le sous-espace dense qu'ils engendrent est l'algèbre des caractères.