Codage de l'information

On définit un alphabet comme un ensemble non vide de symboles, par exemple :

• A = {a,b,c,…,z}, l'alphabet latin ;
• A = {0,1,2,…,9}, les chiffres dits arabes ;
• A = {0,1,…,9,A,B,…,F}, les chiffres hexadécimaux ;
• A = {0,1}, l'alphabet de la logique booléenne ;
• A = {A,T,G,C}, les bases de l'ADN qui codent notre génome (cet alphabet est le sujet principal de la bio-informatique).

On nomme lettre un élément d'un alphabet.

On nomme mot une suite finie de lettres. La suite qui ne contient aucune lettre est nommée mot vide, et notée ε.

On nomme langage un ensemble de mots associé à certaines règles d'interprétation (sans cette dernière restriction, n'importe quelle table de valeurs aléatoires pourrait être nommée langage). Dans le cas de l'ADN, ces règles sont contenues dans le ribosome ; dans les langues naturelles, elles sont contenues dans leur lexique ; dans un ordinateur, elles sont présentes dans les circuits de l'unité centrale.

Soit un alphabet ${\displaystyle A}$ et un entier naturel ${\displaystyle n}$.
On note ${\displaystyle A^{n}}$ l'ensemble de tous les mots de longueur ${\displaystyle n}$ sur ${\displaystyle A}$ et ${\displaystyle A^{*}}$ l'ensemble de tous les mots de ${\displaystyle A}$.
On dispose de : ${\displaystyle A^{*}=\bigcup _{n\geq 0}^{\infty }A^{n}}$ (fermeture de Kleene).
On définit l'opération de concaténation ${\displaystyle \cdot :A^{*}\times A^{*}\rightarrow A^{*}}$ qui à ${\displaystyle (u,v)}$ associe un mot ${\displaystyle w}$ qui est constitué de la suite de lettres de ${\displaystyle u}$ puis celle de ${\displaystyle v}$.
Exemple : « marc » ${\displaystyle \cdot }$ « et sophie » = « marc et sophie » (les guillemets servent à délimiter les symboles, ce ne sont pas des éléments de ${\displaystyle A}$).

• Propriétés :
  • ${\displaystyle \cdot }$ est associatif : ${\displaystyle \forall u,v,w\in A^{*},(u\cdot v)\cdot w=u\cdot (v\cdot w)}$
  • ${\displaystyle \cdot }$ admet ε comme élément neutre : ${\displaystyle \forall u\in A^{*},u\cdot \epsilon =\epsilon \cdot u=u}$
  • ${\displaystyle \cdot }$ n'est pas commutative

Soit L et M deux langages.
Un codage c de L dans M est un morphisme (pour l'opération ${\displaystyle \cdot }$) injectif. En d'autres termes, c'est une correspondance entre les mots de L et ceux de M, où à tout mot de L est associé un unique mot de M et tel que le codage de la concaténée soit égale à la concaténée des codages. (${\displaystyle \forall u,v\in L,c(u.v)=c(u).c(v)}$).

Un langage L sur un alphabet A est un code si et seulement s'il n'existe pas deux factorisations différentes des mots ${\displaystyle A^{*}}$ avec des mots de L.