Complexité générique des algorithmes

Soit ${\displaystyle I}$ un ensemble infini de données pour un problème algorithmique.

Définition. Une fonction taille sur ${\displaystyle I}$ est une fonction${\displaystyle \sigma :I\to \mathbb {N} }$ qui a une image infinie. La boule de rayon ${\displaystyle n}$ est ${\displaystyle B_{n}=\{x\in I\mid \sigma (x)\leq n\}}$.

Si les données sont codées comme mots sur un alphabet fini, la taille est fréquemment la longueur du mot.

Soit ${\displaystyle \{\mu _{n}\}}$ un ensemble de distributions de probabilité, où ${\displaystyle \mu _{n}}$${\displaystyle \mu _{n}}$ est une distribution de probabilité sur la boule ${\displaystyle B_{n}}$. Si les boules ${\displaystyle B_{n}}$ sont finies, on peut prendre pour ${\displaystyle \mu _{n}}$ la distribution uniforme, et c'est le cas le plus fréquent.

Définition. La densité asymptotique d'une partie ${\displaystyle X\subset I}$ est

${\displaystyle \rho (X)=\lim _{n\to \infty }\mu _{n}(X\cap B_{n})}$,

quand cette limite existe.

Quand les boules ${\displaystyle B_{n}}$ sont finies et ${\displaystyle \mu _{n}}$ est la mesure uniforme, on a

${\displaystyle \rho (X)=\lim {\frac {|X\cap B_{n}|}{|B_{n}|}}.}$

Dans ce cas, il est souvent commode d'utiliser les sphères ${\displaystyle I_{n}=\{x\in I\mid \sigma (x)=n\}}$ à la place des boules, et de définir

${\displaystyle \rho '(X)=\lim {\frac {|X\cap I_{n}|}{|I_{n}|}}}$.

Par le théorème de Stolz-Cesàro, la densité ${\displaystyle \rho (X)}$ existe si ${\displaystyle \rho '(X)}$ existe, et dans ce cas les deux valeurs sont égales.

Definition. Une partie ${\displaystyle X\subseteq I}$ est générique si ${\displaystyle \rho (X)=1}$ et elle est négligeable si ${\displaystyle \rho (X)=0}$. ${\displaystyle X}$ est exponentiellement (respectivement superpolynomialement) générique si la vitesse de convergence vers la limite ${\displaystyle \rho (X)}$ est exponentielle (respectivement. superpolynomiale). Une partie ${\displaystyle X\subseteq I}$ est fortement générique s'il existe ${\displaystyle \varepsilon >0}$ telle que

${\displaystyle {\frac {|I_{n}\setminus X|}{|I_{n}|}}\leq 2^{\varepsilon n}}$

pour presque tout entier naturel ${\displaystyle n}$.

Definition. Un algorithme est dans la classe GenP (pour « generically polynomial time ») s'il ne donne jamais de réponse fausse, et s'il donne une réponse juste en temps polynomial (en) sur un ensemble générique de données. Un problème est lui-même dans la classe GenP s'il possède un algorithme dans GenP. On définit de même GenL (« generically linear time ») comme classe pour le temps linéaire (en)), GenE (« generically exponential time », pour le temps exponentiel avec un exposant linéaire) , GenExp (« generically exponential time » ), etc. ExpGenP est la sous-classe de GenP pour lequel l'ensemble générique correspondant est exponentiellement générique.

Plus généralement, pour toute fonction ${\displaystyle f:\mathbb {N} \to \mathbb {N} }$, on peut définir la classe Gen(f) correspondant à la complexité en temps ${\displaystyle O(f)}$ sur un ensemble générique de données.

Definition. Un algorithme résout génériquement un problème s'il ne donne jamais de réponse fausse et s'il donne un réponse juste sur un ensemble générique de données. Un problème est génériquement résoluble s'il peut être résolu génériquement par un algorithme.

• Les célèbres problèmes indécidables que sont le problème des mots, le problème de la conjugaison et le problème de l'apparenance, sont décidables en temps générique polynomial[1].

• Le problème des mots et le problème de la conjugaison sont dans la classe GenP pour les groupes finiment présentés.

• Le problème bien connu de l'énumération des cosets (en) possède une borne supérieure calculable sur un ensemble générique d'entrées[6].

• L'algorithme de Whitehead qui teste si un élément d'un groupe libre est envoyé sur un autre par un automorphisme a une borne supérieure exponentielle dans le pire cas, mais s'avère être efficace en pratique. En fait, il est dans la classe GenL[7].

• Le problème de conjugaison dans les extensions HNN peut être insoluble même pour les groupes libres. En revanche, il est en temps générique cubique[8]. Pour certains groupes, des résultats plus précis ont été obtenus par Diekert et ses coauteurs[9]

• Le problème de l'arrêt des machines de Turing avec une bande infinie d'un côté one-sided tape est la plupart du temps facilement décidable easily decidable most of the time; il est dans la classe GenP[10].

• Le problème de correspondance de Post est dans ExpGenP[3].

Le problème de décision pour l'arithmétique de Presburger admet un borne inférieure doublement exponentielle dans le pire des cas[11] et une borne supérieure triplement exponentielle dans le pire des cas. On sait que la complexité générique n'est pas dans ExpGenP[12].

Il est bien connu que des problèmes NP-complets peuvent être en moyenne faciles, et il n'est pas surprenant que quelques-uns sont aussi génériquement faciles.

• Le problème 3-SAT est dans la classe ExpGenP[3].

• Le subset sum problem est dans la classe GenP[3].

Il existe une version pour la complexité générique de la notion de fonction à sens unique[13] qui donne la même classe de fonctions mais permet d'autres hypothèses sur la sécurité.

Tout un ensemble de travaux[14] - [15] - [16] est consacré à la cryptanalyse du protocole d'échange de clés de Anshel-Anshel-Goldfeld (en) dont la sécurité est basé sur des hypothèses sur le groupe de tresses. Cette série culmine dans un article[17] qui applique des techniques de complexité générique pour obtenir une analyse complète de l'attaque basés sur la longueur et des conditions dans lesquelles elle aboutit. Le point de vue générique suggère également une attaque nouvelle appelée attaque par quotient, et une version plus sure du protocole de Anshel-Anshel-Goldfeld.

L'algorithme de Brzozowski pour la minimisation des automates finis est un algorithme dont la complexité est exponentielle dans le pire des cas. Il est génériquement super-polynomial[18]. Dans certains cas, on peut en analyser la complexité en moyenne[19].

Le théorème de Rice stipule que pour un ensemble ${\displaystyle F}$ de fonction partielles calculables de ${\displaystyle \mathbb {N} }$ dans ${\displaystyle \{0,1\}}$, il est indécidable si la fonction calculée par une machine de machine de Turing donnée est une fonction de ${\displaystyle F}$, sauf dans les cas triviaux où ${\displaystyle F}$ est vide ou son complémentaire est vide. La version générique de ce théorème est la suivante :

Théorème[20]. Soit ${\displaystyle I}$ l'ensemble de toutes les machines de Turing. Pour un ensemble ${\displaystyle F}$ de fonctions de ${\displaystyle \mathbb {N} }$ dans lui-même qui n’est pas vide ainsi que son complément, le problème de savoir si une machine de Turing donnée calcule une fonction de F est indécidable sur tout sous-ensemble génériquement exponentiel de ${\displaystyle I}$.

Par ailleurs, on a deux résultats généraux:

Théorème[1]. L'ensemble des langages formels génériquement calculables a mesure nulle.

Théorème[1]. Il existe une hiérarchie infinie de classes de complexité génériques. Plus précisément, pour toute fonction de complexité propre ${\displaystyle f}$, on a Gen${\displaystyle (f)\subsetneq }$Gen${\displaystyle (f^{3})}$.

Un algorithme est dit en temps presque polynomial s'il s'arrête en temps ${\displaystyle p(n)}$ sur toutes les entrées de taille ${\displaystyle n}$, sauf pour ${\displaystyle p(n)}$ d'entre elles. Clairement, un tel algorithme est dans la classe GenP. La classe GenP contient des problèmes NP-complet, et pas les algorithmes en temps presque polynomial. Ainsi, les algorithmes en temps presque polynomial sont une famille plus petite que la classe GenP.

La complexité générique est proche de la complexité en moyenne, avec quelques différences significatives.

La complexité générique mesure directement les performances d'un algorithme sur la plupart des données, alors que la complexité en moyenne cherche un équilibre entre instance faciles et difficiles. De plus, la complexité générique s'applique naturellement aussi aux problèmes indécidables. Revenons aux définitions.

Supposons que ${\displaystyle {\mathcal {A}}}$ est un algorithme dont la complexité en temps ${\displaystyle T:I\to \mathbb {N} }$ est polynomiale en moyenne sur ${\displaystyle \mu }$. Que peut-on en déduire sur le comportement de ${\displaystyle {\mathcal {A}}}$ sur des inputs générique?

Exemple. Soit ${\displaystyle I}$ l'ensemble des mots sur ${\displaystyle \{0,1\}}$, la taille d'un mot étant sa longueur. Soit ${\displaystyle I_{n}}$ l'ensemble des mots de longueur ${\displaystyle n}$, et soit ${\displaystyle \mu _{n}}$ la mesure équiprobable sur ${\displaystyle I_{n}}$. Si que ${\displaystyle T(w)=n}$ pour tous les mots de ${\displaystyle I_{n}}$ sauf un, et ${\displaystyle T(w)=2^{2^{n}}}$ pour ce mot exceptionnel, alors T est dans GenP, mais n'est pas poynomial en moyenne puisque le mot exceptionnel emporte tout.

Exemple. Soit ${\displaystyle I}$ comme avant, la taille étant la longueur. Soit ${\displaystyle \mu (w)=2^{-2|w|-1}}$ et ${\displaystyle T(w)=2^{|w|}}$. Alors T n'est pas dans GenP, et pourtant T est polynomial en moyenne'.

Dans ces deux exemples la complexité générique est plus proche du comportement sur des entrées typiques que de la complexité en moyenne. Dit de manière un peu sommaire, un algorithme qui est polynomial en moyenne n'a qu'une fraction sous-polynomiale de données pour lesquelles le temps est super-polynomial.