Calcul par réservoir

Le « réservoir » dans le calcul par réservoir est la structure interne de l'ordinateur. Il doit avoir deux propriétés : il doit être composé d'unités individuelles non linéaires; il doit être capable de stocker des informations. La non-linéarité décrit la réponse de chaque unité à l'entrée, ce qui permet aux calculateur par réservoir de résoudre des problèmes complexes. Les réservoirs sont capables de stocker des informations en connectant les unités dans des boucles internes récurrentes, où l'entrée précédente affecte la réponse suivante. Le changement de réaction dû au passé permet aux ordinateurs d'être entraînés à accomplir des tâches spécifiques[17].

Les réservoirs peuvent être virtuels ou physiques[17]. Les réservoirs virtuels sont généralement générés de manière aléatoire et sont conçus comme des réseaux de neurones[17] - [3]. Les réservoirs virtuels peuvent être conçus pour avoir une non-linéarité et des boucles récurrentes, mais, contrairement aux réseaux de neurones, les connexions entre les unités sont aléatoires et restent inchangées tout au long du calcul[17]. Les réservoirs physiques sont possibles en raison de la non-linéarité inhérente à beaucoup de systèmes naturels. Par exemple l'interaction entre les ondulations à la surface de l'eau relève d'une dynamique non linéaire permettant création d'un réservoir, et un calculateur par réservoir servant à la reconnaissance de formes a été développée en entrant d'abord les ondulations avec des moteurs électriques, puis en enregistrant et en analysant les ondulations dans la couche de lecture[1].

La couche de lecture est une couche neuronale qui effectue une transformation linéaire à la sortie du réservoir[1]. Les poids de la couche de lecture sont entraînés en analysant les motifs spatio-temporels du réservoir après excitation par des entrées connues, et en utilisant une méthode d'entraînement telle qu'une régression linéaire ou une régression Ridge[1]. Sa mise en œuvre dépend de la configuration spatio-temporelle des réservoirs, le détail des méthodes de lecture est adapté à chaque type de réservoir[1]. Par exemple, la lecture pour un calculateur par réservoir utilisant un récipient de liquide comme réservoir pourrait impliquer l'observation de motifs spatio-temporels à la surface du liquide[1].

Un des premiers exemples de calcul de réservoir était le réseau de réverbération contextuelle[18]. Dans cette architecture, une couche d'entrée alimente un système dynamique de grande dimension qui est lu par un perceptron monocouche pouvant être entraîné . Deux types de systèmes dynamiques ont été décrits : un réseau neuronal récurrent avec des poids aléatoires fixes et un système de réaction-diffusion continue inspiré du modèle de morphogenèse d'Alan Turing . Au niveau de la couche entraînable, le perceptron associe des entrées de courant aux signaux qui se répercutent dans le système dynamique ; ces derniers étaient censés fournir un « contexte » dynamique pour les entrées. Dans le langage des travaux ultérieurs, le système de réaction-diffusion a servi de réservoir.

  Le modèle Tree Echo State Network (TreeESN) représente une généralisation du cadre de calcul de réservoir aux données structurées en arbre[19].

Ce type de traitement de l'information est plus pertinent lorsque les signaux d'entrée dépendant du temps s'écartent de la dynamique interne du mécanisme[20]. Ces départs provoquent des transitoires ou des altercations temporaires qui sont représentées dans la sortie de l'appareil[20].

L'extension du framework de calcul de réservoir vers le Deep Learning, avec l'introduction du Deep Reservoir Computing et du modèle Deep Echo State Network (DeepESN) [21] - [22] - [23] permet de développer des modèles efficacement entraînés pour le traitement hiérarchique de données temporelles, permettant en même temps de cherche le rôle inhérent de la composition en couches dans les réseaux de neurones récurrents .

Les états gaussiens sont une classe paradigmatique d'états des systèmes quantiques à variables continues . Bien qu'ils puissent aujourd'hui être créés et manipulés dans, par exemple, des plates-formes optiques de pointe[26], naturellement robustes à la décohérence, il est bien connu qu'ils ne sont pas suffisants, par exemple, pour l'informatique quantique universelle car les transformations qui préserver la nature gaussienne d'un état sont linéaires[27]. Normalement, la dynamique linéaire ne serait pas non plus suffisante pour le calcul de réservoir non trivial. Il est néanmoins possible d'exploiter une telle dynamique à des fins de calcul de réservoir en considérant un réseau d' oscillateurs harmoniques quantiques en interaction et en injectant l'entrée par remises à zéro périodiques d'état d'un sous-ensemble des oscillateurs. Avec un choix approprié de la façon dont les états de ce sous-ensemble d'oscillateurs dépendent de l'entrée, les observables du reste des oscillateurs peuvent devenir des fonctions non linéaires de l'entrée adaptées au calcul du réservoir ; en effet, grâce aux propriétés de ces fonctions, même le calcul universel de réservoir devient possible en combinant les observables avec une fonction de lecture polynomiale. En principe, de tels ordinateurs de réservoir pourraient être mis en œuvre avec des processus paramétriques optiques multimodes contrôlés[28], cependant, l'extraction efficace de la sortie du système est difficile, en particulier dans le régime quantique où la mesure en retour doit être prise en compte.

Dans cette architecture, le couplage aléatoire entre les sites du réseau confère au réservoir la propriété de « boîte noire » inhérente aux processeurs de réservoir[10]. Le réservoir est alors excité, qui sert d'entrée, par un champ électromagnétique incident. La lecture se produit sous la forme de nombres professionnels de sites de réseau, qui sont naturellement des fonctions non linéaires de l'entrée[10].

Dans cette architecture, le couplage mécanique quantique entre les spins d'atomes voisins dans le solide moléculaire fournit la non-linéarité requise pour créer l'espace de calcul de plus grande dimension[11]. Le réservoir est excité radiofréquence électromagnétique réglée avec les fréquences de résonance des spins nucléaires pertinents[11]. La lecture se produit en mesurant les états de rotation nucléaire[11].

Le modèle le plus répandu de l'informatique quantique est le modèle basé sur les portes où le calcul quantique est effectué par des applications séquentielles de portes quantiques unitaires sur les qubits d'un ordinateur quantique. Une théorie pour la mise en œuvre du calcul de réservoir sur un ordinateur quantique basé sur des portes avec des démonstrations de preuve de principe sur un certain nombre d'ordinateurs quantiques supraconducteurs bruyants à échelle intermédiaire (NISQ) d'IBM [29] a été présentée dans une revue[12] scientifique.

: document utilisé comme source pour la rédaction de cet article.

(en) David Verstraeten, Reservoir Computing: computation with dynamical systems, janvier 2009, 206 p. (ISBN 978-90-8578-309-1, lire en ligne)