Machine de Boltzmann restreinte

Dans sa forme la plus simple, une machine de Boltzmann est composée d'une couche de neurones qui reçoit l'entrée, ainsi que d'une couche de neurones cachée. Si on suppose que les neurones d'une même couche sont indépendants entre eux, on appelle cette configuration une machine de Boltzmann restreinte (RBM).

Machine de Boltzmann Restreinte

On définit l'énergie pour une configuration de donnée de la manière suivante :

${\displaystyle E=-\left(\sum _{i,j}w_{ij}\,x_{i}\,h_{j}+\sum _{i}b_{i}\,x_{i}+\sum _{j}c_{j}h_{j}\right)}$

Avec:

• ${\displaystyle w_{ij}}$ est le poids entre le neurone ${\displaystyle j}$ et le neurone ${\displaystyle i}$ ;
• ${\displaystyle x_{i}}$ est l'état, ${\displaystyle x_{i}\in \{0,1\}}$, du neurone visible ${\displaystyle i}$ ;
• ${\textstyle h_{j}}$ est l'état du neurone caché ${\textstyle j}$;
• ${\displaystyle b_{i}}$ et ${\displaystyle c_{j}}$ sont respectivement les biais des neurones ${\displaystyle x_{i}}$ et ${\displaystyle h_{j}}$.

La probabilité conjointe d'avoir une configuration ${\displaystyle (x_{i},h_{j})}$ est alors donnée par[3]

${\displaystyle P(x_{i},h_{j})=\exp(-E(x_{i},h_{j}))/Z}$

Avec :

• ${\displaystyle E}$ la fonction d'énergie définie ci-dessus ;
• ${\displaystyle Z}$ une constante de normalisation, qui fait en sorte que la somme de toutes les probabilités fasse 1.

La machine de Boltzmann s’entraîne à l'aide d'un apprentissage non supervisé. On cherche à minimiser la log-vraisemblance. La dérivée de la log-vraisemblance donne l'expression suivante:

${\displaystyle {\frac {\partial \left[-\log(p(x^{(t)}))\right]}{\partial \theta }}=\mathbb {E} _{h}\left[{\frac {\partial E(x^{(t)},h)}{\partial \theta }}|x^{(t)}\right]-\mathbb {E} _{x,y}\left[{\frac {\partial E(x,h)}{\partial \theta }}\right]}$

Avec:

• ${\displaystyle \theta }$ les variables du système (les poids ou le biais) ;
• ${\displaystyle \mathbb {E} _{x,y}}$ l'espérance mathématique sur les variables aléatoires ${\displaystyle x}$ et ${\displaystyle y}$ ;
• ${\displaystyle x^{(t)}}$ une valeur du jeu de données ;
• ${\displaystyle E(x,h)}$ l'énergie définie ci-dessus.

On remarque la présence de deux termes dans cette expression, appelés phase positive et phase négative. La phase positive se calcule aisément pour le biais et pour la matrice des poids.

On obtient alors[4]:

${\displaystyle \mathbb {E} _{h}\left[{\frac {\partial E(x^{(t)},h)}{\partial W_{ij}}}|x^{(t)}\right]=-h(x^{(t)})*{x^{(t)}}^{\mathsf {T}}}$

Avec h(x) l'état de la couche cachée sachant x donnée par la formule

${\displaystyle h(x)=sigm(W*x+b)}$

La partie la plus compliquée est de calculer ce qu'on appelle la phase négative. On ne peut pas la calculer directement car on ne connaît pas la constante de normalisation du système. Pour pouvoir effectuer une descente de gradient, on calcule ce que l'on appelle la reconstruction de l'entrée ${\displaystyle x^{(t)}}$. En effet, les propriétés de symétrie du système permettent de calculer l'entrée estimée par le modèle, il suffit d'appliquer la formule:

${\displaystyle x_{rec}=W^{\mathsf {T}}*h(x)+c}$

avec ${\displaystyle c}$ le biais de la couche cachée de neurones ${\displaystyle H}$.

De la même manière, on peut recalculer l'état de la couche cachée en réitérant le procédé. Finalement, on peut résumer l'algorithme de descente du gradient ainsi[5] (on parle de l'algorithme de Contrastive Divergence, couramment abrégé CD-k)

x <= x(t)
h <= W*x + b
phasePositive <= -h*Transpose(x)
Pour i allant de 1 à k:
    x = Transpose(W) * h(x) + c
    h = W*x + b
phaseNegative <= -h*transpose(x)
gradient <= phasePositive-phaseNegative
W <= W + alpha*gradient
c <= c + alpha*(x(t)-x)
b <= b + alpha*(h(x(t)) - h)

La machine de Boltzmann restreinte est en fait un cas particulier de Machine de Boltzmann où les neurones d'une même couche sont indépendants entre eux. Les calculs sont grandement facilités par cette approximation mais les résultats obtenus sont moins bons.