Factorisation de Cholesky

La matrice symétrique A :

$${\displaystyle {\begin{pmatrix}1&1&1&1\\1&5&5&5\\1&5&14&14\\1&5&14&15\\\end{pmatrix}}}$$

est égale au produit de la matrice triangulaire L :

$${\displaystyle {\begin{pmatrix}1&0&0&0\\1&2&0&0\\1&2&3&0\\1&2&3&1\\\end{pmatrix}}}$$

avec à sa droite sa transposée L^T :

$${\displaystyle {\begin{pmatrix}1&1&1&1\\0&2&2&2\\0&0&3&3\\0&0&0&1\\\end{pmatrix}}}$$

On cherche la matrice :

${\displaystyle L={\begin{bmatrix}l_{11}\\l_{21}&l_{22}\\\vdots &\vdots &\ddots \\l_{n1}&l_{n2}&\cdots &l_{nn}\end{bmatrix}}}$

De l'égalité A=LL^T on déduit :

${\displaystyle a_{ij}=\left(LL^{T}\right)_{ij}={\sum _{k=1}^{n}l_{ik}l_{jk}}={\sum _{k=1}^{\min \left\{i,j\right\}}l_{ik}l_{jk}},\;1\leq i,j\leq n}$

puisque l_pq=0 si 1 ≤ p < q ≤ n.

La matrice A étant symétrique, il suffit que les relations ci-dessus soient vérifiées pour i ≤ j, c'est-à-dire que les éléments l_ij de la matrice L doivent satisfaire :

${\displaystyle a_{ij}={\sum _{k=1}^{i}l_{ik}l_{jk}},\;1\leq i\leq j\leq n}$

Pour i=1, on détermine la première colonne de L :

${\displaystyle a_{11}=l_{11}l_{11}}$ d'où ${\displaystyle l_{11}={\sqrt {a_{11}}}}$

${\displaystyle a_{1j}=l_{11}l_{j1}}$ d'où ${\displaystyle l_{j1}={\frac {a_{1j}}{l_{11}}},\;\;\;2\leq j\leq n}$

On détermine la i-ème colonne de L 2 ≤ i ≤ n, après avoir calculé les (i–1) premières colonnes :

${\displaystyle a_{ii}=l_{i1}l_{i1}+\ldots +l_{ii}l_{ii}}$ d'où ${\displaystyle l_{ii}={\sqrt {a_{ii}-{\sum _{k=1}^{i-1}l_{ik}^{2}}}}}$

${\displaystyle a_{ij}=l_{i1}l_{j1}+\ldots +l_{ii}l_{ji}}$ d'où ${\displaystyle l_{ji}={\frac {a_{ji}-{\sum _{k=1}^{i-1}l_{ik}l_{jk}}}{l_{ii}}},\;\;\;i+1\leq j\leq n}$

Il résulte du théorème précédent qu'il est possible de choisir tous les éléments l_ii>0 en assurant que toutes les quantités

${\displaystyle a_{11},\ldots ,a_{ii}-{\sum _{k=1}^{i-1}l_{ik}^{2}},\ldots }$

sont positives.

La décomposition de Cholesky alternative permet d'éviter l'utilisation des racines carrées au sein des sommes, source potentielle de problème en calcul numérique, elle se calcule de la façon suivante[2] :

${\displaystyle A=LDL^{\mathrm {T} }}$

où D est une matrice diagonale, et L une matrice triangulaire inférieure avec des 1 sur sa diagonale.

${\displaystyle D_{jj}=A_{jj}-\sum _{k=1}^{j-1}L_{jk}^{2}D_{kk}}$

${\displaystyle L_{ij}={\frac {1}{D_{jj}}}\left(A_{ij}-\sum _{k=1}^{j-1}L_{ik}L_{jk}D_{kk}\right),\qquad {\text{pour }}i>j.}$

Les factorisations LDL^T et LL^T (notez que la matrice L est différente dans les deux cas) sont liées :

${\displaystyle A=LDL^{\mathrm {T} }=LD^{\frac {1}{2}}D^{\frac {1}{2}}L^{\mathrm {T} }=LD^{\frac {1}{2}}(D^{\frac {1}{2}})^{\mathrm {T} }L^{\mathrm {T} }=LD^{\frac {1}{2}}(LD^{\frac {1}{2}})^{\mathrm {T} }}$

La dernière expression étant le produit d'une matrice triangulaire et de sa transposée, de la même manière que dans la factorisation LL^T.

On remarquera que la racine carrée d'une matrice diagonale (ici, D^1/2) se calcule trivialement en prenant les racines carrées de chacun de ses éléments.

La décomposition porte le nom d'André-Louis Cholesky un officier et ingénieur français. Elle figure dans le manuscrit intitulé « Sur la résolution numérique des systèmes d'équations linéaires », manuscrit porté en 2005 aux Archives de l'École Polytechnique. Daté du 2 décembre 1910, son contenu n'était auparavant connu que par une publication du commandant Benoît, qui décrivit la méthode de Cholesky en 1924, soit plusieurs années après sa mort[3]. Il est probable que Cholesky ait découvert cette méthode en 1902[3].

La méthode, définie pour un problème de topographie, resta longtemps inconnue des mathématiciens[3]. Elle fut remise en avant par John Todd (en) en 1946 dans son cours d'analyse numérique au King's College de Londres[3].

Cette méthode est aujourd'hui centrale en analyse numérique.