Calcul ombral

La méthode symbolique repose sur des analogies de notation pour obtenir des identités concernant des suites de nombres indexées en « faisant comme si » les indices étaient des exposants. Présenté de la sorte, cela semble absurde, mais cela marche pourtant ; les résultats ainsi obtenus peuvent ensuite être démontrés par des méthodes plus complexes, mais en revanche parfaitement rigoureuses. Voici un exemple mettant en jeu les polynômes de Bernoulli : considérons le développement binomial ordinaire

${\displaystyle (x+y)^{n}=\sum _{k=0}^{n}{\binom {n}{k}}x^{n-k}y^{k}}$

et la relation remarquablement similaire sur les polynômes de Bernoulli :

${\displaystyle \mathrm {B} _{n}(x+y)=\sum _{k=0}^{n}{\binom {n}{k}}\mathrm {B} _{n-k}(x)y^{k}}$

Comparons aussi la dérivée ordinaire

${\displaystyle {\frac {\mathrm {d} }{\mathrm {d} x}}x^{n}=nx^{n-1}}$

à la relation très similaire sur les polynômes de Bernoulli :

${\displaystyle {\frac {\mathrm {d} }{\mathrm {d} x}}\mathrm {B} _{n}(x)=n\mathrm {B} _{n-1}(x)}$.

Ces similarités nous permettent de construire des « démonstrations » ombrales, qui, de prime abord ne peuvent pas être correctes, mais qui semblent donner tout de même des formules exactes. Ainsi, par exemple, en supposant que l'indice n − k est un exposant :

${\displaystyle \mathrm {B} _{n}(x)=\sum _{k=0}^{n}{\binom {n}{k}}b^{n-k}x^{k}=(b+x)^{n}}$

et en dérivant, on obtient le résultat escompté :

${\displaystyle \mathrm {B} _{n}'(x)=n(b+x)^{n-1}=n\mathrm {B} _{n-1}(x)}$.

Dans cette formule, la variable b est une ombre. On trouvera un autre exemple plus détaillé dans l'article « Formule de Faulhaber ».

Des relations similaires ont aussi été observées dans la théorie des différences finies. La version ombrale des séries de Taylor est donnée par une expression similaire impliquant les k-èmes « différences vers l'avant » ${\displaystyle \Delta ^{k}[f]\,}$ d'une fonction polynomiale f,

${\displaystyle f(x)=\sum _{k=0}^{\infty }{\frac {\Delta ^{k}[f](0)}{k!}}(x)_{k}}$

où

${\displaystyle (x)_{k}=x(x-1)(x-2)\cdots (x-k+1)}$

est la factorielle décroissante de Pochhammer. Une relation similaire est valable pour les différences vers l'arrière et la factorielle croissante.

Dans les années 1930 et 1940, Eric Temple Bell a essayé sans succès de donner à cette sorte d'argument une rigueur logique. Le combinatoriste John RiordanJohn Riordan (mathématicien), dans son ouvrage Combinatorial Identities publié dans les années 1960, a utilisé ces techniques extensivement.

Dans les années 1960, un autre combinatoriste, Gian-Carlo Rota, montra que le mystère s'évanouissait si on considère la forme linéaire L sur les polynômes en y définie par

${\displaystyle \mathrm {L} (y^{n})=\mathrm {B} _{n}(0)=\mathrm {B} _{n}}$.

Alors, on peut écrire

${\displaystyle \mathrm {B} _{n}(x)=\sum _{k=0}^{n}{\binom {n}{k}}\mathrm {B} _{n-k}x^{k}=\sum _{k=0}^{n}{\binom {n}{k}}\mathrm {L} (y^{n-k})x^{k}=\mathrm {L} \left(\sum _{k=0}^{n}{\binom {n}{k}}y^{n-k}x^{k}\right)=\mathrm {L} ((y+x)^{n})}$,

etc.

Rota affirma par la suite que beaucoup de confusions résultaient de l'échec à distinguer les trois relations d'équivalence qui apparaissent dans ce sujet, toutes étant désignées par le symbole « = ».

Dans un article publié en 1964, Rota utilisa des méthodes symboliques pour établir la relation de récurrence satisfaite par les nombres de Bell, qui énumèrent les partitions des ensembles finis.

Dans l'article de Roman et Rota, le calcul ombral devient l'étude de l'algèbre ombrale, définie comme l'algèbre des formes linéaires sur l'espace vectoriel des polynômes de variable x, où le produit des formes linéaires L₁ et L₂ est défini par

${\displaystyle \langle \mathrm {L} _{1}\mathrm {L} _{2}\mid x^{n}\rangle =\sum _{k=0}^{n}{\binom {n}{k}}\langle \mathrm {L} _{1}\mid x^{k}\rangle \langle \mathrm {L} _{2}\mid x^{n-k}\rangle }$.

Lorsque les suites de polynômes remplacent les suites de nombres comme images de yⁿ sous l'application linéaire L, la méthode ombrale est vue comme un composant essentiel de la théorie générale des polynômes de Rota ; c'est cette théorie qui constitue le calcul ombral au sens moderne. Un petit échantillon de cette théorie peut être trouvé dans l'article « Type binomial » ; un autre peut être trouvé dans l'article « Suite de Sheffer ».