Trigonalisation et polynômes annulateurs

Un polynôme $P$ annule un endomorphisme $u$ lorsque $P(u)=0$. Le polynôme minimal est l'unique polynôme unitaire de plus petit degré qui l'annule. Il divise tout polynôme annulateur. Le théorème de Cayley-Hamilton affirme que le polynôme caractéristique annule la matrice, mais il n'est pas nécessairement minimal.

Sur un espace de dimension finie, une matrice est trigonalisable sur le corps choisi si et seulement si son polynôme caractéristique y est scindé. La diagonalisation est plus restrictive : le polynôme minimal doit être scindé à racines simples. Pour une matrice nilpotente $N$, le polynôme minimal est $X^r$, où $r$ est le plus petit entier positif tel que $N^r=0$.

Pour $N=\begin{pmatrix}0&1&0\\0&0&1\\0&0&0\end{pmatrix}$, $N^2$ conserve un seul coefficient 1 en position $(1,3)$ et $N^3=0$. L'indice de nilpotence est 3 car $N^2\ne0$. Pour $A=2I+N$, le polynôme minimal est $(X-2)^3$. La matrice est déjà triangulaire mais pas diagonalisable : si elle l'était avec seule valeur propre 2, elle serait égale à $2I$, ce qui est faux.

Le tableau suit la disparition des diagonales supérieures sous les puissances de $N$. Le premier rang d'annulation, et non la taille seule de la matrice, donne l'indice. Une matrice nulle de taille trois a l'indice 1.