L'analyse numérique propose des méthodes pour l'étude des problèmes mathématiques à l'aide des ordinateurs et donc des algorithmes.
Un des objectifs principaux de l'analyse numérique est de discuter les conséquences de l'implémentation numérique.
Le principe de la méthode de Gauss est de se ramener, par des opérations simples (combinaisons linéaires), à un système triangulaire équivalent, qui sera donc facile à inverser.
Commençons par un exemple pour une matrice 3 × 3.
Nous donnerons ensuite la méthode pour une matrice n× n.
Elle consiste en la manipulation suivante : on écrit A sous la forme A=D−L−U A = D − L − U , où D est une matrice diagonale, −L est une matrice triangulaire inférieure (L pour Lower), et −U est une matrice triangulaire supérieure (U pour Upper).