13.3 Utilisation de la décomposition QR

La décomposition \(QR\) intervient dans la recherche des solutions d'un système au sens des moindres carrés.

En effet, considérons un système incompatible \[ A\boldsymbol{x}=\boldsymbol{b}\,.\]

Théorème: Soit \(A\) une matrice \(m\times n\) quelconque, et soit \(A=QR\) une décomposition \(QR\) de \(A\). Alors un vecteur \(\boldsymbol{x}\in\mathbb{R}\) est la solution de \(A\boldsymbol{x}=\boldsymbol{b}\) au sens des moindres carrés si et seulement si il est solution du système \[ R\boldsymbol{x}=Q^T\boldsymbol{b}\,. \]

Remarque: L'avantage du système \(R\boldsymbol{x}=Q^T\boldsymbol{b}\) est qu'il est triangulaire.

Supposons d'abord que \(\boldsymbol{x}\) est pseudo-solution de \(A\boldsymbol{x}=\boldsymbol{b}\). On sait que cela signifie que \[ \boldsymbol{b}-A\boldsymbol{x}\in \mathrm{Col}(A)^\perp=\mathrm{Col}(Q)^\perp=\mathrm{Ker}(Q^T)\,. \] Dans la première égalité, on a utilisé le fait que les colonnes de \(Q\), par définition, engendrent le même sous-espace que celles de \(A\).

On a donc \[ Q^T(\boldsymbol{b}-A\boldsymbol{x})=\boldsymbol{0}\,, \] et comme \(Q^TA=R\), cette dernière implique que \(\boldsymbol{x}\) est solution de \[ R\boldsymbol{x}=Q^T\boldsymbol{b}\,. \] Inversément, supposons que \(\boldsymbol{x}\) est solution de ce dernier système, que l'on écrit plutôt \[ Q^TA\boldsymbol{x}=Q^T\boldsymbol{b}\,. \] En multipliant des deux côtés par \(R^T\) et en utilisant \(R^TQ^T=(QR)^T=A^T\), on obtient \[ A^TA\boldsymbol{x}=A^T\boldsymbol{b}\,, \] donc \(\boldsymbol{x}\) est solution de l'équation normale.

Exemple: Considérons le système \(A\boldsymbol{x}=\boldsymbol{b}\) incompatible suivant: \[ \begin{pmatrix} 2&1\\ 2&0\\ 1&1 \end{pmatrix} \begin{pmatrix} x_1\\ x_2 \end{pmatrix} = \begin{pmatrix} 1\\ -5\\ 2 \end{pmatrix}\,. \] Puisque les colonnes de \(A\) sont indépendantes, la solution au sens des moindres carrés est unique, et on va la calculer en utilisant le théorème ci-dessus.

Le procédé de Gram-Schmidt appliqué aux colonnes de \(A\), suivi d'une normalisation, donne \[ Q= \begin{pmatrix} 2/3&1/3\\ 2/3&-2/3\\ 1/3&2/3 \end{pmatrix}\,. \] On a donc \[ R=Q^TA= \begin{pmatrix} 3&1\\ 0&1 \end{pmatrix}\,, \qquad \text{ et }\qquad Q^T\boldsymbol{b}= \begin{pmatrix} -2\\ 5 \end{pmatrix}\,. \] Ainsi, \(R\boldsymbol{x}=Q^T\boldsymbol{b}\) est le système triangulaire donné par \[ \begin{pmatrix} 3&1\\ 0&1 \end{pmatrix} \begin{pmatrix} x_1\\ x_2 \end{pmatrix} =\begin{pmatrix} -2\\ 5 \end{pmatrix}\,. \] La solution de ce dernier est \(x_1=-7/3\), \(x_2=5\). On peut bien-sûr vérifier que cette solution est la même que celle de l'équation normale associée au système incompatible initial.