La décomposition \(QR\) intervient dans la recherche des solutions
d'un système au sens des moindres carrés.
En effet, considérons un système incompatible
\[ A\boldsymbol{x}=\boldsymbol{b}\,.\]
Théorème: Soit \(A\) une matrice \(m\times n\) quelconque, et soit \(A=QR\) une décomposition \(QR\) de \(A\). Alors un vecteur \(\boldsymbol{x}\in\mathbb{R}\) est la solution de \(A\boldsymbol{x}=\boldsymbol{b}\) au sens des moindres carrés si et seulement si il est solution du système \[ R\boldsymbol{x}=Q^T\boldsymbol{b}\,. \]
Remarque: L'avantage du système \(R\boldsymbol{x}=Q^T\boldsymbol{b}\) est qu'il est triangulaire.
Supposons d'abord que \(\boldsymbol{x}\) est pseudo-solution de \(A\boldsymbol{x}=\boldsymbol{b}\).
On sait que cela signifie que
\[
\boldsymbol{b}-A\boldsymbol{x}\in \mathrm{Col}(A)^\perp=\mathrm{Col}(Q)^\perp=\mathrm{Ker}(Q^T)\,.
\]
Dans la première égalité, on
a utilisé le fait que les colonnes de \(Q\), par définition, engendrent le
même sous-espace que celles de \(A\).
On a donc
\[
Q^T(\boldsymbol{b}-A\boldsymbol{x})=\boldsymbol{0}\,,
\]
et comme \(Q^TA=R\), cette dernière implique que \(\boldsymbol{x}\) est solution de
\[ R\boldsymbol{x}=Q^T\boldsymbol{b}\,. \]
Inversément, supposons que \(\boldsymbol{x}\) est solution de ce dernier système, que
l'on écrit plutôt
\[ Q^TA\boldsymbol{x}=Q^T\boldsymbol{b}\,. \]
En multipliant des deux côtés par \(R^T\) et en utilisant \(R^TQ^T=(QR)^T=A^T\),
on obtient
\[
A^TA\boldsymbol{x}=A^T\boldsymbol{b}\,,
\]
donc \(\boldsymbol{x}\) est solution de l'équation normale.
Exemple:
Considérons le système \(A\boldsymbol{x}=\boldsymbol{b}\) incompatible suivant:
\[
\begin{pmatrix} 2&1\\ 2&0\\ 1&1 \end{pmatrix}
\begin{pmatrix} x_1\\ x_2 \end{pmatrix}
=
\begin{pmatrix} 1\\ -5\\ 2 \end{pmatrix}\,.
\]
Puisque les colonnes de \(A\) sont indépendantes, la solution au sens des
moindres carrés est unique, et on va la calculer en utilisant le théorème
ci-dessus.
Le procédé de Gram-Schmidt appliqué aux colonnes de \(A\), suivi d'une
normalisation, donne
\[
Q=
\begin{pmatrix}
2/3&1/3\\
2/3&-2/3\\
1/3&2/3
\end{pmatrix}\,.
\]
On a donc
\[
R=Q^TA=
\begin{pmatrix} 3&1\\ 0&1 \end{pmatrix}\,,
\qquad \text{ et }\qquad
Q^T\boldsymbol{b}= \begin{pmatrix} -2\\ 5 \end{pmatrix}\,.
\]
Ainsi, \(R\boldsymbol{x}=Q^T\boldsymbol{b}\) est le système triangulaire donné par
\[
\begin{pmatrix} 3&1\\ 0&1 \end{pmatrix}
\begin{pmatrix} x_1\\ x_2 \end{pmatrix}
=\begin{pmatrix} -2\\ 5 \end{pmatrix}\,.
\]
La solution de ce dernier est \(x_1=-7/3\), \(x_2=5\).
On peut bien-sûr vérifier que cette solution est la même que celle de l'équation
normale associée au système incompatible initial.