Denotamos por $<u,v>$ al producto escalar de los vectores $u$ y $v\mathrm{.}$

Dada la siguiente matriz:

en primer lugar debemos comprobar que esta matriz es no singular, es decir, que los vectores columna

$c^{\left(1\right)}=\left(\begin{array}{c}0\\ 1\\ 2\end{array}\right),$ $c^{\left(2\right)}=\left(\begin{array}{c}1\\ 2\\ 0\end{array}\right),$$$ $c^{\left(3\right)}=\left(\begin{array}{c}2\\ 0\\ 1\end{array}\right),$ son linealmente independientes.

Para ver esto basta comprobar que el determinante de la matriz $M$ es distinto de cero. Dejo al lector de estas líneas que compruebe que el determinante de la matriz $M$ es -9, de lo cual obtenemos la información siguiente: la matriz es no singular, los vectores columna $c^{\left(1\right)},c^{\left(2\right)},c^{\left(3\right)}$, son independientes (constituyen una base en $R^3)$ y que también son independientes los vectores fila de la matriz $M$ $f^{\left(1\right)}=\left(0,1,2\right),f^{\left(2\right)}=\left(1,2,0\right),f^{\left(3\right)}=\left(2,0,1\right)\mathrm{.}$

Es fácil ver que aunque los vectores $c^{\left(1\right)},$ $c^{\left(2\right)},c^{\left(3\right)}$ formen una base, estos vectores no son ortogonales entre sí. Sabemos que dos vectores son ortogonales si su producto escalar es cero. El producto escalar de $c^{\left(1\right)}$ y $c^{\left(2\right)}$ es:

luego los vectores $c^{\left(1\right)}$ y $c^{\left(2\right)}$ no son ortogonales.

Dejo ahora al lector que compruebe que $<c^{\left(1\right)},c^{\left(3\right)}>=2$ y que además, $<c^{\left(2\right)},c^{\left(3\right)}>=2$, de donde deducimos que los tres vectores columna no son ortogonales entre sí.

Vamos ahora a hallar una base ortogonal (que denotaremos por $o^{\left(1\right)},o^{\left(2\right)},o^{\left(3\right)}$) a partir de los vectores columna $c^{\left(1\right)},c^{\left(2\right)},c^{\left(3\right)}$. La estrategia para hacer esto consiste en tomar el vector $c^{\left(1\right)}$ como el primero de los vectores ortogonales que constituirán la nueva base ortogonal, es decir,

Seguidamente, descomponemos el segundo vector $c^{\left(2\right)}$ en dos componentes, una componente en la dirección de $c^{\left(1\right)}$ y la otra componente $o^{\left(2\right)},$ ortogonal a $c^{\left(1\right)}$. Para ello ponemos:

$c^{\left(2\right)}=p_{12}\left(\begin{array}{c}0\\ 1\\ 2\end{array}\right)+o^{\left(2\right)}\left(2\right),$ con la condición $<o^{\left(1\right)},o^{\left(2\right)}>=0$.

$p_{12}$ es un parámetro que tenemos que hallar. Para hallarlo, multiplicamos escalarmente la igualdad $\left(2\right)$ por $o^{\left(1\right)}=\left(\begin{array}{c}0\\ 1\\ 2\end{array}\right)$:

$<o^{\left(1\right)},c^{\left(2\right)}>=p_{12}<o^{\left(1\right)},o^{\left(1\right)}>+<o^{\left(2\right)},o^{\left(1\right)}>=p_{12}<o^{\left(1\right)},o^{\left(1\right)}>,$puesto que los vectores $o^{\left(2\right)}$ y $o^{\left(1\right)}$ son ortogonales y su producto escalar ha de ser $0.$ También notar que el parámetro a hallar $p_{12}$ es un escalar, y, por tanto puede 'sacarse fuera' del producto escalar de los vectores $<o^{\left(1\right)},o^{\left(1\right)}>$.Despejando ahora, tenemos:

habida cuenta que

Hallado este parámetro ya podemos obtener el segundo vector ortogonal $o^{\left(2\right)}$ sustituyendo en $\left(2\right):$

$c^{\left(2\right)}=p_{12}\left(\begin{array}{c}0\\ 1\\ 2\end{array}\right)+o^{\left(2\right)}⟾o^{\left(2\right)}=c^{\left(2\right)}-p_{12}\left(\begin{array}{c}0\\ 1\\ 2\end{array}\right)=\left(\begin{array}{c}1\\ 2\\ 0\end{array}\right)-\frac{2}{5}\left(\begin{array}{c}0\\ 1\\ 2\end{array}\right)=\left(\begin{array}{c}1\\ 2\\ 0\end{array}\right)-\left(\begin{array}{c}0\\ 2/5\\ 4/5\end{array}\right)=\left(\begin{array}{c}1\\ 8/5\\ -4/5\end{array}\right)$.

Comprobaremos que este vector $o^{\left(2\right)}$ es ortogonal a $o^{\left(1\right)}:$

Por último, el tercero de los vectores columna de la matriz $M$ dada, lo pondremos como combinación lineal de los dos vectores que ya poseemos de la nueva base ortogonal más el tercer vector ortogonal que tenemos que hallar:

$c^{\left(3\right)}=p_{13}{o}^{\left(1\right)}+p_{23}{o}^{\left(2\right)}+o^{\left(3\right)}\left(3\right)$, con las condiciones:$\left\{\begin{array}{c}<o^{\left(1\right)},o^{\left(3\right)}>=0\\ <o^{\left(2\right)},o^{\left(3\right)}>=0\end{array}\right\}$.

Multiplicando escalarmente la expresión $\left(3\right)$ por $o^{\left(1\right)},$ tenemos

$<c^{\left(3\right)},o^{\left(1\right)}>=p_{13}<o^{\left(1\right)},o^{\left(1\right)}>$ , ya que $<o^{\left(2\right)},o^{\left(1\right)}><o^{\left(3\right)},o^{\left(1\right)}>=0$, de donde $p_{13}=\frac{<c^{\left(3\right)},o^{\left(1\right)}>}{<o^{\left(1\right)},o^{\left(1\right)}>}$.

Multiplicando escalarmente la expresión $\left(3\right)$ por $o^{\left(2\right)},$ tenemos

$<c^{\left(3\right)},o^{\left(2\right)}>=p_{23}<o^{\left(2\right)},o^{\left(2\right)}>$ , porque $<o^{\left(1\right)},o^{\left(2\right)}><o^{\left(3\right)},o^{\left(2\right)}>=0$, de donde $p_{23}=\frac{<c^{\left(3\right)},o^{\left(2\right)}>}{<o^{\left(2\right)},o^{\left(2\right)}>}$.

Sustituyendo valores, vamos ahora a hallar los dos parámetros que nos quedan:

Despejando $o^{\left(3\right)}$ en la fórmula $\left(3\right),$ nos queda:

$o^{\left(3\right)}=c^{\left(3\right)}-p_{13}{o}^{\left(1\right)}-p_{23}{o}^{\left(2\right)},$ y, sustituyendo valores,

$o^{\left(3\right)}=\left(\begin{array}{c}2\\ 0\\ 1\end{array}\right)-\frac{2}{5}\cdot \left(\begin{array}{c}0\\ 1\\ 2\end{array}\right)-\frac{6}{21}\cdot \left(\begin{array}{c}1\\ 8/5\\ -4/5\end{array}\right)=\left(\begin{array}{c}2-\left(6/21\right)\cdot 1\\ -\left(2/5\right)\cdot 1-\left(6/21\right)\cdot \left(8/5\right)\\ 1-\left(2/5\right)\cdot 2-\left(6/21\right)\cdot \left(-4/5\right)\end{array}\right)=\left(\begin{array}{c}12/7\\ -6/7\\ 3/7\end{array}\right)$.

$o^{\left(3\right)}$ es ortogonal a $o^{\left(1\right)},$ pues:

$<o^{\left(3\right)},o^{\left(1\right)}>=<\left(\begin{array}{c}12/7\\ -6/7\\ 3/7\end{array}\right),\left(\begin{array}{c}0\\ 1\\ 2\end{array}\right)>=\left(12/7\right)\cdot 0-\left(6/7\right)\cdot 1+\left(3/7\right)\cdot 2=0$.

$o^{\left(3\right)}$ también es ortogonal a $o^{\left(2\right)}\mathrm{.}$ Veámoslo:

$<o^{\left(3\right)},o^{\left(2\right)}>=<\left(\begin{array}{c}12/7\\ -6/7\\ 3/7\end{array}\right),\left(\begin{array}{c}1\\ 8/5\\ -4/5\end{array}\right)>=\left(12/7\right)\cdot 1-\left(6/7\right)\cdot \left(8/5\right)+\left(3/7\right)\cdot \left(-4/5\right)=0$,

y como hemos visto ya más arriba que $o^{\left(2\right)}$ era ortogonal a $o^{\left(1\right)},$ resulta que los vectores $o^{\left(1\right)},o^{\left(2\right)}$ y $o^{\left(3\right)}$ forman una base ortogonal.

Dividiendo cada uno de los tres vectores por por su módulo (por su longitud), hallaremos una base ortonormal. Así, el vector $o^{\left(1\right)}$ lo dividiríamos por $\sqrt{0^2+1^2+2^2}=\sqrt{5}$

$o^{\left(2\right)}$ lo dividiríamos por $\sqrt{1^2+(8/5{)}^2+(-4/5{)}^2}=\sqrt{\frac{21}{5}}$

$o^{\left(3\right)}$ lo dividiríamos por $\sqrt{(12/7{)}^2+(-6/7{)}^2+(3/7{)}^2}=\sqrt{\frac{27}{7}}$.

El primer vector ortonormal es: $n^{\left(1\right)}=\left(\begin{array}{c}0\\ 1/\sqrt{5}\\ 2/\sqrt{5}\end{array}\right)$, y puede comprobarse que su longitud es 1.

El segundo vector ortonormal es $n^{\left(2\right)}=\left(\begin{array}{c}1/\sqrt{21/5}\\ 8/5\sqrt{21/5}\\ -4/5\sqrt{21/5}\end{array}\right)\approx \left(\begin{array}{c}0,48795\\ 0,78072\\ -0,39036\end{array}\right)$.

Al averiguar la longitud del anterior vector tenemos que $\sqrt{0,48795^2+0,78072^2+(-0,39036{)}^2}\approx 1,$ (en la calculadora, al trabajar sobre números aproximados nos da 0,999999925).

El tercer vector ortonormal es:

Y, nuevamente, al calcular la longitud de este vector en la calculadora, obtenemos:

$\sqrt{0,87287^2+(-0,436436{)}^2+0,218218^2}\approx 0,999998757\approx 1$.

A este proceso por el cual se construye una base ortogonal u ortonormal a partir de una base cualquiera, en este caso de $R^3,$ se le conoce como método de Gram-Schmidt.