Ortogonaaliset kannat ja matriisit

Palautetaan mieleen kahden vektorin \(\mathbf{u}\) ja \(\mathbf{v}\) ortogonaalisuuden, eli kohtisuoruuden ehto

\[\mathbf{u}\cdot \mathbf{v}= 0.\]

Avaruuden \(\mathbb R^n\) vektoreita \(\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k\) sanotaan ortogonaalisiksi, jos ne kaikki ovat pareittain ortogonaalisia, eli

\[\mathbf{v}_i \cdot \mathbf{v}_j = 0\]

aina, kun \(i \not= j\). Jos lisäksi \(\|\mathbf{v}_i\| = 1\) jokaisella \(i = 1, 2, \ldots, k\), niin vektoreita \(\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k\) sanotaan ortonormaaleiksi. Mitkä tahansa ortogonaaliset vektorit ovat lineaarisesti riippumattomia.

Lause.

Olkoot \(\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k\) ortogonaalisia nollasta poikkeavia vektoreita. Tällöin vektorit \(\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k\) ovat lineaarisesti riippumattomat.

Todistus.

Oletetaan, että \(c_1\mathbf{v}_1 + c_2\mathbf{v}_2 + \cdots + c_k\mathbf{v}_k = \mathbf{0}\). Otetaan yhtälöstä puolittain pistetulo vektorin \(\mathbf{v}_i\) kanssa, jolloin ortogonaalisuusoletuksen nojalla

\[(c_1\mathbf{v}_1 + c_2\mathbf{v}_2 + \cdots + c_k\mathbf{v}_k) \cdot \mathbf{v}_i = c_i\mathbf{v}_i \cdot \mathbf{v}_i = c_i\|\mathbf{v}_i\|^2 = 0 = \mathbf{0}\cdot \mathbf{v}_i\]

jokaista \(i = 1, 2, \ldots, k\) kohti. Koska kaikki vektorit eroavat nollasta, näiden ehtojen toteutumiseksi on oltava \(c_1 = c_2 = \cdots = c_k = 0\), eli vektorit \(\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k\) ovat lineaarisesti riippumattomat. \(\square\)

Huomautus.

Luonnollisen kannan vektorit \(\mathbf{e}_1, \mathbf{e}_2, \ldots, \mathbf{e}_n\) ovat keskenään ortonormaaleja, sillä \(\mathbf{e}_i \cdot \mathbf{e}_j = \delta_{ij}\). Yleisemminkin vektorit \(\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k\) ovat ortonormaaleja jos ja vain jos

\[\begin{split}\mathbf{v}_i \cdot \mathbf{v}_j = \delta_{ij} = \begin{cases} 1, & \text{kun } i = j \\ 0, & \text{kun } i \not= j. \end{cases}\end{split}\]

Aliavaruuden \(S\) kantaa sanotaan ortogonaaliseksi tai ortonormaaliksi, jos siihen kuuluvat vektorit ovat ortogonaaliset tai ortonormaalit. Ortogonaalisella ja ortonormaalilla kannalla on seuraavat miellyttävät ominaisuudet.

Lause.

Olkoon \(\{\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k\}\) aliavaruuden \(S\) ortogonaalinen kanta, sekä \(\mathbf{x}\) aliavaruuden \(S\) vektori. Tällöin

\[\mathbf{x}= \frac{\mathbf{x}\cdot \mathbf{v}_1}{\|\mathbf{v}_1\|^2}\mathbf{v}_1 + \frac{\mathbf{x}\cdot \mathbf{v}_2}{\|\mathbf{v}_2\|^2}\mathbf{v}_2 + \cdots + \frac{\mathbf{x}\cdot \mathbf{v}_k}{\|\mathbf{v}_k\|^2}\mathbf{v}_k.\]

Jos kanta on lisäksi ortonormaali, niin

\[\mathbf{x}= (\mathbf{x}\cdot \mathbf{v}_1)\mathbf{v}_1 + (\mathbf{x}\cdot \mathbf{v}_2) + \cdots + (\mathbf{x}\cdot \mathbf{v}_k)\mathbf{v}_k.\]

Todistus.

Lauseen sisältö on osoitettu luonnollisen kannan vektoreille aiemmassa esimerkissä. Pohdi, miten tämä voitaisiin yleistää ortogonaalisiin ja muihin ortonormaaleihin kantoihin. \(\square\)

Ortonormaalissa kannassa normille ja pistetulolle saadaan tutut esitykset.

Lause.

Olkoon \(\{\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k\}\) aliavaruuden \(S\) ortonormaali kanta. Jos

\[\mathbf{x}=\alpha_1\mathbf{v}_1+\alpha_2\mathbf{v}_2+\cdots+\alpha_k\mathbf{v}_k \qquad\text{ja}\qquad \mathbf{y}=\beta_1\mathbf{v}_1+\beta_2\mathbf{v}_2+\cdots+\beta_k\mathbf{v}_k,\]

niin

\[\mathbf{x}\cdot \mathbf{y}= \alpha_1\beta_1 + \alpha_2\beta_2 + \cdots + \alpha_k\beta_k\]

ja

\[\|\mathbf{x}\|^2 = \alpha_1^2 + \alpha_2^2 + \cdots + \alpha_k^2 = (\mathbf{v}_1 \cdot \mathbf{x})^2 + (\mathbf{v}_2 \cdot \mathbf{x})^2 + \cdots + (\mathbf{v}_k \cdot \mathbf{x})^2.\]

Todistus.

Merkitään

\[\begin{split}V = \begin{bmatrix} \mathbf{v}_1 & \mathbf{v}_2 & \cdots & \mathbf{v}_k \end{bmatrix},\qquad\mathbf{a}= \begin{bmatrix} \alpha_1 \\ \alpha_2 \\ \vdots \\ \alpha_k \end{bmatrix}\qquad\text{ja}\qquad \mathbf{b}= \begin{bmatrix} \beta_1 \\ \beta_2 \\ \vdots \\ \beta_k \end{bmatrix},\end{split}\]

jolloin \(\mathbf{x}= V\mathbf{a}\) ja \(\mathbf{y}= V\mathbf{b}\). Tulkitaan pistetulo matriisitulona, jolloin

\[\mathbf{x}\cdot \mathbf{y}= \mathbf{x}^T\mathbf{y}= (V\mathbf{a})^TV\mathbf{b}= \mathbf{a}^TV^TV\mathbf{b}.\]

Koska \(\{\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k\}\) on ortonormaali kanta,

\[\begin{split}V^TV = \begin{bmatrix} \mathbf{v}_1^T\mathbf{v}_1 & \mathbf{v}_1^T\mathbf{v}_2 & \cdots & \mathbf{v}_1^T\mathbf{v}_k \\ \mathbf{v}_2^T\mathbf{v}_1 & \mathbf{v}_2^T\mathbf{v}_2 & \cdots & \mathbf{v}_2^T\mathbf{v}_k \\ \vdots & \vdots & \ddots & \vdots \\ \mathbf{v}_k^T\mathbf{v}_1 & \mathbf{v}_k^T\mathbf{v}_2 & \cdots & \mathbf{v}_k^T\mathbf{v}_k \end{bmatrix} = \begin{bmatrix} \mathbf{v}_1 \cdot \mathbf{v}_1 & \mathbf{v}_1 \cdot \mathbf{v}_2 & \cdots & \mathbf{v}_1 \cdot \mathbf{v}_k \\ \mathbf{v}_2 \cdot \mathbf{v}_1 & \mathbf{v}_2 \cdot \mathbf{v}_2 & \cdots & \mathbf{v}_2 \cdot \mathbf{v}_k \\ \vdots & \vdots & \ddots & \vdots \\ \mathbf{v}_k \cdot \mathbf{v}_1 & \mathbf{v}_k \cdot \mathbf{v}_2 & \cdots & \mathbf{v}_k \cdot \mathbf{v}_k \end{bmatrix} = [\delta_{ij}] = I_k,\end{split}\]

ja täten

\[\mathbf{x}\cdot \mathbf{y}= \mathbf{a}^TI_k\mathbf{b}= \mathbf{a}^T\mathbf{b}= \mathbf{a}\cdot \mathbf{b}= \alpha_1\beta_1 + \alpha_2\beta_2 + \cdots + \alpha_k\beta_k.\]

Tätä tulosta voidaan hyödyntää normin kaavan osoittamiseen. Nyt

\[\|\mathbf{x}\|^2 = \mathbf{x}\cdot \mathbf{x}= \alpha_1\alpha_1 + \alpha_2\alpha_2 + \cdots + \alpha_k\alpha_k = \alpha_1^2 + \alpha_2^2 + \cdots + \alpha_k^2,\]

kuten haluttiinkin. Viimeinen osa väitteestä seuraa edellisen lauseen esityksestä vektorille ortonormaalissa kannassa. \(\square\)

Jokaiselle aliavaruudelle voidaan löytää ortogonaalinen kanta. Tehokkain keino sen löytämiseksi on ortogonalisoida jo valmiiksi tunnettu kanta projektioiden avulla. Tämä menetelmä tunnetaan Gram-Schmidtin ortogonalisointiprosessina, ja sen todistus sivuutetaan. Algoritmin vaiheet ovat kuitenkin varsin intuitiiviset.

Lause.

Olkoon \(\{\mathbf{x}_1, \mathbf{x}_2, \ldots, \mathbf{x}_k\}\) aliavaruuden \(S\) kanta. Tällöin \(\{\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k\}\), missä \(\mathbf{v}_1 = \mathbf{x}_1\) ja

\[\begin{aligned} \mathbf{v}_i &= \mathbf{x}_i - (\operatorname{proj}_{\mathbf{v}_1}(\mathbf{x}_i) + \operatorname{proj}_{\mathbf{v}_2}(\mathbf{x}_i) + \cdots + \operatorname{proj}_{\mathbf{v}_{i - 1}}(\mathbf{x}_i))\end{aligned}\]

jokaiselle \(i = 2, 3, \ldots, k\), on aliavaruuden \(S\) ortogonaalinen kanta.

Ortonormaali kanta \(\{\mathbf{w}_1, \mathbf{w}_2, \ldots, \mathbf{w}_k\}\) on helppo muodostaa ortogonaalisesta kannasta normeeraamalla jokaisen kantavektorin yksikön pituiseksi.

\[\mathbf{w}_1=\frac{\mathbf{v}_1}{\|\mathbf{v}_1\|}, \qquad \mathbf{w}_2=\frac{\mathbf{v}_2}{\|\mathbf{v}_2\|}, \qquad\ldots\qquad \mathbf{w}_k=\frac{\mathbf{v}_k}{\|\mathbf{v}_k\|}\]

Monesti numeeriset laskut on tehokkainta suorittaa ortonormaalissa kannassa.

Esimerkki.

Tiedetään, että

\[\begin{split}\operatorname{rref}\begin{bmatrix} 1 & 1 & 1 & 1 \\ 1 & 2 & 4 & 2 \\ 2 & 0 & -4 & 1 \end{bmatrix} = \begin{bmatrix} 1 & 0 & -2 & 0 \\ 0 & 1 & 3 & 0 \\ 0 & 0 & 0 & 1 \end{bmatrix}.\end{split}\]

Etsi alkuperäisen matriisin sarakeavaruudelle ortonormaali kanta.

Ratkaisu.

Redusoidusta riviporrasmuodosta nähdään, että eräs sarakeavaruuden kanta on

\[\begin{split}\left\{ \begin{bmatrix} 1 \\ 1 \\ 2 \end{bmatrix}, \begin{bmatrix} 1 \\ 2 \\ 0 \end{bmatrix}, \begin{bmatrix} 1 \\ 2 \\ 1 \end{bmatrix} \right\}.\end{split}\]

Valitaan ortogonaalista kantaa varten \(\mathbf{v}_1 = (1, 1, 2)\), jolloin Gram-Schmidtin prosessi tuottaa lopuiksi kantavektoreiksi

\[\begin{split}\mathbf{v}_2 = \begin{bmatrix} 1 \\ 2 \\ 0 \end{bmatrix} - \operatorname{proj}_{\mathbf{v}_1} \begin{bmatrix} 1 \\ 2 \\ 0 \end{bmatrix} = \begin{bmatrix} 1 - \frac{1}{2} \cdot 1 \\ 2 - \frac{1}{2} \cdot 1 \\ 0 - \frac{1}{2} \cdot 2 \end{bmatrix} = \begin{bmatrix} \frac{1}{2} \\ \frac{3}{2} \\ -1 \end{bmatrix} = \frac{1}{2} \begin{bmatrix} 1 \\ 3 \\ -2 \end{bmatrix}\end{split}\]

ja

\[\begin{split}\mathbf{v}_3 = \begin{bmatrix} 1 \\ 2 \\ 1 \end{bmatrix} - \operatorname{proj}_{\mathbf{v}_1} \begin{bmatrix} 1 \\ 2 \\ 1 \end{bmatrix} - \operatorname{proj}_{\mathbf{v}_2} \begin{bmatrix} 1 \\ 2 \\ 1 \end{bmatrix} = \begin{bmatrix} 1 - \frac{5}{6} \cdot 1 - \frac{5}{7} \cdot \frac{1}{2} \\ 2 - \frac{5}{6} \cdot 1 - \frac{5}{7} \cdot \frac{3}{2} \\ 1 - \frac{5}{6} \cdot 2 + \frac{5}{7} \cdot 1 \end{bmatrix} = \begin{bmatrix} -\frac{4}{21} \\ \frac{2}{21} \\ \frac{1}{21} \end{bmatrix} = \frac{1}{21} \begin{bmatrix} -4 \\ 2 \\ 1 \end{bmatrix}.\end{split}\]

Laskemalla pistetulot pareittain nähdään, että kantavektorit \(\mathbf{v}_1\), \(\mathbf{v}_2\) ja \(\mathbf{v}_3\) todella ovat ortogonaalisia. Normeerataan jokainen niistä yksikkövektoriksi, jotta saadaan ortonormaali sarakeavaruuden kanta

\[\begin{split}\left\{\frac{1}{\sqrt{6}} \begin{bmatrix} 1 \\ 1 \\ 2 \end{bmatrix}, \frac{1}{\sqrt{14}} \begin{bmatrix} 1 \\ 3 \\ -2 \end{bmatrix}, \frac{1}{\sqrt{21}} \begin{bmatrix} -4 \\ 2 \\ 1 \end{bmatrix} \right\}.\end{split}\]

Aiemman lauseen todistuksessa törmättiin ortonormaaleista sarakkeista koostuvaan matriisiin \(V\), jolle \(V^TV = I_k\). Neliömatriisien tapauksessa tämä ominaisuus määrittelee mielenkiintoisen matriisien luokan.

Määritelmä.

\(n \times n\)-neliömatriisi \(Q\) on ortogonaalinen, jos \(Q^TQ = I_n = QQ^T\).

Merkitään

\[Q=\begin{bmatrix}\mathbf{q}_1 & \mathbf{q}_2 & \cdots & \mathbf{q}_n\end{bmatrix},\]

jolloin ehto \(Q^TQ = I_n\) (tai \(QQ^T = I_n\)) tarkoittaa sitä, että

\[\mathbf{q}_i \cdot \mathbf{q}_j = \delta_{ij}.\]

Toisin sanoen ortogonaalisen matriisin sarakkeet ovat ortonormaalit. Ortonormaalit vektorit ovat lineaarisesti riippumattomia, joten \(\operatorname{rref}(Q) = I_n\), ja täten ortogonaalinen matriisi \(Q\) on kääntyvä. Tämä tulos on määritelmän perusteella odotettu, ja käänteismatriisi on sen valossa \(Q^{-1} = Q^T\).

Pistetulon ja normin esityksestä ortonormaalissa kannassa seuraa, että ortogonaalinen matriisi ei vaikuta pistetulon tai normin arvoon.

Seuraus.

Jos \(n \times n\)-matriisi \(Q\) on ortogonaalinen, niin \(Q\mathbf{x}\cdot Q\mathbf{y}= \mathbf{x}\cdot \mathbf{y}\) ja \(\|Q\mathbf{x}\| = \|\mathbf{x}\|\) aina, kun \(\mathbf{x}\) ja \(\mathbf{y}\) ovat avaruuden \(\mathbb R^n\) vektoreita.

Todistus.

Jätetään harjoitustehtäväksi. \(\square\)

Posting submission...