\[\newcommand{\N}{\mathbb N}
\newcommand{\Z}{\mathbb Z}
\newcommand{\Q}{\mathbb Q}
\newcommand{\R}{\mathbb R}
\newcommand{\C}{\mathbb C}
\newcommand{\ba}{\mathbf{a}}
\newcommand{\bb}{\mathbf{b}}
\newcommand{\bc}{\mathbf{c}}
\newcommand{\bd}{\mathbf{d}}
\newcommand{\be}{\mathbf{e}}
\newcommand{\bff}{\mathbf{f}}
\newcommand{\bh}{\mathbf{h}}
\newcommand{\bi}{\mathbf{i}}
\newcommand{\bj}{\mathbf{j}}
\newcommand{\bk}{\mathbf{k}}
\newcommand{\bN}{\mathbf{N}}
\newcommand{\bn}{\mathbf{n}}
\newcommand{\bo}{\mathbf{0}}
\newcommand{\bp}{\mathbf{p}}
\newcommand{\bq}{\mathbf{q}}
\newcommand{\br}{\mathbf{r}}
\newcommand{\bs}{\mathbf{s}}
\newcommand{\bT}{\mathbf{T}}
\newcommand{\bu}{\mathbf{u}}
\newcommand{\bv}{\mathbf{v}}
\newcommand{\bw}{\mathbf{w}}
\newcommand{\bx}{\mathbf{x}}
\newcommand{\by}{\mathbf{y}}
\newcommand{\bz}{\mathbf{z}}
\newcommand{\bzero}{\mathbf{0}}
\newcommand{\nv}{\mathbf{0}}
\newcommand{\cA}{\mathcal{A}}
\newcommand{\cB}{\mathcal{B}}
\newcommand{\cC}{\mathcal{C}}
\newcommand{\cD}{\mathcal{D}}
\newcommand{\cE}{\mathcal{E}}
\newcommand{\cF}{\mathcal{F}}
\newcommand{\cG}{\mathcal{G}}
\newcommand{\cH}{\mathcal{H}}
\newcommand{\cI}{\mathcal{I}}
\newcommand{\cJ}{\mathcal{J}}
\newcommand{\cK}{\mathcal{K}}
\newcommand{\cL}{\mathcal{L}}
\newcommand{\cM}{\mathcal{M}}
\newcommand{\cN}{\mathcal{N}}
\newcommand{\cO}{\mathcal{O}}
\newcommand{\cP}{\mathcal{P}}
\newcommand{\cQ}{\mathcal{Q}}
\newcommand{\cR}{\mathcal{R}}
\newcommand{\cS}{\mathcal{S}}
\newcommand{\cT}{\mathcal{T}}
\newcommand{\cU}{\mathcal{U}}
\newcommand{\cV}{\mathcal{V}}
\newcommand{\cW}{\mathcal{W}}
\newcommand{\cX}{\mathcal{X}}
\newcommand{\cY}{\mathcal{Y}}
\newcommand{\cZ}{\mathcal{Z}}
\newcommand{\pv}{\overline}
\newcommand{\iu}{\mathrm{i}}
\newcommand{\ju}{\mathrm{j}}
\newcommand{\re}{\operatorname{Re}}
\newcommand{\im}{\operatorname{Im}}
\newcommand{\arsinh}{\operatorname{ar\,sinh}}
\newcommand{\arcosh}{\operatorname{ar\,cosh}}
\newcommand{\artanh}{\operatorname{ar\,tanh}}
\newcommand{\sgn}{\operatorname{sgn}}
\newcommand{\diag}{\operatorname{diag}}
\newcommand{\proj}{\operatorname{proj}}
\newcommand{\rref}{\operatorname{rref}}
\newcommand{\rank}{\operatorname{rank}}
\newcommand{\Span}{\operatorname{span}}
\newcommand{\vir}{\operatorname{span}}
\renewcommand{\dim}{\operatorname{dim}}
\newcommand{\alg}{\operatorname{alg}}
\newcommand{\geom}{\operatorname{geom}}
\newcommand{\id}{\operatorname{id}}
\newcommand{\norm}[1]{\lVert #1 \rVert}
\newcommand{\tp}[1]{#1^{\top}}
\renewcommand{\d}{\mathrm{d}}
\newcommand{\sij}[2]{\bigg/_{\mspace{-15mu}#1}^{\,#2}}
\newcommand{\abs}[1]{\lvert#1\rvert}
\newcommand{\pysty}[1]{\left[\begin{array}{@{}r@{}}#1\end{array}\right]}
\newcommand{\piste}{\cdot}
\newcommand{\qedhere}{}
\newcommand{\taumatrix}[1]{\left[\!\!#1\!\!\right]}
\newenvironment{augmatrix}[1]{\left[\begin{array}{#1}}{\end{array}\right]}
\newenvironment{vaugmatrix}[1]{\left|\begin{array}{#1}}{\end{array}\right|}\]
Polynomin sovittaminen pisteistöön
Palataan tarkastelemaan luvun alun esimerkkiä, jossa sovitettiin mittaustuloksiin suora ja paraabeli. Tutkitaan pienimmän neliösumman menetelmän avulla, kuinka tämä tehdään. Mittaustuloksina saatiin pisteet \((-1,2)\), \((1,2)\), \((3,4)\) ja \((5,6)\). Sovitetaan tähän pisteistöön ensin suora ja sitten paraabeli.
Olkoon etsityn suoran yhtälö \(y=ax+b\). Koska suoran pitäisi kulkea annettujen pisteiden kautta, halutaan seuraavien yhtälöiden pätevän:
\[\begin{split}\begin{cases}
y(-1)=-a+b=2\\
y(1)=a+b=2\\
y(3)=3a+b=4 \\
y(5)=5a+b=6,
\end{cases}\end{split}\]
Saadaan yhtälöryhmä
\[\begin{split}\begin{cases}
-a+b=2\\
a+b=2\\
3a+b=4 \\
5a+b=6.
\end{cases}\end{split}\]
Ratkaistavana on siis yhtälö
\[\begin{split}\begin{augmatrix}{rc}
-1 & 1 \\ 1 & 1 \\ 3 & 1 \\ 5 & 1
\end{augmatrix}
\begin{augmatrix}{c}
a \\ b
\end{augmatrix} =
\begin{augmatrix}{c}
2 \\ 2 \\ 4 \\ 6
\end{augmatrix}.\end{split}\]
Tällä yhtälöllä ei ole ratkaisua, mutta sille voidaan etsiä pienimmän neliösummnan ratkaisu.
Merkitään
\[\begin{split}V=\begin{augmatrix}{rc}
-1 & 1 \\ 1 & 1 \\ 3 & 1 \\ 5 & 1
\end{augmatrix}
\quad \text{ja} \quad
\by=\begin{augmatrix}{c}
2 \\ 2 \\ 4 \\ 6
\end{augmatrix}.\end{split}\]
Pienimmän neliösumman ratkaisu on yhtälön \(\tp{V}V\bx = \tp{V}\by\) ratkaisu. Nähdään, että
\[\begin{split}\tp{V}V = \tp{\begin{augmatrix}{rc}
-1 & 1 \\ 1 & 1 \\ 3 & 1 \\ 5 & 1
\end{augmatrix}}
\begin{augmatrix}{rc}
-1 & 1 \\ 1 & 1 \\ 3 & 1 \\ 5 & 1
\end{augmatrix} =
\begin{augmatrix}{cc}
36 & 8 \\ 8 & 4
\end{augmatrix}\qquad\text{ja}\qquad \tp{V}\by =
\tp{\begin{augmatrix}{rc}
-1 & 1 \\ 1 & 1 \\ 3 & 1 \\ 5 & 1
\end{augmatrix}}
\begin{augmatrix}{c}
2 \\ 2 \\ 4 \\ 6
\end{augmatrix} =
\begin{augmatrix}{c}
42 \\ 14
\end{augmatrix}.\end{split}\]
Ratkaistava yhtälö on siis
\[\begin{split}\begin{augmatrix}{cc}
36 & 8 \\ 8 & 4
\end{augmatrix}
\begin{augmatrix}{c}
a \\ b
\end{augmatrix}
=
\begin{augmatrix}{c}
42 \\ 14
\end{augmatrix}.\end{split}\]
Tämän yhtälöryhmän ratkaisuksi saadaan esimerkiksi Gaussin–Jordanin eliminointimenetelmällä
\(a = 0{,}7\) ja \(b = 2{,}1\). Tämä on pienimmän neliösumman ratkaisu.
Sijoitetaan pienimmän neliösumman ratkaisu suoran yhtälöön \(y = ax + b\). Näin saadaan suora \(y = 0{,}7x + 2{,}1\). Se on esitetty kuvassa 1.
Kuva 1. Pienimmän neliösumman menetelmällä voi sovittaa pisteistöön polynomeja. Kuvan pisteistöön on sovitettu suora sekä toisen asteen polynomi.
Sovitetaan sitten mittauspisteistöön paraabeli \(y=ax^2+bx+c\).
Tällä kertaa mittauspisteiden avulla saadaan yhtälöryhmä
\[\begin{split}\begin{cases}
a-b+c=2\\
a+b+c=2\\
9a+3b+c=4 \\
25a+5b+c=6,
\end{cases}\end{split}\]
eli
\[\begin{split}\begin{augmatrix}{crc}
1 & -1 & 1 \\ 1 & 1 & 1 \\ 9 & 3 & 1 \\ 25 & 5 & 1
\end{augmatrix}
\begin{augmatrix}{c}
a \\ b \\ c
\end{augmatrix} =
\begin{augmatrix}{c}
2 \\ 2 \\ 4 \\ 6
\end{augmatrix}.\end{split}\]
Tälläkään yhtälöryhmällä ei ole ratkaisuja, mutta sille saadaan pienimmän neliösumman ratkaisu
\(a = 0{,}125\), \(b = 0{,}200\) ja \(c = 1{,}975\). Tämän antama sovite on \(y = 0{,}125x^2 + 0{,}200x + 1{,}975\).
Yleisesti jos sovitetaan pisteistöön \((x_1,y_1), (x_2, y_2), \ldots, (x_m,y_m)\) polynomifunktiota
\[f(x)=c_0+c_1x+\cdots+c_{n-1}x^{n-1}+c_nx^n,\]
saadaan yhtälöryhmä
\[\begin{split}\begin{augmatrix}{ccccc}
1 & x_1 & \cdots & x_1^{n-1} & x_1^n \\
1 & x_2 & \cdots & x_2^{n-1} & x_2^n \\
\vdots & \vdots & \ddots & \vdots & \vdots \\
1 & x_m & \cdots & x_m^{n-1} & x_m^n
\end{augmatrix}
\begin{augmatrix}{c}
c_0 \\ c_1 \\ \vdots \\ c_{n-1} \\ c_n
\end{augmatrix} =
\begin{augmatrix}{c}
y_1 \\ y_2 \\ \vdots \\ y_m
\end{augmatrix}.\end{split}\]
Tämän yhtälöryhmän pienimmän neliösumman ratkaisu antaa polynomin kertoimet.
