\[\newcommand{\N}{\mathbb N}
\newcommand{\Z}{\mathbb Z}
\newcommand{\Q}{\mathbb Q}
\newcommand{\R}{\mathbb R}
\newcommand{\C}{\mathbb C}
\newcommand{\ba}{\mathbf{a}}
\newcommand{\bb}{\mathbf{b}}
\newcommand{\bc}{\mathbf{c}}
\newcommand{\bd}{\mathbf{d}}
\newcommand{\be}{\mathbf{e}}
\newcommand{\bff}{\mathbf{f}}
\newcommand{\bh}{\mathbf{h}}
\newcommand{\bi}{\mathbf{i}}
\newcommand{\bj}{\mathbf{j}}
\newcommand{\bk}{\mathbf{k}}
\newcommand{\bN}{\mathbf{N}}
\newcommand{\bn}{\mathbf{n}}
\newcommand{\bo}{\mathbf{0}}
\newcommand{\bp}{\mathbf{p}}
\newcommand{\bq}{\mathbf{q}}
\newcommand{\br}{\mathbf{r}}
\newcommand{\bs}{\mathbf{s}}
\newcommand{\bT}{\mathbf{T}}
\newcommand{\bu}{\mathbf{u}}
\newcommand{\bv}{\mathbf{v}}
\newcommand{\bw}{\mathbf{w}}
\newcommand{\bx}{\mathbf{x}}
\newcommand{\by}{\mathbf{y}}
\newcommand{\bz}{\mathbf{z}}
\newcommand{\bzero}{\mathbf{0}}
\newcommand{\nv}{\mathbf{0}}
\newcommand{\cA}{\mathcal{A}}
\newcommand{\cB}{\mathcal{B}}
\newcommand{\cC}{\mathcal{C}}
\newcommand{\cD}{\mathcal{D}}
\newcommand{\cE}{\mathcal{E}}
\newcommand{\cF}{\mathcal{F}}
\newcommand{\cG}{\mathcal{G}}
\newcommand{\cH}{\mathcal{H}}
\newcommand{\cI}{\mathcal{I}}
\newcommand{\cJ}{\mathcal{J}}
\newcommand{\cK}{\mathcal{K}}
\newcommand{\cL}{\mathcal{L}}
\newcommand{\cM}{\mathcal{M}}
\newcommand{\cN}{\mathcal{N}}
\newcommand{\cO}{\mathcal{O}}
\newcommand{\cP}{\mathcal{P}}
\newcommand{\cQ}{\mathcal{Q}}
\newcommand{\cR}{\mathcal{R}}
\newcommand{\cS}{\mathcal{S}}
\newcommand{\cT}{\mathcal{T}}
\newcommand{\cU}{\mathcal{U}}
\newcommand{\cV}{\mathcal{V}}
\newcommand{\cW}{\mathcal{W}}
\newcommand{\cX}{\mathcal{X}}
\newcommand{\cY}{\mathcal{Y}}
\newcommand{\cZ}{\mathcal{Z}}
\newcommand{\rA}{\mathrm{A}}
\newcommand{\rB}{\mathrm{B}}
\newcommand{\rC}{\mathrm{C}}
\newcommand{\rD}{\mathrm{D}}
\newcommand{\rE}{\mathrm{E}}
\newcommand{\rF}{\mathrm{F}}
\newcommand{\rG}{\mathrm{G}}
\newcommand{\rH}{\mathrm{H}}
\newcommand{\rI}{\mathrm{I}}
\newcommand{\rJ}{\mathrm{J}}
\newcommand{\rK}{\mathrm{K}}
\newcommand{\rL}{\mathrm{L}}
\newcommand{\rM}{\mathrm{M}}
\newcommand{\rN}{\mathrm{N}}
\newcommand{\rO}{\mathrm{O}}
\newcommand{\rP}{\mathrm{P}}
\newcommand{\rQ}{\mathrm{Q}}
\newcommand{\rR}{\mathrm{R}}
\newcommand{\rS}{\mathrm{S}}
\newcommand{\rT}{\mathrm{T}}
\newcommand{\rU}{\mathrm{U}}
\newcommand{\rV}{\mathrm{V}}
\newcommand{\rW}{\mathrm{W}}
\newcommand{\rX}{\mathrm{X}}
\newcommand{\rY}{\mathrm{Y}}
\newcommand{\rZ}{\mathrm{Z}}
\newcommand{\pv}{\overline}
\newcommand{\iu}{\mathrm{i}}
\newcommand{\ju}{\mathrm{j}}
\newcommand{\im}{\mathrm{i}}
\newcommand{\e}{\mathrm{e}}
\newcommand{\real}{\operatorname{Re}}
\newcommand{\imag}{\operatorname{Im}}
\newcommand{\Arg}{\operatorname{Arg}}
\newcommand{\Ln}{\operatorname{Ln}}
\DeclareMathOperator*{\res}{res}
\newcommand{\re}{\operatorname{Re}}
\newcommand{\im}{\operatorname{Im}}
\newcommand{\arsinh}{\operatorname{ar\,sinh}}
\newcommand{\arcosh}{\operatorname{ar\,cosh}}
\newcommand{\artanh}{\operatorname{ar\,tanh}}
\newcommand{\sgn}{\operatorname{sgn}}
\newcommand{\diag}{\operatorname{diag}}
\newcommand{\proj}{\operatorname{proj}}
\newcommand{\rref}{\operatorname{rref}}
\newcommand{\rank}{\operatorname{rank}}
\newcommand{\Span}{\operatorname{span}}
\newcommand{\vir}{\operatorname{span}}
\renewcommand{\dim}{\operatorname{dim}}
\newcommand{\alg}{\operatorname{alg}}
\newcommand{\geom}{\operatorname{geom}}
\newcommand{\id}{\operatorname{id}}
\newcommand{\norm}[1]{\lVert #1 \rVert}
\newcommand{\tp}[1]{#1^{\top}}
\renewcommand{\d}{\mathrm{d}}
\newcommand{\sij}[2]{\bigg/_{\mspace{-15mu}#1}^{\,#2}}
\newcommand{\abs}[1]{\lvert#1\rvert}
\newcommand{\pysty}[1]{\left[\begin{array}{@{}r@{}}#1\end{array}\right]}
\newcommand{\piste}{\cdot}
\newcommand{\qedhere}{}
\newcommand{\taumatrix}[1]{\left[\!\!#1\!\!\right]}
\newenvironment{augmatrix}[1]{\left[\begin{array}{#1}}{\end{array}\right]}
\newenvironment{vaugmatrix}[1]{\left|\begin{array}{#1}}{\end{array}\right|}
\newcommand{\trans}{\mathrm{T}}
\newcommand{\EUR}{\text{\unicode{0x20AC}}}
\newcommand{\SI}[3][]{#2\,\mathrm{#3}}
\newcommand{\si}[2][]{\mathrm{#2}}
\newcommand{\num}[2][]{#2}
\newcommand{\ang}[2][]{#2^{\circ}}
\newcommand{\meter}{m}
\newcommand{\metre}{\meter}
\newcommand{\kilo}{k}
\newcommand{\kilogram}{kg}
\newcommand{\gram}{g}
\newcommand{\squared}{^2}
\newcommand{\cubed}{^3}
\newcommand{\minute}{min}
\newcommand{\hour}{h}
\newcommand{\second}{s}
\newcommand{\degreeCelsius}{^{\circ}C}
\newcommand{\per}{/}
\newcommand{\centi}{c}
\newcommand{\milli}{m}
\newcommand{\deci}{d}
\newcommand{\percent}{\%}
\newcommand{\Var}{\operatorname{Var}}
\newcommand{\Cov}{\operatorname{Cov}}
\newcommand{\Corr}{\operatorname{Corr}}
\newcommand{\Tasd}{\operatorname{Tasd}}
\newcommand{\Ber}{\operatorname{Ber}}
\newcommand{\Bin}{\operatorname{Bin}}
\newcommand{\Geom}{\operatorname{Geom}}
\newcommand{\Poi}{\operatorname{Poi}}
\newcommand{\Hyperg}{\operatorname{Hyperg}}
\newcommand{\Tas}{\operatorname{Tas}}
\newcommand{\Exp}{\operatorname{Exp}}
\newcommand{\tdist}{\operatorname{t}}
\newcommand{\rd}{\mathrm{d}}\]
Polynomin sovittaminen pisteistöön¶
Palataan tarkastelemaan luvun alun esimerkkiä, jossa sovitettiin mittaustuloksiin suora ja paraabeli. Tutkitaan pienimmän neliösumman menetelmän avulla, kuinka tämä tehdään. Mittaustuloksina saatiin pisteet \((-1,2)\), \((1,2)\), \((3,4)\) ja \((5,6)\). Sovitetaan tähän pisteistöön ensin suora ja sitten paraabeli.
Olkoon etsityn suoran yhtälö \(y=ax+b\). Koska suoran pitäisi kulkea annettujen pisteiden kautta, halutaan seuraavien yhtälöiden pätevän:
\[\begin{split}\begin{cases}
y(-1)=-a+b=2\\
y(1)=a+b=2\\
y(3)=3a+b=4 \\
y(5)=5a+b=6,
\end{cases}\end{split}\]
Saadaan yhtälöryhmä
\[\begin{split}\begin{cases}
-a+b=2\\
a+b=2\\
3a+b=4 \\
5a+b=6.
\end{cases}\end{split}\]
Ratkaistavana on siis yhtälö
\[\begin{split}\begin{augmatrix}{rc}
-1 & 1 \\ 1 & 1 \\ 3 & 1 \\ 5 & 1
\end{augmatrix}
\begin{augmatrix}{c}
a \\ b
\end{augmatrix} =
\begin{augmatrix}{c}
2 \\ 2 \\ 4 \\ 6
\end{augmatrix}.\end{split}\]
Tällä yhtälöllä ei ole ratkaisua, mutta sille voidaan etsiä pienimmän neliösummnan ratkaisu.
Merkitään
\[\begin{split}V=\begin{augmatrix}{rc}
-1 & 1 \\ 1 & 1 \\ 3 & 1 \\ 5 & 1
\end{augmatrix}
\quad \text{ja} \quad
\by=\begin{augmatrix}{c}
2 \\ 2 \\ 4 \\ 6
\end{augmatrix}.\end{split}\]
Pienimmän neliösumman ratkaisu on yhtälön \(\tp{V}V\bx = \tp{V}\by\) ratkaisu. Nähdään, että
\[\begin{split}\tp{V}V = \tp{\begin{augmatrix}{rc}
-1 & 1 \\ 1 & 1 \\ 3 & 1 \\ 5 & 1
\end{augmatrix}}
\begin{augmatrix}{rc}
-1 & 1 \\ 1 & 1 \\ 3 & 1 \\ 5 & 1
\end{augmatrix} =
\begin{augmatrix}{cc}
36 & 8 \\ 8 & 4
\end{augmatrix}\qquad\text{ja}\qquad \tp{V}\by =
\tp{\begin{augmatrix}{rc}
-1 & 1 \\ 1 & 1 \\ 3 & 1 \\ 5 & 1
\end{augmatrix}}
\begin{augmatrix}{c}
2 \\ 2 \\ 4 \\ 6
\end{augmatrix} =
\begin{augmatrix}{c}
42 \\ 14
\end{augmatrix}.\end{split}\]
Ratkaistava yhtälö on siis
\[\begin{split}\begin{augmatrix}{cc}
36 & 8 \\ 8 & 4
\end{augmatrix}
\begin{augmatrix}{c}
a \\ b
\end{augmatrix}
=
\begin{augmatrix}{c}
42 \\ 14
\end{augmatrix}.\end{split}\]
Tämän yhtälöryhmän ratkaisuksi saadaan esimerkiksi Gaussin–Jordanin eliminointimenetelmällä \(a = 0{,}7\) ja \(b = 2{,}1\). Tämä on pienimmän neliösumman ratkaisu.
Sijoitetaan pienimmän neliösumman ratkaisu suoran yhtälöön \(y = ax + b\). Näin saadaan suora \(y = 0{,}7x + 2{,}1\). Se on esitetty kuvassa 1.
Fig. 1: Pienimmän neliösumman menetelmällä voi sovittaa pisteistöön polynomeja. Kuvan pisteistöön on sovitettu suora sekä toisen asteen polynomi.
Sovitetaan sitten mittauspisteistöön paraabeli \(y=ax^2+bx+c\). Tällä kertaa mittauspisteiden avulla saadaan yhtälöryhmä
\[\begin{split}\begin{cases}
a-b+c=2\\
a+b+c=2\\
9a+3b+c=4 \\
25a+5b+c=6,
\end{cases}\end{split}\]
eli
\[\begin{split}\begin{augmatrix}{crc}
1 & -1 & 1 \\ 1 & 1 & 1 \\ 9 & 3 & 1 \\ 25 & 5 & 1
\end{augmatrix}
\begin{augmatrix}{c}
a \\ b \\ c
\end{augmatrix} =
\begin{augmatrix}{c}
2 \\ 2 \\ 4 \\ 6
\end{augmatrix}.\end{split}\]
Tälläkään yhtälöryhmällä ei ole ratkaisuja, mutta sille saadaan pienimmän neliösumman ratkaisu \(a = 0{,}125\), \(b = 0{,}200\) ja \(c = 1{,}975\). Tämän antama sovite on \(y = 0{,}125x^2 + 0{,}200x + 1{,}975\).
Yleisesti jos sovitetaan pisteistöön \((x_1,y_1), (x_2, y_2), \ldots, (x_m,y_m)\) polynomifunktiota
\[f(x)=c_0+c_1x+\cdots+c_{n-1}x^{n-1}+c_nx^n,\]
saadaan yhtälöryhmä
\[\begin{split}\begin{augmatrix}{ccccc}
1 & x_1 & \cdots & x_1^{n-1} & x_1^n \\
1 & x_2 & \cdots & x_2^{n-1} & x_2^n \\
\vdots & \vdots & \ddots & \vdots & \vdots \\
1 & x_m & \cdots & x_m^{n-1} & x_m^n
\end{augmatrix}
\begin{augmatrix}{c}
c_0 \\ c_1 \\ \vdots \\ c_{n-1} \\ c_n
\end{augmatrix} =
\begin{augmatrix}{c}
y_1 \\ y_2 \\ \vdots \\ y_m
\end{augmatrix}.\end{split}\]
Tämän yhtälöryhmän pienimmän neliösumman ratkaisu antaa polynomin kertoimet.