\[\newcommand{\N}{\mathbb N}
\newcommand{\Z}{\mathbb Z}
\newcommand{\Q}{\mathbb Q}
\newcommand{\R}{\mathbb R}
\renewcommand{\C}{\mathbb C}
\newcommand{\ba}{\mathbf{a}}
\newcommand{\bb}{\mathbf{b}}
\newcommand{\bc}{\mathbf{c}}
\newcommand{\bd}{\mathbf{d}}
\newcommand{\be}{\mathbf{e}}
\newcommand{\bbf}{\mathbf{f}}
\newcommand{\bh}{\mathbf{h}}
\newcommand{\bi}{\mathbf{i}}
\newcommand{\bj}{\mathbf{j}}
\newcommand{\bk}{\mathbf{k}}
\newcommand{\bN}{\mathbf{N}}
\newcommand{\bn}{\mathbf{n}}
\newcommand{\bo}{\mathbf{0}}
\newcommand{\bp}{\mathbf{p}}
\newcommand{\bq}{\mathbf{q}}
\newcommand{\br}{\mathbf{r}}
\newcommand{\bs}{\mathbf{s}}
\newcommand{\bT}{\mathbf{T}}
\newcommand{\bu}{\mathbf{u}}
\newcommand{\bv}{\mathbf{v}}
\newcommand{\bw}{\mathbf{w}}
\newcommand{\bx}{\mathbf{x}}
\newcommand{\by}{\mathbf{y}}
\newcommand{\bz}{\mathbf{z}}
\newcommand{\bzero}{\mathbf{0}}
\newcommand{\cA}{\mathcal{A}}
\newcommand{\cB}{\mathcal{B}}
\newcommand{\cC}{\mathcal{C}}
\newcommand{\cD}{\mathcal{D}}
\newcommand{\cE}{\mathcal{E}}
\newcommand{\cF}{\mathcal{F}}
\newcommand{\cG}{\mathcal{G}}
\newcommand{\cH}{\mathcal{H}}
\newcommand{\cI}{\mathcal{I}}
\newcommand{\cJ}{\mathcal{J}}
\newcommand{\cK}{\mathcal{K}}
\newcommand{\cL}{\mathcal{L}}
\newcommand{\cM}{\mathcal{M}}
\newcommand{\cN}{\mathcal{N}}
\newcommand{\cO}{\mathcal{O}}
\newcommand{\cP}{\mathcal{P}}
\newcommand{\cQ}{\mathcal{Q}}
\newcommand{\cR}{\mathcal{R}}
\newcommand{\cS}{\mathcal{S}}
\newcommand{\cT}{\mathcal{T}}
\newcommand{\cU}{\mathcal{U}}
\newcommand{\cV}{\mathcal{V}}
\newcommand{\cW}{\mathcal{W}}
\newcommand{\cX}{\mathcal{X}}
\newcommand{\cY}{\mathcal{Y}}
\newcommand{\cZ}{\mathcal{Z}}
\newcommand{\rA}{\mathrm{A}}
\newcommand{\rB}{\mathrm{B}}
\newcommand{\rC}{\mathrm{C}}
\newcommand{\rD}{\mathrm{D}}
\newcommand{\rE}{\mathrm{E}}
\newcommand{\rF}{\mathrm{F}}
\newcommand{\rG}{\mathrm{G}}
\newcommand{\rH}{\mathrm{H}}
\newcommand{\rI}{\mathrm{I}}
\newcommand{\rJ}{\mathrm{J}}
\newcommand{\rK}{\mathrm{K}}
\newcommand{\rL}{\mathrm{L}}
\newcommand{\rM}{\mathrm{M}}
\newcommand{\rN}{\mathrm{N}}
\newcommand{\rO}{\mathrm{O}}
\newcommand{\rP}{\mathrm{P}}
\newcommand{\rQ}{\mathrm{Q}}
\newcommand{\rR}{\mathrm{R}}
\newcommand{\rS}{\mathrm{S}}
\newcommand{\rT}{\mathrm{T}}
\newcommand{\rU}{\mathrm{U}}
\newcommand{\rV}{\mathrm{V}}
\newcommand{\rW}{\mathrm{W}}
\newcommand{\rX}{\mathrm{X}}
\newcommand{\rY}{\mathrm{Y}}
\newcommand{\rZ}{\mathrm{Z}}
\newcommand{\re}{\operatorname{Re}}
\newcommand{\im}{\operatorname{Im}}
\newcommand{\arsinh}{\operatorname{ar\,sinh}}
\newcommand{\arcosh}{\operatorname{ar\,cosh}}
\newcommand{\artanh}{\operatorname{ar\,tanh}}
\newcommand{\diag}{\operatorname{diag}}
\newcommand{\proj}{\operatorname{proj}}
\newcommand{\rref}{\operatorname{rref}}
\newcommand{\rank}{\operatorname{rank}}
\newcommand{\Span}{\operatorname{span}}
\renewcommand{\dim}{\operatorname{dim}}
\newcommand{\alg}{\operatorname{alg}}
\newcommand{\geom}{\operatorname{geom}}
\newcommand{\id}{\operatorname{id}}
\newcommand{\Var}{\operatorname{Var}}
\newcommand{\Cov}{\operatorname{Cov}}
\newcommand{\Corr}{\operatorname{Corr}}
\newcommand{\Tasd}{\operatorname{Tasd}}
\newcommand{\Ber}{\operatorname{Ber}}
\newcommand{\Bin}{\operatorname{Bin}}
\newcommand{\Geom}{\operatorname{Geom}}
\newcommand{\Poi}{\operatorname{Poi}}
\newcommand{\Hyperg}{\operatorname{Hyperg}}
\newcommand{\Tas}{\operatorname{Tas}}
\newcommand{\Exp}{\operatorname{Exp}}
\newcommand{\tdist}{\operatorname{t}}
\newcommand{\rd}{\mathrm{d}}
\newcommand{\sij}[2]{\bigg/_{\mspace{-10mu}\,#1}^{\,#2}}
\newcommand{\qedhere}{}\]
Momentit generoiva funktio
Yleistetään seuraavaksi odotusarvon ja varianssin käsitteitä. Odotusarvon avulla määriteltävien momenttien avulla voidaan joskus parantaa käsitystä satunnaismuuttujaan liittyvän jakauman muodosta.
Odotusarvo \(\rE(X)\) on edellisen määritelmän mukaisesti satunnaismuuttujan \(X\) ensimmäinen origomomentti ja varianssi \(\Var(X)\) sen toinen keskusmomentti.
Edellä olevia odotusarvoja ei voi aina laskea. Satunnaismuuttujaan liittyvä \(k.\) momentti on olemassa, jos sopiva odotusarvo on olemassa. Eräs tapa momenttien laskemiseksi on yrittää muodostaa satunnaismuuttujalle \(X\) niin sanottu momentit generoiva funktio.
Momentit generoivan funktion määritelmä on tulkittava erikseen diskreetille ja jatkuvalle satunnaismuuttujalle. Diskreetissä tapauksessa kyseessä on (mahdollisesti päättymätön) summa
\[M(t)=\rE(e^{tX})=\sum_{x\in\Omega_X}e^{tx}f(x),\]
ja jatkuvassa tapauksessa (epäoleellinen) integraali
\[M(t)=\rE(e^{tX})=\int_{-\infty}^\infty e^{tx}f(x)\,\rd x.\]
Jos \(t = 0\), niin momenttifunktion arvoksi saadaan aina \(M(0) = \rE(1) = 1\), eli funktio \(M\) on määritelty ainakin tällä arvolla.
Huomaa, että samoin jakautuneilla satunnaismuuttujilla on välttämättä samat momenttifunktiot. Seuraava momentit generoivan funktion ominaisuus takaa myös käänteisen väitteen. Todistus sivuutetaan.
Lause 3.6.3
Olkoot satunnaismuuttujien \(X\) ja \(Y\) momentit generoivat funktiot \(M_X\) ja \(M_Y\) samassa järjestyksessä. Jos \(M_X(t)=M_Y(t)\) jollakin arvon \(t=0\) sisältävällä avoimella välillä, niin muuttujat \(X\) ja \(Y\) ovat jakautuneet samalla tavalla.
Seuraava lause puolestaan perustelee, miksi momentit generoivaa funktiota nimitetään tällä tavalla. Funktion \(M\) avulla voidaan yksinkertaisesti generoida satunnaismuuttujaan \(X\) liittyviä origomomentteja derivoimalla sitä uudelleen ja uudelleen.
Lause 3.6.4
Olkoon satunnaismuuttujan \(X\) momentit generoiva funktio \(M\) määritelty origon sisältävällä avoimella välillä. Tällöin muuttujan \(X\) \(k.\) origomomentti
\[\rE(X^k) = M^{(k)}(0).\]
Näytä/piilota todistus
Riippumatta siitä, onko satunnaismuuttuja \(X\) diskreetti vai jatkuva, sen momentit generoivalle funktiolle voidaan kirjoittaa sarjakehitelmä
\[M(t) = \rE(e^{tX}) = \rE\left(\sum_{n = 0}^{\infty}\frac{(tX)^n}{n!}\right) = \sum_{n = 0}^{\infty}\frac{t^n}{n!}\rE(X^n) = 1 + t\rE(X) + \frac{t^2}{2}\rE(X^2) + \ldots\]
Nyt sarja suppenee kohti momentit generoivaa funktiota tämän määrittelyjoukossa, joten funktio \(M\) on derivoituva määrittelyjoukossaan. Tällöin myös
\[M^{(k)}(t) = \frac{\rd^k}{\rd t^k}\sum_{n = 0}^{\infty}\frac{t^n}{n!}\rE(X^n) = \sum_{n = 0}^{\infty}\frac{\rd^k}{\rd t^k}\left(\frac{t^n}{n!}\rE(X^n)\right) = \rE(X^k) + t\rE(X^{k + 1}) + \frac{t^2}{2}\rE(X^{k + 2}) + \ldots,\]
ja sijoittamalla \(t = 0\) nähdään, että \(M^{(k)}(0) = \rE(X^k)\).
Seuraus 3.6.5
Satunnaismuuttujan \(X\) odotusarvo
\[\rE(X) = M'(0)\]
ja varianssi
\[\Var(X) = M''(0) - M'(0)^2.\]
Esimerkki 3.6.6
Oletetaan, että \(X\sim\Exp(1)\), jolloin sen tiheysfunktio \(f(x) = e^{-x}\), kun \(x \geq 0\). Satunnaismuuttujan \(X\) momenttifunktio on määritelty vain kun \(t < 1\), sillä integraali
\[\begin{split}\begin{aligned}
M(t) &= \int_{-\infty}^{\infty}f(x)\,\rd x = \int_{0}^{\infty}e^{tx}e^{-x}\,\rd x = \int_0^\infty e^{(t-1)x}\,\rd x \\
&=\lim_{c \to \infty}\sij{0}{c}\frac{1}{t-1}e^{(t-1)x} = \frac{1}{t - 1}\lim_{c \to \infty}\left(e^{(t - 1)c} - 1\right)
\end{aligned}\end{split}\]
suppenee vain, jos \(t - 1 < 0\). Tällöin \(M(t) = \frac{1}{1 - t}\), jolloin
\[M'(t)=\frac{1}{(1-t)^2}\qquad\text{ja}\qquad M''(t)=\frac{2}{(1-t)^3}.\]
Seurauksen nojalla \(\rE(X)=\frac{1}{(1 - 0)^2} = 1\) ja \(\Var(X)=\frac{2}{(1 - 0)^3} - \left(\frac{1}{(1 - 0)^2}\right)^2 = 1\).
Myös satunnaismuuttujan \(X\) lineaarisena funktiona ilmoitettavalle satunnaismuuttujalle \(Y\) voidaan muotoilla yksinkertainen momentit generoiva funktio.
Lause 3.6.7
Olkoon satunnaismuuttujan \(X\) momentit generoiva funktio \(M_X\). Tällöin satunnaismuuttujan \(Y=aX+b\) momentit generoiva funktio
\[M_Y(t)=e^{bt}M_X(at).\]
Näytä/piilota todistus
Suoraviivaisella laskulla todetaan, että
\[M_Y(t)=\rE(e^{tY})=\rE(e^{taX+tb})=\rE(e^{bt}e^{(at)X})=e^{bt}\rE(e^{(at)X})=e^{bt}M_X(at).\qedhere\]