$\newcommand{\N}{\mathbb N} \newcommand{\Z}{\mathbb Z} \newcommand{\Q}{\mathbb Q} \newcommand{\R}{\mathbb R} \renewcommand{\C}{\mathbb C} \newcommand{\ba}{\mathbf{a}} \newcommand{\bb}{\mathbf{b}} \newcommand{\bc}{\mathbf{c}} \newcommand{\bd}{\mathbf{d}} \newcommand{\be}{\mathbf{e}} \newcommand{\bbf}{\mathbf{f}} \newcommand{\bh}{\mathbf{h}} \newcommand{\bi}{\mathbf{i}} \newcommand{\bj}{\mathbf{j}} \newcommand{\bk}{\mathbf{k}} \newcommand{\bN}{\mathbf{N}} \newcommand{\bn}{\mathbf{n}} \newcommand{\bo}{\mathbf{0}} \newcommand{\bp}{\mathbf{p}} \newcommand{\bq}{\mathbf{q}} \newcommand{\br}{\mathbf{r}} \newcommand{\bs}{\mathbf{s}} \newcommand{\bT}{\mathbf{T}} \newcommand{\bu}{\mathbf{u}} \newcommand{\bv}{\mathbf{v}} \newcommand{\bw}{\mathbf{w}} \newcommand{\bx}{\mathbf{x}} \newcommand{\by}{\mathbf{y}} \newcommand{\bz}{\mathbf{z}} \newcommand{\bzero}{\mathbf{0}} \newcommand{\cA}{\mathcal{A}} \newcommand{\cB}{\mathcal{B}} \newcommand{\cC}{\mathcal{C}} \newcommand{\cD}{\mathcal{D}} \newcommand{\cE}{\mathcal{E}} \newcommand{\cF}{\mathcal{F}} \newcommand{\cG}{\mathcal{G}} \newcommand{\cH}{\mathcal{H}} \newcommand{\cI}{\mathcal{I}} \newcommand{\cJ}{\mathcal{J}} \newcommand{\cK}{\mathcal{K}} \newcommand{\cL}{\mathcal{L}} \newcommand{\cM}{\mathcal{M}} \newcommand{\cN}{\mathcal{N}} \newcommand{\cO}{\mathcal{O}} \newcommand{\cP}{\mathcal{P}} \newcommand{\cQ}{\mathcal{Q}} \newcommand{\cR}{\mathcal{R}} \newcommand{\cS}{\mathcal{S}} \newcommand{\cT}{\mathcal{T}} \newcommand{\cU}{\mathcal{U}} \newcommand{\cV}{\mathcal{V}} \newcommand{\cW}{\mathcal{W}} \newcommand{\cX}{\mathcal{X}} \newcommand{\cY}{\mathcal{Y}} \newcommand{\cZ}{\mathcal{Z}} \newcommand{\rA}{\mathrm{A}} \newcommand{\rB}{\mathrm{B}} \newcommand{\rC}{\mathrm{C}} \newcommand{\rD}{\mathrm{D}} \newcommand{\rE}{\mathrm{E}} \newcommand{\rF}{\mathrm{F}} \newcommand{\rG}{\mathrm{G}} \newcommand{\rH}{\mathrm{H}} \newcommand{\rI}{\mathrm{I}} \newcommand{\rJ}{\mathrm{J}} \newcommand{\rK}{\mathrm{K}} \newcommand{\rL}{\mathrm{L}} \newcommand{\rM}{\mathrm{M}} \newcommand{\rN}{\mathrm{N}} \newcommand{\rO}{\mathrm{O}} \newcommand{\rP}{\mathrm{P}} \newcommand{\rQ}{\mathrm{Q}} \newcommand{\rR}{\mathrm{R}} \newcommand{\rS}{\mathrm{S}} \newcommand{\rT}{\mathrm{T}} \newcommand{\rU}{\mathrm{U}} \newcommand{\rV}{\mathrm{V}} \newcommand{\rW}{\mathrm{W}} \newcommand{\rX}{\mathrm{X}} \newcommand{\rY}{\mathrm{Y}} \newcommand{\rZ}{\mathrm{Z}} \newcommand{\re}{\operatorname{Re}} \newcommand{\im}{\operatorname{Im}} \newcommand{\arsinh}{\operatorname{ar\,sinh}} \newcommand{\arcosh}{\operatorname{ar\,cosh}} \newcommand{\artanh}{\operatorname{ar\,tanh}} \newcommand{\diag}{\operatorname{diag}} \newcommand{\proj}{\operatorname{proj}} \newcommand{\rref}{\operatorname{rref}} \newcommand{\rank}{\operatorname{rank}} \newcommand{\Span}{\operatorname{span}} \renewcommand{\dim}{\operatorname{dim}} \newcommand{\alg}{\operatorname{alg}} \newcommand{\geom}{\operatorname{geom}} \newcommand{\id}{\operatorname{id}} \newcommand{\Var}{\operatorname{Var}} \newcommand{\Cov}{\operatorname{Cov}} \newcommand{\Corr}{\operatorname{Corr}} \newcommand{\Tasd}{\operatorname{Tasd}} \newcommand{\Ber}{\operatorname{Ber}} \newcommand{\Bin}{\operatorname{Bin}} \newcommand{\Geom}{\operatorname{Geom}} \newcommand{\Poi}{\operatorname{Poi}} \newcommand{\Hyperg}{\operatorname{Hyperg}} \newcommand{\Tas}{\operatorname{Tas}} \newcommand{\Exp}{\operatorname{Exp}} \newcommand{\tdist}{\operatorname{t}} \newcommand{\rd}{\mathrm{d}} \newcommand{\sij}[2]{\bigg/_{\mspace{-10mu}\,#1}^{\,#2}} \newcommand{\qedhere}{}$

# Momentit generoiva funktio¶

Yleistetään seuraavaksi odotusarvon ja varianssin käsitteitä. Odotusarvon avulla määriteltävien momenttien avulla voidaan joskus parantaa käsitystä satunnaismuuttujaan liittyvän jakauman muodosta.

Määritelmä 3.6.1

Olkoon $$k$$ positiivinen kokonaisluku. Satunnaismuuttujan $$X$$ $$k.$$ momentti, eli origomomentti (moment about the origin) on odotusarvo

$\rE(X^k).$

Vastaavasti satunnaismuuttujan $$X$$ $$k.$$ keskusmomentti (moment about the mean) on odotusarvo

$\rE((X-\mu)^k),$

kun $$\mu = \rE(X)$$.

Odotusarvo $$\rE(X)$$ on edellisen määritelmän mukaisesti satunnaismuuttujan $$X$$ ensimmäinen origomomentti ja varianssi $$\Var(X)$$ sen toinen keskusmomentti.

Edellä olevia odotusarvoja ei voi aina laskea. Satunnaismuuttujaan liittyvä $$k.$$ momentti on olemassa, jos sopiva odotusarvo on olemassa. Eräs tapa momenttien laskemiseksi on yrittää muodostaa satunnaismuuttujalle $$X$$ niin sanottu momentit generoiva funktio.

Määritelmä 3.6.2

Satunnaismuuttujan $$X$$ momentit generoiva funktio (momenttifunktio, moment generating function) on

$M(t) = \rE(e^{tX}).$

Momentit generoivan funktion määritelmä on tulkittava erikseen diskreetille ja jatkuvalle satunnaismuuttujalle. Diskreetissä tapauksessa kyseessä on (mahdollisesti päättymätön) summa

$M(t)=\rE(e^{tX})=\sum_{x\in\Omega_X}e^{tx}f(x),$

ja jatkuvassa tapauksessa (epäoleellinen) integraali

$M(t)=\rE(e^{tX})=\int_{-\infty}^\infty e^{tx}f(x)\,\rd x.$

Jos $$t = 0$$, niin momenttifunktion arvoksi saadaan aina $$M(0) = \rE(1) = 1$$, eli funktio $$M$$ on määritelty ainakin tällä arvolla.

Huomaa, että samoin jakautuneilla satunnaismuuttujilla on välttämättä samat momenttifunktiot. Seuraava momentit generoivan funktion ominaisuus takaa myös käänteisen väitteen. Todistus sivuutetaan.

Lause 3.6.3

Olkoot satunnaismuuttujien $$X$$ ja $$Y$$ momentit generoivat funktiot $$M_X$$ ja $$M_Y$$ samassa järjestyksessä. Jos $$M_X(t)=M_Y(t)$$ jollakin arvon $$t=0$$ sisältävällä avoimella välillä, niin muuttujat $$X$$ ja $$Y$$ ovat jakautuneet samalla tavalla.

Seuraava lause puolestaan perustelee, miksi momentit generoivaa funktiota nimitetään tällä tavalla. Funktion $$M$$ avulla voidaan yksinkertaisesti generoida satunnaismuuttujaan $$X$$ liittyviä origomomentteja derivoimalla sitä uudelleen ja uudelleen.

Lause 3.6.4

Olkoon satunnaismuuttujan $$X$$ momentit generoiva funktio $$M$$ määritelty origon sisältävällä avoimella välillä. Tällöin muuttujan $$X$$ $$k.$$ origomomentti

$\rE(X^k) = M^{(k)}(0).$
Näytä/piilota todistus

Riippumatta siitä, onko satunnaismuuttuja $$X$$ diskreetti vai jatkuva, sen momentit generoivalle funktiolle voidaan kirjoittaa sarjakehitelmä

$M(t) = \rE(e^{tX}) = \rE\left(\sum_{n = 0}^{\infty}\frac{(tX)^n}{n!}\right) = \sum_{n = 0}^{\infty}\frac{t^n}{n!}\rE(X^n) = 1 + t\rE(X) + \frac{t^2}{2}\rE(X^2) + \ldots$

Nyt sarja suppenee kohti momentit generoivaa funktiota tämän määrittelyjoukossa, joten funktio $$M$$ on derivoituva määrittelyjoukossaan. Tällöin myös

$M^{(k)}(t) = \frac{\rd^k}{\rd t^k}\sum_{n = 0}^{\infty}\frac{t^n}{n!}\rE(X^n) = \sum_{n = 0}^{\infty}\frac{\rd^k}{\rd t^k}\left(\frac{t^n}{n!}\rE(X^n)\right) = \rE(X^k) + t\rE(X^{k + 1}) + \frac{t^2}{2}\rE(X^{k + 2}) + \ldots,$

ja sijoittamalla $$t = 0$$ nähdään, että $$M^{(k)}(0) = \rE(X^k)$$.

Seuraus 3.6.5

Satunnaismuuttujan $$X$$ odotusarvo

$\rE(X) = M'(0)$

ja varianssi

$\Var(X) = M''(0) - M'(0)^2.$

Esimerkki 3.6.6

Oletetaan, että $$X\sim\Exp(1)$$, jolloin sen tiheysfunktio $$f(x) = e^{-x}$$, kun $$x \geq 0$$. Satunnaismuuttujan $$X$$ momenttifunktio on määritelty vain kun $$t < 1$$, sillä integraali

\begin{split}\begin{aligned} M(t) &= \int_{-\infty}^{\infty}f(x)\,\rd x = \int_{0}^{\infty}e^{tx}e^{-x}\,\rd x = \int_0^\infty e^{(t-1)x}\,\rd x \\ &=\lim_{c \to \infty}\sij{0}{c}\frac{1}{t-1}e^{(t-1)x} = \frac{1}{t - 1}\lim_{c \to \infty}\left(e^{(t - 1)c} - 1\right) \end{aligned}\end{split}

suppenee vain, jos $$t - 1 < 0$$. Tällöin $$M(t) = \frac{1}{1 - t}$$, jolloin

$M'(t)=\frac{1}{(1-t)^2}\qquad\text{ja}\qquad M''(t)=\frac{2}{(1-t)^3}.$

Seurauksen nojalla $$\rE(X)=\frac{1}{(1 - 0)^2} = 1$$ ja $$\Var(X)=\frac{2}{(1 - 0)^3} - \left(\frac{1}{(1 - 0)^2}\right)^2 = 1$$.

$$\chi^2(n)$$-jakaumaa (esitellään myöhemmin kurssilla) noudattavan satunnaismuuttujan $$X$$ momentit generoiva funktio on

$M(t) = (1-2t)^{-n/2}.$
Mikä on satunnaismuuttujan $$X$$ odotusarvo?
Mikä on satunnaismuuttujan $$X$$ varianssi?

Myös satunnaismuuttujan $$X$$ lineaarisena funktiona ilmoitettavalle satunnaismuuttujalle $$Y$$ voidaan muotoilla yksinkertainen momentit generoiva funktio.

Lause 3.6.7

Olkoon satunnaismuuttujan $$X$$ momentit generoiva funktio $$M_X$$. Tällöin satunnaismuuttujan $$Y=aX+b$$ momentit generoiva funktio

$M_Y(t)=e^{bt}M_X(at).$
Näytä/piilota todistus

$M_Y(t)=\rE(e^{tY})=\rE(e^{taX+tb})=\rE(e^{bt}e^{(at)X})=e^{bt}\rE(e^{(at)X})=e^{bt}M_X(at).\qedhere$