$$\newcommand{\N}{\mathbb N} \newcommand{\Z}{\mathbb Z} \newcommand{\Q}{\mathbb Q} \newcommand{\R}{\mathbb R} \renewcommand{\C}{\mathbb C} \newcommand{\ba}{\mathbf{a}} \newcommand{\bb}{\mathbf{b}} \newcommand{\bc}{\mathbf{c}} \newcommand{\bd}{\mathbf{d}} \newcommand{\be}{\mathbf{e}} \newcommand{\bbf}{\mathbf{f}} \newcommand{\bh}{\mathbf{h}} \newcommand{\bi}{\mathbf{i}} \newcommand{\bj}{\mathbf{j}} \newcommand{\bk}{\mathbf{k}} \newcommand{\bN}{\mathbf{N}} \newcommand{\bn}{\mathbf{n}} \newcommand{\bo}{\mathbf{0}} \newcommand{\bp}{\mathbf{p}} \newcommand{\bq}{\mathbf{q}} \newcommand{\br}{\mathbf{r}} \newcommand{\bs}{\mathbf{s}} \newcommand{\bT}{\mathbf{T}} \newcommand{\bu}{\mathbf{u}} \newcommand{\bv}{\mathbf{v}} \newcommand{\bw}{\mathbf{w}} \newcommand{\bx}{\mathbf{x}} \newcommand{\by}{\mathbf{y}} \newcommand{\bz}{\mathbf{z}} \newcommand{\bzero}{\mathbf{0}} \newcommand{\cA}{\mathcal{A}} \newcommand{\cB}{\mathcal{B}} \newcommand{\cC}{\mathcal{C}} \newcommand{\cD}{\mathcal{D}} \newcommand{\cE}{\mathcal{E}} \newcommand{\cF}{\mathcal{F}} \newcommand{\cG}{\mathcal{G}} \newcommand{\cH}{\mathcal{H}} \newcommand{\cI}{\mathcal{I}} \newcommand{\cJ}{\mathcal{J}} \newcommand{\cK}{\mathcal{K}} \newcommand{\cL}{\mathcal{L}} \newcommand{\cM}{\mathcal{M}} \newcommand{\cN}{\mathcal{N}} \newcommand{\cO}{\mathcal{O}} \newcommand{\cP}{\mathcal{P}} \newcommand{\cQ}{\mathcal{Q}} \newcommand{\cR}{\mathcal{R}} \newcommand{\cS}{\mathcal{S}} \newcommand{\cT}{\mathcal{T}} \newcommand{\cU}{\mathcal{U}} \newcommand{\cV}{\mathcal{V}} \newcommand{\cW}{\mathcal{W}} \newcommand{\cX}{\mathcal{X}} \newcommand{\cY}{\mathcal{Y}} \newcommand{\cZ}{\mathcal{Z}} \newcommand{\rA}{\mathrm{A}} \newcommand{\rB}{\mathrm{B}} \newcommand{\rC}{\mathrm{C}} \newcommand{\rD}{\mathrm{D}} \newcommand{\rE}{\mathrm{E}} \newcommand{\rF}{\mathrm{F}} \newcommand{\rG}{\mathrm{G}} \newcommand{\rH}{\mathrm{H}} \newcommand{\rI}{\mathrm{I}} \newcommand{\rJ}{\mathrm{J}} \newcommand{\rK}{\mathrm{K}} \newcommand{\rL}{\mathrm{L}} \newcommand{\rM}{\mathrm{M}} \newcommand{\rN}{\mathrm{N}} \newcommand{\rO}{\mathrm{O}} \newcommand{\rP}{\mathrm{P}} \newcommand{\rQ}{\mathrm{Q}} \newcommand{\rR}{\mathrm{R}} \newcommand{\rS}{\mathrm{S}} \newcommand{\rT}{\mathrm{T}} \newcommand{\rU}{\mathrm{U}} \newcommand{\rV}{\mathrm{V}} \newcommand{\rW}{\mathrm{W}} \newcommand{\rX}{\mathrm{X}} \newcommand{\rY}{\mathrm{Y}} \newcommand{\rZ}{\mathrm{Z}} \newcommand{\re}{\operatorname{Re}} \newcommand{\im}{\operatorname{Im}} \newcommand{\arsinh}{\operatorname{ar\,sinh}} \newcommand{\arcosh}{\operatorname{ar\,cosh}} \newcommand{\artanh}{\operatorname{ar\,tanh}} \newcommand{\diag}{\operatorname{diag}} \newcommand{\proj}{\operatorname{proj}} \newcommand{\rref}{\operatorname{rref}} \newcommand{\rank}{\operatorname{rank}} \newcommand{\Span}{\operatorname{span}} \renewcommand{\dim}{\operatorname{dim}} \newcommand{\alg}{\operatorname{alg}} \newcommand{\geom}{\operatorname{geom}} \newcommand{\id}{\operatorname{id}} \newcommand{\Var}{\operatorname{Var}} \newcommand{\Cov}{\operatorname{Cov}} \newcommand{\Corr}{\operatorname{Corr}} \newcommand{\Tasd}{\operatorname{Tasd}} \newcommand{\Ber}{\operatorname{Ber}} \newcommand{\Bin}{\operatorname{Bin}} \newcommand{\Geom}{\operatorname{Geom}} \newcommand{\Poi}{\operatorname{Poi}} \newcommand{\Hyperg}{\operatorname{Hyperg}} \newcommand{\Tas}{\operatorname{Tas}} \newcommand{\Exp}{\operatorname{Exp}} \newcommand{\tdist}{\operatorname{t}} \newcommand{\rd}{\mathrm{d}} \newcommand{\sij}[2]{\bigg/_{\mspace{-10mu}\,#1}^{\,#2}} \newcommand{\qedhere}{}$$

Riippumattomien satunnaismuuttujien summa ja keskiarvo

Jatkon kannalta erityisen tärkeä satunnaismuuttujien tyyppi on riippumattomien satunnaismuuttujien $X_1,X_2,\ldots,X_n$ summa $Y=X_1+X_2+\ldots+X_n$. Ensimmäinen tähän satunnaismuuttujaan liittyvä kiinnostava ongelma on selvittää sen jakauma. Usein voidaan olettaa, että muuttujat $X_i$, $i = 1, 2, \ldots, n$ noudattavat samaa, tunnettua jakaumaa. Asiaa tutkitaan tyypillisesti seuraavan momentit generoivan funktion ominaisuuden ja induktioperiaatteen avulla.

Lause 5.1.1

Riippumattomien satunnaismuuttujien $X_1$ ja $X_2$ summan $Y=X_1+X_2$ momentit generoiva funktio

$$M_Y(t)=M_{X_1}(t)M_{X_2}(t),$$

kun $M_{X_1}(t)$ ja $M_{X_2}(t)$ ovat muuttujien $X_1$ ja $X_2$ momentit generoivat funktiot.

Näytä/piilota todistus

Koska $X_1$ ja $X_2$ ovat riippumattomia, niin lauseen 2.6.8 mukaan myös niiden funktiot $e^{tX_1}$ ja $e^{tX_2}$, missä $t \in \R$, ovat riippumattomia. Täten riippumattomien satunnaismuuttujien tulon odotusarvona

$$M_Y(t) = \rE(e^{tY}) = \rE(e^{t(X_1+X_2)}) = \rE(e^{tX_1}e^{tX_2}) = \rE(e^{tX_1})\rE(e^{tX_2})=M_{X_1}(t)M_{X_2}(t). \qedhere$$

Esimerkki 5.1.2

Oletetaan, että $X\sim\Bin(n,p)$ ja $Y\sim\Bin(m,p)$, ja että muuttujat $X$ ja $Y$ ovat riippumattomia. Tällöin

$$M_{X+Y}(t) = M_X(t)M_Y(t) = (pe^t+1-p)^n(pe^t+1-p)^m = (pe^t+1-p)^{n+m},$$

eli $M_{X+Y}(t)$ on jakauman $\Bin(n+m, p)$ momenttifunktio. Täten momentit generoivan funktion yksikäsitteisyysominaisuuden nojalla $X + Y \sim \Bin(n + m, p)$.

Tärkeänä tuloksena voidaan todistaa, että riippumattomien normaalijakautuneiden satunnaismuuttujien lineaarikombinaatio on normaalijakautunut.

Lause 5.1.3

Jos satunnaismuuttujat $X_i \sim \rN(\mu_i, \sigma_i^2)$, $i = 1, 2, \ldots, n$ ovat riippumattomia ja kertoimet $a_1, a_2, \ldots, a_n \in \R$, niin muuttujien lineaarikombinaatio

$$Y=a_1X_1+a_2X_2+\cdots+a_nX_n \sim \rN(\mu_Y,\sigma_Y^2),$$

missä

$$\mu_Y = a_1\mu_1+a_2\mu_2+\cdots+a_n\mu_n \qquad\text{ja}\qquad \sigma_Y^2 = a_1^2\sigma_1^2+a_2^2\sigma_2^2+\cdots+a_n^2\sigma_n^2.$$

Näytä/piilota todistus

Käytetään induktiota.

1. Alkuaskel $n = 2$. Lauseen 4.4.3 mukaan $a_iX_i \sim \rN(a_i\mu_i, a_i^2\sigma_i^2)$, missä $i = 1$ tai $i = 2$. Täten hyödyntämällä normaalijakauman momenttifunktiota ja lausetta 5.1.1 saadaan satunnaismuuttujan $Y$ momentit generoivaksi funktioksi

   $$\begin{split}\begin{aligned} M_Y(t) &= M_{a_1X_1}(t)M_{a_2X_2}(t) = e^{a_1\mu_1t + \frac{1}{2}a_1^2\sigma_1^2t^2}e^{a_2\mu_2t + \frac{1}{2}a_2^2\sigma_2^2t^2} \\ &= e^{(a_1\mu_1 + a_2\mu_2)t + \frac{1}{2}(a_1^2\sigma_1^2 + a_2^2\sigma_2^2)t^2}, \end{aligned}\end{split}$$

   joka on myös jakauman $\rN(a_1\mu_1 + a_2\mu_2, a_1^2\sigma_1^2 + a_2^2\sigma_2^2)$ momenttifunktion lauseke. Siis momentit generoivan funktion yksikäsitteisyysominaisuuden nojalla $Y$ noudattaa tätä normaalijakaumaa, kuten väitettiinkin.

2. Induktioaskel. Oletetaan sitten, että

   $$Y = a_1X_1 + a_2X_2 + \cdots + a_kX_k \sim \rN(\mu_Y, \sigma_Y^2),$$

   missä $k$ on luonnollinen luku. Nyt lisäksi $X_{k + 1} \sim \rN(\mu_{k + 1}, \sigma_{k + 1}^2)$, ja koska muuttujat $X_1, X_2, \ldots, X_{k + 1}$ ovat riippumattomia, myös $a_1X_1 + a_2X_2 + \cdots + a_kX_k$ ja $a_{k + 1}X_{k + 1}$ ovat riippumattomia. Voidaan siis todistaa samaan tapaan kuin alkuaskeleessa, että

   $$Y + a_{k + 1}X_{k + 1} \sim \rN(\mu_Y + a_{k + 1}\mu_{k + 1}, \sigma_Y^2 + a_{k + 1}^2\sigma_{k + 1}^2),$$

   kuten väitettiinkin.

Induktioperiaatteen nojalla väite on voimassa aina, kun $n \in \N$.

Question 1

Olkoot satunnaismuuttujien $X$ ja $Y$ momentit generoivat funktiot $M_X(t)$ ja $M_Y(t)$. Jos satunnaismuuttujat $X$ ja $Y$ ovat riippumattomia, niin niiden summan $X + Y$ momentit generoiva funktio on $M_{X+Y}(t) = M_X(t)M_Y(t)$.

Tosi

Epätosi

Question 2

Oletetaan, että satunnaismuuttujat $X_i\sim \rN(\mu, \sigma^2)$, $i = 1, 2, \ldots, n$. Summa $Y = X_1 + X_2 + \cdots + X_n$ noudattaa normaalijakaumaa parametrein

$\mu_Y = n\mu$ ja $\sigma_Y^2 = n\sigma^2$,

$\mu_Y = \mu$ ja $\sigma_Y^2 = n^2\sigma^2$,

$\mu_Y = \mu$ ja $\sigma_Y^2 = \sigma^2$.

Tarkastellaan sitten $n$-toistokoetta, jossa satunnaismuuttujalle $X$ realisoituu jokin arvo, ja merkitään toistossa $i$ realisoituvaa satunnaismuuttujaa $X_i$. Koetoistojen satunnaismuuttujien $X_1,X_2,\ldots,X_n$ sanotaan olevan otos satunnaismuuttujasta $X$, jolloin muuttujat $X_i$ ovat riippumattomia ja noudattavat samaa jakaumaa kuin $X$. Erityisesti $\rE(X_i)=\rE(X)$ ja $\Var(X_i)=\Var(X)$. Satunnaisvektorille $(X_1, X_2, \ldots, X_n)$ realisoituvia arvoja $(x_1, x_2, \ldots, x_n)$ kutsutaan toisinaan myös otokseksi, mutta tässä otoksella tarkoitetaan nimenomaan kokoelmaa satunnaismuuttujia.

Otoksesta $X_1,X_2,\ldots,X_n$ riippuvia otossuureita (statistics) $\Theta$ käytetään usein satunnaismuuttujan $X$ jakauman tuntemattomien parametrien $\theta$, kuten odotusarvon ja varianssin arviointiin, sekä parametreihin kohdistuvien väitteiden testaamiseen. Otossuureet muodostuvat otosmuuttujien $X_i$ funktioina, ja ovat täten nekin satunnaismuuttujia, joilla on omat jakaumansa. Parametriin $\theta$ liittyvää otossuuretta $\Theta$ kutsutaan myös parametrin estimaattoriksi, ja sille realisoituvaa arvoa estimaatiksi tai piste-estimaatiksi. Satunnaismuuttujan $X$ sijaintia kuvaava tärkein otossuure on otoskeskiarvo.

Määritelmä 5.1.4

Olkoon $X_1,X_2,\ldots,X_n$ otos satunnaismuuttujasta $X$, sekä luvut $x_1, x_2, \ldots, x_n$ otosmuuttujien realisoituneet arvot. Satunnaismuuttujan $X$ otoskeskiarvo (sample mean) on satunnaismuuttuja

$$\overline{X}=\frac{1}{n}\sum_{i=1}^nX_i,$$

ja sen realisoitunut arvo (reaaliluku)

$$\overline{x}=\frac{1}{n}\sum_{i=1}^nx_i.$$

Satunnaismuuttujan $X$ otoskeskiarvon $\overline{X}$ jakauman odotusarvo ja varianssi voidaan päätellä suoraan muuttujan $X$ vastaavista parametreistä. Odotusarvon lineaarisuuden nojalla

$$\rE\left(\frac{1}{n}\sum_{i = 1}^{n}X_i\right) = \frac{1}{n}\rE\left(\sum_{i = 1}^{n}X_i\right) = \frac{1}{n}\sum_{i = 1}^{n}\rE(X_i),$$

ja jos satunnaismuuttujat $X_i$ ovat riippumattomia (otosmuuttujina ne ovat), niin

$$\Var\left(\frac{1}{n}\sum_{i = 1}^{n}X_i\right) = \frac{1}{n^2}\sum_{i = 1}^{n}\Var(X_i)$$

lauseen 3.4.8 nojalla. Koska tässä muuttujat $X_1,X_2,\ldots,X_n$ muodostavat otoksen satunnaismuuttujasta $X$, niin $\rE(X_i)=\rE(X)$ ja $\Var(X_i)=\Var(X)$, $i = 1, 2, \ldots, n$. Näin otoskeskiarvon odotusarvolle ja varianssille saadaan seuraava tulos.

Lause 5.1.5

Olkoon $X_1,X_2,\ldots,X_n$ otos satunnaismuuttujasta $X$. Tällöin muuttujan $X$ otoskeskiarvon $\overline{X}$ odotusarvo

$$\rE(\overline{X})=\rE(X)=\mu$$

ja varianssi

$$\Var(\overline{X})=\frac{\Var(X)}{n}=\frac{\sigma^2}{n},$$

kun $\rE(X) = \mu$ ja $\Var(X) = \sigma^2$.

Oletetaan, että $X_1, X_2, \ldots, X_n$ on satunnaismuuttujaan $X$ liittyvä otos.

Question 1

Satunnaismuuttujan $X$ otoskeskiarvo on

$\overline{X} = \frac{1}{n} \sum_{i=1}^{n} X_i$,

$\overline{X} = \frac{1}{i} \sum_{i=1}^{n} X_n$,

$\overline{X} = \sum_{i=1}^{n} \frac{X_n}{i}$.

Question 2

Otoskeskiarvon $\overline{X}$ odotusarvo

$\rE(\overline{X}) = \sum_{n=1}^{\infty} X_n$,

$\rE(\overline{X}) = \rE(X)$,

$\rE(\overline{X}) = \frac{1}{n} \sum_{i=1}^{n} X_i$.

Satunnaismuuttujan $X$ otoksesta $X_1, X_2, \ldots, X_n$ lasketun otossuureen $\Theta$ (satunnaismuuttuja) sanotaan olevan tietyn muuttujan $X$ jakauman parametrin $\theta$ harhaton estimaattori (unbiased estimator), jos $\rE(\Theta) = \theta$. Otossuureelle realisoitunut arvo antaa tälle parametrille harhattoman estimaatin (unbiased estimate). Edellisen lauseen mukaan otoskeskiarvo $\overline{X}$ odotusarvon $\rE(X) = \mu$ harhaton estimaatti.

Otoskeskiarvon keskihajontaa

$$\rD(\overline{X})=\sqrt{\Var(\overline{X})}=\frac{\sigma}{\sqrt{n}}$$

kutsutaan keskiarvon keskivirheeksi (the standard error of the mean). Otoksesta arvioitu satunnaismuuttujan $X$ odotusarvo ja sen virhearvio voidaan ilmaista muodossa $\mu \pm \sigma/\sqrt{n}$. Tätä karkeaa arviota luotettavampi tapa on muodostaa odotusarvolle $\mu$ luottamusväli, joka suurella todennäköisyydellä sisältää varsinaisen odotusarvon.

Jos muuttuja $X$ noudattaa normaalijakaumaa, niin lauseen 5.1.3 nojalla myös otoskeskiarvo $\overline{X}$ noudattaa normaalijakaumaa.

Seuraus 5.1.6

Jos $X_1,X_2,\ldots,X_n$ on otos muuttujasta $X\sim\rN(\mu,\sigma^2)$, niin otoskeskiarvo

$$\overline{X}\sim\rN\left(\mu,\frac{\sigma^2}{n}\right).$$

Question 1

Satunnaismuuttujan $X$ otoksesta $X_1, X_2, \ldots, X_n$ lasketun otossuureen $\Theta$, jolle $\rE(\Theta) = \theta$ sanotaan olevan muuttujan $X$ jakauman parametrin $\theta$

harhaton estimaattori,

harhaton terminaattori,

harhaileva estimaattori,

harhaileva terminaattori.

Question 2

Jos satunnaismuuttuja $X \sim \rN(\mu, \sigma^2)$, niin sen otoksen $X_1,X_2,\ldots,X_n$ otoskeskiarvo

$\overline{X} \sim \rN(\mu, \sigma^2)$,

$\overline{X} \sim \rN\left(\mu, \frac{\sigma^2}{n}\right)$,

$\overline{X} \sim \Poi(\mu)$.

Aina ei voida olettaa, että satunnaismuuttujan $X$ jakauma olisi normaalinen tai edes tunnettu. Seuraavaksi käsiteltävän keskeisen raja-arvolauseen mukaan suurilla otoksilla otoskeskiarvo noudattaa onneksi likimain normaalijakaumaa riippumatta satunnaismuuttujan $X$ jakaumasta.

Palautusta lähetetään...