$$\newcommand{\N}{\mathbb N} \newcommand{\Z}{\mathbb Z} \newcommand{\Q}{\mathbb Q} \newcommand{\R}{\mathbb R} \newcommand{\C}{\mathbb C} \newcommand{\ba}{\mathbf{a}} \newcommand{\bb}{\mathbf{b}} \newcommand{\bc}{\mathbf{c}} \newcommand{\bd}{\mathbf{d}} \newcommand{\be}{\mathbf{e}} \newcommand{\bff}{\mathbf{f}} \newcommand{\bh}{\mathbf{h}} \newcommand{\bi}{\mathbf{i}} \newcommand{\bj}{\mathbf{j}} \newcommand{\bk}{\mathbf{k}} \newcommand{\bN}{\mathbf{N}} \newcommand{\bn}{\mathbf{n}} \newcommand{\bo}{\mathbf{0}} \newcommand{\bp}{\mathbf{p}} \newcommand{\bq}{\mathbf{q}} \newcommand{\br}{\mathbf{r}} \newcommand{\bs}{\mathbf{s}} \newcommand{\bT}{\mathbf{T}} \newcommand{\bu}{\mathbf{u}} \newcommand{\bv}{\mathbf{v}} \newcommand{\bw}{\mathbf{w}} \newcommand{\bx}{\mathbf{x}} \newcommand{\by}{\mathbf{y}} \newcommand{\bz}{\mathbf{z}} \newcommand{\bzero}{\mathbf{0}} \newcommand{\nv}{\mathbf{0}} \newcommand{\cA}{\mathcal{A}} \newcommand{\cB}{\mathcal{B}} \newcommand{\cC}{\mathcal{C}} \newcommand{\cD}{\mathcal{D}} \newcommand{\cE}{\mathcal{E}} \newcommand{\cF}{\mathcal{F}} \newcommand{\cG}{\mathcal{G}} \newcommand{\cH}{\mathcal{H}} \newcommand{\cI}{\mathcal{I}} \newcommand{\cJ}{\mathcal{J}} \newcommand{\cK}{\mathcal{K}} \newcommand{\cL}{\mathcal{L}} \newcommand{\cM}{\mathcal{M}} \newcommand{\cN}{\mathcal{N}} \newcommand{\cO}{\mathcal{O}} \newcommand{\cP}{\mathcal{P}} \newcommand{\cQ}{\mathcal{Q}} \newcommand{\cR}{\mathcal{R}} \newcommand{\cS}{\mathcal{S}} \newcommand{\cT}{\mathcal{T}} \newcommand{\cU}{\mathcal{U}} \newcommand{\cV}{\mathcal{V}} \newcommand{\cW}{\mathcal{W}} \newcommand{\cX}{\mathcal{X}} \newcommand{\cY}{\mathcal{Y}} \newcommand{\cZ}{\mathcal{Z}} \newcommand{\rA}{\mathrm{A}} \newcommand{\rB}{\mathrm{B}} \newcommand{\rC}{\mathrm{C}} \newcommand{\rD}{\mathrm{D}} \newcommand{\rE}{\mathrm{E}} \newcommand{\rF}{\mathrm{F}} \newcommand{\rG}{\mathrm{G}} \newcommand{\rH}{\mathrm{H}} \newcommand{\rI}{\mathrm{I}} \newcommand{\rJ}{\mathrm{J}} \newcommand{\rK}{\mathrm{K}} \newcommand{\rL}{\mathrm{L}} \newcommand{\rM}{\mathrm{M}} \newcommand{\rN}{\mathrm{N}} \newcommand{\rO}{\mathrm{O}} \newcommand{\rP}{\mathrm{P}} \newcommand{\rQ}{\mathrm{Q}} \newcommand{\rR}{\mathrm{R}} \newcommand{\rS}{\mathrm{S}} \newcommand{\rT}{\mathrm{T}} \newcommand{\rU}{\mathrm{U}} \newcommand{\rV}{\mathrm{V}} \newcommand{\rW}{\mathrm{W}} \newcommand{\rX}{\mathrm{X}} \newcommand{\rY}{\mathrm{Y}} \newcommand{\rZ}{\mathrm{Z}} \newcommand{\pv}{\overline} \newcommand{\iu}{\mathrm{i}} \newcommand{\ju}{\mathrm{j}} \newcommand{\im}{\mathrm{i}} \newcommand{\e}{\mathrm{e}} \newcommand{\real}{\operatorname{Re}} \newcommand{\imag}{\operatorname{Im}} \newcommand{\Arg}{\operatorname{Arg}} \newcommand{\Ln}{\operatorname{Ln}} \DeclareMathOperator*{\res}{res} \newcommand{\re}{\operatorname{Re}} \newcommand{\im}{\operatorname{Im}} \newcommand{\arsinh}{\operatorname{ar\,sinh}} \newcommand{\arcosh}{\operatorname{ar\,cosh}} \newcommand{\artanh}{\operatorname{ar\,tanh}} \newcommand{\sgn}{\operatorname{sgn}} \newcommand{\diag}{\operatorname{diag}} \newcommand{\proj}{\operatorname{proj}} \newcommand{\rref}{\operatorname{rref}} \newcommand{\rank}{\operatorname{rank}} \newcommand{\Span}{\operatorname{span}} \newcommand{\vir}{\operatorname{span}} \renewcommand{\dim}{\operatorname{dim}} \newcommand{\alg}{\operatorname{alg}} \newcommand{\geom}{\operatorname{geom}} \newcommand{\id}{\operatorname{id}} \newcommand{\norm}[1]{\lVert #1 \rVert} \newcommand{\tp}[1]{#1^{\top}} \renewcommand{\d}{\mathrm{d}} \newcommand{\sij}[2]{\bigg/_{\mspace{-15mu}#1}^{\,#2}} \newcommand{\abs}[1]{\lvert#1\rvert} \newcommand{\pysty}[1]{\left[\begin{array}{@{}r@{}}#1\end{array}\right]} \newcommand{\piste}{\cdot} \newcommand{\qedhere}{} \newcommand{\taumatrix}[1]{\left[\!\!#1\!\!\right]} \newenvironment{augmatrix}[1]{\left[\begin{array}{#1}}{\end{array}\right]} \newenvironment{vaugmatrix}[1]{\left|\begin{array}{#1}}{\end{array}\right|} \newcommand{\trans}{\mathrm{T}} \newcommand{\EUR}{\text{\unicode{0x20AC}}} \newcommand{\SI}[3][]{#2\,\mathrm{#3}} \newcommand{\si}[2][]{\mathrm{#2}} \newcommand{\num}[2][]{#2} \newcommand{\ang}[2][]{#2^{\circ}} \newcommand{\meter}{m} \newcommand{\metre}{\meter} \newcommand{\kilo}{k} \newcommand{\kilogram}{kg} \newcommand{\gram}{g} \newcommand{\squared}{^2} \newcommand{\cubed}{^3} \newcommand{\minute}{min} \newcommand{\hour}{h} \newcommand{\second}{s} \newcommand{\degreeCelsius}{^{\circ}C} \newcommand{\per}{/} \newcommand{\centi}{c} \newcommand{\milli}{m} \newcommand{\deci}{d} \newcommand{\percent}{\%} \newcommand{\Var}{\operatorname{Var}} \newcommand{\Cov}{\operatorname{Cov}} \newcommand{\Corr}{\operatorname{Corr}} \newcommand{\Tasd}{\operatorname{Tasd}} \newcommand{\Ber}{\operatorname{Ber}} \newcommand{\Bin}{\operatorname{Bin}} \newcommand{\Geom}{\operatorname{Geom}} \newcommand{\Poi}{\operatorname{Poi}} \newcommand{\Hyperg}{\operatorname{Hyperg}} \newcommand{\Tas}{\operatorname{Tas}} \newcommand{\Exp}{\operatorname{Exp}} \newcommand{\tdist}{\operatorname{t}} \newcommand{\rd}{\mathrm{d}}$$

Keskeinen raja-arvolause

Keskeinen raja-arvolause (central limit theorem) antaa perustelut sille, miksi normaalijakaumaa käytetään laajasti tilastotieteessä estimointiin ja hypoteesien testaamiseen. Lause sanoo, että riippumattomien satunnaismuuttujien summan jakauma lähestyy normaalijakaumaa, kun yhteenlaskettavien lukumäärä kasvaa. Merkille pantavaa on, että tämä normaalijakauman lähestyminen tapahtuu, olivatpa yhteenlaskettavien jakaumat (eräitä vaatimattomia rajoituksia lukuunottamatta) millaisia tahansa, diskreettejä tai jatkuvia. Seuraavassa annetaan keskeinen raja-arvolause sen yksinkertaisimmassa muodossa.

Lause 5.2.1 (Keskeinen raja-arvolause)

Olkoon $X_1,X_2,\ldots,X_n$ otos satunnaismuuttujasta $X$, jonka odotusarvo on $\mu$ ja varianssi $\sigma^2$. Tällöin standardoidun otoskeskiarvon

$$\overline{X}^{*} = \frac{\overline{X}-\rE(\overline{X})}{\sqrt{\Var(\overline{X})}} = \frac{\overline{X}-\mu}{\sigma/\sqrt{n}}$$

kertymäfunktio

$$F(t)=P(\overline{X}^*\leq t)\to\Phi(t),$$

kun $n\to\infty$, missä $\Phi(t)$ on standardinormaalijakauman $\rN(0, 1)$ kertymäfunktio.

Käytännön tehtävissä keskeistä raja-arvolausetta sovelletaan seuraavassa muodossa.

Lause 5.2.2

Olkoon $X_1, X_2, \ldots, X_n$ otos satunnaismuuttujasta $X$, jonka odotusarvo on $\mu$ ja varianssi $\sigma^2$. Jos $n$ on suuri, niin standardoitu otoskeskiarvo $\overline{X}^*$ noudattaa likimain standardinormaalijakaumaa,

$$\overline{X}^*\stackrel{.}{\sim}\rN(0,1).$$

Huomaa pisteellä varustettu merkintä, jolla erotetaan likimain noudattaminen täsmällisestä jakauman noudattamisesta.

Tällä niin sanotulla normaaliapproksimaatiolla saadaan hyviä arvioita yleensä silloin, kun $n\geq 30$ ja muuttujan $X$ jakauma on minkälainen tahansa. Jos muuttujan $X$ jakauman tiedetään olevan jo valmiiksi lähellä normaalijakaumaa, niin normaaliapproksimaatio soveltuu jo arvoa $n=30$ pienemmille otoksille. Jos $X$ on normaalijakautunut, niin otoskeskiarvo on lauseen 5.1.5 mukaan täsmälleen normaalijakautunut, eikä normaaliapproksimaatiota tarvita.

Keskeisen raja-arvolauseen sisältö voidaan ilmaista vieläkin helpommin sovellettavassa muodossa.

Seuraus 5.2.3

Olkoon $X_1,X_2,\dots,X_n$ otos satunnaismuuttujasta $X$, jonka odotusarvo on $\mu$ ja varianssi $\sigma^2$. Tällöin otoskeskiarvo

$$\overline{X} \stackrel{.}{\sim} \rN\left(\mu, \frac{\sigma^2}{n}\right)$$

ja otoksen summa

$$\sum_{i = 1}^{n}X_i \stackrel{.}{\sim} \rN(n\mu, n\sigma^2).$$

Question 1

Keskeinen raja-arvolause kertoo, että yhteenlaskettavien lukumäärän kasvaessa riippumattomien satunnaismuuttujien summan jakauma lähestyy

binomijakaumaa,

ihan mitä vaan jakaumaa,

Poissonin jakaumaa,

ei mitään tiettyä jakaumaa,

normaalijakaumaa.

Question 2

Olkoon $X_1,X_2,\dots,X_n$ otos satunnaismuuttujasta $X$, jonka odotusarvo on $\mu$ ja varianssi $\sigma^2$. Tällöin otoskeskiarvo

$\overline{X} \sim \rN\left(\mu, \frac{\sigma^2}{n}\right)$.

$\overline{X} \stackrel{.}{\sim} \rN\left(\mu, \frac{\sigma^2}{n}\right)$.

$\overline{X} \stackrel{.}{\sim} \rN\left(\mu^2, \frac{\sigma}{n}\right)$.

$\overline{X} \stackrel{.}{\sim} \rN\left(\mu, \sigma\right)$.

Question 3

Olkoon $X_1,X_2,\dots,X_n$ otos satunnaismuuttujasta $X$, jonka odotusarvo on $\mu$ ja varianssi $\sigma^2$. Tällöin otoksen summa

$\sum_{i = 1}^{n}X_i \stackrel{.}{\sim} \Poi(n\mu)$,

$\sum_{i = 1}^{n}X_i \stackrel{.}{\sim} \rN(n\mu, n\sigma^2)$,

$\sum_{i = 1}^{n}X_i \stackrel{.}{\sim} \Bin(n\mu, n\sigma^2)$.

Esimerkki 5.2.4

Hissin varoitustaulun mukaan se voi kuljettaa korkeintaan $25$ henkilöä tai $2000$ kilogrammaa. Henkilöpaino (kg) on satunnaismuuttuja, jonka odotusarvoksi oletetaan $\mu=74$ ja varianssiksi $\sigma^2=100$. Millä todennäköisyydellä satunnaisesti valitun $25$ henkilön kokonaispaino ylittää $2000$ kg?

Jos satunnaismuuttuja $X$ kuvaa yhteensä $25$ henkilön kokonaispainoa, niin keskeisen raja-arvolauseen nojalla

$$X \stackrel{.}{\sim} \rN(25\cdot74,25\cdot100)=\rN(1850,2500).$$

Täten

$$\begin{split}\begin{aligned} P(X>2000) &= 1-P(X\leq2000)= 1-P\left(\frac{X-1850}{\sqrt{2500}}\leq \frac{2000-1850}{\sqrt{2500}}\right)\\ &\approx 1-\Phi\left(\frac{2000-1850}{\sqrt{2500}}\right)=1-\Phi(3)\approx0.0013, \end{aligned}\end{split}$$

Arvon $\Phi(3)$ saa taulukosta. Ohjelmilla laskettaessa todennäköisyyden saa käyttäen alkuperäistä normaalijakaumaa komennoilla

   1 - normcdf(2000, 1850, sqrt(2500)) % Matlab
   1 - pnorm(2000, 1850, sqrt(2500)) # R

Esimerkki 5.2.5

Olkoon satunnaismuuttujan $X$ varianssi $\sigma^2=25$. Todennäköisyys sille, että $n = 50$ kappaleen otoksen otoskeskiarvo $\overline{X}$ poikkeaa muuttujan $X$ odotusarvosta $\mu$ vähemmän kuin $2$ yksikköä, on

$$\begin{split}\begin{aligned} P(|\overline{X}-\mu|<2) &= P(-2<\overline{X}-\mu<2) \\ &= P\left(\frac{-2}{\sigma/\sqrt{n}} < \frac{\overline{X} - \mu}{\sigma/\sqrt{n}} < \frac{2}{\sigma/\sqrt{n}}\right) \\ &\approx \Phi\left(\frac{2}{1/\sqrt{2}}\right)-\Phi\left(-\frac{2}{1/\sqrt{2}}\right) \\ &= 2\Phi(2\sqrt{2})-1 \\ &\approx 0.995, \end{aligned}\end{split}$$

sillä keskeisen raja-arvolauseen nojalla$\dfrac{\overline{X} - \mu}{\sigma/\sqrt{n}} = \dfrac{\overline{X} - \mu}{1/\sqrt{2}} \stackrel{.}{\sim} \rN(0, 1)$.

Ohjelmilla laskettaessa voidaan käyttää alkuperäistä normaalijakaumaa esimerkiksi odotusarvolla $=0$, sillä tulos ei riipu odotusarvosta. Kysytyn todennäköisyyden saa komennoilla

   normcdf(2, 0, sqrt(25/50)) - normcdf(-2, 0, sqrt(25/50)) % Matlab
   pnorm(2, 0, sqrt(25/50)) -  pnorm(-2, 0, sqrt(25/50)) # R

Binomijakauman normaaliapproksimaatio

Oletetaan, että $X\sim\Bin(n,p)$, missä parametri $p$ on onnistumisen todennäköisyys $n$-toistokokeen yksittäisessä toistossa. Tällöin satunnaismuuttuja $X$ voidaan esittää summana $X=Y_1+Y_2+\cdots+Y_n$, missä muuttujat $Y_i \sim \Ber(p) = \Bin(1, p)$, $i = 1, 2, \ldots, n$ ovat riippumattomia. Siten $Y_1,Y_2,\dots,Y_n$ on otos muuttujasta $Y\sim\mathrm{Bin}(1,p)$, missä muuttujan $Y$ odotusarvo ja varianssi $\mu = p$ ja $\sigma^2=p(1-p)$. Keskeisen raja-arvolauseen seurauksena löydetään siis keino approksimoida binomijakaumaa normaalijakauman avulla.

Seuraus 5.2.6

Jos $X \sim \Bin(n, p)$, niin sen normaaliapproksimaationa

$$X\stackrel{.}{\sim}\rN(np,np(1-p)).$$

Huomautus 5.2.7

Jos $p$ on lähellä arvoa $0$ tai $1$, niin normaaliapproksimaatio saattaa antaa huonoja arvioita binomijakauman todennäköisyyksille. Jos taas $p$ on lähellä arvoa $0.5$, niin normaaliapproksimaatiolla saadaan hyviä arvioita jo pienillä arvoilla $n$. Ohjeena voidaan sanoa, että mikäli $np\geq 5$ ja $n(1-p)\geq 5$, niin normaaliapproksimaation arviot ovat käyttökelpoisia.

Diskreetin binomijakauman approksimoiminen jatkuvalla normaalijakaumalla sujuu suuremmalla tarkkuudella, kun suoritetaan niin sanottu jatkuvuuskorjaus. Siinä binomijakauman tapahtuman $a \leq X \leq b$ rajoiksi muutetaan normaalijakaumaan liittyvissä laskuissa ne reaaliluvut $c$ ja $d$, joiden lähimpään kokonaislukuun pyöristetyt arvot vielä sisältyvät välille $[a, b]$. Seuraavassa taulukossa on esimerkkejä jatkuvuuskorjauksista.

$$\begin{split}\begin{array}{c c}\hline \text{jakauma } \Bin(n, p) & \text{jatkuvuuskorjattu, jakauma } \rN(np, np(1 - p)) \\\hline P(X \leq 3) & P(X \leq 3.5) \\ P(X < 3) = P(X \leq 2) & P(X \leq 2.5) \\ P(X \geq 4) & P(X \geq 3.5) \\ P(X > 4) = P(X \geq 5) & P(X \geq 4.5) \\\hline \end{array}\end{split}$$

Question 1

Voisiko binomijakaumaa approksimoida normaalijakauman avulla

kyllä, keskeisen raja-arvolauseen nojalla,

no ei tietenkään,

joskus voi ja toisinaan ei,

ihan älytön kysymys.

Question 2

Jos $X\sim \Bin(100,0{,}2)$, niin

$X \stackrel{.}{\sim} \rN(20,16)$,

$X \stackrel{.}{\sim} \rN(10,0{,}2)$,

$X \stackrel{.}{\sim} \Bin(10,0{,}2)$.

Question 3

Fysiikan labrassa tapahtuu mittausvirheitä. Tehdään mittaus, jossa otetaan $100$ otosta. Mittausvirheiden summan voidaan olettaa noudattavan likimain normaalijakaumaa.

Tosi

Epätosi

Esimerkki 5.2.8

Erään tuottajan omenoista on $10\ \%$ pilaantuneita. Mikä on todennäköisyys, että satunnaisesti valitun 200 omenan erässä on korkeintaan 15 pilaantunutta?

Olkoon $A=$ ‘omena pilaantunut’, jolloin $P(A)=0.1$. Merkitään $X=$ ‘pilaantuneiden lukumäärä 200 omenan erässä’. Nyt $X\sim\mathrm{Bin}(200,0.1)$. Binomijakauman normaaliapproksimaation perusteella $X\stackrel{.}{\sim}\mathrm{N}(200\cdot 0.1,200\cdot 0.1\cdot 0.9)=\mathrm{N}(20,18)$. Kysytty todennäköisyys on $P(X\leq 15)$. Kun tälle tehdään jatkuvuuskorjaus, saadaan todennäköisyys

$$\begin{split}\begin{aligned} P(X\leq 15.5) &= P\left(\frac{X-20}{\sqrt{18}}\leq\frac{15.5-20}{\sqrt{18}}\right)=P(Z\leq -1.06)\\ &=\Phi(-1.06)=1-\Phi(1.06)=1-0.8554=0.1446. \end{aligned}\end{split}$$

Arvon $\Phi(1.06)$ saa taulukosta. Ohjelmilla laskettaessa todennäköisyyden $0.1444$ saa käyttäen alkuperäistä normaalijakaumaa komennoilla

   normcdf(15.5, 20, sqrt(18)) % Matlab
   pnorm(15.5, 20, sqrt(18)) # R

Binomijakauman normaaliapproksimaation käytön yksi syy on laskennan yksinkertaistaminen, joka oli tärkeä peruste aikaisemmin ennen tietokoneiden käyttöä. Kun tehtävä lasketaan suoraan binomijakauman $\mathrm{Bin}(200, 0.1)$ kertymäfunktion avulla saadaan tulos $0.1431$ Matlab- ja R-komennoilla

   binocdf(15, 200, 0.1) % Matlab
   pbinom(15, 200, 0.1) # R

Laskettaessa normaalijakaumalla ilman jatkuvuuskorjausta $P(X\leq 15)=0.119$. Kun verrataan tuloksia binomijakaumalla avulla laskettuun todennäköisyyden arvoon $0.1431$, nähdään että jatkuvuuskorjaus korjaa tuloksen hyvin lähelle oikeaa arvoa.

Huomautus 5.2.9

Keskeisestä raja-arvolauseesta on vielä edellä esitettyjä paljon yleisempi versio. Olkoon $X_1,X_2,\ldots$ päättymätön jono riippumattomia satunnaismuuttujia, joiden jakaumista tiedetään vain odotusarvot $\mu_1,\mu_2,\ldots$ ja varianssit $\sigma_1^2,\sigma_2^2,\ldots$. Määritellään tähän jonoon liittyvät satunnaismuuttujat $Y_n$, $n \in \rN$ summina

$$Y_n=X_1+X_2+\cdots+X_n,$$

jolloin

$$\begin{split}\begin{aligned} \rE(Y_n) &= \mu_1+\mu_2+\cdots+\mu_n = \mu_{Y_n} \\ \Var(Y_n) &= \sigma_1^2+\sigma_2^2+\cdots+\sigma_n^2 = \sigma_{Y_n}^2. \end{aligned}\end{split}$$

Jos $n \to \infty$, niin varsin yleisin oletuksin standardoidun satunnaismuuttujan

$$Y_n^*=\frac{Y_n - \mu_{Y_n}}{\sigma_{Y_n}}$$

kertymäfunktio lähenee standardinormaalijakauman $\rN(0,1)$ kertymäfunktiota. Suurilla indeksin $n$ arvoilla voidaan tehdä normaaliapproksimaatio $Y_n^*\stackrel{.}{\sim}\rN(0,1)$, ja tällöin

$$Y_n=X_1+X_2+\cdots+X_n\stackrel{.}{\sim}\rN(\mu_{Y_n},\sigma_{Y_n}^2).$$

Tässä on teoreettinen selitys sille miksi normaalijakauma on niin ‘normaali’ jakauma ja siksi yleinen. Jos satunnaismuuttujan voidaan ajatella olevan monen tekijän summa, niin satunnaismuuttuja on normaalijakautunut. Esimerkiksi mittausvirheet jakautuvat likimain normaalisti, sillä mittausvirhe on usein lukuisten pienten satunnaisvirheiden summa.

Palautusta lähetetään...