Tõenäosusteooria
Sündmused ja nende toimumise tõenäosused
Juhuslikuks katseks nimetatakse igasugust tegevust, mille tulemus ei ole antud tingimustes üheselt määratud.
Juhusliku katse $\mathcal{K}$ võimalikke tulemusi nimetatakse elementaarsündmusteks ja nende hulk $\Omega = \{ \omega_1, \omega_2, . . . , \omega_n \}$,
kus $\omega_i$ on elementaarsündmus.
Sündmust võib käsitleda kui väidet elementaarsündmuste kohta, mis võib osutuda tõeseks või vääraks. Väite tõehulk on $A = \{ \omega_1, . . ., \omega_m \} \subset \Omega$,
mille elementide korral osutub väide tõeseks. Igat sündmust võib käsitleda elementaarsündmuste hulga $\Omega$ mingi osahulgana.
Olgu katses $\mathcal{K}$ kaks sündmust $A,B \subset \Omega$.
$A \cup B$ - ühend,summa, toimub kas $A$, $B$, või mõlemad.
$A \cap B$ - ühisosa, korrutis ($A \cdot B$), toimub nii sündmus $A$ kui ka sündmus $B$.
$A \setminus B$ - sündmuste vahe - toimub sündmus $A$, kuid mitte sündmus $B$.
$\bar{A} = \Omega \setminus A$ - sündmuse $A$ vastandsündmus, sündmuse $A$ mittetoimmine.
Võimatu sündmus on sündmus, mis antus katses toimuda ei saa. Võimatu sündmuse tähistus on tühihulk $\emptyset$.
Kindel sündmus toimub paratamatult, tähiseks on $\Omega$.
$A \subset B$ - sündmusest $A$ järeldub sündmus $B$.
$A \cap B = \emptyset$ - $A$ ja $B$ on teineteist välistavad, s.t nende koostoimumine on võimatu.
Sündmuse tõenäosus
Tõenäosuseks nimetatakse funktsiooni $P$, mis igale sündmusele $A \in \mathcal{F}$ seab vastavusse arvu $P(A)$ nii, et on täidetud tingimused
1. $P(A) \ge 0 \; \forall A \in \mathcal{F}$
2. $P(\Omega) = 1$ ja $P(\emptyset) = 0$
3. Kui sündmused $A_1,...,A_n$ on teineteist välistavad, siis $P(\bigcup_{i=1}^{\infty}A_i) = \sum_{i = 1}^{\infty}P(A_i)$.
Elementaarsündmuste hulk $\Omega$, sündmuste hulk $\mathcal{F}$ ja tõenäosusfunktsioon $P$ moodustavad kokku tõenäosusruumi $(\Omega, \mathcal{F}, P)$.
Tõenäosusruumi mõiste võtab kokku kogu meile olulise info juhusliku katse kohta - fikseerib ära sündmused ja määrab nende tõenäosused.
Statistiline tõenäosus. Sündmuse $A$ statistiliseks tõenäosuseks (ehk suhteliseks sageduseks) nimetatakse suhet $P_n(A) = \frac{n_A}{n}$, kus $n$ tähistab
sooritatud katsete arvu ja $n_A$ on vaadeldava sündmuse $A$ esinemiste arv $n$ katses. Sündmuste võrdvõimalikkust ei pea eeldama.
Katsete arvu $n$ kasvades statistiline tõenäosus $P_n(A)$ stabiliseerub teatud kindla väärtuse ümber, mida võibki lugeda sündmuse $A$ tegelikuks
tõenäosuseks $P(A)$.
Sõltuvad ja sõltumatud sündmused
Sündmuse $A$ tinglikuks tõenäosuseks tingimusel, et sündmus $B$ on toimunud, nimetatakse tõenäosust $P(A|B) := \frac{P(AB)}{P(B)}$. Sellest tulenevalt
on sündmuste $A$ ja $B$ koostoimumise tõenäosus $P(AB) = P(B) \cdot P(A|B)$.
Erinevad sündmused võivad olla teineteisest sõltuvad või sõltumatud. Kaks sündmust $A$ ja $B$ on teineteisest sõltumatud, kui ühe sündmuse toimumine
ei mõjuta teise sündmuse toimumise tõenäosust, s.t kui $P(A|B) = P(A)$ ja $P(B|A) = P(B)$. Sellisel juhul sõltumatute sündmuste koostoimumise
tõenäosus $P(AB) = P(A) \cdot P(B)$.
Kui $P(A|B) \neq P(A)$, siis sündmuseid $A$ ja $B$ nimetatakse teineteisest sõltuvaks, kusjuures $P(A|B) > P(A)$ korral nimetatakse neid sündmuseid
positiivselt korreleerituks ning $P(A|B) < P(A)$ korral negatiivselt korreleerituks.
Praktilises elus pole tihti piisavalt statistisi andmeid otsustamaks kahe sündmuse sõltuvuse või sõltumatuse üle eelnimetatud viisil. Sellistel juhtudel
otsustatakse nende sündmuste vahelise seose kohta kvalitatiivse analüüsi teel.
Diskreetsed juhuslikud suurused
Vaadeldava katse elementaarsündmuste hulgal $\Omega$ määratud funktsiooni $X : \Omega \longrightarrow \Bbb{R}$ nimetatakse
diskreetseks juhuslikuks suuruseks.
Elementaarsündmuste hulgal $\Omega$ määratud funktsiooni $p : \Omega \longrightarrow [0,1]$, mille korral $\sum_{\omega_i \in \Omega} P(\omega_i) = 1$,
nimetatakse tõenäosuse jaotusfunktsiooniks.
Tähistame sündmuse, et "juhuslik suurus $X$ võtab väärtuse $x_i$ sümboliga $A_i$ ehk teisiti $A_i = \{ \omega : X(\omega) = x_i \}$
või lühemalt $A_i = \{ X = x_i \}$. Et iga $\omega$ korral $X(\omega)$ võtab üheainsa väärtuse, siis sündmused $A_i$ ja $A_j$ ($i \neq j$)
on teineteist välistavad, $A_i \cap A_j = \emptyset$. Samas on kindel, et iga $\omega$ kuulub mingisse hulka $A_i$, mistõttu $\bigcup_{i} A_i = \Omega$.
Et sündmused $A_i$ moodustavad täissüsteemi, siis $\sum_{i} P_i = \sum_{i}P\{ X = x_i \} = 1$.
Diskreetse juhusliku suuruse $X$ keskväärtuseks nimetatakse arvu
\[ \text{EX} = \sum_{\omega_i \in \Omega} X(\omega_i) \cdot p(\omega_i) \]
Juhusliku suuruse $X$ dispersiooniks nimetatakse arvu
\[ DX = \sum_{\omega_i \in \Omega} X(\omega_i) \cdot (p(\omega_i) - EX)^2\]
ehk $DX = E(X-EX)^2 = E(X^2)-(EX)^2$.
Dispersioon on juhusliku suuruste hälvete (keskväärtuse suhtes) ruutude keskväärtus.
Arvu $\sigma_X = \sqrt{DX}$ nimetatakse juhusliku suuruse $X$ standardhälbeks.
Kehtib $D(aX + b) = a^2 DX$.
Summa keskväärtus.
Kui eksisteerivad keskväärtused $EX$ ja $EY$, siis kehtib seos $E(X+Y) = EX + EY$ ehk üldiselt $E (\sum_{i=1}^{n}X_i) = \sum_{i=1}^{n}EX_i$.
Iga $a,b \in \Bbb{R}$ korral $E(aX + bY) = aEX + bEY$.
Summa dispersioon. Lähtudes dispersiooni definitsioonist ning kasutades keskväärtuse lineaarsust, saame $D(X+Y) = DX + DY + 2cov(x,y)$, kus
$cov(x,y) = E(X-EX)(Y-EY)$.
Diskreetsete juhuslike suuruste sõltuvus ja sõltumatus
Juhuslike suuruste $X$ ja $Y$ vaheliseks kovariatsiooniks nimetatakse arvu $cov(X,Y) := E(X-EX)(Y-EY)$.
Kovariatsiooni avaldises on omavahel korrutatud juhuslikud hälbed $(X-EX)$ ja $(Y-EY)$ ning tulemusi keskmistatakse.
Kovariatsiooni alternatiivne valem, mida on mugavam kasutada: $cov(X,Y) = E(XY)-EX \cdot EY$.
Kui $cov(X,Y) > 0$, siis öeldakse, et juhuslikud suurused $X$ ja $Y$ on positiivselt korreleeritud.
Kui $cov(X,Y) < 0$, siis öeldakse, et juhuslikud suurused $X$ ja $Y$ on negatiivselt korreleeritud.
Kui $cov(X,Y) = 0$, siis öeldakse, et juhuslikud suurused $X$ ja $Y$ on mittekorreleeritud.
Diskreetseid juhuslikke suuruseid $X$ ja $Y$ nimetatakse sõltumatuteks, kui iga $i$ ja $j$ korral sündmused $\{ X = x_i \}$ ja $\{ Y = y_j \}$ on sõltumatud,
s.t $P \{ X = x_i, Y = y_j \} = P \{ X = x_i \} \cdot P\{ Y = y_j \}$. Sõltumatute juhuslike suuruste $X$ ja $Y$ korral $cov(X,Y) = 0$, millest
järeldub, et $E(XY) = EX \cdot EY$.
Sõltumatute liidetavatega summa dispersioon. Kui $X$ ja $Y$ on sõltumatud (või mittekorreleeritud), siis $D(X+Y) = DX + DY$.
Standardhälbe korral taoline seos ei kehti, summa standardhälve avaldub sõltumatuse korral kujul $\sigma_{X+Y} = \sqrt{\sigma_{X}^{2} + \sigma_{Y}^{2}}$
Näiteid diskreetsetest jaotustest
Öeldakse, et juhuslik suurus $X$ on Bernoulli jaotusega, kui tema võimalikud väärtused on $0$ ja $1$. Antud jaotuse oluliseks arvkarakteristikuks
(ehk parameetriks) on tõenäosus $p = P\{ X = 1 \}$, mille kaudu avaldub ka teine tõenäosus $q = \{ X = 0 \} = 1-p$. Bernoulli jaotuse tähiseks
on $X \backsim Be(p)$ (loeme "X on Bernoulli jaotusega parameetriga p").
Juhuslik suurus $X$ on binoomjaotusega, kui $P |{ X = k \} = \tbinom{n}{k} p^k (1-p)^{n-k}$, tähistatakse $X \backsim B(n,p)$, kus $n$ ja $p$ nim.
binoomjaotuse parameetriteks.
Olgu sõltumatute katsete tulemus igal katsel $A$ või $\bar{A}$, kusjuures sündmuse $A$ toimumise tõenäosus igal katsel on $p = P(A)$.
Olgu juhuslik suurus $X$ katsete arv kuni sündmuse $A$ esimese toimumiseni. Siis selline juhuslik suurus $X$ on geomeetrilise jaotusega
ja tähistatakse $X \backsim Geom(p)$ ning $P \{ X = k \} = q^{k-1} \cdot p$, kus $q = p-q$.
Öeldakse, et juhuslik suurus $X$ on Poissoni jaotusega ja tähistatakse $X \backsim \mathcal{P}(\lambda)$, kui $X$ võimalikud väärtused on
$0,1,2,3,...$ ning $P \{ X = k \} = \frac{\lambda^k}{k!}e^{-\lambda}$, kus $\lambda > 0$ on Poissoni jaotuse parameeter.
Rusikareegel. Kui sündmuse $A$ toimumine sõltub suurest arvust sõltumatutest teguritest, millest igaühe mõju on vähetõenäoline, aga sellest
ilmnemise korral sündmus $A$ toimub, siis on alust arvata, et sündmuse $A$ toimumiste koguarv $X$ on Poissoni jaotusega juhuslik suurus.
Selle reegli kohaselt sobib Poissoni jaotus hästi harvade sündmuste arvu kirjeldamiseks, mistõttu antud jaotust nimetatakse vahel ka
"väikeste arvude seaduseks".
Bernoulli jaotuse keskväärtus $EX = p$ ja dispersioon $DX = p \cdot q$.
Binoomjaotuse keskväärtus $EX = np$ ja dispersioon $DX = npq$ (eeldusel, et $X_1,X_2,...$ on sõltumatud).
Geomeetrilise jaotuse keskväätus $EX = \frac{1}{p}$ ja dispersioon $DX = \frac{1-p}{p^2}$.
Poissoni jaotuse keskväärtus $EX = \lambda$ ja dispersioon $DX = \lambda$.
Poissoni jaotusega juhuslike suuruste summa.
Kahe sõltumatu Poissoni jaotusega juhusliku suuruse summa on samuti Poissoni jaotusega, kusjuures parameetrid liituvad, s.t $X_1 + X_2 \backsim \mathcal{P}(\lambda_1 + \lambda_2)$.
Pidevad juhuslikud suurused
Juhuslikuks suuruseks nimetatakse funktsiooni $X : \Omega \longrightarrow \Bbb{R}$, mille korral on täidetud tingimus, et iga $x \in \Bbb{R}$ korral
$\{ \omega : X(\omega) \leq x \} \in \mathcal{F}$ ehk lühemalt $\{ X \leq x \}$.
Juhusliku suuruse $X$ jaotusfunktsiooniks nimetatakse funktsiooni
\[ F_X(x) = P \{ X \leq x \}, \; \; x \in \mathbb{R} \]
Jaotusfunktsiooni abil saab väljendada poollõiku $(a,b]$ sattumise tõenäosust $P \{ a < X \leq b \} = P \{ X \leq b \} - P \{ X \leq a \} = F_X(b) - F_X(a)$.
Jaotusfunktsiooni üldised omadused:
1. $0 \leq F(X) \leq 1$ iga $x \in \Bbb{R}$ korral
2. $F(x)$ on monotoonselt kasvav: $x_1 < x_2 \Rightarrow F(x_1) < F(x_2)$
3. Eksisteerivad piirväärtused $\lim_{x \rightarrow -\infty}F(x) = 0$ ja $\lim_{x \rightarrow \infty}F(x) = 1$
4. Jaotusfunktsioon on paremalt pidev: $\lim_{x \rightarrow a+}F(x) = F(a)$.
Juhuslikku suurust $X$ nimetatakse pidevaks, kui tema jaotusfunktsioon avalduvad integraalina $F_X(t) = \int_{\infty}^{t}f_X(x)\text{d}x$,
seejuures funktsiooni $f_X(x)$ nimetatakse juhusliku suuruse $X$ (ja tema jaotuse) tihedusfunktsiooniks ehk lihtsalt tiheduseks.
Tihedusfunktsioon avaldub jaotusfunktsiooni tuletisena: $f_X(x) = F_{X}^{'}(x)$.
Tihedusfunktsiooni põhiomadused:
1. $f_X(x) \ge 0$, sest $F_X(x)$ on monotoonselt kasvav
2. $\int_{-\infty}^{\infty} f_X(x) \text{d}x = 1$, sest $\lim_{t \rightarrow \infty}F_X(t) = 1$.
Iga omadusi 1 ja 2 täitev funktsioon on mingi pideva juhusliku suuruse tihedus. Tiheduse abil saab avaldada poollõiku $(a,b]$ sattumise tõenäosuse
\[ P \{ a < X \leq b \} = F_X(b) - F_X(a) = \int_{a}^{b}f_X(x) \text{d}x \]
Pideva juhusliku suuruse keskväärtuseks nimetatakse arvu
\[ EX = \int_{-\infty}^{\infty}x \cdot f_X(x) \text{d}x \]
kui eeldame, et $\int_{-\infty}^{\infty} |x| \cdot f_X(x)\text{d}x < \infty$
Pideva juhusliku suuruse keskväärtuse põhiomadused langevad kokku diskreetsete juhuslike suuruste keskväärtuse omadustega, sealhulgas
$E(X+c) = EX + x$ ja $E(cX) = cEX$.
Pideva juhusliku suuruse dispersioon
\[ DX = \int_{-\infty}^{\infty}(x-EX)^2 f_X(x) \text{d}x \]
Kehtivad valemid $DX = E(X^2)-(EX)^2$, $D(X+c) = DX$ ja $D(cX) = c^2DX$
Jaotuse $F$ moodiks nimetatakse juhusliku suuruse $X$ väärtust, mis esineb antud jaotuse korral kõige sagedamini. Diskreetse jaotuse korral on selleks
jaotuse tõenäoseim väärtus. Pideva jaotuse korral on selleks väärtus $x$, mille korral tihedusfunktsiooni väärtus $f(x)$ on maksimaalne.
Pideva juhusliku suuruse mediaaniks on arv $\text{Me}X$, mille korral $F(\text{Me}X) = \frac{1}{2}$.
Sümmeetrilise ühemodaalse pideva jaotuse korral langevad keskväärtus, mood ja mediaan kokku.
$\alpha$-kvantiiliks nimetatakse arvu $q_{\alpha}$, mille korral $P \{ X \leq q_{\alpha} \} \ge \alpha$ ja $P \{ X \ge q_{\alpha} \} \ge 1-\alpha$.
Pideva jaotuse korral on kvantiil defineeritud kui arv $x$, mille korral $P \{ X \leq q_{\alpha} \} = \alpha$.
Väärtused $q_{0.25}$ ja $q_{0.75}$ on tuntud kui alumine ja ülemine kvantiil. Mediaan on jaotuse $0.5$-kvantiil ($q_{0.5}$).
Pidevate jaotuste korral kasutatakse ka nn täiendkvantiili $\bar{q_{\alpha}}$,
mis on defineeritud kui arv, mille korral $P \{ X > \bar{q_{\alpha}} \} = \alpha$.
Täiendkvantiil on $(1-\alpha)$-kvantil.
Näiteid pidevatest jaotustest
Öeldakse, et juhuslik suurus $X$ on ühtlase jaotusega lõigus $[a,b]$ ja tähistatakse $X \backsim \mathcal{U}(a,b)$, kui tema tihedus on
\[ f_X(x) = \begin{cases}
\frac{1}{b-a}, \text{ kui } x \in [a,b] \\
0, \text{ mujal }
\end{cases} \]
Lõigus $[a,b]$ ühtlase jaotusega juhusliku suuruse $X \backsim \mathcal{U}(a,b)$ keskväärtus $EX = \frac{a+b}{2}$ ja dispersioon $DX = \frac{(b-a)^2}{12}$.
Öeldakse, et $X$ on eksponentjaotusega ja tähistatakse $X \backsim \mathcal{E}(\lambda)$, kui tema tihedus on
\[ f_X(x) = \begin{cases}
\lambda e^{-\lambda x}, \text{ kui } x \ge 0 \\
0, \text{ kui } x < 0
\end{cases} \]
Eksponentjaotusel on üks omadus, mis eristab teda kõikidest teistest pidevatest jaotustest - ta on "mäluta" jaotus. Kui mingi sündmuse
$A$ ooteaeg on eksponentjaotusega, siis me ei saa "tasu" selle eest, et me oleme seda sündmust juba mingi aja oodanud - sündmus ei tule sellest lähemale.
Seos ühtlase jaotusega. Eksponentjaotusega juhusliku suuruse saab tuletada ühtlase jaotusega juhuslikust suurusest:
Kui $\mathcal{U} \backsim \mathcal{U}(0,1)$, siis teisentusega $T = -\frac{\ln U}{\lambda}$ on eksponentjaotusega, $T \backsim \mathcal{E}(\lambda)$.
Saadud seost kasutatakse sageli, kui on vaja arvutil simuleerida eksponentjaotusega juhuslikke suurusi.
Eksponentjaotusega juhusliku suuruse $X \backsim \mathcal{E}(\lambda)$ keskväärtus $EX = \frac{1}{\lambda}$ ja dispersioon $DX = \frac{1}{\lambda^2}$.
Normaaljaotus
Öeldakse, et pidev juhuslik suuus $X$ on normaaljaotusega ja tähistatakse $X \backsim \mathcal{N}(\mu , \sigma)$, kui tema tihedus on
\[ f_X(x) = \frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}} \]
kus $- \infty < \mu < \infty$ ja $\sigma > 0$ on selle jaotuse parameetrid.
Normaaljaotusega juhusliku suuruse $X \backsim \mathcal{N}(\mu, \sigma)$ keskväärtus $EX = \mu$ ja dispersioon $DX = \sigma^2$.
Normaaljaotuse tiheduse omadused:
1. tihedus $f_X(x)$ on sümmeetriline $\mu$ suhtes
2. piirväärtus $\lim_{x \rightarrow \pm \infty} f_X(x) = 0 $
3. käänupunktid on $x = \mu \pm \sigma$
4. maksimumväärtust $\text{max}f_X(x) = f_X(\mu) = \frac{1}{\sqrt{2\pi}\sigma}$
Vahemik $[\mu - \sigma, \mu + \sigma]$ katab alati tõenäosuse $0.68$ ja $[\mu -3\sigma, \mu + 3\sigma]$ katab $99,7%$.
Normaaljaotust nimetatakse ka Gaussi jaotuseks.
Rusikareegel. On alust arvata, et juhuslik suurus $X$ on normaaljaotusega (vähemalt ligikaudu), kui ta on vaadeldav paljude
sõltumatute juhuslike suuruste summana, kusjuures iga liidetava panus on tühine võrreldes summaarse panusega.
Normaaljaotust parameetritega $\mu = 0$ ja $\sigma = 1$ nimetatakse standardseks normaaljaotuseks ja tähistatakse $X \backsim \mathcal{N}(0,1)$ ning tema
tihedus on seega
\[ f_X(x) = \frac{1}{\sqrt{a\pi}} e^{-\frac{x^2}{2}} \]
Standardse normaaljaotuse kaudu saab avaldada kõik ülejäänu normaaljaotused:
Kui $X \backsim \mathcal{N}(\mu,\sigma)$, siis tema lineaarne teisendus $Z = \frac{X-\mu}{\sigma} \backsim \mathcal{N}(0,1)$.
Standardse normaaljaotuse $Z \backsim \mathcal{N}(0,1)$ jaotusfunktsioon
\[ \Phi(x) = P \{ Z \leq z \} = \int_{-\infty}^{\infty}\frac{1}{\sqrt{2\pi}}e^{-\frac{y^2}{2}} \text{d}y \]
Kuna standardne normaaljaotus on $0$-punkti suhtes sümmeetriline, siis $\Phi(-x) = 1 - \Phi(x)$.
Kahemõõtmeline juhuslik suurus
Olgu $X$ ja $Y$ diskreetsed juhuslikud suurused ja olgu antud funktsioon $g: \Bbb{R}^2 \longrightarrow \Bbb{R}$.
Kahemuutuja funktsiooni keskväärtus avaldub kujul
\[ Eg(X,Y) = \sum_{i} \sum_{j} g(x_i,y_j) P \{ X=x_i, Y = y_j \} \]
Sageli puutume kokku ülesannetega, kus ühes ja samas juhuslikus katses on vaatluse all mitu juhuslikku suurust.
Kui $m$ juhuslikku suurust $X,Y,...,Z$ on määratud ühes ja samas katses, siis vektorit $(X,Y,..,Z)$ nimetatakse $m$-mõõtmeliseks juhuslikuks vektoriks.
Juhusliku vektori $(X,Y)$ jaotusfunktsiooniks nimetatakse funktsiooni
\[ F_{F,Y}(x,y) = P \{ X \leq x, Y \leq y \} \]
Juhuslikke suurusi $X$ ja $Y$ nimetatakse sõltumatuteks, kui $F_{X,Y}(x,y) = F_X(x) \cdot F_Y(y)$.
Definitsioon on üldine, kehtib nii pidevate kui ka diskreetsete juhuslike suuruste kohta. Varasemast teame, et sõltumatute juhuslike suuruste korral
on kovariatsioon nende vahel $0$.
Kahemõõtmelise juhusliku suuruse kovariatsioon $cov(X,Y) = E(X-EX)(Y-EY)$. Kehtib seos $cov(X,Y) = E(X \cdot Y) - EX \cdot EY$.
Sõltumatute juhuslike suuruste korral $E(XY) = EX \cdot EY$ .
Korrelatsioon
Korrelatsiooniks juhuslike suuruste $X$ ja $Y$ vahel nimetatakse suurust
\[ p(X,Y) = \frac{cov(X,Y)}{\sigma_X \cdot \sigma_Y} \]
Korrelatsiooni omadused:
1. |p(X,Y) \leq 1|
2. Mida suurem on korrelatsioonikordaja absoluutväärtus, seda tugevam on seos suuruste $X$ ja $Y$ vahel.
3. Lineaarse seose korral $|p(X,Y) = 1|.
4. Kui tunnused on sõltumatud, siis $p(X,Y) = 0$
Korrelatsioonikordaja on kovariatsiooni "normeeritud" variant.
Diskreetne kahemõõtmeline juhuslik suurus
Olgu juhuslike suuruste $X$ ja $Y$ väärtused vastavalt $x_1,x_2,...$ ja $y_1,y_2,...$. Siis juhuliku vektori $(X,Y)$ väärtuseks on kõikvõimalikud
paarid $(x_i,y_i)$. Tähistame paaride tõenäosused $p_{ij} = P \{ X = x_i, Y = y_i \}.
Juhusliku vektori $(X,Y)$ ühisjaotuseks nimetatakse kolmikute komplekti $\{ (x_i, y_j, p_{ij}), i,j = 1,2,... \}$.
Marginaaljaotused $p_{i \cdot } = \sum_{j}p_{ij}$ ja $p_{\cdot j} = \sum_{i}p_{ij}$.
Juhusliku vektori $(X,Y)$ ühisjaotuse tabeli reasummad moodustavad juhusliku suuruse $X$ jaotuse ja veerusummad vastavalt juhusliku suuruse $Y$ jaotuse,
s.t kehtivad seosed
\[ p_{i \cdot} = P \{ X = x_i \}, \; \; p_{\cdot j} = P\{ Y = y_j \} \text{ ja } \sum_{i} \sum_{j} p_{ij} = 1 \]
Diskreetse juhusliku suuruse korral on $X$ ja $Y$ on sõltumatud, kui kehtib seos $P \{ X = x_i, Y = y_j \} = P \{ X = x_i \} \cdot P \{ Y = y_j \}$, mis
kahemõõtmelise vektori korral tähendab seost $p_{ij} = p_{i \cdot} \cdot p_{\cdot j}$.
Juhuslikku vektorit $(X,Y)$ nimetatakse pidevaks, kui tema jaotusfunktsioon avaldub kujul
\[ F_{X,Y}(x,y) = \int_{-\infty}^{x} \int_{-\infty}^{y} f_{X,Y}(u,v) \text{d}u\text{d}v \]
Funktsioon $f_{X,Y}(u,v)$ on juhusliku vektori $(X,Y)$ ühistihedus (tihedusfunktsioon).
Põhiomadused:
1. $f_{X,Y}(u,v) \ge 0$
2. $\int_{-\infty}^{\infty} \int_{-\infty}^{\infty}f_{X,Y}(u,v)\text{d}u \text{d}v = 1$
Tasandilise piirkonna $B \subset \Bbb{R}^2$ langemise tõenäosus on $P \{ (X,Y) \in B \} = \int \int_B f_{X,Y}(u,v)\text{d}u \text{d}v$
Näited.
Ühtlane jaotus tasandi piirkonnas $D$(pindalaga $S_p$) on defineeritud tihetusega
\[ f_{X,Y}(x,y) = \begin{cases}
\frac{1}{S_p}, \text{ kui } (x,y) \in D \\
0, \text{ kui } (x,y) \notin D
\end{cases} \]
Kahtemõõtmeline normaaljaotus juhul, kui $\mu_1 = \mu_2 = 0$ ja $\sigma_1 = \sigma_2 = 1$ on antud ühistihedusega
\[ f_{X,Y}(x,y) = \frac{1}{2\pi \sqrt{1-p^2}} \cdot e^{\frac{1}{2(1-p^2)} (x^2-2pxy+y^2)}, \]
kus parameeter $p$ on korrelatsioon $X$ ja $Y$ vahel.
Tõenäosusteooria piirteoreemid
Öeldakse, et juhuslike suuruste jada $Y_1,Y_2,...$ koondub tõenäosuse järgi juhuslikuks suuruseks $Y$, kui iga $\varepsilon > 0$
korral $P \{ |Y_n - Y| < \varepsilon \} \rightarrow 1$, kui $n \rightarrow \infty$. Tähistame $Y_n \xrightarrow{P} Y$.
Vastandsündmuse tõenäosust kasutades saab tõenäosuse järgi koondumist kirja panna $P \{ |Y_n-Y| \ge \varepsilon \} \rightarrow 0, n\rightarrow \infty$.
Suurte arvude seadus.
Olgu $(X_1,X_2,X_3,...)$ sõltumatute juhuslike suuruste jada, mille keskväärtused $EX_i = a$.
Siis nende juhuslike suuruste aritmeetiliste keskmiste jada koondub nende juhusliku suuruste keskväärtuseks s.t
\[ \lim_{n \rightarrow \infty} \sum_{k = 1}^{n} \frac{X_k}{k} = a \]
Suurte arvude seadus osutub kasulikuks, kui sündmuse toimumise tõenäosus pole vahetult leitav. Sel juhul võimaldab suurte arvude seadus
sündmuse tõenäosust hinnata statistiliselt. Näiteks, kui juhuslikud suurused on Bernoulli jaotusega,
kus $S_n$ sündmuse $A$ toimumiste arv $n$ sõltumatus katses, siis sündmuse $A$ suhteline sagedus $\frac{S_n}{n}$ koondub tõenäosuse järgi arvuks $P(A)$, kui
$n \rightarrow \infty$, kus $P(A)$ on sündmuse $A$ tõenäosus igas üksikkatses.
Poissoni piirteoreem. Olgu $X_1, X_2,...$ binoomjaotusega juhuslikud suurused, $X_n \backsim B(n,p_n)$ ja leidku aset keskväärtuste koondumine
$EX_n = np_n \longrightarrow \lambda > 0$. Siis binoomjaotuse tõenäosused koonduvad Poissoni jaotuse tõenäosusteks:
\[ P \{ X_n = k \} = \tbinom{n}{k}p_{n}^{k}(1-p_n)^{n-k} \longrightarrow \frac{\lambda^k}{k!}e^{-\lambda} , n \rightarrow \infty \]
s.t Poissoni jaotus on vaadeldav binoomjaotuse teatava piirjuhuga, kus katsete arv $n$ läheneb lõpmatusele.
Tsentraalne piirteoreem
Olgu $X_1,X_2,...$ sõltumatute sama jaotusega juhuslike suuruste jada, kusjuures $EX_i = a$ ja $DX_i = \sigma^2$. Olgu $S_n = X_1+X_2+...+X_n$.
Vaatleme juhuslikku suurust $Y_n = \frac{S_n-na}{\sigma \cdot \sqrt{n}}$ ning paneme tähele, et $EY_n = 0$ ja $DY_n = 1$.
Eespool kirjeldatud eeldustel koondub juhusliku suuruse $Y_n$ jaotsfunktsioon $n \rightarrow \infty$ korral standardse normaaljaotuse jaotusfunktsiooniks,
s.t iga $t \in \Bbb{R}$ korral $P \{ Y_n \leq t \} \rightarrow \Phi(t), n \rightarrow \infty$, kus $\Phi(t) = \frac{1}{\sqrt{2\pi}} \int_{-\infty}{t}e^{-\frac{x^2}{2}}\text{d}x$
ehk $Y_n \longrightarrow \mathcal{N}(0,1)$.
Märkused.
Teoreemis esinevat koondumist nimetatakse ka jaotuse järgi koondumiseks. Statistikas öeldakse sageli sellise koondumise kohta, et $Y_n$ on
asümptootilise standardse normaaljaotusega ja tähistatakse $Y_n \backsim \text{AsN}(0,1)$ või $Y_n \backsim \mathcal{N}(0,1)$.
Paneme tähele, et aritmeetline keskmine $\frac{S_n}{n} \backsim \text{AsN}(a,\frac{\sigma}{\sqrt{n}})$.
Moivre-Laplace'i piirteoreem
MLP on tsentraalse piirteoreemi erijuht. Olgu $X_i \backsim Be(p)$, $i = 1,...,n$ sõltumatud juhuslikud suurused.
Summa $S_n = X_1 + X_2 + ... + X_n \backsim B(n,p)$. Jaotuse keskväärtus ja dispersioon on vastavalt $ES_n = np$ ja $DS_n = np(1-p)$.
Teoreem. Olgu $S_n$ binoomjaotusega juhuslik suurus, $S_n \backsim B(n,p)$. Siis iga $t \in \Bbb{R}$ korral leiab aset koondumine
\[ P \{ \frac{S_n-np}{\sqrt{np(1-p)}} \leq t \} \longrightarrow \Phi(t), n \rightarrow \infty \]
Binoomjaotuse $B(n,p)$ tõenäosuse on suure $n$ korral raske arvutada. Küll aga saab suure $n$ korral binoomjaotust lähendada:
1. Poissoni jaotusega, kui $np(1-p$ on väike
2. normaaljaotusega, kui $np(1-p)$ on suur $(np(1-p) \ge 10)$