Todennäköisyys matemaattisesti
Peruskäsitteitä
Nykymatematiikassa todennäköisyyden teoria on kehitetty mittateoreettisesta näkökulmasta siten, että monet todennäköisyyden peruskäsitteet yhtenevät mittateorian kanssa: tapahtumien joukko on sigma-algebra, todennäköisyys on mitta, satunnaismuuttuja on mitallinen kuvaus ja odotusarvo on integraali perusjoukon yli.
Koulumatematiikassa käytetään havainnollisempaa lähtökohtaa opetettaessa todennäköisyyslaskentaa, missä aloitetaan tarkastelu symmetrisistä alkeistapauksista ja muista jakaumista.
Todennäköisyysavaruus
Kuten mittateoriassa, aluksi on määriteltävä todennäköisyysmitta ja -avaruus. Perusjoukko on mielivaltainen epätyhjä joukko, jolle on vakiintunut merkintä . Tällä perusjoukolla on määriteltävä sigma-algebra . Todennäköisyysmitta on numeroituvasti additiivinen positiivinen mitta , jolle perusjoukon mitta . Todennäköisyysavaruus, myös todennäköisyyskenttä, on kolmikko .
Sigma-algebran alkioita kutsutaan tapahtumiksi. Tulkinnallisesti sigma-algebra on satunnaiskokeesta havaittavissa olevien, tai muuten mielenkiintoisten ja olennaisten lopputulosten joukko. Perusjoukon alkioita kutsutaan alkeistapauksiksi, ja varsinaisen satunnaisuuden, joka liittyy todennäköisyyteen taustalla olevana ilmiönä, ajatellaan liittyvän alkeistapauksen valintaan todennäköisyysmitan määrätessä jakauman.
Tapahtuman sanotaan sattuvan, jos . Todennäköisyys, että sattuu, on sen mitta .
Tapahtumiin voi luonnollisesti ajatella liittyvän loogisia operaattoreita, kuten ei, ja ja tai. Nämä tulkitaan satunnaisilmiön kuvailussa joukko-opin kielelle joukko-operaatioina. Tapahtuma ei satu, jos sen komplementti sattuu: . Tapahtumat ja sattuvat, jos niiden leikkaus sattuu: . tai sattuu, jos niiden yhdiste sattuu: . sattuu, mutta ei, jos edellisen ja jälkimmäisen erotus sattuu: . ja ovat toisensa poissulkevia kuten joukko-opissakin: . sattuu aina, kun sattuu, jos jälkimmäinen sisältyy edelliseen: .
Koulumatematiikassa kutsutaan usein perusjoukkoa varmaksi tapahtumaksi. Mittateoreettisesta lähtökohdasta ovat mielenkiintoisia lähinnä yleisemmät melkein varmat tapahtumat, jotka ovat tapahtumia, joiden todennäköisyys on yksi.
Klassinen todennäköisyysmalli
Yksinkertaisin ja varhaisin todennäköisyysmalli perustuu symmetrisiin alkeistapauksiin, jota kutsutaan myös klassiseksi todennäköisyysmalliksi. Tässä mallissa perusjoukko on
ja kaikilla
on
.
Tämä on erikoistapaus
äärellisestä todennäköisyysavaruudesta, joilla jälkimmäistä rajoitusta jakaumalle ei yleisesti ole. Äärellisille todennäköisyysavaruuksille voidaan valita ilman ongelmia sigma-algebraksi
potenssijoukko .
Satunnaismuuttuja
- Katso myös artikkeli: Todennäköisyysjakauma
Satunnaismuuttuja on
-mitallinen kuvaus
. Näin määriteltynä se ei siis ole satunnainen eikä muuttuja.
Yleisin tapa merkitä satunnaismuuttuja lienee iso kirjain, kuten . Satunnaismuuttujaa merkitään joskus pienellä kirjaimella. Tällöin se tavataan erottaa vakioista, joita myös merkitään yleensä pienillä kirjaimilla, alleviivauksella, kuten , tai painolaadun salliessa lihavoinnilla, kuten .
Satunnaismuuttujan kertymäfunktio on reaalifunktio
.
Se on kaikille satunnaismuuttujille olemassa ja yksikäsitteinen.
Satunnaismuuttuja on diskreetti, jos perusjoukko on numeroituva, ja jatkuva, jos sen kertymäfunktio on derivoituva, jolloin kyseistä derivaattaa kutsutaan tiheysfunktioksi. Satunnaismuuttujat, jotka eivät ole kumpaakaan kutsutaan muun muassa sekatyyppisiksi.
Riippumattomuus
Riippumattomuus on tärkeä satunnaismuuttujien ja tapahtumien välinen ominaisuus. Satunnaismuuttujat ja ovat riippumattomia, jos yhtälö
pätee kaikilla
Borel-joukoilla ja
.
Tapahtumat ja ovat riippumattomat, jos satunnaismuuttujat ja ovat riippumattomat, missä tarkoittaa indikaattorifunktiota. Tämä on yhtä kuin ehto
.
Vastaavat ehdot useammille satunnaismuuttujille ja tapahtumille on pädettävä kaikkien indeksikombinaatioiden yli. Esimerkiksi, tapahtumat , ja ovat riippumattomat, jos kaikki yhtälöt
|
|
| ,
|
|
|
| ,
|
|
|
| ,
|
| ja
|
|
|
pätevät.
Tunnuslukuja
Satunnaismuuttujan (absoluuttinen) odotusarvo on sen integraali yli perusjoukon, joka on todennäköisyysmitan avulla merkittynä
.
Sille on vakiintunut merkintä
. Satunnaismuuttujan
sanotaan olevan
integroituva, jos
.
Odotusarvo on satunnaismuuttujan tärkein tunnusluku. Suurten lukujen lakien mukaan satunnaismuuttujan keskiarvo toistokokeessa on likimäärin sen odotusarvo.
Satunnaismuuttujan sanotaan olevan neliöintegroituva, jos . Neliöintegroituvan satunnaismuuttujan varianssi on .
Satunnaismuuttujajonon konvergenssi
Erilaiset konvergenssit ovat tärkeitä satunnaismuuttujien ominaisuuksia. Olkoon jono satunnaismuuttujia.
- jono suppenee melkein varmasti, jos
- jono suppenee stokastisesti kohti satunnaismuuttujaa , jos kaikilla pätee
- jono suppenee jakaumaltaan, jos niiden kertymäfunktioiden jono suppenee pisteittäin jotakin kertymäfunktiota kohti
- jos kaikilla , niin suppenee kvadraattisesti kohti satunnaismuuttujaa , jos
Jos jono suppenee kvadraattisesti tai stokastisesti, niin se suppenee myös melkein varmasti. Jos jono suppenee melkein varmasti, niin se suppenee myös jakaumaltaan.
Ehdollinen todennäköisyys ja odotusarvo
Varsinkin koulumatematiikassa käytetään havainnollista ehdollisen todennäköisyyden määritelmää. Jos tapahtumalle pätee , niin tapahtuman todennäköisyys ehdolla on
.
Tämä on tulkittava siten, että jos on ikään kuin tieto, että
sattuu eli
, niin yllä oleva on todennäköisyys sille, että myös
on sattunut eli
. Tästä lähtökohdasta voidaan todistaa seuraavat ominaisuudet:
- Ehdollinen todennäköisyys toteuttaa todennäköisyysmitan määritelmän. Täten mitalla on todennäköisyysmitan kaikki ominaisuudet. Esimerkiksi, jos ja ovat tapahtumia, niin yhteenlaskukaava pätee muodossa
- jos tapahtumat ja ovat riippumattomia, niin
- kertolaskukaava:
Satunnaismuuttujan
ehdollinen odotusarvo alisigma-algebralla
on
-mitallinen satunnaismuuttuja
, jolle yhtälö
pätee kaikilla
. Satunnaismuuttujan
ehdollinen odotusarvo ehdolla satunnaismuuttuja
on
, missä
tarkoittaa satunnaismuuttujan
virittämää sigma-algebraa.
On huomattava, että ehdollinen odotusarvo on satunnaismuuttuja, eli funktio, eikä reaaliluku. Ehdollinen odotusarvo ehdolla on , missä , on reaaliluku.
Ehdollisen odotusarvon ominaisuuksia:
- jos , niin
-
- karkeus voittaa aina eli iteratiivisuus: jos , niin
- lineaarisuus: jos ja , niin
- jos on -mitallinen, niin
- jos on -mitallinen ja rajoitettu, niin
Alisigma-algebran
tulkinta on ikään kuin etukäteen havaittavissa oleva tieto satunnaismuuttujan arvosta. Triviaali sigma-algebra vastaa täydellistä epätietoisuutta,
, ja satunnaismuuttujan virittämä sigma-algebra vastaa tarkkaa tietoa sen arvosta,
.
Joukon ehdollinen todennäköisyys on . Tämä yhtenee koulumatematiikan ehdollisen todennäköisyyden kanssa siten, että jos , niin .
Todennäköisyyslaskennan kaavoja
Tapahtuma ei satu todennäköisyydellä . Tapahtuma sattuu, mutta ei, todennäköisyydellä . Jos ja ovat toisensa poissulkevia, niin . Jos sattuu aina kun sattuu, niin .
Yhteenlaskukaava
Tapahtuma tai sattuu todennäköisyydellä . Yhteenlaskukaavan yleinen muoto: jos ovat tapahtumia, niin
|
|
| |
|
|
|
|
|
|
|
|
Kokonaistodennäköisyyden kaava
Olkoon tapahtuma ja tapahtumat perusjoukon ositus. Kokonaistodennäköisyyden kaava:
.
Bayesin kaava
Olkoon tapahtuma ja tapahtumat perusjoukon ositus. Bayesin kaava:
kaikilla pätee
Lukua
kutsutaan
prioritodennäköisyydeksi ja lukua
posterioritodennäköisyydeksi.
Tuloperiaate ja summaperiaate
Tuloperiaate: jos satunnaiskoe koostuu :sta kappaleesta riippumattomia vaiheita siten, että ensimmäisellä vaiheella on eri tulosvaihtoehtoa, toisella vaiheella tulosvaihtoehtoa, ja niin edelleen niin että viimeisellä vaiheella on tulosvaihtoehtoa, niin koko kokeella on tulosvaihtoehtoa.
Summaperiaate: jos satunnaiskoe koostuu :sta kappaleesta toisensa poissulkevia ryhmiä lopputuloksia siten, että ensimmäisessä ryhmässä on tulosvaihtoehtoa, toisessa ryhmässä tulosvaihtoehtoa, ja niin edelleen niin että viimeisessä ryhmässä on tulosvaihtoehtoa, niin kokeella on tulosvaihtoehtoa.
Todennäköisyysteorian lauseita
Konvergenssilauseet
Olkoon jono satunnaismuuttujia, jonka raja-arvo
on melkein varmasti olemassa.
Mittateorian konvergenssilauseet pätevät todennäköisyyden mittateoreettisen määrittelyn vuoksi sellaisenaan, kun integraali korvataan odotusarvolla ja mitallinen funktio satunnaismuuttujalla. Ne voidaan kuitenkin yleistää ehdolliselle odotusarvolle siten, että jonon raja-arvon oton ja ehdollisen odotusarvon oton järjestyksen voi vaihtaa:
melkein varmasti,
missä
on sigma-algebra.
Monotonisen konvergenssin lause
Oletetaan, että toinen alla olevista ehdoista on voimassa:
- on melkein varmasti kaikilla ja jollakin pätee melkein varmasti
- on melkein varmasti kaikilla ja jollakin pätee melkein varmasti
Tällöin raja-arvon ja ehdollisen odotusarvon järjestyksen voi vaihtaa.
Dominoidun konvergenssin lause
Jos on olemassa integroituva satunnaismuuttuja siten, että melkein varmasti kaikilla , niin raja-arvon ja ehdollisen odotusarvon järjestyksen voi vaihtaa.
Fatoun lemma
Olkoon jono satunnaismuuttujia. Myös mittateorian Fatoun lemma voidaan yleistää ehdolliselle odotusarvolle:
ja
,
missä
on sigma-algebra.
Suurten lukujen lait
Todennäköisyyslaskennassa suurten lukujen laeiksi kutsutaan riittäviä ehtoja sille, että satunnaismuuttujajonon keskiarvo suppenee (jollakin tavalla) kohti sen keskiarvon odotusarvoa.
Jos kyseessä on erityisesti toistokoe, niin suurten lukujen lain voidaan tulkita ehdoksi sille, että kokeiden tulosten keskiarvo lähestyy kokeen odotusarvoa. Esimerkiksi rahan heitossa kruunien ja klaavojen suhteelliset frekvenssit lähestyvät puolikasta ja toisiaan, kun rahan heittämistä jatketaan. Suurten lukujen laki ei kuitenkaan tarkoita, että kruunien ja klaavojen lukumääräfrekvenssit lähestyisivät toisiaan. Suhteellisten frekvenssien lähestyminen ei edellytä tätä.
Kolmogorovin vahva suurten lukujen laki
Jos satunnaismuuttujat , , ovat riippumattomia, samoin jakautuneita ja , niin jonon keskiarvo suppenee melkein varmasti kohti satunnaismuuttujien odotusarvoa, toisin sanoen
melkein varmasti kun
.
Keskeinen raja-arvolause
Jos satunnaismuuttujat , , ovat riippumattomia, samoin jakautuneita ja , niin jonon normeerattu keskiarvo
suppenee jakaumaltaan kohti
standardinormaalijakaumaa. Tulos pätee myös lievemmällä oletuksella, jota kutsutaan
Lindebergin ehdoksi, nimetty suomalaisen matemaatikko J.W. Lindebergin mukaan. Hän todisti ehdon riittävyyden, mikä on kenties merkittävin yksittäinen suomalaisen matemaatikon tulos - kyseinen ehto on nimittäin myös
(tietyn tasapainoehdon vallitessa)
välttämätön ehto lauseen pätemiselle, ja siten ratkaisu
1900-luvun alkupuolella vaikuttaneeseen keskeiseen raja-arvoprobleemaan.
Kolmogorovin 0–1-laki
Olkoon jono riippumattomia satunnaismuuttujia. Merkitään äärettömän kaukaisista jonon arvoista riippuvien tapahtumien sigma-algebraa symbolilla
.
Jos tapahtuma , niin
tai .
Borelin–Cantellin lemma on erikoistapaus Kolmogorovin 0–1-laista.
Borelin–Cantellin lemma
Olkoon jono riippumattomia tapahtumia. Tällöin
tai .
Borelin–Cantellin lemmalla voidaan todistaa väite: 'Jos apina paukuttaa kirjoituskoneella umpimähkäisesti äärettömän pitkään, kirjoittaa se lopulta kaikki Shakespearen teokset.'
Artikkeleita todennäköisyyslaskennasta
Lähteet
Kirjallisuutta
- Pekka Tuominen: Todennäköisyyslaskenta I. Limes ry (1996).
- Korkeakoulutason oppikirja todennäköisyyslaskentaan
- Gustav Elfving ja Pekka Tuominen: Todennäköisyyslaskenta II. Limes ry (1990).
- Korkeakoulutason oppikirja todennäköisyysteoriaan
Aiheesta muualla