Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna...

22
Normalna distribucija Druga zada´ ca, Matematiˇ cki softver Helena Pelin July 8, 2015 Helena Pelin Normalna distribucija July 8, 2015 1 / 22

Transcript of Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna...

Page 1: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Normalna distribucijaDruga zadaca, Matematicki softver

Helena Pelin

July 8, 2015

Helena Pelin Normalna distribucija July 8, 2015 1 / 22

Page 2: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Sadrzaj

1 Uvod

2 Centralni granicni teorem

3 Procjene parametaraMetoda maksimalne vjerodostojnosti

4 Pouzdani intervaliAproksimativni pouzdani intervali

5 Testiranje statistickih hipotezaPrimjer

Sagetex

6 Visedimenzionalna normalna distribucijaBivarijantna normalna distribucija

7 Primjena normalne distribucije

Helena Pelin Normalna distribucija July 8, 2015 2 / 22

Page 3: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Uvod

Definicija

Definicija

Slucajna varijabla ima normalnu distribuciju sa parametrima µ i σ2 ako jojje funkcija gustoce:

f (x) =1

σ√

2πe−

(x−µ)2

2σ2

. Pisemo X ∼ N (µ, σ2).

E[X ] =

∫ +∞

−∞xf (x)dx =

∫ ∞−∞

x1

σ√

2πe−

(x−µ)2

2σ2 dx = . . . = µ

Var [X ] = E [X 2]− (E [X ])2 = . . . = σ2

Helena Pelin Normalna distribucija July 8, 2015 3 / 22

Page 4: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Uvod

Graf jedinicne normalne distribucije X ∼ N (0, 1)

Jedinicna normalna distribucija imaocekivanje 0, a varijancu 1. Dakle,njena funkcija distribucije je:

f (x) = 1√2πe−

x2

2 .

−2 0 2

0

0.2

0.4

Slika: Standardna normalna distribucija,(tikzpicture)

Helena Pelin Normalna distribucija July 8, 2015 4 / 22

Page 5: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Centralni granicni teorem

Centralni granicni teorem

Teorem

Centralni granicni teorem: Neka je X1,X2, . . . ,Xn niz n.j.d slucajnihvarijabli s konacnim ocekivanjem µ i konacnom varijancom σ2 > 0.Nadalje, neka je Xn := X1+X2+...+Xn

n za sve prirodne brojeve n. Tada zasve a < b vrijedi:

limx→∞

P(a ≤ X n − µ

σ

√n ≤ b

)= φ(b)− φ(a),

gdje je φ(x) funkcija distribucije jedinicne normalne razdiobe.

Helena Pelin Normalna distribucija July 8, 2015 5 / 22

Page 6: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Procjene parametara Metoda maksimalne vjerodostojnosti

MLE od θ = (µ, σ2) normalnog modela N(µ, σ2)

Stavimo θ1 = µ, θ2 = σ2.

Funkcija vjerodostojnosti

L(θ1, θ2) =n∏

i=1

f (xi |θ1, θ2)

=n∏

i=1

1

σ2

√2π

e− (xi−θ1)2

2θ2

= cθn22 e− 1

2θ2

∑ni=1(xi−θ1)2

Funkcija log-vjerodostojnosti

l(θ1,θ2) = ln(θn22 e− 1

2θ2

∑ni=1(xi−θ1)2

)

= −n

2lnθ2 −

1

2θ2

n∑i=1

(xi − θ1)2

Helena Pelin Normalna distribucija July 8, 2015 6 / 22

Page 7: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Procjene parametara Metoda maksimalne vjerodostojnosti

∂l

∂θ1=

1

θ1

n∑i=1

(xi − θ1) = 0 ⇐⇒ θ1 =

∑ni=1 xin

∂l

∂θ2= − n

2θ2+

1

2θ22

n∑i=1

(xi − θ1)2 = 0 ⇐⇒ θ2 =

∑ni=1(xi − θ1)2

n

Dakle, θ1 = x , θ2 = n−1n s2.

Hesseova matrica: Hl(θ1, θ2) =

[− nθ2

0

0 −n2

1θ2

2

]je negativno definitna, pa

slijedi da je X n MLE za µ, a MLE za σ2 je n−1n S2

n .

Helena Pelin Normalna distribucija July 8, 2015 7 / 22

Page 8: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Pouzdani intervali

Pouzdani intervali za parametre normalne razdiobe

Definicija

Neka su Ln = ln(X1, . . . ,Xn) i Dn = dn(X1, . . . ,Xn) statistike slucajnoguzorka X1, . . . ,Xn. Za [Ln,Dn] kazemo da je (1− α)100% pouzdaninterval za parametar τ ako vrijedi:P(Ln ≤ τ ≤ Dn) ≥ 1− α.

X n − µσ

√n ∼ N(0, 1) (1)

(n − 1)S2n

σ2∼ χ2(n − 1) (2)

X − µSn

√n ∼ t(n − 1) (3)

n∑i=1

(Xi − µ)2

σ2∼ χ2(n) (4)

Helena Pelin Normalna distribucija July 8, 2015 8 / 22

Page 9: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Pouzdani intervali Aproksimativni pouzdani intervali

Aproksimativni pouzdani intervali

Definicija

Niz statstika {Zn, n ∈ N} je asimptotski normalan ako konvergira podistribuciji slucajnoj varijabli Z ∼ N(0, 1), odnosno ako je

limn→∞

P(Zn ≤ x) = φ(x), ∀x ∈ R

Helena Pelin Normalna distribucija July 8, 2015 9 / 22

Page 10: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Pouzdani intervali Aproksimativni pouzdani intervali

Napomena

Neka je X1, . . . ,Xn slucajni uzorak s konacnim ocekivanjem EX1 = µ ivarijancom σ2 = VarX1, te neka je Sn = X1 + . . .+ Xn. Tada po CGT-uvrijedi:

Sn − ESn√VarSn

∼ AN(0, 1),

odakle slijedi

Xn − µσ

√n ∼ AN(0, 1) (5)

Helena Pelin Normalna distribucija July 8, 2015 10 / 22

Page 11: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Testiranje statistickih hipoteza

Testiranje statistickih hipoteza

Definicija

Statisticka hipoteza je pretpostavka o populacijskoj razdiobi promatranevarijable. Osnovna hipoteza koja se testira zove se nulhipoteza i oznacavasa H0.

Definicija

Razina znacajnosti testa α je vjerojatnost odbacivanja H0 ako je onaistinita. α zovemo i pogreska prve vrste.

Definicija

p vrijednost je vjerojatnost pogreske prve vrste u odnosu na kriticnopodrucje kojemu je opazena vrijednost testne statistike granicna vrijednost.

Helena Pelin Normalna distribucija July 8, 2015 11 / 22

Page 12: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Testiranje statistickih hipoteza

Pogreske prve i druge vrste

Table: Kada cinimo pogresku I., a kada pogresku II.vrste

H0 tocna H1 tocnaOdbaci H0 Pogreska I.vrste Dobra odlukaPrihvati H0 Dobra odluka Pogreska II.vrste

Helena Pelin Normalna distribucija July 8, 2015 12 / 22

Page 13: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Testiranje statistickih hipoteza Primjer

Primjer

Mjerenjem mase 20 istovrsnih cokoladica dobiveni su sljedeci rezultati

Tezina cokolada u gramima

97 99 98 96 98101 98 95 97 9998 96 97 98 98

100 99 97 101 98

Pretpostavimo da se mase cokolade podvrgavaju normalnoj razdiobi. Akona omotu cokolade pise da je njena masa 100g, mozemo li to zakljuciti narazini znacajnosti 5%?

Helena Pelin Normalna distribucija July 8, 2015 13 / 22

Page 14: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Testiranje statistickih hipoteza Primjer

Testiramo hipoteze:

H0 : µ = 100

H1 : µ < 100

Populacija je normalna s nepoznatom standardnom devijacijom, paprovodimo t-test i koristimo formulu 3, odnosno testna statistika je:

T =Xn − µSn

√n

H0∼ t(n − 1)

Uzorak je velicine n = 20, a nivo znacajnosti α = 0.05. Iz tabliceStudentove t-razdiobe citamo t0.05(19) = 1.729.

Helena Pelin Normalna distribucija July 8, 2015 14 / 22

Page 15: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Testiranje statistickih hipoteza Primjer

Slika kriticnog podrucja uz pomoc sagetexa

-3 -2 -1 1 2 3

0.1

0.2

0.3

0.4

0.05

−t0.05(19)

Helena Pelin Normalna distribucija July 8, 2015 15 / 22

Page 16: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Testiranje statistickih hipoteza Primjer

Daljni racun uz pomoc sagetexa

Sage ce nam izracunati aritmeticku sredinu i standardnu devijaciju gornjeguzorka:x = 98, s = 1.55597321043 =⇒ t = −5.7 < −1.729 = t0.05(19).Odbacujemo H0 u korist alternative.

Helena Pelin Normalna distribucija July 8, 2015 16 / 22

Page 17: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Visedimenzionalna normalna distribucija

Visedimenzionalna normalna distribucija

Definicija

Neka su X1, . . . ,Xn n.j.d. s.v. s jedinicnom normalnom distribucijom.Slucajni vektor X = (X1,X2, . . . ,Xn)T zove se standardni normalni slucajnivektor.

Gustoca standardnog normalnog slucajnog vektora:

fX(x) = f(x)(x1, . . . , xn) =n∏

i=1

fXi(xi )

= (2π)−n2 e−

12

∑ni=1 x

2i

= (2π)−n2 e−

12|x2|

Helena Pelin Normalna distribucija July 8, 2015 17 / 22

Page 18: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Visedimenzionalna normalna distribucija

Definicija

Kazemo da je X m-dimenzionalni normalni slucajni vektor s matematickimocekivanjem µ i kovarijacijskom matricom Σ ako postoje neslucajnamatrica A tipa (m, n) i standardni normalni n-dimenzionalni s.ve. Y takvida je

X D= AY + µ, Σ = AAT .

Pisemo: X ∼ Nm(µ,Σ).

Teorem

Ako je X ∼ Nm(µ,Σ),Σ = AAT i A regularna matrica, tada je Xneprekidan s.ve. s gustocom

f (x) = (det Σ)−12 (2π)−

m2 e−

12

(Σ−1(x−µ),x−µ), x ∈ Rm

Helena Pelin Normalna distribucija July 8, 2015 18 / 22

Page 19: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Visedimenzionalna normalna distribucija Bivarijantna normalna distribucija

Bivarijantna normalna distribucija

Definicija

Slucajne varijable X ∼ N(µx , σ2x) i Y ∼ N(µy , σ

2y ) imaju bivarijantnu

normalnu distribuciju sa parametrima µx , σ2x , µy , σ

2y i koeficijentom

korelacije ρ(X ,Y ) = ρ ako im je zajednicka funkcija gustoce:

fXY (x , y) =1

2πσxσy√

1− ρ2exp{− 1

2(1− ρ2)

[(x − µxσx

)2+

+(y − µy

σy

)2− 2ρ

(x − µx)(y − µy )

σxσy

]},

(6)

gdje su µx , µy ∈ R, σx , σy > 0, ρ ∈< −1, 1 > konstante.

Helena Pelin Normalna distribucija July 8, 2015 19 / 22

Page 20: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Visedimenzionalna normalna distribucija Bivarijantna normalna distribucija

Graf

Graf bivarijantne normalne distribucije, formula 6.

−2 02

46 −5

00

0.5

1

µ

Helena Pelin Normalna distribucija July 8, 2015 20 / 22

Page 21: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Primjena normalne distribucije

Primjene normalne distribucije

Gaussova krivulja ili normalnadistribucija se koristi u raznimprirodnim znanostima, kao i uznanostima koje se baveproucavanjem ponasanja. Mnostvorezultata psiholoskih testova i fizickihfenomena, slijede normalnudistribuciju. Gaussova krivulja jeuobicajeni model za prikaz varijacija.Ona govori o prirodi nasumicnosti, apredstavlja Gaussovu ili normalnuraspodjelu.

Slika: CarlFriedrich Gauss,1777.-1855.

Helena Pelin Normalna distribucija July 8, 2015 21 / 22

Page 22: Druga zada ca, Matemati cki softver Helena Pelin July 8, 2015 · Gaussova krivulja ili normalna distribucija se koristi u raznim prirodnim znanostima, kao i u znanostima koje se bave

Primjena normalne distribucije

I za kraj...

Helena Pelin Normalna distribucija July 8, 2015 22 / 22