Strojno Uenje Bayesove Tehnike 2012 v5

Strojno uenje

Tehnike uenja bazirane na Bayesovom pristupu

Tomislav muc

Literatura

2

Bayesian Learning ; Hidden Markov Models The Elements of Statistical Learning

Hastie, Tibshirani, Friedman (Ch 17 Undirected Graphical Models Chris Bishop: Pattern Recognition and Machine Learning

Chapter 8: Graphical Models Chapter 12: Sequential Models

L.R. Rabiner: A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition

TS: Strojno uenje Tehnike uenja zasnovane na Bayesovom pristupu

3

Osnovni koncepti Vjerojatnost Sluajne varijable Bayesovo pravilo

Bayesove mree Zakljuivanje u BM Uenje BM iz podataka

Sadraj


4

Vjerojatnost

Dva pristupa Frekvencijski pristup - Fizika izglednost da e se dogaaj s ishodom i zbiti - Aproksimira se kao omjer broja dogaaja s ishodom i / ukupan broj

dogaaja - Tokaste procjene n/N Bayesov pristup Vjerojatnost je stupanj uvjerenja da e se dogaaj s ishodom i zbiti Vjerojatnosti moraju biti uvjetovane podacima, t.j. p(y|x) B. pristup = Optimalan pristup (ako je model dobar, apriorna distribucija

dobra, funkcija gubitaka dobra Tokaste procjene su loe. Valjane vjerojatnosti su dobivene a posteriori i

bazirane su na evidenciji (podacima) uz dane apriorne vjerojatnosti


5

Distribucije vjerojatnosti P(X|x)

X sluajna varijabla

diskretne

kontinuirane

x neko stanje ili informacija o stanju u pozadini

Vjerojatnost


6

Diskretne sluajne varijable

Konani broj ishoda

0)( ixP

1)(1

n

i

ixP

0

0.1

0.2

0.3

0.4

0.5

X1 X2 X3 X4

1)()( xPxPbinarna X:

nxxxxX ,...,,, 321

Sluajne varijable


7

Kontinuirane sluajne varijable

Distribucije vjerojatnosti (funkcije gustoe vjerojatnosti) preko kontinuiranih vrijedosti

10

0

1)( dxxP

10,0X 0)( xP

7

5

)()75( dxxPxP

)(xP

x5 7

Sluajne varijable


8

Vjerojatnost (drugi oblici)

Skupna vjerojatnost

Vjerojatnost da su (istovremeno) X=x i Y=y

Uvjetna vjerojatnost

Vjerojatnost da je X=x u sluajevima kada je Y=y

)(),( yYxXPyxP

)|()|( yYxXPyxP

Vjerojatnost


9

Bayes i vjerojatnost, osnovni koncepti

Produktno pravilo

Marginalizacija

Bayesovo pravilo

)()|()()|(),( XPXYPYPYXPYXP

),(),()( xYPxYPYP ),( )(1

n

i

ixYPYP Binarna X:

)(

)()|()|(

YP

XPXYPYXP

)()|()()|(),( XPXYPYPYXPYXP

Bayes i vjerojatnost


10

Problem

Iz N pokuaja bacanja novia elimo odrediti vjerojatnost pojave glave u N+1 bacanju.

Bayesov pristup

Rjeenje Bayesovo pravilo: aposteriorna vjerojatnost modela uz dane podatke D i znanje (background knowledge) :

, =(|)(|,)

(|)

Gdje je = (|, )

je (u ovom sluaju) varijabla ija vrijednost odgovara moguoj

stvarnoj vrijednosti fizike vjerojatnosti

10


11

Funkcija izglednosti(?) (Likelihood) Koliko je dobra/ispravna vrijednost ?

To ovisi o tome koliko dobro moe generirati uoenu sekvencu !

=

T.j. izglednost sekvence G,P,G,P,P je npr.

= (1 ) (1 ) (1 )

Bayesov pristup

11 TS: Strojno uenje Tehnike uenja zasnovane na

Bayesovom pristupu

12

MLE - Maximum Likelihood Estimation

MLE princip: Uenje modela => uenje parametara koji maksimiziraju

izglednost-vjerojatnost generiranja podataka

Jedan od najeih u statistici i u strojnom uenju

Da bi odredili ML potrebno je imati funkciju (dovoljnu statistiku) koja iz podataka sumira potrebnu informaciju za izraunavanje izglednosti (u sluaju pismo-glava sekvenci => broj G/P

Bayesov pristup


Bayesovom pristupu

13

Odreivanje P(X|D,) .

Prosjek preko vrijednosti da bi se odredila vjerojatnost da e N+1 bacanje biti G:

P(X|D,) oekivanje s obzirom na distribuciju p(/D, )

dDpDGXP ),|(),|(

Bayesov pristup


Bayesovom pristupu

14

Osnove

Definicije

Reprezentacija

Uvjetna nezavisnost

Bayesove mree


15

Bayesova mrea

grafiki model probabilistikih odnosa izmeu grupa varijabli, koji efikasno definira/kodira zdruenu distribuciju vjerojatnosti

vrijednosti svih varijabli u skupu

Bayesove mree

Zato je pristup (uenju) preko Bayesovih mrea interesantan ? Okvir za uenje o kauzalnim odnosima

Zakljuivanje na nekompletnim podacima

Olakano kombiniranje znanja u domeni (background knowledge) i podataka

Efikasan nain izbjegavanja overfitting-a podataka


Bayesovom pristupu

16

Bayesove mree


Bayesovom pristupu

17

Konstrukcija Bayesove mree (ekspertski pristup)

Pristup se zasniva na slijedeim praktinim uvidima:

Ljudi esto dobro poznaju kauzalne odnose izmeu varijabli;

Kauzalni odnosi tipino korespondiraju sa tvrdnjama uvjetne vjerojatnosti;

Da bi konstruirali BM jednostavno crtamo veze izmeu varijabli i to od uzronih prema njihovim neposrednim efektima;

U konanom koraku odreujemo lokalne distribucije vjerojatnosti.

Odreivanje u praksi (koritenje) moe dovesti do promjene strukture mree

17

Bayesove mree


18

Kriteriji za odabir modela

Kriterij mora biti dovoljno dobar da odredi stupanj do kojeg mrea odgovara prethodnom znanju i podacima

Prmjer kriterija

Relativna posteriorna vjerojatnost

Bayesove mree


Bayesovom pristupu

19

Apriorne vjerojatnosti

Potrebne su za izraun relativne posteriorne vjerojatnosti

Apriorne strukturne vjerojatnosti p(S) Pretpostavka da je svaka hipoteza jednako vjerojatna

Varijable mogu biti poredane a prisustvo/odsustvo veza su meusobno nezavisni

Mogu se koristiti i prije odreene mree (sa slinom namjenom)

Parametarske apriorne vjerojatnosti p(|S)

Bayesove mree


Bayesovom pristupu

20

Koristi od uenja strukture BM

Efikasno uenje/modeliranje toniji modeli sa manje podataka P(A) i P(B) velika uteda podataka u odnosu na P(A,B) !

Otkrivanje strukturnih (kauzalnih) svojstava domene

Ureivanje dogaaja koji se dogaaju sekvencionalno

Pomae u analizama osjetljivosti te u zakljuivanju

Predvianje efekata nekih akcija

20

Bayesove mree


21

z

x

Z utjee na X; Z uzrokuje X; X ovisi o Z

Z je roditelj od X

X je dijete od X

21

Bayesove mree

Terminologija i semantika BM

BM => DAG => izjave o zavisnosti/nezavisnosti meu varijablama Nezavisnost => familija distribucija vjerojatnosti


22 22

Bayesove mree

z

x

y

P(y): G:0.5 P:0.5

P(z): G:0.5 P:0.5

Primjer: bacanje dva novia

x GG GP PG PP P(x|y,z): 0.25 0.25 0.25 0.25

Definiranje BM 1. Struktura

(zavisnost ,nezavisnost) 2. Distribucija vjerojatnosti


23 23

Bayesove mree

z

x

y

BM Kompaktna reprezentacija odnosa varijabli Faktorizacija distribucije vjerojatnosti

Svaka distribucija vjerojatnosti konzistentna sa nekim DAG morase faktorizirati prema: gdje je (pravilo produkta za BM!)

)|(),,,(1

21 iR

n

i

in XPXXXP

iX roditelje za oznaka iR


Zdruena vjerojatnost - faktorizacija

)|()|(

),|(),|(

)|()()(

),,,,,,(

RRpPRSCP

ZPuRPSDPuP

DZPSPDP

RpSCRPuZSDP

Puenje

Spol Dob

Rak

Rak plua Serum

Calcium

Zagaenje

24

Bayesove mree


25

Nezavisnost varijabli

Dob i spol su nezavisni

P(D|S) = P(D) D ^ S P(S|D) = P(S) S ^ D

P(D,S) = P(S|D) P(D) = P(S)P(D) P(D,S) = P(D|S) P(S) = P(D)P(S)

P(D,S) = P(D)P(S)

Spol Dob

25

Bayesove mree


26

Uvjetna nezavisnost u BM

Puenje

Spol Dob

Rak

Ukoliko znamo status varijable Puenje, Rak postaje nezavisna o Dobi i Spolu.

P(R|D,S,Pu) = P(R|Pu) R ^ D,S | Pu

26

Bayesove mree


Uvjetna nezavisnost u BM

Rak je nezavisan od Dobi i Spola uz zadano Zagaenje i Puenje.

Potomci

Roditelji

Ne-potomci

Varijabla (vor) je uvjetno nezavisan od svojih ne-potomaka, uz zadane roditelje

Puenje

Spol Dob

Rak

Rak plua Serum

Calcium

Zagaenje

27

Bayesove mree


Nezavisnost i odvojenost u DAG

Uz dane (neke) opservacije, da li je neki skup varijabli neovisan o drugom skupu ?

Opservacije induciraju zavisnosti !

d-separacija (Pearl 1988) kako grafiki provjeriti uvjetnu nezavisnost u grafu

28

Bayesove mree


Prediktivno zakljuivanje

Koliko je vjerjatno da Stariji mukarci Obole od Raka?

P(R=Da | Dob > 60, Spol= muki)

29

Bayesove mree

Puenje

Spol Dob

Rak

Rak plua Serum

Calcium

Zagaenje


Prediktivno zakljuivanje

30

Bayesove mree

Puenje

Spol Dob

Rak

Rak plua Serum

Calcium

Zagaenje

Koliko je vjerojatno da stariji mukarci Sa povienim SC dobiju Rak?

P(R=Da | Dob > 60, Spol= muki,

SC=visok)


Efekt objanjavanja (explaining away)

Ako smo otkrili Rak plua, vjerojatnost povienog puenja i zagaenja rastu !

Ako smo dodatno ustanovili prisutnost zagaenja vjerojatnost povienog puenja pada !

Puenje

Spol Dob

Rak

Rak plua Serum

Calcium

Zagaenje

31

Bayesove mree


32 32

Bayesove mree

none,malo,puPu

Puenje= ne malo puno

P( R=ne) 0.933 0.65 0.6

P( R=Da) 0.067 0.35 0.4

Puenje Rak

daneRak ,

P(Rj | Pui)

Pu R ne da

ne 0.70 0.05

malo 0.13 0.07

puno 0.03 0.02

P(Rj, Pui)

Osnovno zakljuivanje: Pravilo produkta


33

Pravilo produkta

Pu R ne da

ne 0.70 0.05

malo 0.13 0.07

puno 0.03 0.02

Marginalizacija

Pu R ne da ukupno ne 0.70 0.05 0.75

malo 0.13 0.07 0.20

puno 0.03 0.02 0.05

ukupno 0.86 0.14

)(

),(

)(

)()|()|(

RP

PuRP

RP

PuPPuRPRPuP

)()|(),( PuPPuRPPuRP

Pu R ne da

ne 0.70/0.75 0.05/0.75

malo 0.13/0.20 0.07/0.20

puno 0.03/0.05 0.02/0.05

Pu R ne da

ne 0.70/0.86 0.05/0.14

malo 0.13/0.86 0.07/0.14

puno 0.03/0.86 0.02/0.14

),( PuRP

)(RP

)(

),(

)(

)()|()|(

PuP

PuRP

PuP

RPRPuPPuRP

)(PuP

33

Bayesove mree


Stabla

P(x) = S P(x | z, y) P(z, y) z, y

Zato to su z, y nezavisne

z, y = S P(x | z, y) P(z) P(y)

Z Y

X

35

Bayesove mree

Osnovno zakljuivanje


Eliminacija varijabli

P(c) = S P(c | b) S P(b | a) P(a) b a

P(b)

x

P(A) P(B | A)

P(B, A) S A

P(B)

x

P(C | B)

P(C, B) B

P(C) S

A

B

C

36

Bayesove mree


Zdruena stabla (Join trees) Parcijalna faktorizacija

Puenje

Spol Dob

Rak

Rak plua Serum

Calcium

Zagaenje

D, S, Pu

D, Z, Pu

Z, Pu,R

R, SC R, Rp

P(D,Pu)

37

Bayesove mree


BM zakljuivanje kao eliminacija varijabli

Faktorizacija preko X je funkcija koja preslikava vrijednosti X na [0,1]: Tablica uvjetnih vjerojatnosti

Zdruena distribucija vjerojatnosti

BM zakljuivanje: Faktore moemo mnoiti da bi dobili nove

Moemo sumirati po varijablama (marginalizacija) i time ih izbaciti iz daljnjeg razmatranja

Varijabla se moe izbaciti (sumirati) kada su svi faktori koji je koriste izmnoeni

38

Bayesove mree


Uenje Bayesovih mrea iz podataka

Zadaci

Uenje parametara

Kompletni podaci

Nekompletni podaci (missing values)

Uenje strukture

39

Bayesove mree


Uenje BM

D S Z Pu R

skup za uenje

Ulaz: kompletni ili nekompletni podaci?

Model: Parametri uz zadanu mreu ili parametri +struktura?

MLE (podsjetnik)

* = G

G+P

Ulaz: rezultat bacanja

X1, , Xn = {G,G,G,P,P,P,................,G,P}

Procjena

Izglednost P(X1, , Xn | ) = G (1- )P

ML rezultat:

41

Bayesove mree


BM uenje parametara u sluaju nekompletnih podataka EM algoritam

Izraunaj oekivanje (Expectation E step) Koristi trenutne parametre k da bi popunio MV u podacima

Izraunaj novi k+1 (Maximization -M step) Koristi komplet(ira)ne podatke da bi dobio novi MLE

)|,()|,( jj dzxPdzxI k

j j

j j

zxdxI

dzxI

)|(

)|,(

|

Iteriraj do konvergencije (| |~0 )

43

Bayesove mree


Uenje strukture BM

Cilj: Dobra BM (u odnosu na podatke)

Tipino rjeenje: Heuristiko pretraivanje prostora struktura

44

Bayesove mree


A

Prostor pretraivanja = prostor mrenih struktura Operatori = dodaju/briu veze; mijenjaju usmjerenje veza Algoritmi pretraivanja= greedy, hill-climbing, GA

45

Bayesove mree

B

Uenje strukture BM = pretraivanje

C

D

E

0

1

2

3

4

5

A B C D E

Eval(BM)


Evaluacija BM strukture

Uz popunjene parametre (CPT) koritenjem tehnika (faktorizacija, eliminacija varijabli) mogua je evaluacija kompletne mree

Evaluacija => ML funkcija:

ML (BM) = P(podaci | BM)

Tipino => potpuni graf !? (overfitting)

46

Bayesove mree


MDL mjere

MDL - Minimum Description Length:

(regularizacija!) uzima u obzir kompleksnost modela

(broj parametara ~ veza u BM)

Eval(BM) = P(data | BM) kompleksnost (BM)

47

Bayesove mree


48

Online materijali i tutoriali

K. Murphy (2001) http://www.cs.berkeley.edu/~murphyk/Bayes/bayes.html

W. Buntine. Operations for learning with graphical models. Journal of Artificial Intelligence Research, 2, 159-225 (1994).

D. Heckerman (1999). A tutorial on learning with Bayesian networks. In Learning in Graphical Models (Ed. M. Jordan). MIT Press.

Knjige:

Daphne Koller and Nir Friedman, "Probabilistic graphical models: principles and techniques", MIT Press 2009

J. Pearl (2000). Causality: Models, Reasoning, and Inference. Cambridge University Press.

M. I. Jordan (ed, 1988). Learning in Graphical Models. MIT Press.

Algoritmi:

C. Huang: Inference in Belief Networks: A Procedural Guide PPTC (Probability Propagation in Trees of Clusters)

Bayesove mree


49

Software B-Course (Online course + demo; CoSco University of Helsinki)

BAYDA: http://www.cs.Helsinki.FI/research/cosco Classification

GeNIe + SMILE (http://genie.sis.pitt.edu/)

BN Power Constructor: BN PowerConstructor

Microsoft Research: WinMine http://research.microsoft.com/~dmax/WinMine/Tooldoc.htm

BUGS: http://www.mrc-bsu.cam.ac.uk/bugs

Hugin: http://www.hugin.dk

Bayesove mree


Strojno Uenje Bayesove Tehnike 2012 v5

Documents

Transcript of Strojno Uenje Bayesove Tehnike 2012 v5