Decision Analysis · Bayes Theorem •Posterior Probability:...

34
Decision Analysis KANOKWATT SHIANGJEN COMPUTER SCIENCE SCHOOL OF INFORMATION AND COMMUNICATION TECHNOLOGY UNIVERSITY OF PHAYAO

Transcript of Decision Analysis · Bayes Theorem •Posterior Probability:...

Page 1: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Decision Analysis

KANOKWATT SHIANGJENCOMPUTER SCIENCE

SCHOOL OF INFORMATION AND COMMUNICATION TECHNOLOGY

UNIVERSITY OF PHAYAO

Page 2: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Contents• Decision Analysis without Probability

• Maximax• Maximin• Minimax Regret

• Decision Analysis with Probability• Expected Value• Expected Value of Perfect Information• Expected Value with Sample Information (Imperfect Information)

• Decision Trees

• Q & A

• Reference

2

Page 3: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Decision Analysis without Probability

• Decision Making Approach• Maximax (Optimistic : มองโลกในแง่ด)ี

• Maximin (Conservative or Pessimistic : มองโลกในแง่รา้ย)

• Minimax Regret (Minimizes the Maximum Opportunity Loss)

3

Page 4: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Decision Table: ผลตอบแทนการลงทุน

เศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย

พนัธบตัร 40 45 5

หุน้ 70 30 -13

กองทุนรวม 53 45 -5

4

Decision Alternatives Outcomes

Payoffs

Page 5: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Maximax (Optimistic : มองโลกในแง่ด)ี

เศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย

พนัธบตัร 40 45 5

หุน้ 70 30 -13

กองทุนรวม 53 45 -5

5

ตดัสนิใจลงทุนใน หุน้

Maximizes the Maximum Payoff (Best of Best)

Best

45

70

53

Page 6: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Maximax (Pessimistic : มองโลกในแง่รา้ย)

เศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย

พนัธบตัร 40 45 5

หุน้ 70 30 -13

กองทุนรวม 53 45 -5

6

ตดัสนิใจลงทุนใน พนัธบตัร

Maximizes the Minimum Payoff (Best of Worst)

Worst

5

-13

-5

Page 7: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Minimax Regret (Opportunity Loss)

เศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย

พนัธบตัร 40 45 5

หุน้ 70 30 -13

กองทุนรวม 53 45 -5

7ตดัสนิใจลงทุนใน

Minimizes the Maximum Regret (Best Payoff – Payoff Received)

Page 8: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Minimax Regret (Opportunity Loss)

เศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย

พนัธบตัร (70-40 = 30) 40 (45-45 = 0) 45 (5 – 5 = 0) 5

หุน้ (70-70 = 0) 70 (45-30 = 15) 30 (5 – (-13) = 18) -13

กองทุนรวม (70-53 = 17) 53 (45-45 = 0) 45 (5 – (-5) = 10) -5

8ตดัสนิใจลงทุนใน

Minimizes the Maximum Regret (Best Payoff – Payoff Received)

Page 9: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Minimax Regret: Table

เศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย

พนัธบตัร 30 0 0

หุน้ 0 15 18

กองทุนรวม 17 0 10

9ตดัสนิใจลงทุนใน

Minimizes the Maximum Regret (Best Payoff – Payoff Received)

Maximum

30

18

17

กองทุนรวม

เลอืก Minimum

Page 10: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Decision Analysis with Probability

• Decision Making Approach• Expected Value (EV: คา่คาดหวงั)

• Expected Value of Perfect Information (EVPI)

• Expected Value with Sample Information (Imperfect Information)

10

Page 11: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Decision Table: ผลตอบแทนการลงทุน

เศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย

พนัธบตัร 40 45 5

หุน้ 70 30 -13

กองทุนรวม 53 45 -5

ความน่าจะเป็น 0.2 0.5 0.3

11

Page 12: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Expected Value: EV

เศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย

พนัธบตัร 40 45 5

หุน้ 70 30 -13

กองทุนรวม 53 45 -5

ความน่าจะเป็น 0.2 0.5 0.3

12Expected Value = การหาคา่เฉลีย่น ้าหนกัของ Payoff ในแตล่ะทางเลอืก

Page 13: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Expected Value: EVwithoutPI

เศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย

พนัธบตัร 40 45 5

หุน้ 70 30 -13

กองทุนรวม 53 45 -5

ความน่าจะเป็น 0.2 0.5 0.3

13Expected Value (พนัธบตัร) = (40x0.2)+(45x0.5)+(5x0.3) =

Expected Value

32.0

25.1

31.6

เลอืก Maximum EV

32.0

Page 14: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Expected Value of Perfect Information (EVPI)

• Maximum payment of additional information

EVPI = EVwithPI - EVwithoutPI

EVwithPI = Summation of (Maximum Payoff x Probability)

EVwithoutPI = Maximum EV

14

Page 15: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Expected Value : EVwithPI

เศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย

พนัธบตัร 40 45 5

หุน้ 70 30 -13

กองทุนรวม 53 45 -5

ความน่าจะเป็น 0.2 0.5 0.3

15EVwithPI = (70x0.2)+(45x0.5)+(5x0.3) = 38.0

Page 16: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Expected Value of Perfect Information (EVPI)

16

เศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย

พนัธบตัร 40 45 5

หุน้ 70 30 -13

กองทุนรวม 53 45 -5

ความน่าจะเป็น 0.2 0.5 0.3

EVPI = EVwithPI - EVwithoutPI = 38.0 - 32.0 = 6

Page 17: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Decision Trees

• Construct a Decision Trees

• Make decision using Expected Valued

17

Page 18: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Decision Table: ผลตอบแทนการลงทุน

เศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต ถดถอย

พนัธบตัร 20 20

หุน้ 70 -13

กองทุนรวม 53 -5

ความน่าจะเป็น 0.4 0.6

18

Page 19: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Construct a Decision Trees

19

Decision Tree Nodes

Decision Node

Chance / Outcome / Event Node

Page 20: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Decision Tree: ผลตอบแทนการลงทุนเศรษฐกจิ

ทางเลอืกการลงทุน เตบิโต ถดถอย

พนัธบตัร 20 20

หุน้ 70 -13

กองทุนรวม 53 -5

ความน่าจะเป็น 0.4 0.6

20

หุน้

เตบิโต (0.4)

ถดถอย (0.6)

เตบิโต (0.4)

ถดถอย (0.6)

เตบิโต (0.4)

ถดถอย (0.6)

Payoff

20

20

70

-13

53

-5

EV(พนัธบตัร)

EV(หุน้) =

EV(กองทุนรวม) =

20

20.2

18.2 ตดัสนิใจลงทุนใน หุน้

20.2

||

= (20x0.4) + (20x0.6) = 20

(70x0.4) + (-13x0.6) = 20.2

(53x0.4) + (-5x0.6) = 18.2

Page 21: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Sample Information: Hire Consultant?

21

หุน้

เตบิโต (0.4)

ถดถอย (0.6)

เตบิโต (0.4)

ถดถอย (0.6)

เตบิโต (0.4)

ถดถอย (0.6)

20

20.2

18.2

20.2

Hire Consultant?

Positive Report: P (0.44)

Negative Report: P (0.56)

P (เตบิโต | Positive) = 0.59

P (เตบิโต | Negative) = 0.25

P (ถดถอย | Positive) = 1 - 0.59 = 0.41

P (ถดถอย | Negative) = 1 - 0.25 = 0.75

||

Posterior Probabilities

Page 22: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Sample Information: Hire Consultant?

22

หุน้

เตบิโต (0.4)

ถดถอย (0.6)

เตบิโต (0.4)

ถดถอย (0.6)

เตบิโต (0.4)

ถดถอย (0.6)

20

20.2

18.2

20.2

Hire Consultant?

Positive Report: P (0.44)

Negative Report: P (0.56)

P (เตบิโต | Positive) = 0.59

P (เตบิโต | Negative) = 0.25

P (ถดถอย | Positive) = 1 - 0.59 = 0.41

P (ถดถอย | Negative) = 1 - 0.25 = 0.75

Posterior Probabilities

||

Page 23: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Sample Information: Hire Consultant?

23

จา้งทีป่รกึษา

หุน้เตบิโต (0.59)

ถดถอย (0.41)

เตบิโต (0.59)

ถดถอย (0.41)

หุน้เตบิโต (0.25)

ถดถอย (0.75)

เตบิโต (0.25)

ถดถอย (0.75)

Hire Consultant?

Positive Report: P (0.44)

Negative Report: P (0.56)

P (เตบิโต | Positive) = 0.59

P (เตบิโต | Negative) = 0.25

P (ถดถอย | Positive) = 1 - 0.59 = 0.41

P (ถดถอย | Negative) = 1 - 0.25 = 0.75

Posterior Probabilities

Page 24: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Sample Information: Hire Consultant?

24

จา้งทีป่รกึษา

||

หุน้เตบิโต (0.59)

ถดถอย (0.41)

เตบิโต (0.59)

ถดถอย (0.41)

20

35.9

29.2

35.9

หุน้เตบิโต (0.25)

ถดถอย (0.75)

เตบิโต (0.25)

ถดถอย (0.75)

20

7.7

9.5

20

Payoff

20

70

-13

53

-5

20

70

-13

53

-5

Expected Value

(70x0.59)+(-13x0.41) = 35.9

(53x0.59)+(-5x0.41) = 29.2

(70x0.25)+(-13x0.75) = 7.7

(53x0.25)+(-5x0.75) = 9.5

||

(35.9x0.44)+(20x0.56) =

27

(20x0.59)+(20x0.41) = 20

(20x0.25)+(20x0.75) = 20

27

Page 25: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Expected Value of Sample Information

• ใชเ้พือ่พจิารณาวา่สารสนเทศขา้งตน้มคีา่พอส าหรบัน าไปใชห้รอืไม่?

25

27

20.2

EVwithSI

EVwithoutSI

EVSI = EVwithSI - EVwithoutSI

EVwithSI = Expected Value with Sample Information

EVwithoutSI = Expected Value without Sample Information

EVSI = 6.8

Page 26: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

การตคีวาม

• Expected Value of Sample Information (EVSI) = 6.8

• ถา้คา่จา้งของ Consultant = 7• คา่จา้งของ Consultant > EVSI ดงัน้ัน เราจะไม่จา้ง Consultant

• ถา้คา่จา้งของ Consultant = 4• คา่จา้งของ Consultant < EVSI ดงัน้ัน เราจะจา้ง Consultant โดยที่

• ถา้ Consultant ใหข้อ้มูลเป็น Positive Report ดงัน้ันใหเ้ราลงทนุใน

• ถา้ Consultant ใหข้อ้มูลเป็น Negative Report ดงัน้ันใหเ้ราลงทนุใน

26

หุน้

พนัธบตัร

Page 27: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Bayes Theorem

• Posterior Probability: ความน่าจะเป็นของขอ้มูลทีม่ีAttribute เป็น A จะอยู่ใน Class B

• Likelihood: ความน่าจะเป็นของ Training Data ทีอ่ยู่ใน Class B และม ีAttribute เป็น A

• Prior Probability: P(A) ความน่าจะเป็นของ Class A,

• P(B) ความน่าจะเป็นของ Class B

27

𝑃 𝐵 𝐴) =𝑃 𝐴 𝐵) × 𝑃(𝐵)

𝑃(𝐴)

Posterior Probability

Likelihood Prior Probability

Page 28: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

The Conditional Probability

28

𝑃 𝐴 𝐵) =𝑃(𝐴 ∩ 𝐵)

𝑃(𝐵)

P (A | B) : ความน่าจะเป็นทีจ่ะเกดิเหตกุารณ ์A เมือ่เกดิเหตกุารณ ์B ขึน้กอ่น

P (B) : ความน่าจะเป็นทีจ่ะเกดิเหตกุารณ ์B

P (A B) : ความน่าจะเป็นทีจ่ะเกดิเหตกุารณ ์A และ B รว่มกนั (Joint)

Page 29: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Calculating Posterior Probability

• ในปีทีผ่่านมาปรากฏวา่ เศรษฐกจิมกีารเตบิโต สลบักบัถดถอยอยูท่ี่ 40% และ 60% ตามล าดบั

ดงัน้ัน P(เตบิโต) = 0.4 และ P(ถดถอย) = 0.6

• ในอดตีเมือ่เศรษฐกจิมกีารเตบิโต พบวา่ Consultant ใหร้ายงานเป็น Positive Report 65% และ เมือ่เศรษฐกจิถดถอย ใหร้ายงานเป็น Negative Report 70%

ดงัน้ัน P(Positive | เตบิโต) = 0.65 และ P(Negative | ถดถอย) = 0.7

29

Page 30: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Calculating Posterior Probability

• P(เตบิโต) = 0.40

• P(Positive | เตบิโต) = 0.65

• P(เตบิโต) x P(Positive | เตบิโต)

= 0.4 x 0.65

= 0.26

• P(ถดถอย) = 0.60

• P(Negative | ถดถอย) = 0.70

• P(ถดถอย) x P(Negative | ถดถอย)

= 0.6 x 0.7

= 0.42

30

Conditional Probability

Prior

Joint Probability

Page 31: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Calculating Posterior Probability

Positive(+)

เศรษฐกจิ Prior Conditional Joint Posterior

เตบิโต P(เตบิโต) P(+ | เตบิโต) P(เตบิโต) x P(+ | เตบิโต) P(เตบิโต | +)

ถดถอย P(ถดถอย) P(+ | ถดถอย) P(ถดถอย) x P(+ | ถดถอย) P(ถดถอย | +)

P(+) = Sum(Joint (+))

31

Negative(-)

เศรษฐกจิ Prior Conditional Joint Posterior

เตบิโต P(เตบิโต) P(- | เตบิโต) P(เตบิโต) x P(- | เตบิโต) P(เตบิโต | -)

ถดถอย P(ถดถอย) P(- | ถดถอย) P(ถดถอย) x P(- | ถดถอย) P(ถดถอย | -)

P(-) = Sum(Joint (-))

Page 32: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Calculating Posterior Probability

Positive(+)

เศรษฐกจิ Prior Conditional Joint Posterior

เตบิโต

ถดถอย 0.30

32

Negative(-)

เศรษฐกจิ Prior Conditional Joint Posterior

เตบิโต

ถดถอย

0.4 x 0.65 = 0.26

0.6 x 0.30 = 0.18

0.26 + 0.18 = 0.44

0.26 / 0.44 = 0.59

0.18 / 0.44 = 0.41

0.35

0.70

0.40

0.60

0.40

0.60

0.65

0.4 x 0.35 = 0.14

0.6 x 0.70 = 0.42

0.14 + 0.42 = 0.56

0.14 / 0.56 = 0.25

0.42 / 0.56 = 0.75

Page 33: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Q & A

33

Page 34: Decision Analysis · Bayes Theorem •Posterior Probability: ความน่าจะเป็นของขอ้มูลทมี UีAttribute เป็น A จะอยู่

Reference• https://www.youtube.com/user/profjoshemman/search?query=decision

34