Decision Analysis · Bayes Theorem •Posterior Probability:...
Transcript of Decision Analysis · Bayes Theorem •Posterior Probability:...
Decision Analysis
KANOKWATT SHIANGJENCOMPUTER SCIENCE
SCHOOL OF INFORMATION AND COMMUNICATION TECHNOLOGY
UNIVERSITY OF PHAYAO
Contents• Decision Analysis without Probability
• Maximax• Maximin• Minimax Regret
• Decision Analysis with Probability• Expected Value• Expected Value of Perfect Information• Expected Value with Sample Information (Imperfect Information)
• Decision Trees
• Q & A
• Reference
2
Decision Analysis without Probability
• Decision Making Approach• Maximax (Optimistic : มองโลกในแง่ด)ี
• Maximin (Conservative or Pessimistic : มองโลกในแง่รา้ย)
• Minimax Regret (Minimizes the Maximum Opportunity Loss)
3
Decision Table: ผลตอบแทนการลงทุน
เศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย
พนัธบตัร 40 45 5
หุน้ 70 30 -13
กองทุนรวม 53 45 -5
4
Decision Alternatives Outcomes
Payoffs
Maximax (Optimistic : มองโลกในแง่ด)ี
เศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย
พนัธบตัร 40 45 5
หุน้ 70 30 -13
กองทุนรวม 53 45 -5
5
ตดัสนิใจลงทุนใน หุน้
Maximizes the Maximum Payoff (Best of Best)
Best
45
70
53
Maximax (Pessimistic : มองโลกในแง่รา้ย)
เศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย
พนัธบตัร 40 45 5
หุน้ 70 30 -13
กองทุนรวม 53 45 -5
6
ตดัสนิใจลงทุนใน พนัธบตัร
Maximizes the Minimum Payoff (Best of Worst)
Worst
5
-13
-5
Minimax Regret (Opportunity Loss)
เศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย
พนัธบตัร 40 45 5
หุน้ 70 30 -13
กองทุนรวม 53 45 -5
7ตดัสนิใจลงทุนใน
Minimizes the Maximum Regret (Best Payoff – Payoff Received)
Minimax Regret (Opportunity Loss)
เศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย
พนัธบตัร (70-40 = 30) 40 (45-45 = 0) 45 (5 – 5 = 0) 5
หุน้ (70-70 = 0) 70 (45-30 = 15) 30 (5 – (-13) = 18) -13
กองทุนรวม (70-53 = 17) 53 (45-45 = 0) 45 (5 – (-5) = 10) -5
8ตดัสนิใจลงทุนใน
Minimizes the Maximum Regret (Best Payoff – Payoff Received)
Minimax Regret: Table
เศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย
พนัธบตัร 30 0 0
หุน้ 0 15 18
กองทุนรวม 17 0 10
9ตดัสนิใจลงทุนใน
Minimizes the Maximum Regret (Best Payoff – Payoff Received)
Maximum
30
18
17
กองทุนรวม
เลอืก Minimum
Decision Analysis with Probability
• Decision Making Approach• Expected Value (EV: คา่คาดหวงั)
• Expected Value of Perfect Information (EVPI)
• Expected Value with Sample Information (Imperfect Information)
10
Decision Table: ผลตอบแทนการลงทุน
เศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย
พนัธบตัร 40 45 5
หุน้ 70 30 -13
กองทุนรวม 53 45 -5
ความน่าจะเป็น 0.2 0.5 0.3
11
Expected Value: EV
เศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย
พนัธบตัร 40 45 5
หุน้ 70 30 -13
กองทุนรวม 53 45 -5
ความน่าจะเป็น 0.2 0.5 0.3
12Expected Value = การหาคา่เฉลีย่น ้าหนกัของ Payoff ในแตล่ะทางเลอืก
Expected Value: EVwithoutPI
เศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย
พนัธบตัร 40 45 5
หุน้ 70 30 -13
กองทุนรวม 53 45 -5
ความน่าจะเป็น 0.2 0.5 0.3
13Expected Value (พนัธบตัร) = (40x0.2)+(45x0.5)+(5x0.3) =
Expected Value
32.0
25.1
31.6
เลอืก Maximum EV
32.0
Expected Value of Perfect Information (EVPI)
• Maximum payment of additional information
EVPI = EVwithPI - EVwithoutPI
EVwithPI = Summation of (Maximum Payoff x Probability)
EVwithoutPI = Maximum EV
14
Expected Value : EVwithPI
เศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย
พนัธบตัร 40 45 5
หุน้ 70 30 -13
กองทุนรวม 53 45 -5
ความน่าจะเป็น 0.2 0.5 0.3
15EVwithPI = (70x0.2)+(45x0.5)+(5x0.3) = 38.0
Expected Value of Perfect Information (EVPI)
16
เศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต คงที่ ถดถอย
พนัธบตัร 40 45 5
หุน้ 70 30 -13
กองทุนรวม 53 45 -5
ความน่าจะเป็น 0.2 0.5 0.3
EVPI = EVwithPI - EVwithoutPI = 38.0 - 32.0 = 6
Decision Trees
• Construct a Decision Trees
• Make decision using Expected Valued
17
Decision Table: ผลตอบแทนการลงทุน
เศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต ถดถอย
พนัธบตัร 20 20
หุน้ 70 -13
กองทุนรวม 53 -5
ความน่าจะเป็น 0.4 0.6
18
Construct a Decision Trees
19
Decision Tree Nodes
Decision Node
Chance / Outcome / Event Node
Decision Tree: ผลตอบแทนการลงทุนเศรษฐกจิ
ทางเลอืกการลงทุน เตบิโต ถดถอย
พนัธบตัร 20 20
หุน้ 70 -13
กองทุนรวม 53 -5
ความน่าจะเป็น 0.4 0.6
20
หุน้
เตบิโต (0.4)
ถดถอย (0.6)
เตบิโต (0.4)
ถดถอย (0.6)
เตบิโต (0.4)
ถดถอย (0.6)
Payoff
20
20
70
-13
53
-5
EV(พนัธบตัร)
EV(หุน้) =
EV(กองทุนรวม) =
20
20.2
18.2 ตดัสนิใจลงทุนใน หุน้
20.2
||
= (20x0.4) + (20x0.6) = 20
(70x0.4) + (-13x0.6) = 20.2
(53x0.4) + (-5x0.6) = 18.2
Sample Information: Hire Consultant?
21
หุน้
เตบิโต (0.4)
ถดถอย (0.6)
เตบิโต (0.4)
ถดถอย (0.6)
เตบิโต (0.4)
ถดถอย (0.6)
20
20.2
18.2
20.2
Hire Consultant?
Positive Report: P (0.44)
Negative Report: P (0.56)
P (เตบิโต | Positive) = 0.59
P (เตบิโต | Negative) = 0.25
P (ถดถอย | Positive) = 1 - 0.59 = 0.41
P (ถดถอย | Negative) = 1 - 0.25 = 0.75
||
Posterior Probabilities
Sample Information: Hire Consultant?
22
หุน้
เตบิโต (0.4)
ถดถอย (0.6)
เตบิโต (0.4)
ถดถอย (0.6)
เตบิโต (0.4)
ถดถอย (0.6)
20
20.2
18.2
20.2
Hire Consultant?
Positive Report: P (0.44)
Negative Report: P (0.56)
P (เตบิโต | Positive) = 0.59
P (เตบิโต | Negative) = 0.25
P (ถดถอย | Positive) = 1 - 0.59 = 0.41
P (ถดถอย | Negative) = 1 - 0.25 = 0.75
Posterior Probabilities
||
Sample Information: Hire Consultant?
23
จา้งทีป่รกึษา
หุน้เตบิโต (0.59)
ถดถอย (0.41)
เตบิโต (0.59)
ถดถอย (0.41)
หุน้เตบิโต (0.25)
ถดถอย (0.75)
เตบิโต (0.25)
ถดถอย (0.75)
Hire Consultant?
Positive Report: P (0.44)
Negative Report: P (0.56)
P (เตบิโต | Positive) = 0.59
P (เตบิโต | Negative) = 0.25
P (ถดถอย | Positive) = 1 - 0.59 = 0.41
P (ถดถอย | Negative) = 1 - 0.25 = 0.75
Posterior Probabilities
Sample Information: Hire Consultant?
24
จา้งทีป่รกึษา
||
หุน้เตบิโต (0.59)
ถดถอย (0.41)
เตบิโต (0.59)
ถดถอย (0.41)
20
35.9
29.2
35.9
หุน้เตบิโต (0.25)
ถดถอย (0.75)
เตบิโต (0.25)
ถดถอย (0.75)
20
7.7
9.5
20
Payoff
20
70
-13
53
-5
20
70
-13
53
-5
Expected Value
(70x0.59)+(-13x0.41) = 35.9
(53x0.59)+(-5x0.41) = 29.2
(70x0.25)+(-13x0.75) = 7.7
(53x0.25)+(-5x0.75) = 9.5
||
(35.9x0.44)+(20x0.56) =
27
(20x0.59)+(20x0.41) = 20
(20x0.25)+(20x0.75) = 20
27
Expected Value of Sample Information
• ใชเ้พือ่พจิารณาวา่สารสนเทศขา้งตน้มคีา่พอส าหรบัน าไปใชห้รอืไม่?
25
27
20.2
EVwithSI
EVwithoutSI
EVSI = EVwithSI - EVwithoutSI
EVwithSI = Expected Value with Sample Information
EVwithoutSI = Expected Value without Sample Information
EVSI = 6.8
การตคีวาม
• Expected Value of Sample Information (EVSI) = 6.8
• ถา้คา่จา้งของ Consultant = 7• คา่จา้งของ Consultant > EVSI ดงัน้ัน เราจะไม่จา้ง Consultant
• ถา้คา่จา้งของ Consultant = 4• คา่จา้งของ Consultant < EVSI ดงัน้ัน เราจะจา้ง Consultant โดยที่
• ถา้ Consultant ใหข้อ้มูลเป็น Positive Report ดงัน้ันใหเ้ราลงทนุใน
• ถา้ Consultant ใหข้อ้มูลเป็น Negative Report ดงัน้ันใหเ้ราลงทนุใน
26
หุน้
พนัธบตัร
Bayes Theorem
• Posterior Probability: ความน่าจะเป็นของขอ้มูลทีม่ีAttribute เป็น A จะอยู่ใน Class B
• Likelihood: ความน่าจะเป็นของ Training Data ทีอ่ยู่ใน Class B และม ีAttribute เป็น A
• Prior Probability: P(A) ความน่าจะเป็นของ Class A,
• P(B) ความน่าจะเป็นของ Class B
27
𝑃 𝐵 𝐴) =𝑃 𝐴 𝐵) × 𝑃(𝐵)
𝑃(𝐴)
Posterior Probability
Likelihood Prior Probability
The Conditional Probability
28
𝑃 𝐴 𝐵) =𝑃(𝐴 ∩ 𝐵)
𝑃(𝐵)
P (A | B) : ความน่าจะเป็นทีจ่ะเกดิเหตกุารณ ์A เมือ่เกดิเหตกุารณ ์B ขึน้กอ่น
P (B) : ความน่าจะเป็นทีจ่ะเกดิเหตกุารณ ์B
P (A B) : ความน่าจะเป็นทีจ่ะเกดิเหตกุารณ ์A และ B รว่มกนั (Joint)
Calculating Posterior Probability
• ในปีทีผ่่านมาปรากฏวา่ เศรษฐกจิมกีารเตบิโต สลบักบัถดถอยอยูท่ี่ 40% และ 60% ตามล าดบั
ดงัน้ัน P(เตบิโต) = 0.4 และ P(ถดถอย) = 0.6
• ในอดตีเมือ่เศรษฐกจิมกีารเตบิโต พบวา่ Consultant ใหร้ายงานเป็น Positive Report 65% และ เมือ่เศรษฐกจิถดถอย ใหร้ายงานเป็น Negative Report 70%
ดงัน้ัน P(Positive | เตบิโต) = 0.65 และ P(Negative | ถดถอย) = 0.7
29
Calculating Posterior Probability
• P(เตบิโต) = 0.40
• P(Positive | เตบิโต) = 0.65
• P(เตบิโต) x P(Positive | เตบิโต)
= 0.4 x 0.65
= 0.26
• P(ถดถอย) = 0.60
• P(Negative | ถดถอย) = 0.70
• P(ถดถอย) x P(Negative | ถดถอย)
= 0.6 x 0.7
= 0.42
30
Conditional Probability
Prior
Joint Probability
Calculating Posterior Probability
Positive(+)
เศรษฐกจิ Prior Conditional Joint Posterior
เตบิโต P(เตบิโต) P(+ | เตบิโต) P(เตบิโต) x P(+ | เตบิโต) P(เตบิโต | +)
ถดถอย P(ถดถอย) P(+ | ถดถอย) P(ถดถอย) x P(+ | ถดถอย) P(ถดถอย | +)
P(+) = Sum(Joint (+))
31
Negative(-)
เศรษฐกจิ Prior Conditional Joint Posterior
เตบิโต P(เตบิโต) P(- | เตบิโต) P(เตบิโต) x P(- | เตบิโต) P(เตบิโต | -)
ถดถอย P(ถดถอย) P(- | ถดถอย) P(ถดถอย) x P(- | ถดถอย) P(ถดถอย | -)
P(-) = Sum(Joint (-))
Calculating Posterior Probability
Positive(+)
เศรษฐกจิ Prior Conditional Joint Posterior
เตบิโต
ถดถอย 0.30
32
Negative(-)
เศรษฐกจิ Prior Conditional Joint Posterior
เตบิโต
ถดถอย
0.4 x 0.65 = 0.26
0.6 x 0.30 = 0.18
0.26 + 0.18 = 0.44
0.26 / 0.44 = 0.59
0.18 / 0.44 = 0.41
0.35
0.70
0.40
0.60
0.40
0.60
0.65
0.4 x 0.35 = 0.14
0.6 x 0.70 = 0.42
0.14 + 0.42 = 0.56
0.14 / 0.56 = 0.25
0.42 / 0.56 = 0.75
Q & A
33
Reference• https://www.youtube.com/user/profjoshemman/search?query=decision
34