Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy...
-
Upload
doankhuong -
Category
Documents
-
view
216 -
download
0
Transcript of Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy...
![Page 1: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/1.jpg)
Incertidumbre
Universidad Politécnica de PueblaUniversidad Politécnica de Puebla
Dr. Jesús Antonio González Bernal
![Page 2: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/2.jpg)
óIntroducción In which we see what an agent should do when not all is In which we see what an agent should do when not all is
crystal clear. R&N pg 462R&N, pg 462
2
![Page 3: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/3.jpg)
óIntroducción Sea la acción At = salir al aeropuerto t minutos antes del vuelot p
Me llevará el agente At al aeropuerto a tiempo? Posibles problemas
Ambiente parcialmente observable (estado del camino planes de otros Ambiente parcialmente observable (estado del camino, planes de otros choferes, etc.)
Sensores ruidosos (reportes del tráfico) Incertidumbre en la salida de las acciones (ponchadura etc )Incertidumbre en la salida de las acciones (ponchadura, etc.) Muy complejo modelar y predecir el tráfico
Un método puramente lógico podría Ri f l d d “A ll hí ti ” ó Riesgo a falsedad “A25 me llevara ahí a tiempo”, ó Llevar a conclusiones muy débiles para la toma de decisiones
A25 me llevará ahí a tiempo si no hay un accidente en el puente y no llueve y no sufro ponchaduras etc ”ponchaduras, etc…
(A1440 podría razonablemente llevarme a tiempo pero tendría que pasar la noche en el aeropuerto…)
3
![Page 4: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/4.jpg)
Métodos para Manejar Incertidumbre Default o lógica no monotónica (asumir )Default o lógica no monotónica (asumir…) Asumir que mi carro no tiene una llanta ponchada Asumir que A25 trabaja a menos que haya evidencia contradictoriaq 25 j q y Problemas: ¿Es razonable lo que asumimos?, ¿Cómo manejamos las contradicciones?
Reglas con problemas por resolver A25 0.3 AtAirportOnTime
Sprinkler WetGrass Sprinkler 0.99 WetGrass
WetGrass 0.7 Rain
Problemas con la combinación: ¿“Sprinkler causa Lluvia”?
Probabilidad Dada la evidencia, A25 me llevará a tiempo con probabilidad 0.04
4
![Page 5: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/5.jpg)
Probabilidad Las afirmaciones probabilísticas resumen los efectos deLas afirmaciones probabilísticas resumen los efectos de Pereza: fallar en enumerar todas las excepciones, cuantificadores, etc. Ignorancia: falta de hechos relevantes, condiciones iniciales, etc.
Probabilidad Subjetiva o Bayesiana: Probabilidades relacionan proposiciones a nuestro propio estado de
conocimientoconocimiento P(A25 | no se reportan accidentes) = 0.06 No son afirmaciones con “tendencia probabilística” en la situación actual Se pueden aprender a partir de la experiencia de situaciones similares
Probabilidades de proposiciones cambian con nueva evidencia P(A | no reporte accidentes 5:00am) = 0 15 P(A25| no reporte accidentes, 5:00am) = 0.15 Análogo a estatus de entailment lógico KB╞ , de no es verdad
5
![Page 6: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/6.jpg)
Tomando Decisiones bajo Incertidumbre Suponga que creemos lo siguiente:Suponga que creemos lo siguiente: P(A25 me lleva a tiempo | …) 0.04 P(A90 me lleva a tiempo | …) 0.70( 90 p | ) P(A120 me lleva a tiempo | …) 0.95 P(A1440 me lleva a tiempo | …) 0.9999
¿Qué acción elegir? Depende de mis preferencias entre perder el vuelo vs comer en
l t tel aeropuerto, etc. Teoría de Utilidad Se utiliza para representar e inferir preferenciasp p p
Teoría de Decisiones = Teoría de Utilidad + Teoría de Probabilidad
6
![Page 7: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/7.jpg)
óIntroducción a la Probabilidad Iniciamos con un conjunto el espacio de muestra Iniciamos con un conjunto , el espacio de muestra i.e., 6 posibles tiradas de un dado
es un punto de muestra / posible mundo / evento es un punto de muestra / posible mundo / evento atómico
Un espacio de probabilidad o modelo de probabilidad es un Un espacio de probabilidad o modelo de probabilidad es un espacio de muestra con una asignación P() para cada tal que:q
Un evento A es un subconjunto de Un evento A es un subconjunto de
7
![Page 8: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/8.jpg)
Variables Aleatorias Una variable aleatoria (v a ) es una función de un conjunto de Una variable aleatoria (v.a.) es una función de un conjunto de
puntos a un rango, i.e., los reales o booleanos i e P(heads) = 0 5 Odd(1) = truei.e., P(heads) 0.5, Odd(1) true
P induce una distribución de probabilidad para cada v.a. X:
8
![Page 9: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/9.jpg)
Proposiciones Pensar en una proposición como un evento (conjunto de puntos muestra) donde p p ( j p )
la proposición es true
Dadas las variables aleatorias booleanas A y B:
Evento a = conjunto de puntos muestra donde A(w) = true
Evento a = conjunto de puntos de muestra A(w) = false
Evento a b = puntos donde A(w) = true y B(w) = true Evento a b puntos donde A(w) true y B(w) true
En aplicaciones de IA es común que los puntos de muestra estén definidos por los valores de un conjunto de variables aleatorias, i.e. el espacio de muestra es el producto cartesiano de los rangos de las variables
Con variables booleanas, punto de muestra = modelo de lógica proposicional
Proposición = disyunción de eventos atómicos en el cual es verdad
9
![Page 10: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/10.jpg)
é¿Porqué usar Probabilidades? Las definiciones implican que ciertos eventos relacionados Las definiciones implican que ciertos eventos relacionados
lógicamente deben relacionar probabilidades
10
![Page 11: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/11.jpg)
Sintaxis para Proposiciones Variables aleatorias Proposicionales o Booleanas Variables aleatorias Proposicionales o Booleanas i.e. Caries(¿tengo una caries?) Caries = true es una proposición también se escribe como Caries true es una proposición, también se escribe como
Caries
Variables aleatorias discretas (finitas ó infinitas)Variables aleatorias discretas (finitas ó infinitas) i.e., Clima es uno de (soleado, lluvioso, nublado, nevado) Clima = lluvioso es una proposiciónClima lluvioso es una proposición Los valores deben ser exhaustivos y mutuamente excluyentes
Variables aleatorias continuas (acotadas o no acotadas)Variables aleatorias continuas (acotadas o no acotadas) i.e.Temp < 21.6 ó 20.0 < Temp < 25.0
11
![Page 12: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/12.jpg)
Probabilidad a-priori Probabilidades a-priori o incondicionales de proposicionesp p p
i.e. P(Cavidad = true) = 0.1 y P(Clima = soleado) = 0.72
Corresponden a una creencia a-priori para la llegada de nueva evidencia
Distribución de probabilidad da valores a las posibles asignaciones: Distribución de probabilidad da valores a las posibles asignaciones: P(Clima) = {0.72, 0.1, 0.08, 0.1) (normalizados, i.e., suman 1)
Distribución de probabilidad conjunta para un conjunto de v.a. da la probabilidad de cada ó i b (i d d )evento atómico sobre esas v.a. (i.e. en cada punto de muestra)
P(Clima, Caries) = una matriz de 4 x 2 valores
C d t b d i i d d l di t ib ió d b bilid d Cada pregunta sobre un dominio se puede responder con la distribución de probabilidad porque cada evento es una suma de sus puntos de muestra
12
![Page 13: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/13.jpg)
Probabilidad Condicional Probabilidades condicionales o posterioresp i.e., P(caries | dolor-dientes) = 0.8 i.e., dado que dolor-dientes es todo lo que se NO “Si dolor dientes entonces 80% posibilidad de caries” NO Si dolor-dientes entonces 80% posibilidad de caries
Notación para distribuciones condicionales: P(caries|dolor-dientes) = vector de 2 elementos de vectores de 2 elementos
Si b á i i t bié t d d t Si sabemos más, i.e., caries también esta dado, entonces P(caries|dolor-dientes, caries) = 1
Nota: la creencia menos específica sigue siendo válida después de que ll á id i i útilllega más evidencia, pero no siempre es útil
La nueva evidencia puede ser irrelevante, permitiendo simplificar P(caries|dolor-dientes, CA-gana) = P(caries|dolor-dientes) = 0.8
Esta clase de inferencia, afectada por conocimiento del dominio, es muy importante
13
![Page 14: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/14.jpg)
Probabilidad Condicional Definición de probabilidad condicional Definición de probabilidad condicional
R l d l d t it lt ti Regla del producto permite una alternativa
Aplica una versión general para distribuciones completas:
Se ve como ecuaciones de 4 x 2, no multip. Matrices
Regla de la cadena se deriva aplicando sucesivamente regla del producto
14
![Page 15: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/15.jpg)
óInferencia por Enumeración Iniciar con la distribución conjunta Iniciar con la distribución conjunta
Para cualquier proposición , la suma de los eventos atómicos en que es verdadera:
15
![Page 16: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/16.jpg)
óInferencia por Enumeración Iniciar con la distribución conjunta: Iniciar con la distribución conjunta:
Para cada proposición , la suma de los eventos atómicos en que es verdadera:
16
![Page 17: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/17.jpg)
óInferencia por Enumeración Iniciar con la distribución conjunta Iniciar con la distribución conjunta
Para cada proposición , la suma de los eventos atómicos en que es verdadera:
17
![Page 18: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/18.jpg)
óInferencia por Enumeración Se inicia con la distribución de probabilidad conjunta Se inicia con la distribución de probabilidad conjunta
También se pueden calcular probabilidades condicionales
18
![Page 19: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/19.jpg)
óNormalización
El denominador se puede ver como una constante de normalización para que P(Cavity|toothache) sume 1
19
![Page 20: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/20.jpg)
Independencia A y B son independientes iffA y B son independientes iff
32 entradas se reducen a 12 32 entradas se reducen a 12 Independencia absoluta poderosa pero rara Dominio de dentista muy grande cientos de variables Dominio de dentista muy grande, cientos de variables,
ninguna de ellas es independiente. ¿qué hacemos?
20
![Page 21: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/21.jpg)
Independencia Condicional P(dolor-diente caries identificar) tiene 23 -1 = 7 entradas P(dolor diente, caries, identificar) tiene 2 1 7 entradas
indep. Si tengo caries, la prob. de que la prueba lo identifique no g , p q p q
depende de si tengo un dolor de dientes
La misma independencia se sostiene si no tengo la caries
Identificar es condicionalmente independiente de dolor-dientes dada caries
Equivalencias
21
![Page 22: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/22.jpg)
Independencia Condicional Se escriben distribuciones conjuntas completas usando la Se escriben distribuciones conjuntas completas usando la
regla de la cadena
i.e. 2 + 2 + 1 = 5 números indep. (ecuaciones 1 y 2 quitan 2) En la mayoría de los casos, usar indep. cond. Reduce el tamaño
de la representación de la distribución disjunta de exponencial en n a lineal en n.
Independencia condicional es nuestra forma más básica y Independencia condicional es nuestra forma más básica y robusta de conocimiento acerca de ambientes con incertidumbre
22
![Page 23: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/23.jpg)
Regla de Bayes Regla del productog p
O en forma de distribución
Útil para asignar probabilidad diagnóstica a partir de probabilidad causalÚtil para asignar probabilidad diagnóstica a partir de probabilidad causal
I.e. sea M meningitis, S sea torcedura de cuello
Nota: probabilidad posterior de meningitis es todavía muy pequeña
23
![Page 24: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/24.jpg)
Regla de Bayes e Independencia Condicional
Este es un ejemplo de un modelo naive Bayes
El número total de parámetros es lineal en n
24
![Page 25: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/25.jpg)
Mundo del Wumpus
25
![Page 26: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/26.jpg)
Especificando el modelo de probabilidad La distribución conjunta completa es La distribución conjunta completa es
Aplicando regla del producto
Se hace así para obtener P(Efecto|Causa)
P é 1 d b 0 d Primer término: 1 si pozos son adyacentes a brizas, 0 de otra manera
S d é d d l Segundo término: pozos son acomodados aleatoriamente, probabilidad de 0.2 por cuadro
para n pozos
26
![Page 27: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/27.jpg)
Observaciones y queries Conocemos los siguientes hechos Conocemos los siguientes hechos
El query es
Se define Desconocido = Pij que no son P1,3 y Conocido
Para inferencia por enumeración tenemos
Crece exponencialmente con el número de cuadrosp
27
![Page 28: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/28.jpg)
Usando Independencia Condicional Idea básica: las observaciones son condicionalmente Idea básica: las observaciones son condicionalmente
independientes de otros cuadros escondidos dados los cuadrados vecinos escondidoscua a os vec os esco os
Manipular el query a una forma donde se pueda usar esto
28
![Page 29: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/29.jpg)
Usando Independencia Condicional
29
![Page 30: Incertidumbre - INAOE - Ciencias Computacionales · 2011-08-08 · Llevar a conclusiones muy débiles para la toma de decisiones ... Tomando Decisiones bajo Incertidumbre Suponga](https://reader031.fdocuments.in/reader031/viewer/2022021904/5ba33d9009d3f2a1708d71e6/html5/thumbnails/30.jpg)
Usando Independencia Condicional
30