Uso de Auto-Adaptaci´on, Dominancia Local y Elitismo para...

Uso de Auto-Adaptacion, Dominancia Local yElitismo para Optimizacion Evolutiva

Multiobjetivo

Alumno: Gregorio Toscano Pulido

Asesor: Dr. Carlos Artemio Coello Coello

Octubre 2002

CINVESTAV-IPN Seminario 2003

Contenido del Trabajo

Antecedentes y motivacion

Planteamiento del problema

Estado del arte

Enfoque propuesto

Publicaciones

Trabajo futuro

Conclusiones



La mayorıa de los problemas del mundo real tienen varias funciones

objetivo, es decir, son multiobjetivo.

Se han desarrollado mas de 30 algoritmos de programacion

matematica para resolver problemas multiobjetivo. Sin embargo,

presentan la desventaja de generar una solucion a la vez, a pesar de

que los problemas multiobjetivo suelen tener multiples soluciones.

Normalmente, requieren que se les proporcione una solucion factible

para iniciar su busqueda. Tambien suelen ser susceptibles a la forma

del frente de Pareto.

Los algoritmos evolutivos permiten generar multiples soluciones

simultaneamente y son menos susceptibles a la forma del frente de

Pareto, no necesitan de una solucion factible inicial (parte de un

conjunto de soluciones aleatorias).



Una de las principales debilidades de los algoritmos evolutivos es

que requieren que se calibren sus parametros manualmente. Si estos

no son calibrados adecuadamente, es muy probable que el algoritmo

presente un comportamiento inadecuado.

No existe ningun algoritmo evolutivo multiobjetivo que auto-adapte

sus parametros.

A pesar del volumen de investigacion evolutiva multiobjetivo, no ha

sido sino hasta recientemente que se ha enfatizado el desarrollo de

enfoques eficientes, por lo que es necesario investigar profundamente

temas como elitismo y dinamica poblacional.


Planteamiento del problema

El problema de optimizacion multiobjetivo es:

minimizar f(x) = [f1(x), f2(x), f3(x), . . . , fk(x)]T (1)

sujeto a m restricciones de desigualdad:

gi(x) ≥ 0 i = 1, 2 . . . ,m (2)

y las p restricciones de igualdad:

hj(x) = 0 j = 1, 2 . . . , p (3)


Planteamiento del Problema

El concepto de optimo cambia en optimizacion multiobjetivo, debido a

que no existe una solucion unica, sino, un conjunto de soluciones validas,

de las cuales ninguna es mejor que la otra. A este conjunto de soluciones

se le denomina conjunto de optimos de Pareto. Por lo tanto, lo que se

pretende encontrar es un sub-conjunto representativo del conjunto de

optimos de Pareto.


��

��

��

��

��

��

��

��

f1

Frente dePareto

2f

1

2x

x

Individuos que no pertenecen a la región factible.

ZS

SZ imagen de S.

Espacio de las variables de decisión. Espacio de las funciones objetivo.

Individuos no dominados.

Individuos pertenecientes al conjunto factible.

Región delimitada por el conjunto factible.


��

��

��

f1

Frente dePareto

2f

1

2x

x


ZS

SZ imagen de S.



Región delimitada por el conjunto factible.Individuo no dominado.


Un problema de optimizacion multiobjetivo

Funcion de Osyczka

f1(x, y) = −(25(x1 − 2)2 + (x2 − 2)2 + (x3 − 1)2 + (x4 − 4)2 + (x5 − 1)2

f2(x, y) = x21 + x2

2 + x23 + x2

4 + x25 + x2

6

(4)

Sujeto a las siguientes restricciones:


0 ≤ x1, x2, x6 ≤ 10

1 ≤ x3, x4 ≤ 5

0 ≤ x5 ≤ 6

0 ≤ x1 + x2 − 2

0 ≤ 6− x1 − x2

0 ≤ 2− x2 + x1

0 ≤ 2− x1 + 3x2

0 ≤ 4− (x3 − 3)2 − x4

0 ≤ (x5 − 3)2 + x6 − 4

(5)


��

f1

Frente dePareto

2f

Z

Espacio de las funciones objetivo.

��

f1

Frente dePareto

2f

Z

Espacio de las funciones objetivo.f

f

1

2

Verdadero frente de Pareto

Falso frente de Pareto


Estado del arte

La primera implementacion practica de un algoritmo evolutivo

multiobjetivo fue propuesta por Schaffer a mediados de los 80s

(VEGA).

Goldberg discutio brevemente en su libro la posibilidad de usar un

esquema de jerarquizacion de Pareto para resolver problemas

multiobjetivo.


Estado del arte

A mediados de los 90s el area comenzo a llamar la atencion a los

investigadores, y fue en aquella epoca cuando se desarrollaron

diversos algoritmos que fueron muy populares hasta finales del siglo

XX (MOGA, NSGA y NPGA).

Actualmente destacan enfoques mas sofisticados que utilizan

archivos externos para retener soluciones no dominadas y tecnicas

mas eficientes de nichos (NSGA-II, PAES, SPEA, SPEA2, PESA,

PESA II, etc.)


Estado del arte

Algoritmos pertenecientes a la primera generacion:

VEGA.

MOGA.

NPGA.

NSGA.

Algoritmos pertenecientes a la segunda generacion:

PAES, PESA, PESA II.

NSGA-II.

SPEA, SPEA 2.

Micro-AG.


Contribuciones o resultados esperados

Las contribuciones principales esperadas de este trabajo de tesis son las

siguientes:

Un nuevo algoritmo evolutivo multiobjetivo altamente competitivo

que explote los conceptos de busqueda local y elitismo. Este sera el

primer algoritmo evolutivo multiobjetivo que utilice un mecanismo

de auto-adaptacion y que explote las bondades de los

micro-algoritmos geneticos.

El primer estudio donde se detallen y validen cuantitativamente las

posibles ventajas de paralelizar un algoritmo evolutivo multiobjetivo

especıfico.

El primer estudio de dinamica poblacional de un algoritmo evolutivo

multiobjetivo.


Enfoque propuesto

Se realizo un analisis exhaustivo sobre los parametros del micro

algoritmo genetico, y se ideo una manera de que cada uno de los

parametros se modificara mientras se realizaba la corrida del

algoritmo, generandose con esto el primer algoritmo auto adaptativo

Se realizo un estudio empırico, en el cual se compararon diferentes

operadores de cruza analizando su impacto en diferentes problemas.

Se paralelizo el micro-AG autoadaptivo a, obteniendose un algoritmo

altamente competitivo, el cual debido a las caracterısticas inherentes

de la busqueda paralela, y de sus caracterısticas de diseno,

permitio una reduccion drastica de las evaluaciones de la funcion

objetivo.

aa la nueva version obtenida se le llamo micro-GA 2 *µGA2)


Enfoque propuesto

El pseudocodigo completo del micro-GA adaptativo se muestra a continuacion:

function Adaptive-Micro-GA

begin

Generate randomly an initial population P of size N

and stores its contents in de population memory M

while convergence is reach do

begin

Get the initial population for the micro-GA (Pt) from M

repeat

begin

Apply binary tournament selection

based on non-dominance

Apply crossover and mutation (depends of the master process)

to the selected individuals

Apply elitism (retain only one non-dominated vector

Produce next generation

end


until nominal convergence is reached

Copy the non-dominated vectors to Pi to the external memory E

if replacement cycle

then apply the second form of elitism and updated the non-replacement memory

by new random solutions

end while

massive-exploitation process

end function


Actividades que se estan realizando

Se esta trabajando con estructuras de datos espaciales, para mejorar

el comportamiento del algoritmo mediante el almacenamiento de

soluciones en el archivo externo.

Para efectos de analizar las bondades que el archivo externo brinda,

se esta trabajando con el PSO (optimizacion mediante cumulos de

partıculas).


��

��

��

f1

2f

1

2x

x


ZS

SZ imagen de S.



Región delimitada por el conjunto factible.Individuo no dominado.



Se realizo un esquema de manejo de restricciones en optimizacion

global.

Los resultados obtenidos son los siguientes:


Best Mean Worst

Test function Best known PSO HM PSO HM PSO HM

g01 -15 -15 -14.7886 -15 -14.7082 -15 -14.6154

g02 -0.8036 -0.7932 0.7995 -0.7791 0.7967 -0.7534 0.7911

g03 1 -0.998365 0.9997 -0.9507951 0.9989 -0.86286 0.9978

g04 -30665.539 -30665.5 -30664.5 -30665.5 -30655.3 -30665.5 -30645.9

g05 5126.498 5171.67 N/A 5477.2588 N/A 6084.66 N/A

g06 -6961.814 -6961.8 -6952.1 -6961.776 -6342.6 -6961.73 -5473.9

g07 24.306 24.5873 24.62 25.94964 24.826 28.5753 25.069

g08 0.0958 -0.0958 0.0958 -0.0958 0.0891 -0.0958 0.0291

g09 680.63 680.755 680.91 681.1285 681.16 681.485 683.18

g10 7049.3307 7153.53 7147.9 7697.389 8163.6 8207.09 9659.3

g11 0.75 0.75 0.75 0.7507 0.75 0.7565 0.75

g12 1 1 0.9999 1 0.9991 1 0.9919



El objetivo de realizarlo fue el de obtener los conocimientos

necesarios para poder proponer una metodologıa para manejar

restricciones en optimizacion multiobjetivo.

Actualmente, debido a que se obtuvo un buen desempeno del

esquema, se estan realizando cambios para utilizarlo en el ambito

multiobjetivo.


Metodologıa de comparacion

Para realizar una evaluacion cuantitativa del desempeno de un

algoritmo, se toman normalmente tres puntos:

1. Minimizar la distancia entre el frente de pareto obtenido y el

verdadero (suponiendo que conocemos su ubicacion).

2. Maximizar la dispersion de las soluciones encontradas, de tal manera

que se tenga una distribucion de vectores no dominados tan suave y

uniforme como sea posible.

3. Maximizar el numero de elementos del conjunto de optimos de

Pareto encontrado.


Metodologıa de comparacion

1. Porcentaje de Error

2. Distancia generacional

3. Espaciado

Adicionalmente, los tiempos fueron medidos tambien, para confirmar si

el algoritmo propuesto era realmente mas rapido que las otras tecnicas.


Resultados obtenidos

El algoritmo pudo solventar diferentes tipos de problemas en un

numero de evaluaciones relativamente pequena. Los resultados

obtenidos se compararon contra dos algoritmos de segunda

generacion: NSGA-II y PAES, y se validaron usando las metricas

antes mostradas. Como resultado de la comparacion, se encontro que

el algoritmo propuesto es robusto y eficiente, y mejoro los resultados

de los otros algoritmos.

El algoritmo propuesto no utiliza ningun parametro.


Publicaciones

Coello Coello, Carlos A.; Hernandez Aguirre, Arturo and Toscano

Pulido, Gregorio, Multi-Objective Evolutionary Algorithms for

Structural Optimization, in Proceedings of the Second M.I.T.

Conference on Computational Fluid and Solid Mechanics, June 2003

Toscano Pulido, Gregorio y Coello Coello, Carlos A. Una Propuesta

de Adaptacion en Lınea para Optimizacion Evolutiva Multiobjetivo,

en Actas del II Congreso Espanol sobre Metaheurısticas, Algoritmos

Evolutivos y Bioinspirados (MAEB 03), Gijon,Espana, pp. 363–370,

Febrero de 2003, ISBN 84-607-65-26-1.

Toscano Pulido, Gregorio and Coello Coello, Carlos A. The Micro

Genetic Algorithm 2: Towards On-Line Adaptation in Evolutionary

Multiobjective Optimization, in Carlos M. Fonseca, Peter J.

Fleming, Eckart Zitzler, Kalyanmoy Deb and Lothar Thiele (Eds),

Evolutionary Multi-Criterion Optimization. Second International


Conference, EMO 2003, pp. 252-266, Springer, Lecture Notes in

Computer Science, Vol. 2632, Faro, Portugal, April 2003.

Coello Coello, Carlos A., Toscano Pulido, Gregorio and Salazar

Lechuga, Maximino, Handling Multiple Objectives with Particle

Swarm Optimization Technical Report EVOCINV-02-2002,

Evolutionary Computation Group at CINVESTAV, Seccion de

Computacion, Departamento de Ingenierıa Electrica,

CINVESTAV-IPN, Mexico, July 2002.

Se presentaro el trabajo “An Extension of Particle Swarm

Optimization that Can Handle Multiple Objectives”.


Trabajo a futuro

Implementar un mecanismo diferente para el manejo de restricciones.

Observar como impacta la adicion de estructuras de datos espaciales

en el manejo de soluciones no dominadas, en los espacios de las

funciones objetivo y las variables de decision.

Estudiar algun aspecto teorico de la optimizacion evolutiva

multiobjetivo.

Escritura del documento final.


Conclusiones

Se ha logrado profundizar en el area.

Se ha propuesto un esquema de adaptacion en lınea que permite el

uso del micro-AG para optimizacion multiobjetivo sin necesidad de

definir a priori ningun parametro no intuitivo. El enfoque propuesto

obtiene informacion del proceso evolutivo para guiar la busqueda

eficientemente. Entre otras cosas, nuestro esquema decide cual es el

operador de cruza mas apropiado y cambia entre una etapa de

exploracion y una de explotacion, manipulando la importancia de la

cruza y de la mutacion. Tambien se ha definido un criterio que

permite detener la ejecucion del algoritmo.

El enfoque propuesto ha sido validado con varias funciones de

prueba.

Se estan evaluando estructras de datos alternativas para la

poblacion secundaria.

Uso de Auto-Adaptaci´on, Dominancia Local y Elitismo para...

Documents

Transcript of Uso de Auto-Adaptaci´on, Dominancia Local y Elitismo para...