CoursMeta

8/6/2019 CoursMeta

http://slidepdf.com/reader/full/coursmeta 1/105

M é

t a h e u r i s t i q u e s

2 0 0 8 0 5

MétaheuristiquesAlgorithmes itératifs (et stochastiques) d'optimisation globale

8/6/2019 CoursMeta


2

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Auteurs

Johann Dréo

THALES Research &

Technology Laboratoire mathématiques &

techniques de la décision

Yann Collette

Renault

8/6/2019 CoursMeta


3

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

8/6/2019 CoursMeta


4

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

Optimisation difficile

8/6/2019 CoursMeta


5

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

Optimisation difficile

8/6/2019 CoursMeta


6

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

Métaheuristique

8/6/2019 CoursMeta


M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

Plan

Problèmes

Exemples

Caractéristiques

Applications

Validation

Exemples

Métaheuristiques

Exemples

Synthèse

8/6/2019 CoursMeta


8

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

Plan

Problèmes

Exemples Recherche opérationnelle

Ingénierie

Intelligence artificielle

Caractéristiques

Applications

Validation

Exemples

Métaheuristiques

Exemples

Synthèse

8/6/2019 CoursMeta


9

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

Recherche opérationnelle

Voyageur de commerce

Minimiser la longueur du trajet

8/6/2019 CoursMeta


10

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??


Sac à dos

Maximiser l'intérêt de la

sélection d'objets

D a

k e

, C C

B Y

S A 2

. 5 ,

h t t p : / / f r . w

i k i p

e d i a

. o r g

/ w i k i / I m

a g e : K n a p s a c

k . s

v g

8/6/2019 CoursMeta


11

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??


Planification temporelle

Déterminer un emploi du temps

8/6/2019 CoursMeta


12

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

Ingénierie

Aérodynamique

Maximiser la portance

8/6/2019 CoursMeta


13

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

Ingénierie

Déplacement de bras robot

Minimiser l'énergie dépensée

Adaptive Optimal Control for Redundantly Actuated Arms, Djordje Mitrovic, Stefan Klanke, and Sethu Vijayakumar, 2008

8/6/2019 CoursMeta


14

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??


IA jeu vidéo

Maximiser le gain

8/6/2019 CoursMeta


15

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

Ingénierie

Problème du pont

Concours JET

8/6/2019 CoursMeta


16

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

Caractéristiques des problèmes

Optimisation continue

Variables réelles

Optimisation combinatoire

Variables discrètes

Voisinage

Implicite

Fonctions

Explicite Permutation

http://commons.wikimedia.org/wiki/Image:Red black_tree_insert_case_5.png

8/6/2019 CoursMeta


17

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

Difficultés avec les problèmes

Trouver le problème

Modélisation

Expression mathématique

Contraintes

Qualification des solutions

Objectifs contradictoires

8/6/2019 CoursMeta


18

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0 5

/??

Difficultés avec les problèmes

Résolution

Complexité NP ...

Nombres de variables

Temps de calcul

Fonction objectif par simulation

Conception/Production

8/6/2019 CoursMeta


19

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

NP

Algorithme Non déterministe

Résolution Polynomiale

Oracle

Estimation valeur polynomiale

h t t p : / / c omm on s . wi k i m e d i a . or g / w

i k i / I m a g e : P _n p _n p c om pl e t e _n ph a r d . s v g

8/6/2019 CoursMeta


20

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Plan

Problèmes

Exemples

Caractéristiques

Applications

Validation

Exemples

Métaheuristiques

Exemples Recherche tabou

Algorithmes évolutionnistes

Recuit simulé

Colonies de fourmis

Estimation de distribution

Synthèse

8/6/2019 CoursMeta


21

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Métaheuristiques : un peu d'histoire

1954 : Barricelli, simulation évolution,

optimisation

1965 : Rechenberg, stratégies d'évolution

1986 : terme méta heuristique, Fred Glover :

« La recherche avec tabou peut être vue comme

une "méta heuristique", superposée à une autre

heuristique. L'approche vise à éviter les

optimums locaux par une stratégie d'interdiction

(ou, plus généralement, de pénalisation) de

certains mouvements. » 1988 : conférence, algorithmes génétiques

1989 : premier logiciel A.G. Commercial

1996 : algorithmes à estimation de distribution

8/6/2019 CoursMeta


22

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Terminologie

Fonction objectif

Minimisation

Mono objectif

Solution

Représentation

Valeur

Échantillon

Ensemble de solution

Voisinage

Stochastique

Probabiliste + temps

Itératif

Critère d'arrêt

8/6/2019 CoursMeta


23

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Plan

Problèmes

Exemples

Caractéristiques

Applications

Validation

Exemples

Métaheuristiques



Recuit simulé

Colonies de fourmis


Synthèse

8/6/2019 CoursMeta


8/6/2019 CoursMeta


25

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Recherche tabou

Recherche « tabou » ou « avec tabous »

Liste « tabou » de mouvements interdits Minimums locaux

Voisinage

Initialisation

Modification de solution existante

8/6/2019 CoursMeta


26

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Recherche tabou

Stopinitialisation

Modification

voisinage

Sélection du

meilleur voisin

Heuristique

spécialisée

MàJ mémoire

MàJ meilleure

solution

Itérer ?

Oui

Non

8/6/2019 CoursMeta


27

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Recherche tabou

Liste tabou

Voisinage

8/6/2019 CoursMeta


28

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Recherche tabou

Liste tabou

Voisinage

!

8/6/2019 CoursMeta


29

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Plan

Problèmes

Exemples Caractéristiques

Applications

Validation

Exemples

Métaheuristiques



Recuit simulé

Colonies de fourmis Estimation de distribution

Synthèse

8/6/2019 CoursMeta


30

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??


http://en.wikipedia.org/wiki/Image:Ape_skeletons.png

é

8/6/2019 CoursMeta


31

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??


1965 : stratégies d’évolution

1966 : programmation évolutionnaire

1975 : algorithmes génétiques

1980 : programmation génétique

1986 : systèmes immunitaire artificiels

é

8/6/2019 CoursMeta


32

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??


Métaheuristiques les plus connus

Différences historiques entre algorithmes

Concepts équivalents

Algorithmes génétiques

Algorithmes évolutionnaires


Algorithmes stochastiquesEncha î nement d'opérateurs

T i l i

8/6/2019 CoursMeta


33

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Terminologie

Solution = individu

Échantillon = population

Valeur = fitness

Représentation = codage

h t t p : / / w w w .f l i c k r . c om / ph o t o s / wi s h ym om / 5 6 6 3 9 4 5 2 0 /

O é

8/6/2019 CoursMeta


34

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Opérateurs

« Opérateurs »

Sélection

Croisement

Mutation

Évaluation

Remplacement

01011 00000

01000

00110

11011

11111 10101

10010 00001

One Max ∑i=0

4

xi

O é t

8/6/2019 CoursMeta


35

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Opérateurs

« Opérateurs »

S é lection

Croisement

Mutation

Évaluation

Remplacement

0101100000

01000

00110

11011

11111 10101

10010 00001

O é t

8/6/2019 CoursMeta


36

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Opérateurs

« Opérateurs »

Sélection

Croisement

Mutation

Évaluation

Remplacement

00001

1010110100

O é t

8/6/2019 CoursMeta


37

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Opérateurs

« Opérateurs »

Sélection

Croisement

Mutation

Évaluation

Remplacement

1010110100

O é t

8/6/2019 CoursMeta


38

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Opérateurs

« Opérateurs »

Sélection

Croisement

Mutation

É valuation

Remplacement

1010110101

O é t

8/6/2019 CoursMeta


39

M é

t a h e

u r i s t i q u e s – 2 0 0 8 0

5

/??

Opérateurs

« Opérateurs »

Sélection

Croisement

Mutation

Évaluation

Remplacement

0101100000

01000

00110

11011

11111 10101

10010 00001

11001

11101

11100


8/6/2019 CoursMeta


40

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??


Exemples d'opérateurs

8/6/2019 CoursMeta


41

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Exemples d'opérateurs

Sélection par « roulette proportionnelle »

surface proportionnelle à sa valeur

Problème

Biais selon échelle de la fonction objectif

x1

x2

x3

x4

45%

20%

20%

15%

8/6/2019 CoursMeta


Exemple d'opérateur

8/6/2019 CoursMeta


43

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Exemple d opérateur

Mutation gaussienne

Pour tout x :

xi

+ N i m,s


8/6/2019 CoursMeta


44

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??


Simulated Binary Crossover

ui ∈ U0,1

bi = (2.ui)

(1/(1+η))

si ui≤

0.5= (1/(1 u i))(1/(1+η)) sinon

2.xi1(t+1) = (1 b i).xi

1(t) + (1+bi).xi2(t)

2.xi2(t+1) = (1+bi).xi

1(t) + (1 b i).xi2(t)


8/6/2019 CoursMeta


45

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??


Croisement multipoint Croisement uniforme

11 | 0010 | 1001 | 0111 | 00

11001010

01011100

01 | 0010 | 00

11 | 0111 | 10

11001010

01011100

01110100 Masque

11001010

01011100

1101111001001000

Plan

8/6/2019 CoursMeta


46

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Plan

Problèmes

Exemples

Caractéristiques

Applications

Validation

Exemples

Métaheuristiques

Exemples

Recherche tabou


Recuit simulé


Synthèse

Recuit simulé

8/6/2019 CoursMeta


47

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Recuit simulé

http://commons.wikimedia.org/wiki/Image:Hot_metalwork.jpg

Historique

8/6/2019 CoursMeta


48

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Historique

Historique

1970 : Hastings propose l’algorithme de Metropolis Hastings,

1983 : Kirkpatrick, Gelatt et Vecchi concoivent le recuit simulé 1985 : indépendamment de ceux ci, Černý propose le même algorithme

Recuit simulé

8/6/2019 CoursMeta


49

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Recuit simulé

Coté physique

Coté optimisation

Description classique

8/6/2019 CoursMeta


50

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Description classique

Méthode de descente

Si voisin meilleur, gardé

Sinon, accepte aléatoirement un voisin moins bon

Probabilité commandé par un paramètre T (« température »)

T décro ît avec le temps

Algorithme

8/6/2019 CoursMeta


51

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Algorithme

Xcourant: point de départ

T = T0

Xsuivant = voisin(Xcourant)

Si f(Xsuivant)<= f(Xcourant)

Ou si exp((f(Xcourant) f(X suivant))/T) > rand(0,1)

et f(Xsuivant)>f(Xcourant)

Alors Xcourant = Xsuivant

T = g(T)

Fin

Loi de décroissance

de la température

Contrôle de la probad’accepter une mauvaise

solution

Algorithme

8/6/2019 CoursMeta


52

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Algorithme

Xcourant: point de départ

T = T0

Xsuivant = voisin(Xcourant)

Si f(Xsuivant)<= f(Xcourant)

Ou si exp((f(Xcourant) f(X suivant))/T) > rand(0,1)

et f(Xsuivant)>f(Xcourant)

Alors Xcourant = Xsuivant

T = g(T)

Fin

Méthode de

Metropolis

MetropolisHastings

8/6/2019 CoursMeta


53

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Metropolis Hastings

Échantillonnage de distribution de probabilité

Non intégrable, sans expression analytique, non normalisée

Fonction objectif distribution de probabilité→

Via distribution de Boltzman

Recuit simulé échantillonner une distribution paramétrique (T)→

Algorithme de Metropolis Hastings

n'importe quelle distribution

p x= exp − f x /T

∑ y

exp − f y/T

Échantillonnage de distribution paramétrique

8/6/2019 CoursMeta


54

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Échantillonnage de distribution paramétrique

Convergence

8/6/2019 CoursMeta


55

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Convergence

Garantie d'atteindre l'optimum en un temps fini.

En pratique :

limt →∞

pt x =1

Quelques problèmes

8/6/2019 CoursMeta


56

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Quelques problèmes

Ergodicité

N'importe quelle solution atteignable

Quasi ergodicit é : nombre fini de changements

Voisinage

Convergence

Quasi ergodicit é

Décroissance par palier

Décroissance graduelle

T t

ne décroit pas plus vite que : C/log(t)

C , constante liée à échelle fonction objectif

ergodique

non ergodique

t

T

Exemple variables continues

8/6/2019 CoursMeta


57

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Exemple variables continues

http://en.wikipedia.org/wiki/Image:Metropolis_hastings_algorithm.png

http://en.wikipedia.org/wiki/Image:3dRosenbrock.png

8/6/2019 CoursMeta


Décroissance température

8/6/2019 CoursMeta


59

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Décroissance température

λ.σ(Tk )

ln(1+δ)/Cmax. σ2(Tk )

ln(1+δ)/3.σ(Tk )

Δ(Tk )

Huang

Otten

Van Laarhoven

Loi de originale

Revenu simulé

8/6/2019 CoursMeta


60

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Revenu simulé

x

f(x)

p(x)

T1

T2<T1

x

Parallel Rejectionless Annealing

8/6/2019 CoursMeta


61

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

j g

xcourant

x1

x2

x3

x4

x5

min(1,exp( (f(x 1) f(x courant))/T))





Plan

8/6/2019 CoursMeta


62

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Problèmes

Exemples


Ingénierie


Caractéristiques

Applications

Validation

Performances ?

Paramétrage

Validation

Exemples

Métaheuristiques

Exemples

Recherche tabou


Recuit simulé


Synthèse

Algorithmes de colonies de fourmis

8/6/2019 CoursMeta


63

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

g

Historique

8/6/2019 CoursMeta


64

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

q

1959, Pierre Paul Grass é : stigmergie.

1983, Deneubourg, comportement collectif

1988, Moyson et Manderick, auto organisation

1989, travaux de Goss, Aron, Deneubourg et Pasteels

1989, modèle de comportement de recherche de nourriture

1991, M. Dorigo propose le Ant System

1997, première application aux réseaux de télécommunications

2000, première preuve de convergence

2004, preuve d'équivalence avec d'autres métaheuristiques

Origine de l'idée

8/6/2019 CoursMeta


65

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

g

Algorithme de base : Ant System

8/6/2019 CoursMeta


66

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

g y

Initialisation

Jusqu'à critère d'arrêt

Pour chaque fourmis

Parcours d'un trajet

Laisser piste (quantité fixe, étalée sur chaque arrête)

Évaporation

Fin

Voyageur de commerce

8/6/2019 CoursMeta


67

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

y g

Ant System, détails

8/6/2019 CoursMeta


68

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

t itérations, k fourmis, n villes,

J i k

villes à visiter

Choix d'une ville : visibilité

ηij

= 1/d ij

Choix ville

pij

k t ={

ij

t

ij

∑l∈ J

i

k

ilt

ij

si j∈ J ik

0 si j∉ J i

k }

Quantité de phéromone

Évaporation

ij

k t =

{Q

Lk t

sii , j ∈T k t

0 sinon

}

ij t 1=1−

ijt

ijt

Hyper Cube & MinMax Ant Systems

8/6/2019 CoursMeta


69

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

MMAS

τmin< τij< τmax

Ergodicité

HCAS

Problème codage binaire

Normalisation « fonction de qualité »

i

=1−i

∑s∈S

t

Q f s s

i

∑s∈S

t

Q f s

Q f s∣S

1, , S

t =

0

1−

f s − LB

f − LB

AntNet

8/6/2019 CoursMeta


70

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Plan

8/6/2019 CoursMeta


71

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Problèmes

Exemples


Ingénierie


Caractéristiques

Applications

Validation

Performances ?

Paramétrage

Validation

Exemples

Métaheuristiques

Exemples

Recherche tabou


Recuit simulé


Synthèse


8/6/2019 CoursMeta


72

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Historique

8/6/2019 CoursMeta


73

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

1994 : apprentissage incrémental à population (PBIL)

1996 : algorithmes à estimation de distribution

1999 : compact genetic algorithm 2004 : équivalence avec d'autres métaheuristiques

Origines

8/6/2019 CoursMeta


74

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Idée originale

Simplifier les algorithmes génétiques

Un seul opérateur

Population Base Incremental Learning

Compact Genetic Algorithm

Algorithme

8/6/2019 CoursMeta


75

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Idées de base

Distribution de probabilité choisie a priori

Échantillonnage

Opérateurs de réduction de variance ( sélection)→

Algorithme

8/6/2019 CoursMeta


76

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Initialisation

Jusqu'à critère d'arrêt

Estimation des paramètres

Tirage échantillon selon distribution

Sélection

Fin

Exemple continu

8/6/2019 CoursMeta


77

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Distributions :

Uniforme

Gaussienne univariante

Exemple continu

8/6/2019 CoursMeta


78

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Modèles classiques

Gaussienne univariante

Mélange de gaussiennes univariantes

Gaussienne multivariante

Mélange de gaussiennes multivariantes

8/6/2019 CoursMeta


Exemple discret : OneMax

8/6/2019 CoursMeta


80

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Exemple discret : OneMax

8/6/2019 CoursMeta


81

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Métaheuristiques : synthèse

8/6/2019 CoursMeta


82

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

h t t p : / / f l i c

k r . c o m

/ p h

o t o s

/ m p

d e

h a a n

/ 3 1

7 7 3 1 0 3 /

8/6/2019 CoursMeta


Parcours / population

8/6/2019 CoursMeta


84

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Intensification / diversification

8/6/2019 CoursMeta


85

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Diversification = exploration

Intensification = exploitation

Explicite, Implicite, Direct

8/6/2019 CoursMeta


86

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Classification

8/6/2019 CoursMeta


87

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Plan

8/6/2019 CoursMeta


88

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Problèmes

Exemples

Caractéristiques

Applications

Validation

Performances ?

Paramétrage

Validation

Exemples

Métaheuristiques

Exemples

Synthèse

Validation

8/6/2019 CoursMeta


89

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

h t t p : / / f l i c

k r . c o m

/ p h

o t o s / i n g

l e i t e

s / 9 5 3 8 1 0 4 4 /

No free lunch

8/6/2019 CoursMeta


90

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Instance de mé

thode Algorithme

Paramétrage

Instance de problème

Modèle

Caractéristiques

Paramétrage

8/6/2019 CoursMeta


91

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Instance métaheuristique

1 paramétrage optimal pour 1 instance de problème

Initialisation

Critère d'arrêt

Valeurs des paramètres

Quel paramétrage ?

Critères de performance

Vitesse ou précision ?

Production ou conception ?

8/6/2019 CoursMeta


Vitesse et précision

8/6/2019 CoursMeta


93

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

8/6/2019 CoursMeta


Conception / production

8/6/2019 CoursMeta


95

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Conception

Vitesse négligeable

Précision cruciale

Répétitions possibles

Recherche

Diversification

Production

Vitesse cruciale

Précision négligeable

1 seul essai

Robustesse

Intensification

f(x)

F

f(x)

F

8/6/2019 CoursMeta


8/6/2019 CoursMeta


Sequential Parameter Optimization

8/6/2019 CoursMeta


98

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

(I) analyse expérimentale De plusieurs jeux de paramètres

(II) estimation des

performance

Modèle de processus

stochastique

(III) détermination de jeux

supplémentaires à tester

Sequential Parameter Optimization

8/6/2019 CoursMeta


99

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Évaluation expérimentale

Plusieurs évaluations par jeu

Meilleur jeu précédent re évalué

Nouveaux jeux évalués autant

Modélisation

Corrélation gaussienne

Régression polynomiale ordre 2

Estimation des performances pour jeux non testés

Nouveaux jeux à tester

Échantillonnage « Latin » de l'hypercube

Un seul essai par ligne/colonne

Présentation

8/6/2019 CoursMeta


10

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Bien Pas bien

i

f(x)

Boite à moustache

8/6/2019 CoursMeta


101

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

h t t p : / / e n

. w i k i p

e d i a

. o r g

/ w i k i / I m

a g e : B o x p

l o t_ v s

_ P D F

. p n g

Trouver le meilleur des deux

8/6/2019 CoursMeta


10

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??

Test statistique

Déterminer si deux échantillons proviennent de la même distribution

Déterminer si deux méthodes se comportent différemment

Et donc, si l'un est meilleur que l'autre Hypothèse « nulle » : les deux sont identiques

Acceptée : on ne sait pas faire la différence

Rejetée : ils sont différents

Avec une certaine probabilité de se tromper

8/6/2019 CoursMeta


Applications

8/6/2019 CoursMeta


10

M é

t a h e

u r i s t i q u e s – 2 0 0 8

0 5

/??http://commons.wikimedia.org/wiki/Image:Industry_Torrance.jpg

8/6/2019 CoursMeta


eu r i s t i q u e s – 2 0 0 8

0 5

CoursMeta

Documents

Transcript of CoursMeta