Application #2 Problème du voyageur de commerce (TSP) · 1/32/33/3 Histoire non-exhaustive du TSP...

1/3 2/3 3/3

Application #2Probleme du voyageur de commerce (TSP)

MTH6311

S. Le Digabel, Ecole Polytechnique de Montreal

H2018(v4)

MTH6311: Heuristiques pour le TSP 1/34

1/3 2/3 3/3

Plan

1. Introduction

2. Formulations MIP

3. Heuristiques pour le TSP


1/3 2/3 3/3

1. Introduction

2. Formulations MIP



1/3 2/3 3/3

Introduction

I Le probleme du voyageur de commerce, ou TSP pourTraveling-Salesman Problem, consiste, pour un graphe donne,de determiner un cycle hamiltonien dont la longueur estminimale.

I Pas juste des villes et des distances : le TSP peut serencontrer dans d’autres contextes, et/ou commesous-probleme : problemes de logistique, de transport,d’ordonnancement, etc. (voir probleme du pere Noel).

I Certains problemes rencontres dans l’industrie se modelisentsous la forme d’un TSP, comme l’optimisation de trajectoiresde machines outils : comment percer plusieurs points sur unecarte electronique le plus vite possible ?


http://www.tsp.gatech.edu/problem/santa.html

1/3 2/3 3/3

Introduction (suite)

I Un des accomplissements majeurs du TSP est l’aide donneeau domaine Mixed-Integer Programming (MIP). Quasimenttout algorithme pour resoudre un MIP a d’abord ete teste surle TSP.

I La theorie de la complexite a ete etablie par W. Cook en 1971en se basant sur l’exemple du TSP.

I Le TSP est NP-difficile.

I Liens : site du TSP et TSP interactif.


http://www.tsp.gatech.edu

http://interstices.info/jcms/c_37686/le-probleme-du-voyageur-de-commerce

1/3 2/3 3/3

NotationsI G = (V,E).

I Chaque sommet represente une ville. |V | = n.

I On considere que le graphe est complet : |E| = n(n− 1)/2.

I G est non-oriente mais les solutions doivent tenir compted’une orientation.

I cij : cout (distance) de l’arc (i, j) ∈ E. On suppose quecij = cji pour tout (i, j) ∈ E.

I On peut supposer aussi que les distances sont positives etrespectent l’inegalite triangulaire

cij + cjk ≥ cik pour tous i, j, k ∈ V .

I Pour un tour T ⊆ E, on note le cout du tour c(T ) =∑e∈T

c(e).


1/3 2/3 3/3

Histoire non-exhaustive du TSP

I Premieres references en 1832.

I 1859, W.R. Hamilton : enonce avec un voyageur de commerce.

I 1949, J.B. Robinson, “On the Hamiltonian game (atraveling-salesman problem)”. Premiere reference sous saforme moderne.

I Annees 30-50 : popularise dans la communaute mathematiquepar M. Flood et les chercheurs du RAND.

I 1954, RAND : G. Dantzig, R. Fulkerson, et S. Johnson,“Solution of a large-scale traveling-salesman problem”.Solution exacte pour les 49 capitales des etats americains(introduction des coupes et du B&B).


1/3 2/3 3/3

Histoire non-exhaustive du TSP (suite)

I 1962, M. Held et R.M. Karp : introduction d’heuristiquesbasees sur la programmation dynamique.

I 1973 : Heuristique de Lin and Kernighan.

I 1976 : Heuristique de Christofides.

I Annees 80 – aujourd’hui : diverses heuristiques etmetaheuristiques.


1/3 2/3 3/3

Tailles des instances resoluesAnnee Chercheurs n

1954 Dantzig, Fulkerson, Johnson 491971 Held, Karp 641975 Camerini, Fratta, Maffioli 671977 Grotschel 1201980 Crowder, Padberg 3181987 Padberg, Rinaldi 5321987 Grotschel, Holland 6661987 Padberg, Rinaldi 2,3921994 Applegate, Bixby, Chvatal, Cook 7,3971998 Applegate, Bixby, Chvatal, Cook 13,5092001 Applegate, Bixby, Chvatal, Cook 15,1122004 Applegate, Bixby, Chvatal, Cook, Helsgaun 24,9782005 Cook et al. 33,8102006 Cook et al. 85,900


1/3 2/3 3/3

Probleme ouvert : le World TSPI Instance de n = 1, 904, 711 villes.I www.tsp.gatech.edu/world/index.html.I Meilleure borne actuelle (2007) : 7, 512, 218, 268.I Meilleure solution actuelle (2011) : 7, 515, 778, 188 : gap d’au

plus 0.0474%.


http://www.tsp.gatech.edu/world/index.html

1/3 2/3 3/3

1. Introduction

2. Formulations MIP



1/3 2/3 3/3

Une premiere formulation MIPOn utilise deux variables binaires xij et xji pour chaque arete(i, j) ∈ E. La variable xij vaut 1 si on emprunte l’arete de i vers j,0 sinon.

minx

∑(i,j)∈E

cij(xij + xji)

∑i∈Vi 6=j

xij = 1 ∀ j ∈ V (entrer une seule fois dans chaque ville)

∑j∈Vj 6=i

xij = 1 ∀ i ∈ V (sortir une seule fois de chaque ville)

xij et xji ∈ {0, 1} ∀ (i, j) ∈ E


1/3 2/3 3/3

Une premiere formulation MIPOn utilise deux variables binaires xij et xji pour chaque arete(i, j) ∈ E. La variable xij vaut 1 si on emprunte l’arete de i vers j,0 sinon.

minx

∑(i,j)∈E

cij(xij + xji)

∑i∈Vi 6=j

xij = 1 ∀ j ∈ V (entrer une seule fois dans chaque ville)

∑j∈Vj 6=i

xij = 1 ∀ i ∈ V (sortir une seule fois de chaque ville)

xv1v2 + xv2v3 + . . . + xvtv1 ≤ t− 1 ∀S = {v1, v2, . . . , vt} ⊂ V(elimination des sous-tours)

xij et xji ∈ {0, 1} ∀ (i, j) ∈ E


1/3 2/3 3/3

Une premiere formulation MIP (suite)

I Contraintes d’elimination des sous-tours :

I Imposent une tournee reliant tous les sommets de G.

I Pour t = 2, revient a xij + xji ≤ 1.

I Pour t = 3, xij + xjk + xki ≤ 2 ou bien xik + xkj + xji ≤ 2(elimine les deux tours dans un triangle).

I Au pire 2n contraintes de bris de sous-tours. A-t-on besoin detoutes ces contraintes ? Peut-on les generer iterativementquand un sous-tour apparaıt dans une tournee ?

I Resolution par la technique de separation et evaluation(Branch and Bound) ou techniques plus specialisees.


1/3 2/3 3/3

Une deuxieme formulation MIP (flots et etapes)On utilise un indice supplementaire s ∈ {1, 2, . . . , n} (l’etape) : lavariable xij,s vaut 1 si on va de i a j a l’etape s, 0 sinon :

minx

n∑i=1

n∑j=1j 6=i

n∑s=1

cijxij,s

n∑i=1

xij,s −n∑

i=1xji,s%n+1 = 0 ∀j et s ∈ {1, 2, . . . , n}

(flot entrant = flot sortant)n∑

j=1

n∑s=1

xij,s = 1 ∀i ∈ {1, 2, . . . , n} (passer une fois par chaque ville)

xij,s ∈ {0, 1} ∀ i, j, s ∈ {1, 2, . . . , n}On n’a plus besoin des contraintes d’elimination des sous-tours,mais cette formulation requiert n3 variables : 50 villes donnent125,000 variables !


1/3 2/3 3/3

1. Introduction

2. Formulations MIP



1/3 2/3 3/3

Introduction

I On voit ici deux types d’heuristiques :

I Celles qui construisent une tournee en ne partant de rien (fromscratch).

I Celles, plus efficaces, qui ameliorent une tournee deja existante.

I Les heuristiques vues ici sont dediees au TSP et ne sont doncpas des metaheuristiques. Cependant plusieurs notions,comme les voisinages, peuvent etre utilisees pour definir desmetaheuristiques.

I Ensemble d’instances : TSPLIB.


http://comopt.ifi.uni-heidelberg.de/software/TSPLIB95/

1/3 2/3 3/3

Voisin le plus proche

Nearest Neighbour (NN)

[1] Choisir un sommet v1 ∈ VPoser k ← 1

[2] Tant que k < nk ← k + 1choisir vk dans V \ {v1, v2, . . . , vk−1}qui minimise cvk−1,vk

Retourner le tour (v1, v2, . . . , vn)


1/3 2/3 3/3

Voisin le plus proche (suite)I Facile a implementer. Complexite en O(n2).

I Sur les problemes de la TSPLIB, en moyenne, NN donne destours de cout 1.26 fois plus eleve que la valeur optimale, noteNN/OPT= 1.26.

I Pire comportement connu : NN/OPT ∈ Θ(

log n3 log log n

)(environ

3 pour n = 100, 4 pour n = 10, 000, etc.)

I Borne garantie sur la solution optimale (Rosenkrantz,Stearns, Lewis, 1977) : Si les distances sont positives etrespectent l’inegalite triangulaire, alors

NN/OPT ≤ 12dlog2 ne+

12

(4.5 pour n = 100, 7.5 pour n = 10, 000, etc.)



1/3 2/3 3/3

Methodes d’insertionOn commence avec deux noeuds et on ajoute les autres noeuds una un. Contrairement a NN, a chaque etape, on a un tour.

Insertion Method (IM)

[1] Choisir v1 et v2 ∈ V et poser T = (v1, v2)(typiquement on maximise cv1v2)

Poser k ← 2

[2] Tant que k < nk ← k + 1choisir vk dans V \ Tinserer vk dans T

Retourner T


1/3 2/3 3/3

Methodes d’insertion (suite)

Pour un noeud vk hors du tour T :

I La quantite dT (vk) = minv∈T

cvk,v represente la distance au tour.

I Un sommet vT (vk) ∈ arg minv∈T

cvk,v est le sommet du tour le

plus proche de vk.


1/3 2/3 3/3

Methodes d’insertion (suite)Il y a plusieurs strategies pour choisir et inserer les noeuds, toutesen O(n2), ce qui donne une complexite en O(n3) pour la methodeau complet.

I Nearest insertion (IM-N) : On insere le noeud le plus prochedu tour : min

vk∈V \TdT (vk). Dans T , on place vk juste apres

vT (vk).I Cheapest insertion (IM-C) : On choisit le noeud dont

l’insertion dans T sera la moins couteuse :min

vk∈V \Tmin

v1,v2∈Tconsecutifs

cv1,vk+ cvk,v2 . On place vk dans T entre v1

et v2.I Farthest insertion (IM-F) : On choisit le noeud le plus loin

du tour : maxvk∈V \T

dT (vk). Dans T , on place vk juste apres

vT (vk).


1/3 2/3 3/3

Methodes d’insertion (suite)

I Sur TSPLIB, en moyenne, IM-F/OPT= 1.16. C’est la plusefficace des trois methodes en pratique.

I Borne garantie sur la solution optimale (Rosenkrantz,Stearns, Lewis, 1977) : Si les distances sont positives etrespectent l’inegalite triangulaire, alors

I IM-N/OPT ≤ 2.

I IM-C/OPT ≤ 2.

I IM-F/OPT ≤ dlog2 ne+ 1(8 pour n = 100, 15 pour n = 10, 000, etc.)

I Jusqu’a present, aucun exemple connu pour lequelIM-X/OPT > 4.



1/3 2/3 3/3

Arbre de recouvrement (MST)

I Trouver un arbre de recouvrement T de G de poids minimum.Pour cela, utiliser l’algorithme de Kruskal, par exemple, enO(n2 log n).

I Determiner un cycle qui passe exactement deux fois parchaque arete de l’arbre (et nulle part ailleurs).

I Emprunter des raccourcis pour eviter de passer plusieurs foispar un meme sommet.

I Borne sur la solution optimale : MST/OPT ≤ 2.


http://en.wikipedia.org/wiki/Minimum_spanning_tree

http://en.wikipedia.org/wiki/Kruskal's_algorithm

1/3 2/3 3/3

Arbre de recouvrement : illustration


1/3 2/3 3/3

Heuristique de Christofides (1976)

L’heuristique comporte quatre etapes pour une complexite enO(n3) :

1. Trouver un arbre de recouvrement T de G de poids minimum.Utiliser l’algorithme de Kruskal en O(n2 log n).

2. Soient W l’ensemble des noeuds de degre impair dans T etG(W ) le sous-graphe de G induit par W .

L’etape 2 consiste a trouver un couplage parfait M de G(W )de cout minimal. Pour cela, utiliser l’algorithme d’Edmonds,par exemple, en O(n3).


http://en.wikipedia.org/wiki/Minimum_spanning_tree

http://en.wikipedia.org/wiki/Kruskal's_algorithm

http://goo.gl/nFtn3

http://goo.gl/TjPvh

1/3 2/3 3/3

Heuristique de Christofides (suite)

3. On construit le graphe J en unissant les aretes de T et lecouplage M . Si une arete est a la fois dans T et dans M ,alors on la dedouble dans J . J est un graphe connexe dont lessommets sont ceux de V et ont des degres pairs. Ce graphedefinit donc un tour, et si tous les degres sont de 2, alors letour est hamiltonien et on ne fait pas l’etape 4.

4. Raccourcis : Pour tout sommet v de degre > 2, considererdeux aretes (u, v) et (v, w) consecutives dans le tour de J etles remplacer dans J par l’arete (u, w).


1/3 2/3 3/3

Heuristique de Christofides : illustration


1/3 2/3 3/3

Heuristique de Christofides (suite)

I Sur TSPLIB :

I En moyenne, CHR/OPT= 1.14.

I Si a l’etape 4 les meilleurs raccourcis possibles sont choisis,alors, en moyenne, CHR/OPT= 1.09.

I Borne garantie sur la solution optimale : Si les distancessont positives et respectent l’inegalite triangulaire, alorsCHR/OPT ≤ 1.5 (preuve avec les algorithmes d’approximation).



1/3 2/3 3/3

Amelioration de tour : methodes k-opt

I Considerent un tour T deja existant.

I Avec le 2-opt, pour chaque paire d’aretes non-adjacentes dansT , en supprimant ces aretes, on cree deux chemins qu’on peutrecombiner en un nouveau tour T ′.

I Si c(T ′) < c(T ), alors on remplace T par T ′ et on continue.

I Si c(T ′) ≥ c(T ) pour toute paire d’aretes non-adjacentes dansT , alors T est dit 2-optimal et l’algorithme se termine.


1/3 2/3 3/3

Algorithme 2-opt : complexite

I Verifier qu’un tour est 2-optimal se fait en temps polynomial :O(n2).

I Mais trouver un tour 2-optimal ne se fait pas en tempspolynomial.

I Papadimitriou et Steiglitz (1977) : si on fait de mauvais choix,on peut prendre un nombre exponentiel d’echanges avant detrouver un tour 2-optimal.


1/3 2/3 3/3

2-opt : exemple


1/3 2/3 3/3

Generalisation a k-opt

I On fait la meme chose que 2-opt, mais cette fois il fautconsiderer des sous-ensembles d’aretes de T de cardinalite k.

I Une fois ces aretes supprimees, il faut etre capable de reformerun nouveau tour.

I Ceci est de plus en plus difficile quand k grandit.

I En pratique, on considere rarement k > 3.

I Sur TSPLIB : 2-OPT/OPT= 1.06 et 3-OPT/OPT= 1.04.



1/3 2/3 3/3

4-opt : exemple


1/3 2/3 3/3

Heuristique de Lin-Kernighan (1973)

I Methode d’amelioration de tour.

I Generalisation de 2-opt et 3-opt : methode adaptative quidecide a chaque etape du nombre d’aretes a echanger.

I Quand une amelioration est obtenue, elle n’est pas forcementutilisee tout de suite.

I Algorithme tres technique, donc non presente ici.

I Lin-Kernighan + composante 4-opt : Chained Lin-Kernighan.

I Sur TSPLIB : LK/OPT= 1.02 et CLK/OPT= 1.01.



Application #2 Problème du voyageur de commerce (TSP) · 1/32/33/3 Histoire non-exhaustive du TSP...

Documents

Transcript of Application #2 Problème du voyageur de commerce (TSP) · 1/32/33/3 Histoire non-exhaustive du TSP...