Colonie de Fourmis_13

Colonie de fourmis

53

Méthodes avancées d’ing. II GGEN6090 Faculté d’ingénierie

Prof. Gérard J. Poitras, ing. Bur Bureau eau : 132G2 Tél : 858-4759 Cour Courri riel el : [email protected]

Faculté

d’ingénierie

Algorithme de colonies de fourmis • Les algorithmes de colonies de fourmis sont des algorithmes inspirés du comportement des fourmis. • Initialement proposé par Marco Dorigo et al. dans les années 1990, le premier algorithme s’inspire du comportement des fourmis recherchant un chemin entre leur colonie et une source de nourriture. • Il est maintenant utilisé pour résoudre une classe plus large de problèmes en s’inspirant de divers aspects du comportement des fourmis.

Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

54

Algorithme de colonies de fourmis • L’idé L’idéee origin originale ale prov provien ientt de l’obse l’observa rvatio tionn de l’exploitation l’exploitation des ressources alimentaires alimentaires chez les fourmis.

• Une colonie de fourmis ayant le choix entre deux chemins d’inégale longueur menant à une source de nourriture avait tendance à utiliser le chemin le plus court.

• Ils sont capables collectivement de trouver le chemin le plus court entre une source de nourriture et leur nid.

Faculté

d’ingénierie

Algorithme de colonies de fourmis • Principe :

1. La prem première ière fourm fourmii trouve trouve la sourc sourcee de nourr nourritu iture, re, via via un chemin quelconque, puis revient au nid en laissant derrière elle une piste de phéromone. 2. Les four fourmis mis empr emprunt untent ent indiff indiffére éremm mment ent des chem chemins ins possibles, mais le renforcement de la piste rend plus attrayant le chemin le plus court.

phéromone

3. Les fourm fourmis is emprun emprunten tentt le chem chemin in le plus plus court, court, les les portions longues des autres chemins perdent leur piste de phéromones.

Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

55

Algorithme de colonies de fourmis • Une fourmi (appelée «éclaireuse») parcourt plus ou moins au hasard l’environnement autour de la colonie; • Si celle-ci découvre une source de nourriture, elle rentre plus ou moins directement au nid, en laissant sur son chemin une piste de phéromones; • Ces phéromones étant attrayantes, les fourmis passant à proximité vont avoir tendance à suivre, de façon plus ou moins directe, cette piste; • En revenant au nid, ces mêmes fourmis vont renforcer la piste ;

Faculté

d’ingénierie

Algorithme de colonies de fourmis

Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

56

Algorithme de colonies de fourmis • Si deux pistes sont possibles pour atteindre la même source de nourriture, celle étant la plus courte sera, dans le même temps, parcourue par plus de fourmis que la longue piste; • La piste courte sera donc de plus en plus renforcée, et donc de plus en plus attrayante; • La longue piste, elle, finira par disparaître, les phéromones étant volatiles; • À terme, l’ensemble des fourmis a donc déterminé et «choisi» la piste la plus courte.

Faculté

d’ingénierie

Algorithme de colonies de fourmis • Les fourmis utilisent l’environnement comme support de communication : elles échangent indirectement de l’information en déposant des phéromones, le tout décrivant l’état de leur «travail». • L’information échangée a une portée locale, seule une fourmi située à l’endroit où les phéromones ont été déposées y a accès. • Ce système repose sur des rétroactions positives (le dépôt de phéromone attire d’autres fourmis qui vont la renforcer à leur tour) et négatives (la dissipation de la piste par évaporation empêche le système de s'emballer).

Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

57

Algorithme de colonies de fourmis • Théoriquement, si la quantité de phéromone restait identique au cours du temps sur toutes les branches, aucune piste ne serait choisie. • Grâce aux rétroactions, une faible variation sur une branche va être amplifiée et  permettre alors le choix d’une branche. • L'algorithme va permettre de passer d'un état instable où aucune branche n'est plus marquer qu'une autre, vers un état stable où l'itinéraire est formé des « meilleures» branches.

Faculté

d’ingénierie

Algorithme de colonies de fourmis • Les fourmis virtuelles ont une double nature. D’une part, elles modélisent les comportements abstraits de fourmis réelles, et d’autre part, elles peuvent être enrichies par des capacités que ne possèdent pas les fourmis réelles, afin de les rendre plus efficaces que ces dernières. • Points communs, fourmis réelles et virtuelles  – Colonie d’individus coopérants, un ensemble d’entités qui se rassemblent ensemble pour trouver une "bonne" solution.  –  Pistes de phéromones, son rôle principal est de changer la manière dont l’environnement est perçu par les fourmis, en fonction de l’historique laissé par ces phéromones.  –  Évaporation des phéromones, ce mécanisme permet d’oublier lentement ce qui s’est passé avant .  –  Recherche du plus petit chemin reliant un point de départ (le nid) à des sites de destination (la nourriture).

Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

58

Algorithme de colonies de fourmis • Points communs, fourmis réelles et virtuelles (suite)  –  Déplacement locaux, les fourmis se contentent de se déplacer entre sites adjacents du terrain.  –  Choix aléatoire lors des transitions, les fourmis doivent décider sur quel site adjacent se déplacer. Cette prise de décision se fait au hasard et dépend de l’information locale déposée sur le site courant .

Faculté

d’ingénierie

Algorithme de colonies de fourmis • Les fourmis virtuelles possèdent certaines caractéristiques que ne possèdent pas les fourmis réelles :  –  Elles vivent dans un monde non continu, leurs déplacements consistent en des transitions d’état.  –  Mémoire, les fourmis virtuelles mémorisent l’historique de leurs actions. Elles peuvent aussi retenir des données supplémentaires sur leurs performances.  –  Nature des phéromones déposées par les fourmis virtuelles où l’évaporation des phéromones est une simple décrémentation de la valeur des variables d’états à chaque itération.  –  Qualité de la solution, les fourmis virtuelles déposent une quantité de phéromone proportionnelle à la qualité de la solution qu’elles ont découvert.  –  Retard dans le dépôt de phéromone, les fourmis virtuelles peuvent mettre à  jour les pistes de phéromones de façon non immédiate : souvent elles attendent d’avoir terminé la construction de leur solution. Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

59

Algorithme de colonies de fourmis • Les fourmis virtuelles possèdent certaines caractéristiques que ne possèdent pas les fourmis réelles (suite) :  –  Capacités supplémentaires où les fourmis virtuelles peuvent être pourvues de capacités artificielles afin d’améliorer les performances du système .  –  Ces possibilités sont liées au problème et peuvent être: 1. l’anticipation : la fourmi étudie les états suivants pour faire son choix et non seulement l’état local. 2. le retour en arrière : une fourmi peut revenir à un état déjà parcouru, car la décision qu’elle avait prise à cet état a été mauvaise.

Faculté

d’ingénierie

Algorithme de colonies de fourmis • Développement de l’algorithme (population initiale)

Nourriture

Nourriture 8888888 8888888

8 8 8 8  L1 8

8

8 8 8 8

8 8 8 8 8 8 8 8  L2 8 8

8 8 8 8 8 8 8

8

88

8 8 8 8

τ 2 =1

τ 1 =1

888888 888888

Colonie de fourmis

τ i est la quantité de

phéromone déposée sur l’arête i Une fourmi choisit l’un des deux chemins avec une probabilité pi où  i

 pi





roulette

 1

,

i  1, 2

  2

Colonie de fourmis où L1 = d 1, L2 = d 2 et d 1 > d 2

Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

60

Algorithme de colonies de fourmis • Développement de l’algorithme

Nourriture

Nourriture

8888888 8888888

8

8

8

8 8 8 88

 i

8 8 8 8 8

  i 

Q d i

  2   1

où Q est un paramètre de réglage et d i est la distance parcourue (la valeur de la fonction objective) (retour des fourmis)

 i



1    

i

où    [0 ,1] est un paramètre de réglage pour l’évaporation des phéromones.

88888888 88888888

8888888888888888888 8888888888888888888

Colonie de fourmis

Colonie de fourmis

Faculté

d’ingénierie

Algorithme de colonies de fourmis • Le premier algorithme de colonies de fourmis proposé vise notamment à résoudre le problème du voyageur de commerce où le but est de trouver le plus court chemin permettant de relier un ensemble de villes. • L’algorithme général repose sur un ensemble de fourmis, chacune parcourant un trajet parmi ceux qui sont possibles. • À chaque étape, la fourmi choisit de passer d’une ville à une autre en fonction de quelques règles. • Règles : 1. elle ne peut visiter qu’une fois chaque ville ; 2.  plus une ville est loin, moins elle a de chance d’être choisie (c’est la « visibilité») ; 3.  plus l'intensité de la piste de phéromone disposée sur l’arête entre deux villes est grande, plus le trajet aura de chance d’être choisi ; 4. une fois son trajet terminé, la fourmi dépose, sur l’ensemble des arêtes parcourues, plus de phéromones si le trajet est court ; 5. les pistes de phéromones s’évaporent à chaque itération. Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

61

Algorithme de colonies de fourmis • Problème du voyageur de commerce

k 

  ij

m

t 

k    ij t    

  

ij

t   1

1     ij t 

k 1

1) Une fourmi choisit un trajet, et trace une piste de phéromone; 2) L’ensemble des fourmis parcourt un certain nombre de trajets, chaque fourmi déposant une quantité de phéromone proportionnelle à la qualité du parcours; 3) Chaque arête du meilleur chemin est plus renforcée que les autres; 4) L’évaporation fait disparaître les mauvaises solutions.

Faculté

d’ingénierie

Algorithme de colonies de fourmis • Problème du voyageur de commerce



 ij 1   

c

12

2

23

  

 x12 , x13 , x14

Distance entre les villes i, j : d ij

13

1

1

Liens possibles pour c1 :

   c



c

  

24

3

  

14

c

  

 pij 

34

4

La probabilité de prendre un chemin valable à partir d’une ville i est :   

ij

1 d ij

  ik  1 d ij    

,

 j  Di

k  Di

Numéro des villes qui peuvent être visitées de la ville c1 : À partir de la ville c1 :

 p1 j





 1 j 1 d 1 j  12 1 d 12    13 1 d 13    14 1 d 14 

,

 D1

j





2,3,4 2,3,4

roulette [0 - 1]

Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

62

Algorithme de colonies de fourmis • Problème du voyageur de commerce   ij   

c

12

2

2

  

23

Liens possibles pour c2 :

  

c

13

1

c

  

24

Numéro des villes qui peuvent être visitées de la ville c2 :  D 3,4

3

  

14

c

  

2

34

4

À partir de la ville c2 :

 p2  j

   2  j





   23

1 d 2 j

1 d    23

,

 x   x  23 24

   24

1 d  

,

j





3,4

etc.

24

roulette [0 - 1]

Faculté

d’ingénierie

Algorithme de colonies de fourmis • Problème du voyageur de commerce   

ij

  

c

12

N k  

2

  

23

Évaporation :

  

c

13

1

c

  

24

3

14

  ij    ij 

   4

1    ij

Pour toutes les fourmis k :

  

c



 ij

34

où

Q

 

 f   x 

k 

     d 

 f   x 

k 

ij

Note : Nombre de fourmis N k  dépend du nombre de variables du problème, 5n à 10n. Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

63

Algorithme de colonies de fourmis • De manière générale, la règle de déplacement est appelée « règle aléatoire de transition proportionnelle » :   ij t      ij  k        pij t     ij t   ij  0 

si  j  J ik  si  j  J ik 

où  pk ij (t ) est la probabilité d’une fourmi k de se déplacer du nœud i au l’itération t ;

nœud j à

 J ik  est

la liste des déplacements possibles pour une fourmi k lorsqu’elle se trouve sur le nœud i; ηij est la visibilité (l’inverse de la distance entre les nœuds i et j (1 /d ij) ; τ ij (t) est la quantité de phéromone déposée sur l’arête ij à une itération donnée t . Faculté

d’ingénierie

Algorithme de colonies de fourmis • Les deux principaux paramètres contrôlant l’algorithme sont α et  β , qui contrôlent l’importance relative de l’intensité et de la visibilité d’une arête ij. • Une fourmi k dépose une quantité de phéromone sur chaque arête de son parcours :  Q si i,  j   T k  t   k    t     f   x , t   0 si i,  j   T k  t  k  ij

où (t ) est la quantité de phéromone déposée sur l’arête ij par la fourmi k à l’itération t ; T k  (t) est la tournée faite par la fourmi k à l’itération t ;  f ( xk  ,t ) la valeur de la fonction à minimiser ou maximiser; Q un paramètre de réglage (constante, Ex: 100 ou même ordre que  f ( x)). τ k ij

Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

64

Algorithme de colonies de fourmis • À la fin de chaque itération de l’algorithme, les phéromones déposées aux itérations précédentes par les fourmis s’évaporent de (1- ρ)τ ij(t ). • Et à la fin de l'itération, on a la somme des phéromones qui ne se sont pas évaporées et de celles qui viennent d'être déposées: m

 ij t   1  1    ij t     ijk t  k  où m est le nombre de fourmis utilisées pour l’itération t     [0 ,1] est un paramètre de réglage pour l’évaporation des phéromones. 1

Si    se rapproche trop de 1, on observe un effet de stagnation des phéromones ce qui favorise les mauvaises solutions persister.

•

De même, choisir    près de 0 implique une évaporation trop rapide des phéromones, donc amène la fourmi à un choix dépendant uniquement de la visibilité des nœuds (meilleures solutions).

•

Faculté

d’ingénierie

Algorithme de colonies de fourmis • Problème du voyageur généralisé

k  Minimiser  f   x    d ij

1. Les k fourmis sont réparties aléatoirement sur les n villes et la liste qui modélise la mémoire contient leurs villes de départ. 2. Les pistes de phéromones sont initialisées 3.

  

ij

t   0  0 à 1

  ij t      ij Pour chaque fourmi, on calcule la probabilité k         pij t     ij t   ij  0 

si  j  J i

k 

si  j  J i

k 

4. Pour chaque fourmi, choisir un trajet de manière à revenir à sa propre ville de départ selon la probabilité ci-dessus (roulette). 5. Chaque fourmi calcule sa valeur  f   x k   Fin d’un cycle. À l’instant t , toutes les fourmis ont terminé leur tour, chacune a une liste "mémoire" pleine et est revenue à sa propre ville de départ. Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

65

Algorithme de colonies de fourmis • Problème du voyageur généralisé (suite)

Pour chaque cycle (itération) 6. L’évaporation des phéromones est calculée

 ij

t   1  1     ij t 

7. Les variables de phéromone  ij(t ) sont mises à jour

  

ij

t   1  ij t   1    

Q

  

 f   x

k 

8. On mémorise la meilleure fourmi k si elle est meilleure que celle du meilleur tour jusqu’ici. 9. Les mémoires des fourmis (liste des villes visitées) sont effacées. 10. Les fourmis recommencent un nouveau tour, toujours au départ de la ville sur laquelle elles avaient été placées au début de l’algorithme . Fin de l’algorithme. On arrête l’algorithme après un nombre de cycles égal à une constante imax. Faculté

d’ingénierie

Algorithme de colonies de fourmis • Problème de conception

Minimiser (ou maximiser)  f   x k    xi  Di ;  Di



d  , d  i1

i 2 ,......,



d iqi , i  1 à n

où  f ( xk ) est la fonction objective du problème;  xi est la composante i the la variable de lien x;  Di sont les valeurs discrètes du problème; qi est le nombre de valeurs discrètes pour la variable i; n est le nombre de variables du problème.

Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

66

Algorithme de colonies de fourmis • Exemple  f   x    p1  x1   p2  x2   p3  x3

n=3

Variable x1

 D1

Variable x2

 D2



Variable x3

 D3





d 11, d 12 , d 13 , d 14 , d 15  d 

, d 22 , d 23 

d 

, d 32 , d 33 , d 34 

21

31

q1 = 5 q2 = 3 q3 = 4

 N k  5n à 10n    0.4 à 0.8 Q

 ij



1

  1



 f  ( x) typique

   1





Faculté

d’ingénierie

Algorithme de colonies de fourmis 00 Colonie de fourmis

• Exemple (suite) : Couche 0

00

00

  

  

15

11

00

00

  

  

Couche 1 ( x1)

  

14

d 12

d 11

00

13

12

d 13

d 14

d 15

14

 x1 = d 14

14

  

21

  

23

14

  

22

d 21

Couche 2 ( x2)

  

d 22

  

22

32

d 31

 x2 = d 22

22

31

Couche 3 ( x3)

d 23

d 32

  

22

  

22

34

33

d 33

d 34

 x3 = d 34

Nourriture Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

67

Algorithme de colonies de fourmis

• Problème de conception 1. Choisir la quantité initiale de phéromone à déposer sur toutes les arêtes (nœud rs au nœud ij) rs t   0  0 à 1   

ij

2. Choisir le premier lien - la fourmi k  débute au nœud 00 et choisit le chemin à parcourir selon la 00 probabilité calculée : 1 j 00   

 p ij 

qi

 j  1 à q1

,



  x1 

d k 1

00    1r 

r 1

- la fourmi k  situé au nœud rs choisit le chemin à parcourir selon la rs  ij probabilité calculée : rs  p ij 

qi



,

 j  1 à qi

i  r  1

rs  1l

l 1

3. Répéter l’étape 2 pour toutes les couches jusqu’à n 4. Répéter les étapes 1 à 3 pour toutes les fourmis k  jusqu’à N k Faculté

d’ingénierie

Algorithme de colonies de fourmis

• Problème de conception

5. Évaluer la fonction objective pour toutes les fourmis k 

 

 x k  ,  f   x k  ;

6. Évaporation des phéromones rs rs  ij  1     ij

k  1 à  N k  

pour r , s, i, j

7. Augmenter la densité de phéromones pour chaque parcours des fourmis rs rs ij    ij 

  

Q

 

 f   x

k 

pour r , s, i,  j de la fourmi k 

8. On mémorise la meilleure fourmi k si ce tour est meilleur que le meilleur tour  jusqu’ici et on efface la mémoire des autres fourmis. 9. Retourner à l’étape 1 si i < imax

Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

68

Algorithme de colonies de fourmis •

•

Une grande faiblesse de l’ACO est le nombre élevé de paramètres en jeu. En l’absence d’argumentation rigoureuse, les seules justifications pour fixer les paramètres sont des résultats expérimentaux. Max-Min Ant system (MMAS) •

•

Une variante de la méthode est le Max-Min Ant System (MMAS), où seules les meilleures fourmis tracent des pistes et où le dépôt de phéromones est limité par une borne supérieure (empêchant une piste d’être trop renforcée) et une borne inférieure (laissant la possibilité d’être explorée à n’importe quelle solution). Cet algorithme atteint de meilleurs résultats que l’original, et évite notamment une convergence prématurée.

Faculté

d’ingénierie

Algorithme de colonies de fourmis •

Les fourmis élitistes •

•

•

Cette technique consiste à renforcer de manière artificielle à chaque étape les quantités de phéromone présentes sur les artères appartenant au meilleur tour trouvé jusqu’à présent. Le meilleur tour est parcouru par certaines fourmis artificielles, dites fourmis élitistes. Ces fourmis choisissent leur chemin de manière déterministe et se mettent en route que quand toutes les autres fourmis ont terminé un tour. Si l’on désigne par  T * le meilleur tour et par L* sa longueur, à chaque fin de cycle on réalise l’opération suivante : e  Q si i ,  j   T *  * k  k  t   t               L ij ij *  0 si i ,  j   T  où e est le nombre de fourmis élitistes. Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

69

Algorithme de colonies de fourmis •

Les fourmis élitistes (suite) •

•

•

•

L’effet des fourmis élitistes est de grandement accroître la convergence de la méthode (typiquement d’un facteur 10), au risque que celle-ci converge vers une solution non optimale.

Il y a une valeur optimale à e. Quand nous sommes sous cette valeur et que nous augmentons e, le meilleur tour peut être découvert plus tôt. Quand nous sommes au-delà de cette valeur, les fourmis élitistes forcent l’exploration autour de circuits non optimaux dès les premières étapes de la recherche, ce qui amoindrit les performances. Les fourmis élitistes sont un mécanisme qui permet de focaliser la recherche sur des zones prometteuses de l’espace de recherche en augmentant l’attrait des fourmis pour des pistes que l’on sait faire partie d’un bon tour. Quand un bon tour a été découvert, il y a de fortes chances que le tour optimal n’en est pas très éloigné. Faculté

d’ingénierie

Références [1] Alupoaei S, KatkooriS. Ant colony system application to marcocell overlap removal. IEEE Trans Very Large Scale Integr (VLSI) Syst 2004;12(10):1118 – 22. [2] Bautista J, Pereira J. Ant algorithms for assembly line balancing. In: Dorigo M, Di Caro G, Sampels M, editors. Ant algorithms —  Proceedings of ANTS 2002 — Third international workshop. Lecture Notes in Comput Sci, vol. 2463. Berlin: Springer; 2002. p. 65 – 75. [3] Bertsekas DP, Tsitsiklis JN, Wu C. Rollout algorithms for combinatorial optimization. J Heuristics 1997;3:245 – 62. [4] Bianchi L, Gambardella LM, Dorigo M. An ant colony optimization approach to the probabilistic traveling salesman problem. In: Merelo JJ, Adamidis P, Beyer H-G, Fernández-Villacanas J-L, Schwefel H-P, editors. Proceedings of PPSN-VII, seventh international conference on parallel problem solving from nature. Lecture Notes in Comput Sci, vol. 2439. Berlin: Springer; 2002. p. 883 – 92. [5] Bilchev B, Parmee IC. The ant colony metaphor for searching continuous design spaces. In: Fogarty TC, editor. Proceedings of the AISB workshop on evolutionary computation. Lecture Notes in Comput Sci, vol. 993. Berlin: Springer; 1995. p. 25 – 39. [6] Birattari M, Di Caro G, Dorigo M. Toward the formal foundation of ant programming. In: Dorigo M, Di Caro G, Sampels M, editors. Ant algorithms — Proceedings of ANTS 2002 — Third international workshop. Lecture Notes in Comput Sci, vol. 2463. Berlin: Springer; 2002. p. 188 – 201. [7] Blesa M, Blum C. Ant colony optimization for the maximum edge-disjoint paths problem. In: Raidl GR, Cagnoni S, Branke J, Corne DW, Drechsler R, Jin Y, Johnson CG, Machado P, Marchiori E, Rothlauf R, Smith GD, Squillero G, editors. Applications of  evolutionary computing, proceedings of EvoWorkshops 2004. Lecture Notes in Comput Sci, vol. 3005. Berlin: Springer; 2004. p. 160 –  9. [8] Blum C. Theoretical and practical aspects of Ant colony optimization. Dissertations in Artificial Intelligence. Berlin: Akademische Verlagsgesellschaft Aka GmbH; 2004. [9] Blum C. Beam-ACO — Hybridizing ant colony optimization with beam search: An application to open shop scheduling. Computers & Operations Res 2005;32(6):1565 – 91. [10] Blum C, BlesaMJ. Combining ant colony optimization with dynamic programming for solving the k-cardinality tree problem. In: Cabestany J, Prieto A, Sandoval F, editors. 8th international work-conference on artificial neural networks, computational intelligence and bioinspired systems (IWANN’05). Lecture Notes in Comput Sci, vol. 3512. Berlin: Springer; 2005. p. 25 – 33. [11] Blum C, Dorigo M. The hyper-cube framework for ant colony optimization. IEEE Trans Syst Man Cybernet Part B 2004;34(2):1161 – 72. [12] Blum C, Dorigo M. Search bias in ant colony optimization: On the role of competition-balance d systems. IEEE Trans Evolutionary Comput 2005;9(2):159 – 74.

Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

70

Références [13] Blum C, Roli A.Metaheuristics in combinatorial optimization: Overview and conceptual comparison. ACMComput Surveys 2003;35(3):268 – 308. [14] Blum C, Sampels M. An ant colony optimization algorithm for shop scheduling problems. J Math Modelling Algorithms 2004;3(3):285 – 308. [15] Blum C, Socha K. Training feed-forward neural networks with ant colony optimization: An application to pattern classification. In: Proceedings of the 5th international conference on hybrid intelligent systems (HIS). Piscataway, NJ: IEEE Press; 2005. p. 233  – 8. [16] Bonabeau E, Dorigo M, Theraulaz G. Swarm intelligence: From natural to artificial systems. New York: Oxford University Press; 1999. [17] Bonabeau E, Dorigo M, Theraulaz G. Inspiration for optimization from social insect behavior. Nature 2000;406:39 – 42. [18] Box GEP, Muller ME. A note on the generation of random normal deviates. Ann Math Statist 1958;29(2):610 – 1. [19] Brandt A.Multilevel computations: Review and recent developments. In:McCormick SF, editor.Multigrid methods: Theory, applications, and supercomputing, proceedings of the 3rd Copper Mountain conference on multigrid methods. Lecture Notes in Pure and Appl Math, vol. 110. New York: Marcel Dekker; 1988. p. 35 – 62. [20] Bui TN, Rizzo JR. Finding maximum cliques with distributed ants. In: Deb K, et al., editors. Proceedings of the genetic and evolutionary computation conference (GECCO 2004). Lecture Notes in Comput Sci, vol. 3102. Berlin: Springer; 2004. p. 24 – 35. [21] Bullnheimer B, Hartl R, Strauss C. A new rank-based version of the Ant System: A computational study. Central European J Operations Res Econom 1999;7(1):25 – 38. [22] Campos M, Bonabeau E, Theraulaz G, Deneubourg J-L. Dynamic scheduling and division of labor in social insects. Adapt Behavior 2000;8(3):83 – 96. [23] Corry P, Kozan E. Ant colony optimisation for machine layout problems. Comput Optim Appl 2004;28(3):287 – 310. [24] Costa D, Hertz A. Ants can color graphs. J Oper Res Soc 1997;48:295 – 305. [25] Della Croce F, Ghirardi M, Tadei R, Recovering beam search: enhancing the beam search approach for combinatorial opt imisation problems. In: Proceedings of PLANSIG 2002 — 21th workshop of the UK planning and scheduling special interest group; 2002. p. 149  –  69. [26] den BestenML, Stützle T, DorigoM. Ant colony optimization for the total weighted tardiness problem. In: SchoenauerM, Deb K, Rudolph G, Yao X, LuttonE, Merelo JJ, Schwefel H-P, editors. Proceedings of PPSN-VI, sixth international conference on parallel problem solving from nature. Lecture Notes in Comput Sci, vol. 1917. Berlin: Springer; 2000. p. 611 – 20. [27] Deneubourg J-L, Aron S, Goss S, Pasteels J-M. The self-organizing exploratory pattern of the Argentine ant. J Insect Behaviour 1990;3:159 – 68. Faculté

d’ingénierie

Références [28] Di Caro G, Dorigo M. AntNet: Distributed stigmergetic control for communications networks. J Artificial Intelligence Res 1998;9:317 – 65. [29] Doerner K, GutjahrWJ, Hartl RF, Strauss C, Stummer C. Pareto ant colony optimization: A metaheuristic approach to multiobjective portfolio selection. Ann Oper Res 2004;131:79 – 99. [30] Dorigo M, Optimization, learning and natural algorithms. PhD thesis, Dipartimento di Elettronica, Politecnico di Milano, Italy, 1992 [in Italian]. 372 C. Blum / Physics of Life Reviews 2 (2005) 353 – 373 [31] Dorigo M, Blum C. Ant colony optimization theory: A survey. Theoret Comput Sci 2005;344(2 – 3):243 – 78. [32] Dorigo M, Di Caro G, Gambardella LM. Ant algorithms for discrete optimization. Artificial Life 1999;5(2):137 – 72. [33] DorigoM, Gambardella LM. Ant colony system: A cooperative learning approach to the traveling salesman problem. IEEE Trans Evolutionary Comput 1997;1(1):53 – 66. [34] Dorigo M, Maniezzo V, Colorni A, Positive feedback as a search strategy. Technical Report 91-016, Dipartimento di Elettronica, Politecnico di Milano, Italy, 1991. [35] Dorigo M, Maniezzo V, Colorni A. Ant System: Optimization by a colony of cooperating agents. IEEE Trans Syst Man Cybernet Part B 1996;26(1):29 – 41. [36] Dorigo M, Stützle T. Ant Colony optimization. Cambridge, MA: MIT Press; 2004. [37] Dréo J, Siarry P. A new ant colony algorithm using the heterarchical concept aimed at optimization of multiminima continuous functions. In: Dorigo M, Di Caro G, Sampels M, editors. Ant algorithms — Proceedings of ANTS 2002 — Third international workshop. Lecture Notes in Comput Sci, vol. 2463. Berlin: Springer; 2002. p. 216 – 21. [38] Duin C, Voß S. The pilot method: A strategy for heuristic repetition with application to the steiner problem in graphs. Networks 1999;34(3):181 – 91. [39] Gagné C, PriceWL, Gravel M. Comparing an ACO algorithm with other heuristics for the single machine scheduling problem with sequencedependent setup times. J Oper Res Soc 2002;53:895 – 906. [40] Gambardella LM, Dorigo M. Solving symmetric and asymmetric TSPs by ant colonies. In: Baeck T, Fukuda T, Michalewicz Z, editors. Proceedings of the 1996 IEEE international conference on evolutionary computation (ICEC’96). Piscataway, NJ: IEEE Press; 1996. p. 622 – 7. [41] Gambardella LM, DorigoM. Ant Colony System hybridized with a new local search for the sequential ordering problem. INFORMS J Comput 2000;12(3):237 – 55. [42] Gambardella LM, Taillard ÉD, Agazzi G. MACS-VRPTW: A multiple ant colony system for vehicle routing problems with time windows. In: Corne D, Dorigo M, Glover F, editors. New ideas in optimization. London: McGraw-Hill; 1999. p. 63 – 76. Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

71

Références [43] Gandibleux X, Delorme X, T’Kindt V. An ant colony optimisation algorithm for the set packing problem. In: Dorigo M, Birattari M, Blum C, Gambardella LM, Mondada F, Stützle T, editors. Proceedings of ANTS 2004 — Fourth international workshop on Ant colony optimization and swarm intelligence. Lect ure Notes in Comput Sci, vol. 3172. Berlin: Springer; 2004. p. 49 – 60. [44] Garey MR, Johnson DS. Computers and intractability; A guide to the theory of NP Completeness. New York: WH Freeman; 1979. [45] Ginsberg ML. Essentials of artificial intelligence. San Mateo, CA: Morgan Kaufmann; 1993. [46] Glover F. Future paths for integer programming and links to artificial intelligence. Comput Oper Res 1986;13:533 – 49. [47] Glover F, Kochenberger G, editors. Handbook of metaheuristics. Norwell, MA: Kluwer Academic; 2002. [48] Gottlieb J, Puchta M, Solnon C. A study of greedy, local search, and ant colony optimization approaches for car sequencing problems. In:Cagnoni S, Romero Cardalda JJ, Corne DW, Gottlieb J, Guillot A, Hart E, Johnson CG, Marchiori E, Meyer J-A, Middendorf M, Raidl GR, editors. Applications of evolutionary computing, proceedings of EvoWorkshops, 2003. Lecture Notes in Comput Sci, vol. 2611. Berlin: Springer; 2003. p. 246 – 57. [49] Grassé P-P. La reconstruction du nid et les coordinations inter-individuelles chez bellicositermes natalensis et cubitermes sp. La théorie de la stigmergie: Essai d’interprétation des termites constructeurs. Insectes Sociaux 1959;6:41– 81. [50] Guéret C, Monmarché N, Slimane M. Ants can play music. In: Dorigo M, Birattari M, Blum C, Gambardella LM, Mondada F, Stützle T, editors. Proceedings of ANTS 2004 — Fourth international workshop on Ant colony optimization and swarm intelligence. Lecture Notes in Comput Sci, vol. 3172. Berlin: Springer; 2004. p. 310 – 7. [51] Guntsch M, Middendorf M. Pheromone modification strategies for ant algorithms applied to dynamic TSP. In: Boers EJW, Gottlieb J, Lanzi PL, Smith RE, Cagnoni S, Hart E, Raidl GR, Tijink H, editors. Applications of evolutionary computing: Proceedings of EvoWorkshops, 2001. Lecture Notes in Comput Sci, vol. 2037. Berlin: Springer; 2001. p. 213 – 22. [52] GuntschM,MiddendorfM. Solving multi-objective permutation problems with population based ACO. In: Fonseca CM, Fleming PJ, Zitzler E, Deb K, Thiele L, editors. Proceedings of the second international conference on evolutionary multi-crit erion optimization (EMO 2003). Lecture Notes in Comput Sci, vol. 2636. Berlin: Springer; 2003. p. 464 – 78. [53] Gutjahr WJ. A graph-based ant system and its convergence. Future Generat Comput Syst 2000;16(9):873 – 88. [54] Gutjahr WJ. ACO algorithms with guaranteed convergence to the optimal solution. I nformat Process Lett 2002;82(3):145 – 53. [55] Handl J, Knowles J, Dorigo M. Ant-based clustering and topographic mapping. Artificial Life 2006;12(1). In press. [56] Hoos HH, Stützle T. Stochastic local search: Foundations and applications. Amsterdam: Elsevier; 2004. [57] Karpenko O, Shi J, Dai Y. Prediction of MHC class II binders using the ant colony search str ategy. Artificial Intelligence in Medicine 2005;35(1 – 2):147 – 56.

Faculté

d’ingénierie

Références [58] Kennedy J, Eberhart RC. Particle swarm optimization. In: Proceedings of the 1995 IEEE international conference on neural networks, vol. 4. Piscataway, NJ: IEEE Press; 1995. p. 1942 – 8. [59] Korošec P, Šilc J, Robiˇc B. Mesh-partitioning with the multiple ant-colony algorithm. In: Dorigo M, Birattari M, Blum C, Gambardella LM, Mondada F, Stützle T, editors. Proceedings of ANTS 2004 — Fourth international workshop on Ant colony optimization and swarm intelligence. Lecture Notes in Comput Sci, vol. 3172. Berlin: Springer; 2004. p. 430  – 1. [60] Korošec P, Šilc J, Robiˇc B. Solving the mesh-partitioning problem with an ant-colony algorithm. Parallel Comput 2004;30:785 –  801. [61] Lawler E, Lenstra JK, Rinnooy Kan AHG, Shmoys DB. The travelling Salesman problem. New York: John Wiley & Sons; 1985. [62] López-Ibáñez M, Paquete L, Stützle T. On the design of ACO for the biobjective quadratic assignment problem. In: Dorigo M, Birattari M, Blum C, Gambardella LM, Mondada F, Stützle T, editors. Proceedings of ANTS 2004 — Fourth international workshop on Ant colony optimization and swarm intelligence. Lecture Notes in Comput Sci, vol. 3172. Berlin: Springer; 2004. p. 214 – 25. [63] Lumer E, Faieta B. Diversity and adaptation in populations of clustering ants. In: Meyer J-A, Wilson SW, editors. Proceedings of  the third international conference on simulation of adaptive behavior: From animals to animats, vol. 3. Cambridge, MA: MIT Press; 1994. p. 501 – 8. C. Blum / Physics of Life Reviews 2 (2005) 353 – 373 373 [64] Maniezzo V. Exact and approximate nondeterministic tree-search procedures for the quadratic assignment problem. INFORMS J Comput 1999;11(4):358 – 69. [65] Maniezzo V, Boschetti M, Jelasity M. An ant approach to membership overlay design. In: Dorigo M, Birattari M, Blum C, Gambardella LM, Mondada F, Stützle T, editors. Proceedings of ANTS 2004 — Fourth international workshop on Ant colony optimization and swarm intelligence. Lecture Notes in Comput Sci, vol. 3172. Berlin: Springer; 2004. p. 37  – 48. [66] Maniezzo V, Colorni A. The Ant System applied to the quadratic assignment problem. IEE E Trans Data Knowledge Engrg 1999;11(5):769 – 78. [67] Maniezzo V, Milandri M. An ant-based framework for very strongly constrained problems. In: Dorigo M, Di Caro G, Sampels M, editors. Ant algorithms — Proceedings of ANTS 2002 — Third international workshop. Lecture Notes in Comput Sci, vol. 2463. Berlin: Springer; 2002. p. 222 – 7. [68] Marriott K, Stuckey P. Programming with constraints. Cambridge, MA: MIT Press; 1998. [69] Merkle D,MiddendorfM.Modelling ACO: Composed permutation problems. I n: DorigoM, Di Caro G, SampelsM, editors. Ant algorithms — Proceedings of ANTS 2002 — Third international workshop. Lecture Notes in Comput Sci, vol. 2463. Berlin: Springer; 2002. p. 149 – 62. [70] Merkle D, Middendorf M. Modelling the dynamics of ant colony optimization algorithms. Evolutionary Comput 2002;10(3):235 –  62. Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013

Colonie de fourmis

72

Références [71] Merkle D,MiddendorfM, Schmeck H. Ant colony optimization for resource-constrained project scheduling. IEEE Trans Evolutionary Comput 2002;6(4):333 – 46. [72] Meuleau N, Dorigo M. Ant colony optimization and stochastic gradient descent. Artificial Life 2002;8(2):103 – 21. [73] Meyer B, Ernst A. Integrating ACO and constraint propagation. In: Dorigo M, Birattari M, Blum C, Gambardella LM, Mondada F, Stützle T, editors. Proceedings of ANTS 2004 — Fourth international workshop on Ant colony optimization and swarm intelligence. Lecture Notes in Comput Sci, vol. 3172. Berlin: Springer; 2004. p. 166 – 77. [74] Michel R, Middendorf M. An island model based ant system with lookahead for the shortest supersequence problem. In: Eiben AE, Bäck T, SchoenauerM, Schwefel H-P, editors. Proceedings of PPSN-V, fifth international conference on parallel problem solving from nature. Lecture Notes in Comput Sci, vol. 1498. Berlin: Springer; 1998. p. 692 – 701. [75] Monmarché N, Venturini G, Slimane M. On how pachycondyla apicalis ants suggest a new search algorithm. Future Generation Comput Syst 2000;16:937 – 46. [76] Moss JD, Johnson CG. An ant colony algorithm for multiple sequence alignment in bioinformatics. In: Pearson DW, Steele NC, Albrecht RF, editors. Artificial neural networks and genetic algorithms. Berlin: Springer; 2003. p. 182  – 6. [77] Nemhauser GL, Wolsey AL. Integer and combinatorial opt imization. New York: John Wiley & Sons; 1988. [78] Ow PS, Morton TE. Filtered beam search in scheduling. Internat J Production Res 1988;26:297 – 307. [79] Papadimitriou CH, Steiglitz K. Combinatorial optimization — Algorithms and complexity. New York: Dover; 1982. [80] Parpinelli RS, Lopes HS, Freitas AA. Data mining with an ant colony optimization algorithm. IEEE Trans Evolutionary Comput 2002;6(4):321 – 32. [81] Reeves CR, editor. Modern heuristic techniques for combinatorial problems. New York: John Wiley & Sons; 1993. [82] Reimann M, Doerner K, Hartl RF. D-ants: Savings based ants divide and conquer the vehicle routing problems. Comput Oper Res 2004;31(4):563 – 91. [83] Shmygelska A, Aguirre-Hernández R, Hoos HH. An ant colony optimization algorithm for the 2D HP protein folding problem. In: Dorigo M, Di Caro G, Sampels M, editors. Ant algorithms — Proceedings of ANTS 2002 — Third international workshop. Lecture Notes in Comput Sci, vol. 2463. Berlin: Springer; 2002. p. 40 – 52. [84] Shmygelska A, HoosHH. An ant colony optimisation algorithm for the 2D and 3D hydrophobic polar protein folding problem. BMC Bioinformatics 2005;6(30):1 – 22. [85] Silva CA, Runkler TA, Sousa JM, Palm R. Ant colonies as logistic processes optimizers. In: Dorigo M, Di Caro G, Sampels M, editors. Ant algorithms — Proceedings of ANTS 2002 — Third international workshop. Lecture Notes in Comput Sci, vol. 2463. Berlin: Springer; 2002. p. 76 – 87. Faculté

d’ingénierie

Références [86] Socha K. ACO for continuous and mixed-variable optimization. In: Dorigo M, Birattari M, Blum C, Gambardella LM, Mondada F, Stützle T, editors. Proceedings of ANTS 2004 — Fourth international workshop on Ant colony optimization and swarm intelligence. Lecture Notes in Comput Sci, vol. 3172. Berlin: Springer; 2004. p. 25 – 36. [87] Socha K, Sampels M, Manfrin M. Ant algorithms for the university course timetabling problem with regard to the state-of-the-art. In: Cagnoni S, Romero Cardalda JJ, Corne DW, Gottlieb J, Guillot A, Hart E, Johnson CG, Marchiori E, Meyer A, Middendorf M, Raidl GR, editors. Applications of evolutionary computing, proceedings of EvoWorkshops 2003. Lecture Notes in Comput Sci, vol. 2611. Berlin: Springer; 2003. p. 334 – 45. [88] Solnon C. Ant can solve constraint satisfaction problems. IEEE Trans Evolutionary Comput 2002;6(4):347 – 57. [89] Stützle T. An ant approach to the flow shop problem. In: Proceedings of the 6th european congress on intelligent techniques & soft computing (EUFIT’98). Aachen: Verlag Mainz; 1998. p. 1560 – 4. [90] Stützle T, Dorigo M. A short convergence proof for a class of ACO algorithms. IEEE Trans Evolutionary Comput 2002;6(4):358 –  65. [91] Stützle T, Hoos HH.MAX – MIN Ant system. Future Generat Comput Syst 2000;16(8):889 – 914. [92] Unger R, Moult J. Finding the lowest free-energy confor mation of a protein is an NP -hard problem: Proofs and implications. Bull Math Biol 1993;55(6):1183 – 98. [93] Walshaw C. A multilevel approach to the travelling salesman problem. Oper Res 2002;50(5):862 – 77. [94] Walshaw C. Multilevel refinement for combinatorial optimization problems. Ann Oper Res 2004;131:325 – 72. [95] Walshaw C, Cross M. Mesh partitioning: A multilevel balancing and refinement algorithm. SIAM J Sci Comput 2000;22(1):63 – 80. [96] Zlochin M, Birattari M, Meuleau N, Dorigo M. Model-based search for combinatorial optimization: A critical survey. Ann Oper Res 2004;131(1 – 4):373 – 95.

Faculté

d’ingénierie

Université de Moncton

Gérard J. Poitras 2013