Modele naturale i Algoritmi EvolutiviCorina RotarCUPRINS1INTRODUCERE.................................................................................................................12METAEURISTICI.....................................................................................................................52.1.1Cutare local Hill Climbing.............................................................................62.1.2Cutare TABU.......................................................................................................82.1.3Recoacere simulat Simulated Annealing..........................................................93PARADIGMA ALGORITMILOR GENETICI.............................................................134ISTORIC ............................................................................................................................135MODELUL NATURAL AL ALGORITMILOR GENETICI......................................................................146DESCRIERE ALGORITM GENETIC..............................................................................................157FUNCIONAREA ALGORITMULUI GENETIC.................................................................................268APLICAII..........................................................................................................................289SELECIA...........................................................................................................................299.1.1Selecia proporional.........................................................................................309.1.2Selecia prin concurs...........................................................................................359.1.3Selecia prin etichetare........................................................................................3610FUNCIA DE EVALUARE......................................................................................................3811CODIFICARE BINAR..........................................................................................................3911.1.1Codificarea cromozomial binar....................................................................3911.1.2Teorema schemelor...........................................................................................4611.1.3Operatori de ncruciare pentru codificarea binar.........................................4711.1.4Operatorul de mutaie pentru codificarea binar.............................................5611.1.5Inversiunea .......................................................................................................6112CODIFICARE REAL - SPECIFIC ..........................................................................................6212.1.1Operatorul de ncruciare pentru codificarea real.........................................6312.1.2Operatorul de mutaie pentru codificarea real...............................................6613CONSIDERAII PRIVIND OPERATORII GENETICI.........................................................................6714EXEMPLE DE REZOLVARE A PROBLEMELOR CU ALGORITMI GENETICI...........................................7014.1.1Exemplu 1 Optimizare numeric....................................................................7014.1.2Exemplu 2 Optimizare numeric.....................................................................7614.1.3Exemplu 3 Optimizare numeric.....................................................................7915STRATEGII EVOLUTIVE............................................................................................8416 STRATEGIA EVOLUTIV (1+1)............................................................................................8516.1.1Reprezentarea indivizilor..................................................................................8516.1.2Mutaia..............................................................................................................8516.1.3Algoritmul strategiei evolutive (1+1)................................................................8717 STRATEGIA EVOLUTIV (+1)..............................................................................................8817.1.1Recombinarea ...................................................................................................8917.1.2Mutaia..............................................................................................................9017.1.3Algoritmul strategiei evolutive (+1)..................................................................9118STRATEGIILE (1,), (1+).....................................................................................................9119STRATEGIILE EVOLUTIVE (+) I (,).......................................................................................9219.1.1Reprezentarea individului.................................................................................9319.1.2Recombinarea....................................................................................................93ii19.1.3Mutaia..............................................................................................................9419.1.4Selecia .............................................................................................................9619.1.5Algoritmul strategiilor evolutive (+) i (,)........................................................9720PROGRAMAREA GENETIC....................................................................................9921DESCRIEREA PARADIGMEI GP...........................................................................................10021.1.1Natura indivizilor supui evoluiei..................................................................10021.1.2Spaiul de cutare............................................................................................10321.1.3Funcia de performan...................................................................................10421.1.4Operatori specifici programrii genetice........................................................10521.1.5Algoritmul programrii genetice.....................................................................11022EXEMPLU DE APLICAII PG: REGRESIA SIMBOLIC. PROBLEMA 11-MULTIPLEXORULUI BOOLEAN. 11123PROGRAMAREA EVOLUTIV...............................................................................11624DESCRIEREA TEHNICII ORIGINALE.......................................................................................11824.1.1Automate finite maina Turing.....................................................................11824.1.2Reprezentarea indivizilor populaiei...............................................................12024.1.3Evaluarea indivizilor.......................................................................................12024.1.4Operatorii specifici..........................................................................................12024.1.5Algoritmul programrii evolutive pentru automate finite............................12125PROGRAMAREA EVOLUTIV CONTEMPORAN OPTIMIZAREA NUMERIC...................................12225.1.1Reprezentarea indivizilor populaiei...............................................................12225.1.2Evaluarea indivizilor populaiei......................................................................12325.1.3Operatori specifici...........................................................................................12325.1.4Algoritmul meta-Programrii Evolutive.........................................................12426PARADIGMA SWARM INTELLIGENCE...............................................................12627TEHNICA ANT COLONY OPTIMIZATION .............................................................................12727.1.1Modelul natural...............................................................................................12727.1.2Tehnica ACO...................................................................................................13127.1.3Aplicaii...........................................................................................................13728TEHNICA PARTICLE SWARM OPTIMIZATION.........................................................................13828.1.1Modelul natural ..............................................................................................13828.1.2Algoritmul PSO...............................................................................................13928.1.3Aplicaii...........................................................................................................14229SISTEME IMUNE ARTIFICIALE.............................................................................14330 MODELUL BIOLOGIC ......................................................................................................14330.1.1Anatomia sistemului imun...............................................................................14430.1.2Celulele imune.................................................................................................14430.1.3Activitatea sistemului imun.............................................................................14530.1.4Caracteristicile majore ale sistemului imun...................................................14731 SISTEME IMUNE ARTIFICIALE............................................................................................14731.1.1Modele biologice n sistemele imune artificiale..............................................14832PRINCIPIUL SELECIEI CLONALE.........................................................................................14933 PRINCIPIUL SELECIEI NEGATIVE.......................................................................................15134 TEORIA REELEI IMUNE...................................................................................................152iii35PRINCIPALELE APLICAII ALE SISTEMELOR IMUNE ARTIFICIALE.................................................15336ALTE TEHNICI NATURAL-EVOLUTIVE..............................................................15437SISTEME DE CLASIFICARE INSTRUIBILE...............................................................................15437.1.1LCS .................................................................................................................15537.1.2ZCS..................................................................................................................15737.1.3XCS..................................................................................................................16038ALGORITMI MEMETICI......................................................................................................16139DIFFERENTIAL EVOLUTION................................................................................................16340APLICAII N OPTIMIZARE...................................................................................16741ALGORITMI EVOLUTIVI PENTRU OPTIMIZARE UNICRITERIAL...................................................16741.1.1Avantaje i dezavantaje ale algoritmilor evolutivi pentru rezolvarea problemelor de optimizare unicriterial...................................................................16841.1.2Particulariti ale algoritmilor evolutivi de optimizare unicriterial.............16941.1.3Explorare versus exploatare...........................................................................17041.1.4Elitismul...........................................................................................................17241.1.5Tratarea restriciilor.......................................................................................17242OPTIMIZARE MULTIMODAL..............................................................................................17342.1.1Tehnica Sharing..............................................................................................17542.1.2Tehnica Crowding...........................................................................................17742.1.3Tehnica Clearing.............................................................................................17742.1.4Tehnica Speciation..........................................................................................17842.1.5Funcii de test..................................................................................................17943OPTIMIZARE MULTICRITERIAL..........................................................................................18343.1.1Problema general de optimizare multicriterial...........................................18443.1.2Avantaje i dezavantaje ale algoritmilor evolutivi de rezolvarea problemelor de optimizare multicriterial.....................................................................................18743.1.3Clasificarea metodelor evolutive de optimizare multicriterial.....................18843.1.4Tehnici de agregare.........................................................................................18843.1.5Tehnici non-agregare......................................................................................19143.1.6Optimizare evolutiv multicriterial versus diversitatea populaiei...............19943.1.7Optimizare evolutiv multicriterial versus elitism........................................20043.1.8Funcii de test optimizare multicriterial.....................................................20844OPTIMIZARE DINAMIC.....................................................................................................21245BIBLIOGRAFIE...........................................................................................................215ivCAPITOL I1 IntroducereInclus pentru o perioad de timp n domeniul generos al Inteligenei Artificiale, Calculul Evolutiv(EvolutionaryComputation) se detaeaz treptat n ultimele decenii de orice ncadrare, devenind undomeniudesinestttor, acumulndnoi paradigme, cercetri variate i aplicaii cu succes ntr-o mare varietate de probleme dificile. Caurmare, studiul tehnicilor evolutivenecesitdedicarea unui spaiumai largpentrua cuprindepanoramantregiicercetri depuse nsensul construirii acestui domeniu. Cercetrile actuale integreaz Calculul Evolutiv, alturide Sistemele Fuzzy iCalcululNeuronal, sub titulatura de Calcul Inteligent, ntr-una dintre cele mai noi i prolifice ramuri ale Inteligenei Artificiale, considerat succesoarea tehnicilor tradiionale ale Inteligenei Artificiale. Un domeniumai largcarencorporeaztehnicileinspiratedemodele inteligente observabile n natur este denumitCalcul Natural (Natural Computation). n intersecia generoas a Calculului Evolutiv i Calculului Naturalsunt cuprinse unele dintre cele mai ingenioase instrumentederezolvareaproblemelordificile, denumitefrecvent tehnici de inspiraie natural. Informaticacunoateprinaceastnouatendinoschimbare major: probleme grele, de complexitate ridicat, pentru care aplicarea unei metode tradiionale devine ineficient sau uneori imposibil, pot fi rezolvate cu succes prin abordri din arealul Calculului Inteligent. Calculul Evolutiv i Calculul Neuronal, sunt incluse ca obiect de studiu n universiti, fapt pentru care ne permitem s afirmm c aceast ramurdevine una de importan considerabil. De asemenea, literatura de specialitate se mbogete ntr-unritmrapid, de laanla an, cunoi cercetri efectuatenaceastdirecie. Numrul mareal lucrrilor publicate (articole, cri, teze de doctorat) i a jurnalelor dedicate subiectului 1aduc o dovad suplimentar a interesului crescut al comunitii cercettorilor n dezvoltarea aplicaiilor viabile ale Calculului Evolutiv.Principalele direcii ale Calculului Evolutiv sunt:Algoritmiigenetici, StrategiileEvolutive, ProgramareaGenetic, Programarea Evolutiv. Acestora li se altur algoritmi inedii bazai pe paradigme naturale ca: sistemele imune, coloniile de furnici, etc. Cartea de fa i propune o introducere n sfera Calculului Evolutiv i Natural prin prezentarea celor mai populare tehnici inspirate de natur.Structura crii permite o parcurgere facil, fiecrui model natural cecontribuieladezvoltareaunei clasedetehnici fiindu-i consacratuncapitol separat, cantitativproporional cuimportana saupopularitateasubiectului. Capitolulsededicnexclusivitate celei mai reprezentative direcii a calculului Evolutiv, punctul de start al dezvoltrii ulterioareadomeniului: Algoritmii Genetici. nanii n care genetica i informatica cunoteau o dezvoltare accentuat, preocuparea n aceste ramuri ale tiinei fiind extrem de motivat de progresul tehnologic, la congruena celor dou ramuri sus menionateianatereuncapitol aparteal informaticii curdcini puternice n arealul biologiei. n primele decade ale istoriei Algoritmilor genetici cercetarea se restrnge nctevacentre universitare, avndunnceput timid. Cartea lui J. Holland din 1975 [1.1.1.2] este prima lucrare care prezint n mod sistematic i riguros aspecte teoretice ale subiectului. Nu este un domeniu cruia s i se ofere o importan practicconsiderabildelabunnceput, fapt caremarcheazo uoarstagnareacercetrii dinprimii ani. Subiectul cunoateo revenire puternic prin lucrri ulterioare (vezi de exemplu lucrarea lui D. Goldberg din 1989, [1.1.1.2]), strnind interesul nspre dezvoltarea i identificarea posibilelor aplicaii ale algoritmilor genetici. Algoritmul genetic standard este n esen un algoritmde cutarei optimizarenspaiul soluiilor posibile. Opopulaiede soluii posibile este generat, ulterior, asupra indivizilor acesteia aplicndu-seoperatori specifici inspirai dencruciarea, mutaiai selecia natural. Noua generaie este alctuit din descendenii populaiei vechi, acetia din urm fiind noi soluii posibile prin care se 2exploreaz spaiul de cutare. De-a lungul evoluiei se nregistreaz o cretere a performanelorindivizilor populaiei curente,faptcare asigur convergena algoritmului nspre soluiile reale ale problemei considerate. Este important maniera de calcula performanelor indivizilor (denumii nmoduzualcromozomi). Seutilizeaznacest senso funcie de evaluare a calitii soluiilor posibile. Valorile performanelor individuale se folosesc n procesul de selecie, favorizndu-se ncruciarea i mutaia indivizilor performani, ceea ce aduce cu sine o evoluie pozitiv a populaiei nspre soluiile dorite. Funciadeevaluarejoacunrol important ncadrul algoritmului genetic: o alegere inspirat a acesteia poate conduce la soluii foarte bunentr-unnumrmai micdegeneraii. Deasemenea, alegerea operatorilor genetici folosii cadensarcinaprogramatorului, fapt pentru care cunoaterea subiectului i o bun experien a celui care dezvolt algoritmul constituie un real avantaj. Structura algoritmului genetic standard este simpl. n schimb, detaliile legate de maniera de codificare a soluiilor, tipul operatorilor folosii, tehnica de selecie aplicat i alegerea valorilor inspirate pentru parametrii algoritmului sunt celecaredecidnfinal dacrezultateleobinutesunt cele satisfctoare. Putemafirmacdezvoltareaunui algoritmgenetic pentru rezolvarea unei probleme concrete este n fapt un act creativ care permite programatorului o mare flexibilitate n alegerea tehnicilor folosite pentru atingerea scopului dorit. Ulterior apariiei Algoritmilor Genetici, se contureaz paradigma Strategiilor Evolutive. Acestea din urm mprumut caracteristici definitorii ale algoritmilor genetici ns propunoperatori specifici strategiilor i modele noi de populaii. n anii 60 , un grup de cercettoride la Universitatea Tehnic din Berlin, ca un rspuns la cercetarea american n algoritmiiinspiraide evoluie igenetic, dezvolt i teoretizeaz ceea ce astzi cunoatem sub titulatura de strategii evolutive. Pionierii Strategiilor Evolutive sunt recunoscui ca fiind Ingo Rechenberg iHans-PaulSchwefel( [1.1.1.2], [1.1.1.2] ). Mai trziu, prin lucrri reprezentative sunt constituitestrategiile evolutive contemporane reprezentnd strategiievolutive revizuite i generalizate pentru a permite un domeniu mai larg al aplicaiilor 3practicei obinereaunor rezultatemai bune[1.1.1.2]. Capitolul este dedicat Strategiilor Evolutive.n paralel cu dezvoltarea Algoritmilor Genetici, se impune direcia ProgramriiGenetice. Dei structura algoritmuluigeneral al Programrii genetice este similar structurii algoritmului genetic standard, perspectiva din care sunt abordate problemele de rezolvat estecomplet diferit: ncazul algoritmilor genetici sunt evoluate soluiile problemei, iar programarea genetic evolueaz programele (algoritmii) care rezolv cu succes problema dat. Paradigma programrii genetice este puin exploatat n comparaie cu popularii algoritmi genetici, ns n anii 90 se nregistreaz o puternic revenire, prineforturilelui J. Koza[1.1.1.2] deasusineramura programrii genetice prin teoretizarea acesteia i aplicarea metodelorspecificenprobleme diverse. Odescriereaparadigmei programrii genetice este oferit n capitolul .Paradigma Programrii Evolutive, cel de-al patrulea pion important al Calculului Evolutiv, aparenanii 60i ncorporeaz tehnici degenerareautomatacomportamentul inteligental unui sistem. Dein multe aspecte, programarea evolutiv este similar celorlalte tehnici evolutive pomenite (exemplu: evoluia unei populaii de soluii, aplicarea operatorilor genetici, supravieuirea celor mai performani indivizi), prin reprezentarea flexibil a indivizilor populaiei, programarea evolutiv i ctig un loc distinct nscenaCalculului Evolutiv. Cel de-al-leacapitol al crii defa descrie aspecte importante ale Programrii Evolutive.Imaginaiacercettorilor nuarelimite, reuindsdescopere modele inteligente n cele mai neateptate aspecte ale naturii. Spre exemplu, comportamentul colectiv al stolurilor de psri sau al coloniilor de furnici ne furnizeaz una dintre cele mai recente paradigmealeCalculului Natural:SwarmIntelligence[1.1.1.2] . n capitolul6 este detaliat paradigma Swarm Intelligence, punnd n eviden dou direcii importante de cercetare a subiectului: metodele evolutive inspirate de comportamentul furnicilor i tehnicile de optimizareParticle Swarm Optimization.Complexitateastructurali funcionalaorganismului uman reprezint o real provocare n Inteligena Artificial. Precum 4sistemul nervos ofer o bogat surs de inspiraie n ramura Calculului Neuronal, sistemul imun natural se dovedete de asemeneaunputernicmodel demndeluatnconsiderare. Lucrri reprezentative (vezi [1.1.1.2],[1.1.1.2],[1.1.1.2]) contureaz o direcie nou ncadrat Calculului Evolutiv, denumit n mod sugestiv Sisteme Imune Artificiale. Prin aplicaii neateptate n sfera securitii reelelor, optimizaresaurecunoatereaformelor, sistemeleimune artificiale ctig un teren important n cercetarea actual. Metodelor evolutiveinspiratedemodelul sistemului imunleeste consacrat capitolul .Pentruantregi panorama, frapretindensoacoperire complet a arealului Calculului Evolutiv, sub titlulAlte tehnicievolutiveamselectat n capitolulcteva metode ingenioase ncadrate domeniului abordat. Acestea sunt metode evolutive importante att prin originalitatea lor ct i prin direciile noi pe care le deschid.Principalaaplicabilitateaalgoritmilor evolutivi seexprimn rezolvarea problemelor de optimizare, fapt pentru care acestui subiect i-am dedicatun capitol separat. Optimizarea multiobiectiv i optimizarea multimodal sunt abordate n capitoluldin perspectiva tehnicilor evolutive. De asemenea sunt evideniate dificultile problemelor de optimizare n medii dinamice.2 MetaeuristiciContrar progresului tehnologiei informatice, o serie de probleme dificile nu pot fi rezolvate prin algoritmi tradiionali care ne-ar conduce la soluiile exacte ale acestora. Acest lucru este cauzat fie de timpul de execuie prea mare pe care l necesit metodele respective, fie de spaiul de memorie insuficient pentru reprezentarea i stocarea soluiilor. n aceste situaii, este preferat determinareaunei aproximri asoluiei optimentr-omaniermai eficient. Euristicele sunt metode generale de aproximare a soluiilor problemelor grele, fragarantanscorectitudinearezultatului obinut. Osupraclasaacestor metode, denumitmetaeuristici, ncorporeaz frecvent elemente ale unei cutri aleatoare. Metaeuristicile sunt tehnici generale dedicate rezolvriiproblemelor 5de complexitatea combinatoric, care fac uz de euristici ntr-o manier eficient. Metaeuristicile se disting prin construirea pas cu pas a soluiei acceptabile, prin rafinarea unei soluii posibile pentru obinerea unei bune aproximri a optimului, prin iterarea unei euristici simple, de baz, respectiv, prin exploatarea soluiilor obinute ntr-o etap anterioar sau explorarea aleatoare a spaiului decutare. Practic, oastfel detehnicsepoateinterpretacao strategie de ghidare a cutrii executat de alte euristici. Cele mai reprezentative metaeuristici sunt: Hill-Climbing, Simulated Annealing, cutarea Tabu i algoritmii ncadrai Calculului Evolutiv. 2.1.1 Cutare local Hill ClimbingMetaeuristica Cutarea local cuprinde algoritmi de rezolvare a problemelordeoptimizare. ngeneral, aplicareaacestoralgoritmi este indicat n cazul acelor probleme care pot fi formulate ca determinareaunei soluii caremaximizeazuncriteriudat ntr-o mulime de soluii posibile. Principiul de funcionare a unui algoritm decutarelocalesteurmtorul: nmoditerativ, porninddelao soluie posibil curent, se va explora vecintatea acesteia n cutareaunei noi soluii vecinemai bune. Atingereaunui numr prestabilit de iteraii poate constitui o condiie de terminare a algoritmului. Altmodalitatedencheiereaexecuiei algoritmului poate fi stabilit prin nregistrarea unei stagnri a cutrii (n ultimele kiteraii cea mai bun soluie gsit nu a fost modificat n sensul creterii valorii criteriului de optimizare). Principiul de funcionare i condiia de terminare a unui algoritm de cutare local nu garanteaz determinarea exact a soluiei optime. Cu toate acestea, algoritmii de cutare local au o rspndire larg, n mod specialn domeniulInteligeneiArtificiale, fiindaplicai cusuccesnrezolvareaanumeroaseproblemelorde optimizare dificile.n cazul n care alegerea soluiei vecine se face n ideea de a maximiza local criteriul de optimizare, tehnica de cutare local este cunoscut sub denumirea de Hill-Climbing. 6Un algoritmHill Climbingexploreaz mulimea de soluii posibile n sensulcreteriicriteriuluide optimizare. Pornind de la o primsoluiecandidat aleasaleator, algoritmul modificsoluia curent, obinndosoluiecandidat. Soluiamai bundintrecele doudevinesoluiecurenti procesul sereiapncndnumai este posibil o mbuntire a soluiei curente. Rezultatul algoritmului este reprezentat de ultima soluie pe care acesta a prelucrat-o. De notat faptul ctehnicaHill Climbingnugaranteazdeterminarea optimului global, ns algoritmii de acest gen sunt alternative eficientensituaiancareoaproximare bunaoptimului este suficient. Algoritmul general Hill Climbing este descris n continuare:Algoritm Hill Climbing este:Generare aleatoare soluie posibil xCttimp (condiie_de_terminare = false)Fie V(x) vecintatea soluiei xx=AlegeBest (V(x))Dac x este mai bun dect x atuncix:=xsfDacSfCttimpSfAlgoritmDenumirea algoritmului provine dintr-o analogie cu situaia determinrii vrfurilor (maximelor) unei funcii de dou variabile, ale crei grafic esteosuprafa nspaiul 3-dimensional i poatefi comparat cu un relief geografic format din dealuri i vi. Coordonatele oricrui punct de pe suprafaa considerat reprezint o posibil soluie. Soluiile cu altitudine mai mare sunt de preferat, fiind maiapropiate de maximele funciei. Pornind de la o soluie iniial aleas aleator, algoritmul descrie o urcare pas cu pas nspre vrfurile (hills) suprafeei. Datorit manierei n care se actualizeaz soluia curent, preferndla fiecare pas cea mai bun soluie vecin, algoritmul Hill Climbing este un algoritm de tip Greedy. Alegerea lacom (greedy) a soluiei vecine poate genera un inconvenient major alprocedurii, respectiv, convergena i blocarea ntr-un optim local. Exist variante 7alealgoritmului standardprincareseeliminaceastproblem: Random-Restart Hill Climbingesteunalgoritmdecutarelocal care permite execuia repetat a unei proceduri Hill Climbing avnd ca punct de plecare diferite soluii posibile. Soluiile rezultate n urma execuiilor procedurii Hill Climbingsunt reinutei ceamai bun dintre acestea este soluia final a algoritmului.2.1.2 Cutare TABUAlgoritmii de cutare Tabu sunt o clas de algoritmii de cutare local care fac uz de o memorie n care sunt reinute soluiile verificate. Denumirea acestor algoritmi provine de la cuvntul Taboo (echivalent Tabu) al crui multiplesensuri sunt:sacru,interzis,ascuns, etc. Un algoritm de cutare Tabu va porni de la o soluie candidat aleas aleator i va explora n mod iterativ spaiul soluiilor posibile. Fiecaresoluieparcursvafi marcatcafiindtabu, prinaceasta interzicndu-se o reverificare ulterioar a sa. n ideea de a marca soluiile recent parcurse se va utiliza o list tabu, avnd semnificaia unei memorii temporare. Vecintateasoluiei curentevaexclude acele soluii care sunt memorate n lista tabu. Alegerea noii soluii se face din vecintatea modificat a soluiei curente, fapt pentru care soluiile recent verificate nu vor putea fi reparcurse. Spre deosebire de tehnicile Hill Climbing, cutarea tabu implic explorarea spaiului de cutare prin mutarea de la o soluie la cel maibun vecin, chiar dac acest lucru duce la o deteriorare a valorii criteriului de maximizat. Prin aceast caracteristic, abordarea permite o probabilitate mai mare de mutare din optimele locale. n anumite circumstane, algoritmii de cutare Tabu pot fi suplimentaiprin proceduri de intensificarea cutriintr-o regiune promitoare a spaiului soluiilor, respectiv, prin proceduri de diversificare pentru a stimula cutarea ntr-o regiune slab explorat. Componenta de intensificare implic modificarea regulilor de alegere anoilorsoluii pentruaexploatatrsturilesoluiilordovediteafi bune n etapele anterioare. Alte strategii de intensificare rezult prin reveniri n regiunipromitoarealespaiuluii explorarea acestora mai amnunit. Strategia dediversificarese realizeaz prin 8examinarea regiunilor neexplorate i generarea unor soluii mult diferite de cele care au fost deja parcurse. 2.1.3 Recoacere simulat Simulated AnnealingAlgoritmiide recoacere simulat [1.1.1.2] sunt inspiraide un proces termodinamic, acela al nclzirii brute a unei buci de metal, urmatdeorcirelent(recoacere)aacestuianscopul atingerii minimului global al energiei internei adispunerii atomilor ntr-o reea cristalin ordonat. Procesul fizic este deseori utilizat n metalurgie n scopul obinerii unor materiale cu defecte minime. n etapadenclzireatomii sedistribuientr-unmodaleator, iar n etapa de rcire lent atomii se reorganizeaz pentru a se ajunge la configuraii de energie mai mic dect cea iniial. Analogia dintre procesul termodinamic descris i algoritmul de minimizare Simulated Annealing se poate rezumaprinurmtoarele echivalene:- energia sistemului = funcia criteriu (se dorete minimizarea valorilor acestora)- strile sistemului= spaiul de cutare- starea curent a sistemului= soluia candidat - modificarea strii sistemului = modificarea soluiei curente- temperatura sistemului = parametrul de control T (denumit sugestiv temperatur)Inspirat de procesul termodinamic al recoacerii simulate, algoritmul general SimulatedAnnealing(prescurtatSA)vapermite nlocuirea soluieicurente cu o soluie vecina aleatoare, chiar dac performana noii soluii este mai mic. Comparnd strategia de alegere a noii soluii candidat din algoritmul Hill Climbing, se observ o diferen major: algoritmul SA nu va parcurge vecintatea soluiei curente pentru a alege cel mai bun vecin, ci prefer o soluie aleatoare. Probabilitatea de acceptare a noii soluii este dependent deperformanasai deparametrultemperaturT. Parametrul de control T are iniial o valoare mare i treptat descrete, avnd rolul de a controla gradul n care este permis nlocuirea soluiei curente cu o soluie mai slab. Astfel, valori mari ale temperaturii corespund 9unei mari probabiliti de a nlocui soluia curent cu una mai slab, n timp ce valori mici ale parametrului vor induce o mic probabilitate deapreferasoluiileslabe, faptpentrucarecomportamentul unu algoritmSAn ultimele iteraii este asemntor algoritmului Hill Climbing.Pornind de la modelul fizic, fiecrei strisa sistemului i este asociat o probabilitate de apariie PT(s):)) (exp() (1) (T ks ET Zs PBT , unde: - S mulimea strilor sistemului- S s este starea sistemului- T- temperatura sistemului- Z(T) factor de normalizare- E(s) energia strii s-Bk - constant fizic pozitiv (constanta lui Boltzmann)Pentruafolosi acestmodel fizicnoptimizarearfi necesar generarea strilor-soluiilor n conformitate cu distribuia Boltzmann pentru valori din ce in ce mai mici ale temperaturii T. Acest lucru este realizabil dac este posibil calcularea luiZ(T). ns, practic, determinarea luiZ(T)este imposibil deoarece necesit calcularea unei sume pentru toate strile posibile ale sistemului: S sBT ks ET Z )) (exp( ) (Pentru a depi dificultatea calculului valorii) (T Zeste posibilfolosireaalgoritmului Metropolis 1953[1.1.1.2] princare strile sistemului sunt generate aleator, n mod independent, i probabilitatea de acceptare aunei stri depinde doar destarea curent.Notm: - T- temperaturacurent(seconsiderconstantntimpulexecuiei algoritmului Metropolis)-initx- valoarea iniial a soluiei10-maxi- numrul maxim de iteraii ale procesuluiAlgoritmul Metropolis este descris n continuare. Algoritmul Metropolis(T, initx , maxi , max ix ) este:Iniializare( )initx x 0 , i:=0 Cttimp (maxi i Ind CRsauj ddacdacvInd CRR dacacr xzjiji jiUnde: - Indeste un numr natural selectat aleator din mulimea indicilor{ } n ,..., 2 , 1, utilizat n formula de determinare a vectorului izn scopul obinerii unui vector izdiferit de vectorul donor iy- CR reprezint o valoare subunitar cu semnificaia probabilitii de a accepta trsturi din vectorul donor- Randesteovaloaregenerataleatornintervalul [0,1]Selecia constncomparareavalorilor deperformana vectorului printei avectoruluidencercarei supravieuirean noua generaie a celui care este mai performant:6. Dacperformana(ix)>performana(iz) atunciixsupravieuiete n noua generaie Altfelizl nlocuiete pe ixn noua generaieSfDacPaii 1,2,...,6 descrii mai sus se execut n mod repetat pn la ndeplinirea unei condiii de terminare a algoritmului. Aceast condiie se poate referi la atingerea unui numr maxim prestabilit de generaii.Aparent similar algoritmilor evolutivi (strategii evolutive,algoritmi genetici), prin maniera specific de creare a noilor indivizi, metodaDEoferrezultatesurprinztormai bunedect acetian multe probleme de optimizare. Mai mult, s-ademonstrat superioritatea metodei DE fa de metodaSimulated Annealing, pentruobogatpaletdeproblemedeoptimizare (vezi deex. [1.1.1.2]) .Crowding Differential Evolution[1.1.1.2] este un algoritm Differential Evolutionmbuntit cuunmecanismdemeninerea diversitii populaiei. Ideea de baz a algoritmului const n 165nlocuirea de ctre descendeni a celor mai apropiai similari prini din vecintate. AlgoritmulCrowdingDEse aplic cu succes n optimizareamultimodal, reuindsmeninncadrul populaiei multiplele optime ale problemelor considerate.166CAPITOL IX40 Aplicaii n optimizarePrin definiia lor, algoritmii evolutivi sunt dedicai rezolvrii problemelordeoptimizare.Capitolul curentprezintmodulncare algoritmii evolutivi abordeaz aceast clas de probleme, evideniind particularitile, avantajele i dezavantajele utilizrii tehnicilor evolutive, ct i principalele rezultate obinute n domeniu. 41 Algoritmi evolutivi pentru optimizare unicriterialPrimeleaplicaii desuccesalealgoritmilorevolutivi (genetici) constau n rezolvarea problemelor de optimizare unicriterial. Succesul nregistrat naceastprimetapadezvoltrii direciei Algoritmilor Evolutivi a generat o accentuare a cercetrii pe aceast traiectorie neconvenional, implicit, conducnd la popularizarea tehnicilor evolutive dezvoltate.Paragrafele urmtoare prezint elementele specifice acestui subiect.Problema general de optimizare unicriterialProblema general de optimizare unicriterial fr restricii este formulat astfel:Fie f o funcie R D f :, nR D .167P: ( )'D xx f minFuncia f se numete criteriu sau funcia obiectiv. Pentru a rezolva aceast problem de optimizare (minimizare) suntem interesai s determinm vectorulD x* de variabile decizie care satisface definiia de optim (minim) global:Definiie 1: (minim global) FieR D f :,nR D . Spunem c D x*este punct deminim globalal funcieifdac: ( ) ( ) x f x f D x * , .n anumite situaii, contextul problemei nu permite determinarea optimului global,sau impune ca soluias satisfac doar definiia optimului local:Definiie 2: (minim local) Fie R D f :, nR D . Spunem c D x* este punct de minim local al funciei f dac: ( ) ( ) ( ) ( ) D x V x ,x f x a.. f x V* * * ,unde prin( )*x Vam notat vecintatea lui *x .41.1.1 Avantajei dezavantaje alealgoritmilor evolutivi pentru rezolvarea problemelor de optimizare unicriterialParticularitile problemelor de optimizare unicriterial, respectiv complexitatea acestora, susin utilizarea metodelor evolutive n rezolvarea acestei clase de probleme. Obiectivele problemelor n cauz sunt traduse prin funcii ale cror valori optime suntem interesai s le determinm. n general, tehnicile tradiionale non-evolutivepretindfunciei -funciilordeoptimizatndeplinirea unor condiii suplimentare de genul: derivabilitate, continuitate, convexitate, etc. Abordarea evolutiv elimin acest neajuns, forma funciei i caracteristicile acesteia nealternd maniera de rezolvare a problemei de optimizat. n plus, n situaia problemelor de optimizare 168unicriterialreal, evaluareaperformanelor soluiilor candidat se face n general prin intermediul funciei obiectiv.Un alt argument n favoarea exploatrii tehnicilor evolutive const n simplitatea implementrii unor astfel de algoritmi.nsituaiancareoaproximareasoluiei nuestedeajuns, exist suficiente argumente ce pledeaz n favoarea utilizrii tehnicilor clasice de rezolvare. Algoritmul evolutiv nu ofer n general dect o soluie aproximativ,astfelnct, nevoia de determinare a soluiei exacteeliminnmultesituaii folosireaacestor metode, recomandndmetodeleclasice. nanumiteproblemeconsiderate grele, cuunnalt graddedificultatei complexitate, ineficiena tehnicilor clasice conducelaoptareapentrualgoritmii evolutivi, pe principiul: o soluie aproximativ, mulumitoare, este de preferat unei rezolvri ineficiente. Algoritmii evolutivi s-au dovedit a fi instrumente bune de rezolvare a problemelor de optimizare. De asemenea, n multe situaii acetia au reuit s furnizeze soluii mai bune dect metodele tradiionaledeoptimizare. Acetiasunt folosii cusuccesncazul problemelor considerate grele, cu un grad mare de complexitate, precum optimizarea multimodal, problemele de optim nestaionar, optimizarea multicriterial, etc.41.1.2 Particulariti ale algoritmilor evolutivi de optimizare unicriterialFiind dat o problem general de optimizare real unicriterial P, pentru a aplica un algoritm evolutiv A de rezolvare a acesteia, este necesarnprealabil evideniereactorvaelementedefinitorii ale acestuia: modalitatea de codificare a soluiilor, dimensiunea populaiei, operatorii genetici utilizai, tehnicadeseleciei nun ultimul rnd funcia de performan funcia prin intermediul creia se evalueaz calitatea fiecrui individ al populaiei. ngeneral, ncazul optimizrii realeunicriteriale, funciade performan coincide sau deriv din funcia obiectiv. Presupunnd c se dorete determinarea maximuluifuncieiobiectiv f din domeniul D, unde:R D f :inR D , este natural s considermo 169codificare real a soluiilor posibile i s definimca funcie de evaluare nsi funcia de maximizat.Astfel, fiecare cromozom al populaiei reprezint chiar un punct din spaiul de cutare: ( ) D x x x xn ,..., ,2 1Operatorii genetici folosii sunt alei dintre cei specifici codificrii reale. Deasemenea, tehnicadeselecieestealeasn concordancucontextul problemei. Posibilevariantedeoperatori genetici i tehnici de selecie sunt descrise pe larg n lucrri reprezentativealeliteraturii ncadratedomeniului abordat(vezi de ex. [1.1.1.2], [1.1.1.2]). Un alt aspect al implementrii unui algoritm evolutiv n cazul unei problemedeoptimizareunicriterialreall reprezintcondiiade oprire. n ce situaii algoritmul poate fi considerat ncheiat i ne poate furniza soluia final? Sunt precizate n continuare trei posibile mijloace de a considera ncheiat procesul de optimizare:- atingerea unui numr oarecare de generaii;- uniformizarea populaiei: atingerea unui grad oarecare prestabilit al diversitii populaiei;- ncetinirea procesului de cutare, spre exemplu: dac n ultimele k generaii ale algoritmului populaia nu i-a modificat n esen coninutul, algoritmul se poate considera ncheiat;- obinerea unei soluii de calitatea dorit.Pentru a nu se pierde soluii bune prin trecerea de la o generaiela alta, algoritmul poatefi suplimentatprintr-oformde elitism. Cea mai simpl manier de implementare a elitismului este aceeadeatransferanemodificat cel mai bunindivid(saucei mai buni m indivizi) al generaiei curente n noua generaie.41.1.3 Explorare versus exploatareComportamentul algoritmului evolutiv pentru rezolvarea problemelor de optimizare n general i n particular a problemelor de optimizare unicriterial este strns legat de conceptele de exploatare i explorare a spaiului de cutare. Mai mult, se poate aprecia, c un bun echilibru ntre cele dou aspecte ale cutrii ar putea constitui 170cheia succesului unui algoritm evolutiv. Pentru nceput, vom descrie celedouconceptediscutatenacestparagraf, urmndajustifica afirmaia precedent i a analiza legtura dintre acestea i efectul de convergen prematur.Explorareaspaiului decutarear puteafi cuantificatprin gradul de acoperire a spaiului soluiilor posibile din care se dorete extragerea soluiei optime globale, n dinamica procesului de cutare. O explorare ineficient a spaiului de cutare poate conduce la capcana convergenei premature nspre un punct de optim local. Exploatarea spaiului de cutare se definete printr-o accentuareacutrii nzonelecaresedovedescpromitoare. n absena acestui fenomen, n ciuda unei explorri eficiente, apropierea de optimul global este ngreunat. Referindu-ne strict la optimizarea global, o exploatare prea intens a spaiului de cutare ar putea fi sursa unei convergene premature nspre un optim local, perceput greit ca soluia global a problemei.Celedouaspectealecutrii conturatemai sussuntlegate datorit faptului c un grad ridicat de explorare a spaiului de cutare poate reduce gradulde exploatare a zonelor promitoare, respectiv capacitatea algoritmului de a converge nspre punctele de optim; reciproc, exploatarea accentuat a zonelor promitoare reduce substanial capacitatea de explorare eficient a spaiului soluiilor posibile, respectiv, capacitatea algoritmului de a descoperi i alte zone promitoare.Oalt interpretare aechilibruluiexplorare-exploatarepoate fi furnizat prin prisma a dou concepte specifice problematicii algoritmilor evolutivi, respectiv convergena i diversitatea populaiei. Dacexplorarea eficient aspaiului de cutare este tradusprintr-ungradridicat al diversitii populaiei, exploatarea intens a teritoriilor promitoare - privilegiate ale spaiului de cutare - este tradus prin convergena populaiei nspre soluiile de optim.Intuitiv, un bun echilibru ntre aceste dou aspecte ale cutrii se dovedete a fiuna dintre cerinele eseniale n dezvoltarea unui algoritm evolutiv. Parametrizarea algoritmilor evolutivi permite factorului uman ajustarea echilibrului explorare-exploatare pe o problem concret. Cu toate acestea, stabilirea unui echilibru 171explorare-exploatare rmne o not problematic n economia dezvoltrii i aplicrii algoritmilor evolutivi n optimizare.41.1.4 ElitismulElitismul a reprezentat ntotdeauna un subiect major de discuie n arealul Calculului Evolutiv. n procesul evoluiei populaiei, indivizi performani din generaiile intermediare ar putea fi pierdui n urma aplicrii operatorilor genetici specifici (recombinare, mutaie, inversiune). Acest fenomennuestededorit, dat fiindfaptul c procesul de convergen a populaiei nspre soluia optim este ncetinit. Din aceste considerente s-au cutat variate mecanisme de supravieuireaindivizilor performani delaogeneraielaalta, n scopul accelerrii convergenei algoritmului evolutiv. Literaturade specialitaterecomandi valideazabordri evolutiveelitiste, pe care ne propunem s le enumerm n cele ce urmeaz.Pentru a nu se pierde soluii bune prin trecerea de la o generaiela alta, algoritmul poatefi suplimentatprintr-oformde elitism. Cea mai simpl manier de implementare a elitismului este aceea de a transfera nemodificai cei mai buni n indivizi al generaiei curente n noua generaie. Oaltformdeelitismoreprezintaceeaprincarenuse permitecapriniperformanis fienlocuii n noua generaiede ctre descendeni proprii mai slabi. Dei prin implementarea acestei forme de elitism, gradul de explorare a spaiului de cutare are de suferit, avantajul cert rezid din faptul c nu este permis ndeprtarea populaiei curente de zonele dovedite deja a fi promitoare.Un alt mecanism de elitism, utilizat cu precdere n probleme de optimizare multicriterial, const n utilizarea, n mod explicit, a unei populaii suplimentar de elite denumit arhiv sau memorie extern. 41.1.5 Tratarea restriciilorFiind date funciile:R R h ,..., h , g ,..., g f,nk 1 m 1 :172s se determine punctele de minimale funciei f relative la mulimea:( ) ( ) { } k 1, j 0, x ,h m 1, i 0, x g : R x Fj in Formal o astfel de problem se noteaz (vezi notaia (1) ).( )( )( ) ' ,...,k , ,j xjh,...,m , ,i xigctiile sub restrix f2 1 02 1 0min(1)Funciile: m 1,2,..., i gi ,p 1,2,..., i hi ,dinformula(1) reprezintrestriciiledeegalitate, respectiv, restriciile de inegalitate.Cea mai popular metod de tratare a restriciilor este metoda funciilor de penalizare. Funcia criteriu este modificat prin adugareaunor termeni suplimentari modelndrestriciile. Astfel, dac o soluie x violeaz o restricie giatunci, funcia criteriu va fi amendat (penalizat) cu un factor proporional cu ( )2) ( x gi.Pentru a trata restriciile inegalitiise va considera o funcie: R R t : : ( ). ' +x p P x N tt t,unde:{ } x x P x P x Pk t k t t: :* - reprezint toi indivizii nedominai din Pt i ( )t wtw P P - reprezint mulimea tuturor indivizilor produi pn la generaia t.Elitismul a reprezentat ntotdeauna un subiect major de discuie n arealul Calculului Evolutiv. Spre deosebire de optimizarea unicriterial, problema elitismului n optimizarea multicriterial devine mult mai complicat. n acest caz, soluiile candidat nu sunt total ordonate imai mult, pot fi incomparabile. Cu toateacestea, abordrileevolutiverecurgladiferiteformedeelitismi aceast trstur suplimentar a tehnicilor evolutive de optimizare multiobiectiv se dovedete a fi avantajoas. Multe din abordrile elitiste fac uz de o a doua populaie suplimentar de elite. n legtur cu populaia elitist se pot formula mai multe ntrebri:- Caresoluii suntselectatepentrua alctui elitai pentru ct timp?- Cum este actualizat populaia elitist?- Cumafecteaz elita performanele populaiei curente i invers?- Cum se implic populaia de elite n producerea de descendeni?200- Cnd i n ce condiii membrii populaiei de elite sunt reinserai n populaia curent?Tehnici evolutive Paretoncontinuare sunt prezentate cele mai populare tehnici de optimizare evolutiv Pareto.AbordrileevolutiveParetoi auorigineanpropunerealui Goldbergdeafolosi ierarhizareapeclasedesoluii nedominatea populaiei curentei seleciacorespunztoare pentrudeterminarea frontuluiParetoal problemeide optimizare multicriterial. Procesul se poate descrie astfel: se determin soluiile nedominate din populaiacurent, seeticheteazcu1i seelimintemporar din populaie. Populaia rmas se supune unui proces asemntor rezultndastfel clasaindivizilor derang2. Procesul sencheien momentul n care toi indivizii populaiei au fost etichetai.Oaltsugestiealui Goldbergesteaceeadeaseutilizan aceste rezolvri tehnici de meninerea diversitii populaiei (ex. mecanism de ni) pentru a mpiedica populaia s convearg spre un singur punct al frontului de soluii optimale Pareto.MOGAO abordare prin care este urmat propunerea lui Goldberg este ceaprezentatn[1.1.1.2]i cunoscutsubdenumireadeMOGA. Aceasttehnicutilizeazdeasemeneaoformdeetichetarea indivizilor populaiei ns dup o schem diferit.Astfel, fie c un individ oarecare al populaiei, rangul acestuia se calculeaz dup formula:tcp c rang + 1 ) ( (1)unde: tcp - reprezint numrul de indivizi din populaia P la generaia t care domin individul c.Performanele indivizilor populaiei la generaia t sunt calculate dup urmtoarea procedur:2011. Indivizii populaiei sunt etichetai dup schema anterioar i populaia este ordonat n raport cu rangurile atribuite indivizilor si.2. Atribuirea valorilor de performan printr-o tehnic de interpolare n concordan cu o anumit funcie, n general liniar.3. Medierea performanelor indivizilor cu acelai rang.Punctul 3 se poate interpreta ca o manier de blocare a performanelor pentruproducereaunei mari presiuni deselecie. Acest lucru ar putea conduce la o convergen prematur.Ca i cazul metodei descrise de ctre Goldberg, autorii metodei MOGApropunometoddenipentruevitareainconvenientului precizat, cudeosebireacpartajarea seface nspaiul valorilor funciei obiectivi nuavalorilorparametrilor. Aceastschemde partajarempiedicexistenasimultannpopulaieadoi vectori diferii i cu aceleai valori ale obiectivelor. NSGA-I (Nondominated Sorting genetic Algorithm -I)Aceast abordare este propus n 1993 de ctre Deb i Srinivas [1.1.1.2]. Principiul acestei metode const n evidenierea claselor de indivizi ai populaiei curentepebazaconceptului denedominare. Indivizii nedominai ai populaiei curentesunt grupai ntr-oclas, atribuindu-leovaloarefalsdeperforman, proporionalnscu dimensiuneapopulaiei.Diversitatea populaieiestemeninutprin partajarea valorilor false de performan a indivizilor clasificai. Aceast prim clas de indivizi evaluai este eliminat temporar din populaia curent i procesul se reia pentru populaia rmas pn cnd toi indivizii generaiei respective au fost clasificai. Abordarea folosete seleciaproporional astfel nct indivizii primeiclase, avnd valorimaxime ale funcieide performan,vor furnizamai multecopii nvedereagenerrii descendenilor dect ceilali indivizi ai populaiei. Pe de o parte, selecia proporional va grbi convergena populaiei spre regiunea soluiilor nedominate iar pe de alt parte, partajarea n spaiul valorilor parametrilor, permite buna distribuire a populaiei de-a lungul frontului de soluii Pareto. 202S-aafirmat cabordareaNSGA-I nuestemai eficientnici computaional, i nici nceeaceprivetecalitateafrontului Pareto produs dect abordarea MOGA.. NSGA-II (Nondominated Sorting genetic Algorithm -II)NSGA-II [1.1.1.2] reprezint o variant mbuntit a precedentei NSGA-I. Dezavantajele semnalate ale primei versiuni au fost n principal:- complexitateamritasortrii pebazanon-dominanei: O(mN3), unde N este dimensiunea populaiei i m numrul de obiective;- lipsa elitismului (s-a verificat faptul c tehnicile elitiste sunt superioare celor ne-elitiste);- impedimentul necesitii specificrii valorii parametrului de partajare, valoare de care eficiena algoritmului este strns legat.Deb, Agrawal, Pratap, Meyarivan, autorii acestui algoritm, ncearcsdepeascinconvenienteleobservate, dezvoltndun algoritmrapid, elitist i independent deparametrul departajare. Algoritmul dezvoltat (NSGA II) devine rapid un algoritm de referin n literatura de specialitate.Structura general a algoritmului NSGA II este descris n cele ce urmeaz.Algoritm Nondominated Sorting Genetic Algorithm II1. Generare populaie iniial P0 de dimensiune N; t:=0;2. Generare populaie Q0de N descendeni ai populaiei P0(prin aplicarea operatorilor genetici: selecie, recombinare, mutaie)3. cttimp (condiie de terminare=fals) executa. Rt=PtQt;b. Sorteaz populaie Rtn concordan cu relaia de nedominare rezultnd fronturile:{ } ,.... F , F F2 1 .c. Construiete populaia Pt+1 prin adugarea soluiilor din fronturile ,.... F , F2 1n ordinea dat de indicii fronturilor pn cnd sedepete dimensiunea N.d. Sorteaz descresctor soluiile din Pt+1 pe baza valorilor de estimare a gradului de aglomerare.203e. Trunchiaz populaia Pt+1rezultnd populaia Pt+1de dimensiuneN. (sealegprimii Nindivizi ai populaiei sortate).f. Generare populaie Qt+1prin aplicarea operatorilor genetici asupra populaiei Pt+1.g. t:=t+1;Autoriialgoritmului NSGA II propun un mecanism ingenios de estimare a gradului de aglomerare a soluiilor. Fiind dat un element alpopulaiei, se determin cel maimare cuboid care lconine pe acesta i nu conine un alt element al subpopulaiei de care aparine, determinate n prealabil prin procedeul de sortare pe baza nondominrii. Dimensiunea acestui cuboid se utilizeaz pentru a se face discriminarea ntre punctele situate pe acelai nivel de nondominare. Principiul este urmtorul: dintre oricare dou puncte cu ranguri diferitesepreferacelacuunrangmai mic, i dintreoricaredoi indivizi situai peacelai nivel denedominare(acelai rang)seva favorizaseleciaaceluiacareestesituatntr-ozonamai sracn indivizi, respectivindividul situat ncuboidul cudimensiuneamai mare. NPGA (Niched Pareto Genetic Algorithm)Algoritmul NPGA propus de Horn i Nafpliotis [1.1.1.2] introduce, nesen, unnoutipdeselecie, capabilsconduc populaia nspre mai multe soluii ale problemei, soluii care aparin frontului Pareto. Algoritmul deseleciefolosit deNPGAestebazat peschema seleciei princoncurs, ncareintervinei conceptul dedominan Pareto. Modificrile aduse schemei de selecieconstau n sugerarea unei dimensiuni apropiate de valoarea 10 a setului de comparaie i maniera de rezolvare a situaiilor de egalitate. Astfel, cei doi indivizi candidat sunt comparai cu toi indivizii setului de comparaie pentru a stabilidominana. n situaiile de egalitate, cnd fie ambii indivizi sunt dominai, fiesunt ambii ne-dominai, deciziaseian conformitatecufunciadeevaluarepartajat. Principiul estedea avantaja indivizii aflai n nie srace, fapt care contribuie la meninerii diversitii populaiei.204NPGA s-a dovedit a fi o tehnic rapid i eficient n determinarea frontului Pareto. Principala critic adus acesteia este faptul c performana algoritmului este strns legat att de valoarea factorului de partajare ct i de dimensiunea prestabilit a setului de comparaie.SPEA I (Strength Pareto Evolutionary Algorithm - I)Exist cteva caracteristici ale algoritmului SPEApe care le putem regsila alte metode evolutive de optimizare multicriterial dezvoltate. Aceste trsturi comune sunt:- algoritmul folosete conceptul de dominan Pareto n evaluarea indivizilor populaiei curente;- utilizeaz o memorie extern pentru pstrarea soluiilor nedominate gsite pn la momentul respectiv;- algoritmul este suplimentat printr-un mecanism de clasificarepentruareducenumrul soluiilor nedominate memorate.Unicitateasaprovinedinmanieradeevaluareaindivizilori tehnica de ni pe care o ncorporeaz:- fitnessul unui individ se calculeaz relativ la soluiilor nedominate memorate;- soluiile din arhiv participla selecie;- este oferit o tehnic de ni pentru pstrarea diversitii populaiei, tehniccenufaceapel laparametrii detipul distanei ci doar la conceptul de optimalitate Pareto.Algoritmul SPEA [1.1.1.2] reprezint unul dintre cele mai populare tehnici de optimizare multicriterial din literatur.SPEA 2 (Strength Pareto Evolutionary Algorithm2)AlgoritmulSPEA 2 este dezvoltat de Zitzler, Laumanns, Thiele [1.1.1.2] i reprezint o variant mbuntit a predecesorului SPEA. Testele autorilor au demonstrat faptul c aceast SPEA 2 ofer soluii care depesc rezultatele SPEA n diferite probleme de test pe care le-au considerat.Algoritmul SPEA 2 0. Iniializare populaia curent P0

2051. Iniializare arhiva 0Q,t=0.2. Cttimp (nu s-a atins numrul maxim de generaii admis: Tt)2.2 Evaluarea indivizilor populaiei curente pe baza schemei modificate de asignare a performanei.2.3 Toi indivizii nedominai din Pt i Qt intr n Pt+1 . Un procedeu de trunchiere este aplicat.2.4 Selecie prin concurs.2.5 Aplicarea operatorilor de variaie.2.6 t = t+1;Diferenele majore fa de tehnica SPEA constau n:- determinarea performanelor indivizilor se face dup o schem modificat, lundu-se n considerare pentru fiecare individ i de evaluat att indivizii populaiei curente pe care acesta i domin, ct i indivizii care l domin.- estimarea densitii se face pe baza unui procedeu ce ia n considerare cel mai apropiat al k-lea individ din generaie, unde k reprezint un parametru al algoritmului.- nou metod de trunchiere a arhivei este propusRezultate algoritmului se identific prin soluiile nedominate din ultimageneraie. Evaluareafiecrui individ(notati) dinpopulaia curent (Pt ) se face n maniera urmtoare:Fitness(i)=R(i)+D(i)unde:( ) ( )t tQ P j j S i R , , j domin i i S(i) este numrul de indivizi din t tQ Ppe care individul i i domin.( )( ) i k pi D, 21+, unde p(k,i) reprezint distana fa de cel mai apropiat al k-lea individ din generaie. PAES (Pareto Archived Evolutionary Strategy )AlgoritmulPAES este propus de Knowles i Corne [1.1.1.2] i reprezint n esen o strategie evolutiv de tipul (1+1). Algoritmul 206presupunemeninereaunei populaii arhivedesoluii nedominate. Aceast arhiv are dou scopuri: primul de a memora soluii nedominate generate i al doilea de a controla presiunea de selecie pentru a se gsi soluii mai bune.AlgoritmulPAES1. Generarea unei soluii curente iniiale.2. Evaluarea soluiei curente i adugarea acesteia la arhiv3. Ct timp (condiie de oprire = fals)a. Muteaz soluia curent pentru a genera soluia candidatb. Evalueaz soluia candidatc. Dac soluia candidat nu este dominat de soluia curent atuncii. compar soluia candidat cu membrii arhiveiii. actualizeaz arhivaiii. selecteaz o nou soluie curent dintre soluia curent precedent i soluia candidat.PESA Algoritmul PESA este propus de Corne, Knowles, i Oates [1.1.1.2]. Principiul debazal tehnicii PESAconstncontrolarea seleciei i pstrarea diversitii printr-o schem bazat pe divizarea spaiului n hiper-ptrate. PESA ncorporeaz ideidin SPEA iPAES. Cai algoritmul SPEA, algoritmul PESAfolosetedoupopulaii: o populaie intern ce evolueaz i o populaie extern de dimensiune mai mare ce constituie arhiva de soluii nedominate generate pn la momentul respectiv. ntr-o manier asemntoare algoritmului PAES, algoritmul PESA menine o divizare prin hiper-gril a spaiului ce permite s se pstreze o imagine a gradului de aglomerare din diferite regiuni ale arhivei. Spre deosebire de ambele tehnici mai sus menionate, PESA folosete o selecie bazat pe msura aglomerrii.Algoritmul PESA1. Iniializareapopulaiei internePI(0) i evaluareaindivizilor acesteia. Iniializarea populaiei externe PE(0) = ; t=0.2. Incorporeaz soluiile nedominate din PI(t) n PE(t).2073. Dac (condiia de terminare = fals) atunci Genereaz PI(t+1) prin operatorii de variaie: recombinare i mutaieAltfelntoarce PE(t). STOP.4. Salt la pasul 2.Lapasul 2, unindividal populaiei curentePI(t) intrnarhiva PE(t) doar dac este att nedominat de ctre ceilali indivizi ai generaiei sale ct i nedominat de ctre nici un individ al arhivei. Selecia prinilor pentru aplicarea operatorilor de variaie (recombinarei mutaie)sefacepebazagradului deaglomerare. Gradulde aglomerare alunuiindivid oarecare este proporionalcu numrul de indivizi din hipercubul individului respectiv.43.1.8 Funcii de test optimizare multicriterialTestarea performanelor algoritmilor evolutivi de optimizare multicriterial implic probleme de test i metrici de evaluare special concepute pentru a determina avantajele, limitrile, dar i o ierarhie obiectiv a metodelor evolutive dedicate acestui segment de probleme. Una dintre cele mai populare suite de probleme de test este cea propus n [1.1.1.2], avantajul major al problemelor descrise constnd n testarea abilitii algoritmului de a face fa mai multor dificulti dar i numrul scalabil de variabile i obiective. Suita cunoscut sub denumirea de DTLZ, este format din 7 probleme care implic un numr de M obiective de minimizat in variabile:DTLZ1:Minimizeaz( ) ( ) ( )M Mx g x x x x f + 1 ...211 2 1 1Minimizeaz( ) ( ) ( ) ( )M Mx g x x x x f + 1 1 ...211 2 1 2208( ) ( ) ( ) ( )M Mx g x x f + 1 1211 1Minimizeaz ( ) ( ) ( ) ( )

,_

+ MXixi i M Mx x X x g 5 . 0 20 cos 5 . 0 1002[ ] 1 , 0 ix ,n 1,2,..., iSunt sugerate urmtoarele valori: 5 MX k, 1 + k M n .Dificultatea determinrii soluiilor acestei probleme const n capacitatea populaiei de a converge spre un hiperplan. Exist 11k-1 fronturi Pareto optimale locale care pot atrage algoritmul.Soluiile optimale Pareto corespund lui5 . 0 * ix , M iX x * . Frontul Pareto este format de hiperplanul liniar: 5 . 01MiifDTLZ2:Minimizeaz( ) ( ) ( ) ( ) ( ) + 1 1 15 . 0 cos ... 5 . 0 cos 1M Mx x X g x fMinimizeaz( ) ( ) ( ) ( ) ( ) + 1 1 25 . 0 sin ... 5 . 0 cos 1M Mx x X g x fMinimizeaz( ) ( ) ( ) ( ) + 15 . 0 sin 1 x X g x fM M( ) ( ) M iX xi Mx X g25 . 0[ ] 1 , 0 ix ,n 1,2,..., i Cea de-a doua funcie DTLZ are un front Pareto real sferic. Soluiile optimale Pareto corespund lui5 . 0 * ix , M iX x * , Frontul Pareto este format de: 209112Miif.Se sugereaz utilizarea urmtoarelor valori pentru parametrii: 10 MX k,1 + k M n .DTLZ3:Minimizeaz( ) ( ) ( ) ( ) ( ) + 1 1 15 . 0 cos ... 5 . 0 cos 1M Mx x X g x fMinimizeaz( ) ( ) ( ) ( ) ( ) + 1 1 25 . 0 sin ... 5 . 0 cos 1M Mx x X g x fMinimizeaz( ) ( ) ( ) ( ) + 15 . 0 sin 1 x X g x fM M( ) ( ) ( ) ( )

,_

+ MXixi i M Mx x X x g 5 . 0 20 cos 5 . 0 1002[ ] 1 , 0 ix ,n 1,2,..., iAceast problem introduce multiple fronturi locale optimale Pareto, care pot atrage populaia evaluat prin algoritmul testat. Frontul Pareto global este format de: 112MiifDTLZ4:Minimizeaz ( ) ( ) ( ) ( ) ( ) + aMaMx x X g x f1 1 15 . 0 cos ... 5 . 0 cos 1Minimizeaz ( ) ( ) ( ) ( ) ( ) + aMaMx x X g x f1 1 25 . 0 sin ... 5 . 0 cos 1Minimizeaz ( ) ( ) ( ) ( ) + aM Mx X g x f15 . 0 sin 1( ) ( ) MXixai Mx X g25 . 0210[ ] 1 , 0 ix ,n 1,2,..., iForma funciei DTLZ4 este asemntoare funciei DTLZ2; singura modificare const n nlocuirea variabilei ixcu aix . Autorii sugereaz folosirea parametrului100 a .DTLZ5:Minimizeaz( ) ( ) ( ) ,_

,_

+ 2cos ...2cos 11 1 1M MX g x fMinimizeaz ( ) ( ) ( )

,_

,_

,_

+ 2sin .2cos .. .2cos 11 2 1 2M M MX g x fMinimizeaz( ) ( ) ( )

,_

+ 2sin 11M MX g x f( ) ( ) MXixi Mx X g25 . 0 i ( ) ( )( ) ( )i MMix x gx g2 11 4++[ ] 1 , 0 ix ,n 1,2,..., iProblema DTLZ5 testeaz abilitatea algoritmului de a converge nspre frontul Pareto reprezentat prin curba de ecuaie:112Miif, pentru valorile5 . 0 ix ,n i ,..., 2 , 1 .DTLZ6:Minimizeaz( )1 1x x f Minimizeaz( )1 1 M Mx x fMinimizeaz( ) ( ) ( ) ( ) g f f f h X g x fM M M, ,..., , 11 2 1 + 211( )+ MXixiMMxXx g91( ) ( )1]1

++ 113 sin 11MiiifgfM h [ ] 1 , 0 ix ,n 1,2,..., iFuncia DTLZ6 are front Pareto este discontinuu, existnd 2M-1 regiuni optimale. Se sugereaz utilizarea urmtoarelor valori pentru parametrii: 20 MX k,1 + k M n .Problema testeaz abilitatea unui algoritm evolutiv multicriterial de a menine multiple subpopulaii corespunztoare zonelor optimale.DTLZ7:Minimizeaz ( )[ ]( ) [ ][ ] MnjMnj ijixMnx f1 1, M j ,..., 2 , 1 unde: ( ) ( ) ( ) 0 1 4 x f x f x gi M j , 1 ,..., 2 , 1 M j( ) ( ) ( ) ( ) [ ] 0 1 min 211 , + + x f x f x f x gj iMj i M M[ ] 1 , 0 ix ,n 1,2,..., iProblemaDTLZ7estedificildatoritformei frontului Pareto (acestaeste formatdintr-odreapt iun hiperplan) dar idatorit celor M-1 restricii impuse.44 Optimizare dinamicSubtitulaturadeoptimizare dinamicsunt cuprinsediferite clase de probleme. Din perspectiva algoritmilor evolutivi,problema deoptimizaredinamicconstndeterminareaoptimelor funciei criteriu, cnd aceasta i modific forma n timp, fapt care genereaz poziii variabile ale punctelor de optim la momente de timp diferite. 212Aceast problem este recunoscut isub denumirea sugestiv de optimizarenmediudinamic. Stadiul cercetrii actualenaceast direcie este relativ incipient. Principalul inconvenient al algoritmilor evolutivi folosii n optimizarea n mediu dinamic rezid din pierderea diversitii populaiei n urma convergenei spre optimele curente ale problemei, ceeaceprovoacincapacitateapopulaiei deaexplora ulterior spaiul de cutare i de a se adapta la schimbrile survenite.Tehniciledeevitareaacestui neajunssunt clasificatentrei categorii[1.1.1.2]:1. Algoritmiievolutivisunt lsais evolueze n sensulclasic, ns la detectarea unei schimbri n mediu se execut aciuni explicitedeamplificareagradului dediversitatea populaiei, spre exemplu, reiniializarea populaiei sau creterea ratei de mutaie pentru cteva generaii succesive. Dezavantajul acestei tehnici rezid din necesitatea meninerii unui mecanism suplimentar prin care se verific apariia schimbrilor.2. Algoritmii evolutivi sunt nzestrai cu mecanisme de evitare a convergenei n sperana c o bun diversitate a populaiei ar puteaconducelaoadaptaremai rapidaacesteiala schimbrile survenite. 3. Algoritmii evolutivi sunt suplimentai printr-o memorie-arhivlacaresepoateapelapentruinformaii utiledin generaiile anterioare. Aceste abordri sunt potrivite n situaiile n care optimul revine n locaiile anterioare.Funcii de test pentru optimizarea dinamic evolutivMoving Peak Benchmark este o problem de optimizare special conceput pentru testarea abilitii algoritmului evolutiv de a determina soluiile optime n mediu dinamic. De asemenea, aceasta testeaz i capacitatea algoritmuluide a gsi i menine multiplele optime care se modific n timp. Precum se deduce din denumirea problemei, se dorete determinarea vrfurilor funciei date n contextul n care, periodic, acestea i modific poziiile i caracteristicile. Fiecare vrf (optim) este caracterizat prin:nlimea ih , amplitudinea iwi locaia( )ini ip p p ,..., ,2 1.213Funcia de optimizat este de urmtoarea form:( ) ( )n ik inx x x f x x x f ,..., , max ,..., ,2 1, 12 1( )( ) +njij j iin ip x whx x x f122 11,..., ,,unde:n- reprezint numrul de variabilek- reprezint numrul de vrfuri Vrfurile se modific att la locaie, ct i ca nlime i amplitudine. n general, se consider vrfurile de form conic, amplitudineafiindnacest caz diametrul bazei conului respectiv. Aceastproblempopular(MBP)testeazabilitateaunui algoritm evolutiv de a determina optimul, respectiv, optimele corespunztoare vrfurilor dinamice.Dezvoltarea algoritmilor evolutivi care fac fa cerinelor problemei de optimizare n mediu dinamic este necesar. n problemele reale de optimizare deseori se ntlnete situaia ca optimul sdiferentimp. Uncazparticularl reprezintproblema dinamicacomisvoiajoruluipentrucaresedoretedeterminarea drumului optim n condiiile n care, la anumite intervale de timp, pot s dispar sau s apar orae pe harta corespunztoare. O abordare interesant este tehnica Ant Colony Optimization, care reuete cu succes s furnizeze soluiile problemei dinamice a comis voiajorului. J. Branke [1.1.1.2] ofer o investigaie deosebit de util a problematicii optimizrii n medii dinamice din perspectiva algoritmilorevolutivi. Lucrareaintitulat Evolutionary Optimization in Dynamic Environments prezint principalele aplicaii ale algoritmilor evolutivi n probleme de optimizare dinamic, un sumar al metodelor evolutivededicatesubiectului i tendinelecercetrii actuale. 21445 Bibliografie1. Kirkpatrick S., Gelatt C. D., Vecchi M. P.,Optimization by Simulated Annealing, Science, Vol 220, Numar 4598, p. 671-680, 1983.2. Goldberg, David. Genetic Algorithms in Search, Optimization, and Machine Learning. Addison-Wesley, 1989.3. Holland, J. H., Adaptation in Natural and Artificial Systems. Univ. of Michigan Press: Ann Arbor. 1975.4. Rechenberg, I.,Evolutionsstrategie '94. Frommann-Holzboog Verlag, Stuttgart, 1994.5. Schwefel, H.-P., Evolution and Optimum Seeking. Wiley, New York, NY, 1995. 6. Schwefel, H.-P., RudolphG.,ContemporaryEvolutionStrategies, p. 893-907 in F. Morana et al. (eds.): Advances in ArtificialLife. Berlin: Springer 1995.7. Koza, J.R.,Genetic Programming: On the Programming of Computers by Means of Natural Selection, MIT Press, 1992.8. Eberhart R., Shi Y., Kennedy J.,Swarmintelligence, Morgan Kaufmann, 2001.9. de Castro, L. N., Von Zuben, F. J., "Artificial Immune Systems: Part I BasicTheoryandApplications " , Technical Report RTDCA 01/99, 1999. 10. de Castro, L. N., Timmis, J. I., "Artificial Immune Systems: A NovelParadigm to Pattern Recognition", in Artificial Neural Networks in PatternRecognition, J. M. Corchado, L. Alonso, C. Fyfe(eds.), SOCO-2002, University of Paisley, UK, pp. 67-84, 2002.11. HofmeyrS. A., Forrest S.,Architecture for an Artificial Immune System, Evolutionary Computation 8(4): p. 443-473, 2000.21512. MetropolisN. , RosenbluthA. W., RosenbluthM. N., TellerA. H., Teller E., Equation of State Calculations by Fast Computing Machines, J. Chem. Phys., 21, 1953.13. Baker, J. E., ReducingBias andInefficiency intheSelection Algorithm, in Proceedings of the Second International Conference on Genetic Algorithms - ICGA , p. 14-21, 1987.14. Schaffer, J.D., Morishima, A.,"An adaptive crossover distribution mechanism for genetic algorithms", Genetic Algorithms and their Applications, in Proceedings of the Second International Conference on Genetic Algorithms- ICGA, p.36-40, 1987.15. Eshelman L. J.,CaruanaR.,SchafferJ. D., Biases in the Crossover Landscape,inProceedings of the3rdInternational Conference on Genetic Algorithms - ICGA, p. 10-19, 1989.16. Schwefel, H.Numerical Optimization of Computer Models, Wiley, Chichester, 1981.17. Koza J. R.,Genetic programming: on the programming ofcomputers by means of natural selection, MIT Press, Cambridge, MA, 1992.18. Koza, J.R.,GeneticProgramming: AParadigmfor Genetically Breeding Populations of Computer Programs to Solve Problems, Stanford University Computer Science Department, Technical Report STAN-CS-90-1314, 1990.19. CaruanaR., Eshelman L. J.,SchafferJ. D.,Representation and Hidden Bias II: Eliminating Defining Length Bias in Genetic Search via Shuffle Crossover, in Proceddings of IJCAI, Vol I, p. 750-755, Morgan Kaufmann, 1989.20. Sywerda G.,Uniform crossover in genetic algorithms, in Proceedings of the ThirdInternational Conference onGenetic Algorithms, J. D. Schaffer, Ed. Morgan Kaufmann Publishers, 1989.21.Oyman A. I., Beyer H.-G., Schwefel H.-P., "Convergence Behavior of the (1 +, lambda) Evolution Strategy on the Ridge Functions." Technical ReportSyS-1/98, UniversityofDortmund, Department of Computer Science, Systems Analysis Research Group, 1998.22. Schwefel, H. P. , Bck, T., EvolutionStrategiesII. Theoreticalaspects,Genetic Algorithms in Engineering and Computer Science, John Wiley, Chichester, 1995.21623.Dorigo M., Sttzle T., Ant Colony Optimization, MIT Press, 2004.24.Dorigo M., Maniezzo V., Colorni A., Ant System: Optimization by a colony of cooperating agents. IEEE Transactions on Systems, Man, and Cybernetics-Part B, 26(1):29-41,1996.25.Dorigo M., Gambardella L.M., Ant Colony System: A Cooperative LearningApproach to the TravelingSalesman Problem, IEEE Transactions on Evolutionary Computation, Vol. 1,p.53-66, 1997.26.Kennedy J., Eberhart R., Particle swarm optimization, in Proc. of the IEEE Int. Conf. on Neural Networks, Piscataway, NJ, p. 19421948, 1995.27. Reynolds C. W.,Flocks, herds, and schools: A distributed behavioral model, ACMComputer Graphics, 21(4), p. 2534, 1987.28. Rudolph G., An Evolutionary Algorithm for Integer Programming, in Y. Davidor, H.-P. Schwefel, and R. Mnner (editori): Parallel Problem Solving From Nature, 3, Berlin: Springer, 1994.29. DeCastro L.N., VonZuben F. J.,Artificial ImmuneSystems, Tehnical Report, TR DCA 01/99 December, 1999.30. Banks A., VincentJ., Anyakoha C.,A review of particle swarm optimization. Part II: hybridisation, combinatorial, multicriteria and constrained optimization, and indicative applications, Natural Computing, Vol 7., No.1, p. 109-124, 2008.31. Jerne,N. K.(1974), Towardsa Network Theory of theImmune System, Ann. Immunol. (Inst. Pasteur) 125C, pp. 373-389.32. De Castro, L. N., & Von Zuben, F. J.,aiNet: An Artificial Immune Network for Data Analysis, In Data Mining: A Heuristic Approach, H. A. Abbass, R. A. Sarker, and C. S. Newton (editori), Idea Group Publishing, USA, Chapter XII, p. 231-259, 2001.33. Timmis, J, Neal, M.,A resource limited artificial immune system, Knowledge Based Systems, 14(3-4), p 121-130, 2001.34.Sutton, R., Barto, A., Reinforcement Learning. MIT Press, 1998.35.Holland, J.H., Reitman, J.H. Cognitive Systems Based in Adaptive Algorithms, InWaterman, Hayes-Roth(editori)Pattern-directed Inference Systems. Academic Press, 1978. 21736. Holland, J.H.,A Mathematical Framework for Studying Learning in Classifier Systems, Physica D 2(1-3): 307-317, 1986.37. Wilson, S.W.,ZCS: A Zeroth-level Classifier System, Evolutionary Computation 2(1):1-18, 1994.38. Wilson, S.W.,Classifier Fitness Based on Accuracy, Evolutionary Computation 3(2): 149-76, 1995.39. De Castro, L. N. , Von Zuben, F. J., ArtificialImmune Systems: Part I Basic Theory and Applications, Technical Report RT DCA 01/99, 1999.40. De Castro, L. N. , Von Zuben, F. J., Artificial Immune Systems:Part II ASurveyOfApplications, Technical ReportRTDCA 02/00, 2000.41.Dawkins R., Gena Egoist, Editura Tehnic, 2006.42. Li J-P, Balazs M. E., Parks G. T., Clarkson P. J., A species conserving genetic algorithm for multimodal function optimization, Evolutionary Computation, Vol. 10, No.3, p.207-234, 2002.43.Storn R., Price K., Differential Evolution - A Simple and Efficient Heuristic for Global Optimization over Continuous Spaces, Journal of Global Optimization, 11, p. 341359, 1997.44.Jurgen Branke, Evolutionary Approach to Dynamic Optimization Problems- UpdatedSurvey, GECCOWorkshoponevolutionary Algorithms for Dynamic Optimization Problems, p 27 30, 2001.45. Deb K., Thiele L., Laumanns M, Zitzler E., Scalable Test Problems for Evolutionary Multi-Objective Optimization, In A. Abraham, L. Jain, R. Goldberg, (editori), Evolutionary Multiobjective Optimization, p 105-145. London: Springer-Verlag, 2005.46. Thomsen, R.,Multimodal OptimizationUsingCrowding-Based Differential Evolution, in Proceedings of the 2004 IEEE Congress on Evolutionary Computation, IEEE Press, 2004.47. De Jong K. A.,An analysis of the behavior of a class of genetic adaptive systems. PhD thesis, Univ. Michigan, Ann Arbor, 1975.48. Petrowski A., AClearingProcedureasaNichingMethodfor Genetic Algorithms, IEEE International Conference on Evolutionary Computation (ICEC'96), Nagoya, 1996.21849. BrankeJ.,EvolutionaryOptimizationinDynamicEnvironments, Kluver Academic Publishers, 2002.50. Bck T.,Evolutionary Algorithms in Theory and Practice, Oxford University Press, 1996.51. FogelL.J., Owens A.J., Walsh M.J.,ArtificialIntelligence through Simulated Evolution, John Wiley, NY, 1966.52. Zadeh L.A., "Optimality and non-scalar valued performance criteria," IEEE Trans. Automatic Control, vol. 8, pp. 59-60, 1963.53. Charnes A, Cooper W.W, Ferguson R, Optimal estimation of executivecompensationbylinear programming, Management Science, 1, 138-151, 1955.54. Ritzel B. J., Eheart J. W., Ranjithan S., Using genetic algorithms to solve a multiple objective groundwater pollution containment problem. Water Resources Research, 30(5):1589-1603, 1994.55. Schaffer J. D. Multiple Objective Optimization with Vector EvaluatedGeneticAlgorithms. InGeneticAlgorithmsandtheir Applications: Proceedings of the First International Conference on Genetic Algorithms, p. 93-100. Lawrence Erlbaum, 1985.56.Coello C. A.. C., An Updated Survey of Evolutionary Multiobjective Optimization Techniques : State of the Art and Future Trends , In 1999CongressonEvolutionaryComputation, Washington, D.C., 1999.57. Laumanns M., Zitzler E, Thiele L.. AUnified Model for Multi-Objective Evolutionary Algorithms with Elitism, n 2000 Congress onEvolutionaryComputation, volume1, p. 46-53, Piscataway, New Jersey, July 2000. IEEE Service Center, 2000.58. Fonseca, C.M., Fleming, P.J., Multiobjective Optimization and MultipleConstraint HandlingwithEvolutionary Algorithms I: A Unified Formula, Research Report no. 564, Sheffield, United Kingdom, 1995.59. Srinivas N., Deb K.. Multiobjective Optimization Using Nondominated Sorting in Genetic Algorithms. Evolutionary Computation 2(3): 221-248 (1994).60. Deb, K., Agrawal, S., Pratap, A., Meyarian, T., A Fast Elitist Non-dominated Sorting Genetic Algorithm for Multiobjective 219Optimization NSGA II, in Proceedings of the Parallel Solving from Nature VI Conference, 2000.61. Horn, J., Napfliotis, N., MultiobjectiveOptimizationUsingNiched Pareto Genetic Algorithm, Illigal Report 93005, Illinois Evolutionary Algorithms Labopratory, University of Illinois, Urbana Champaingn, 1993.62. Zitzler, E., Deb, K., Thiele, L, Comparison of Multiobjective Evolutionary Algorithms: Empirical Results, Evolutionary Computation, vol. 8, no. 2, 2000.63. Zitzler, E., Laumanns, M., Thiele, L., SPEA 2: Improving the Strenth Pareto Evolutionary Algorithm for Multiobjective Optimization, 2000.64. Corne, D., Knowles, J., Oates, M., The Pareto Envelope-based Selection Algorithm for Multiobjecive Optimization in Proceedings of the Parallel Solving from Nature VI Conference, 2000.65. Knowles, J., Corne, D., The Pareto Archived Evolution Strategy: A New Baseline Algorithm for Multiobjecive Optimization. In Proceedings of the 1999 Congress on Evolutionary Computation (CEC'99), Volume 1, p. 98-105, 1999.220