U MEL Á I NTELIGENCI A prednáška č. 9

Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach 1/ 34

UMELÁ INTELIGENCIA prednáška č. 9

Prírodne inšpirovanéprehľadávacie algoritmy

[email protected]://neuron.tuke.sk/~machm


Osnova prednáškyÚvodPožiadavky na riešenú úlohuPriestor prehľadávaniaVšeobecný prehľadávací algoritmusSledovanie činnosti algoritmuAplikácieUkážky algoritmov(prehľadávanie v akcii - SU)Záver


Prehľadávanie inšpirované prírodouPostupné generovanie a testovanie riešení (kandidátov) potrebné preskúmať veľké množstvá kandidátov pre

nájdenie riešenia (typickytisíce až milióny)

Prírodná inšpirácia je chápaná ‘voľne’ (a môže byť realizovaná v širokom

rozsahu) nesnaží sa modelovať prírodné procesy cieľom je použiť vynálezy prírody pre riešenie úloh

soft computing, computational intelligence


Požiadavky na riešenú úlohu

tvar riešenia (prirodzený alebo transformácia) rozklad na zložky (atribúty a ich hodnoty)

možnosť ohodnotenia ‘pokusu o riešenie’ porovnávanie riešení pomocou globálneho

kritéria

nízka vhodnosť vysoká vhodnosť

(A1=h18)(A2=h26) (A1=h13)(A2=h29)

(A1=h1i),...,(An=hnk)


Slabá Slabá metódametóda Silná Silná

Metódy slabé a silné

neexistuje silná metóda

silná metóda z praktických dôvodov nepoužiteľná

postačuje výkonnosť slabej metódy

Silná metóda

Ideálna slabá metóda

Slabá metóda

Background (domain) knowledge


Priestor prehľadávania

AA22

AA11

hh1111 hh1414hh1313hh1212

hh2424

hh2323

hh2222

hh2121

N-rozmerný priestor (N = počet atribútov) atribút = súradná os hodnoty atribútu mapované na hodnotyna súradnej osi

body priestoru reprezentujú potenciálne riešenia (kandidátov riešení)


Plocha vhodnosti

AA22

AA11

hh1111 hh1414hh1313hh1212

hh2424

hh2323

hh2222

hh2121

(N+1)-vá súradná os reprezentuje (ne)vhodnosť riešení

vhodnosť nemusí byť definovaná (zakázaná oblasť)

hľadáme extrém (podľa definície vhodnosti)


Ukážka reprezentácie

všeobecná úloha

pevný počet krokov

triediaca úloha

premenlivý počet krokov

selekčná úloha

03212242500321224250Priestor prehPriestor prehľadávaniaľadávania

Priestor riešeníPriestor riešení


Populácia Populácia jedincovjedincov

Nová Nová populácia populácia

Všeobecný prehľadávací algoritmus

Koniec ?Koniec ?

Počet jedincov populačný alg. individuálny alg.

Spôsob tvorby novej populácie ‘exploration’

(random search) ‘exploitation’

(gradient search)


max

vhodnosvhodnosťť

generácia

vhodnosvhodnosťť

max

generácia

Sledovanie činnosti algoritmu

Individuálny / štatistický pohľad na populáciu

Vývoj vhodnosti (priemernej, max. a min, ...)

Iné miery (konvergencia, pokrytie priestoru prehľadávania)


Aplikácie

PIPA sa vo všeobecnosti používajú pre riešenie: syntetických úloh (pseudo)optimalizačných úloh

Častý výskyt ako ‘pomocnej’ metódy (v pozadí) strojové učenie / dolovanie dát neurónové siete úlohy s ohraničeniami

KKUI: Zostavovanie kŕmnych dávok hovädzieho dobytka


73 príspevkov v sekcii Real World Applications riadenie (riadenie skleníka, znalostné bázy pre fuzzy

regulátory, optimálna priepustnosť výrobnej linky) predikcia (magnetoencefalogramy epileptických

pacientov, zhoršovanie vizuálneho poľa pacientov) robotika (úchop predmetov, optimálna cesta) alokácia zdrojov (priraďovanie frekv. kanálov) návrh (analógové a digitálne elektronické obvody) plánovanie (vzdušné hliadkovanie, časové rozvrhy) modelovanie (preteky v zbrojení - India a Pakistan)

GECCO’99


Evolučný algoritmus

Inšpirácia:Inšpirácia:

Prirodzený výber (Darwin)

Génová dedičnosť (Mendel)

Populačný (paralelný) algoritmus

Pseudostochastický algoritmus

Široká skupina algoritmov: genetické algoritmy evolučné stratégie evolučné programovanie genetické programovanie diferenciálna evolúcia eugenická evolúcia


Prehľadávanie je riadené umelou evolúciou tvoriacou selekčný tlak kto sa reprodukuje

vhodnejší jedinci majú väčšiu šancu než menej vhodní

kto prežije oddelené generácie vs. viacgeneračné spoločenstvá

Selekcia


Typicky viacstupňový proces Premiešavanie genetického

materiálu rodičov

Zmena genetického materiálu (jeden alebo viac/ mnoho rodičov)

RodičiaRodičia

PotomkoviaPotomkovia

kríženiekríženie

mutáciamutácia

Tvorba potomkov

Jedince (chromozómy) majú tvar ‘genetického kódu’ reprezentovaného riešenia

Genetickéoperátory


Základná štruktúra EA

TvorbaTvorbapotomkovpotomkov

VyhodnotenieVyhodnoteniepotomkov potomkov

T = T + 1 T = T + 1

Generovanie Generovanie jedincovjedincov

VyhodnotenieVyhodnoteniejedincovjedincov

Koniec ?Koniec ?

NováNovápopuláciapopulácia

VýberVýberrodičov rodičov


CB

B: SZ J J SV SZ JZ S J S S

C: JZ SV JZ S JV SZ JZ JV JV SV

EA demo - pôvodná populácia


C’B’

B: SZ J J SV SZ JZ S J S S

C: JZ SV JZ S JV SZ JZ JV JV SV

EA demo - nová populácia

B’: SZ J J SV SZ JZ S JV JV SV

C’: JZ S JV SZ JZ J S S SV JZ


Anjeli & Smrteľníci


Komplexné chovanie ekologických systémov


Stochastický algoritmus

Dva typy jedincov smrteľníci (body v priestore

prehľadávania) anjeli (riadia beh vecí)

Prehľadávanie riadené umelým svetom

Vhodnosť ~ dĺžka života


Svet A&S

‘svet’ má konečné rozmery

je uzavretý (toroidálny tvar)


Základná štruktúra A&S

PozbieraniePozbieraniemŕtvychmŕtvych

Pohyb Pohyb Mutácia Mutácia

Generovanie Generovanie smrteľníkovsmrteľníkov

RozmiestnenieRozmiestneniejedincovjedincov

Koniec ?Koniec ?

KlonovanieKlonovanie

SkrátenieSkrátenieživota života


A&S demo

D

D’

D: SZ SZ SV JV J SV JZ J J SZ


Umelé mravce (mravčie kolóny)


Kolektívne chovanie mravčích kolónií


Pseudostochastický algoritmus

Umelý mravec: kladie a orientuje sa podľa

feromónovej stopy nie je úplne slepý stochastický výber cesty má pamäť (nikdy nejde tam kde

už bol)


Hľadanie najkratšej cesty

Charakter kladnej spätnej väzby


Prehľadávanie je vykonávané v umelom svete (v ktorom sa hľadá najkratšia cesta) bod v pôvodnom priestore prehľadávania je

cestou v mravčom svete

Je možné definovať vzdialenosti medzi bodmi

Vhodnosť sa použije na update feromónových stôp pozdĺž ciest v mravčom svete

Jedinec sa generuje ako náhodná cesta závisí od feromónovej stopy a od vzdialeností

Prehľadávanie


Základná štruktúra UM

KladenieKladenieferom. stopyferom. stopy

RozmiestnenieRozmiestneniemravcov mravcov

VyhodnotenieVyhodnotenieciest ciest

RozmiestnenieRozmiestneniemravcovmravcov

GenerovanieGenerovanieciestciest

Koniec ?Koniec ?

GenerovanieGenerovanieciestciest

VyprchávanieVyprchávanieferomónu feromónu

VyhodnotenieVyhodnotenieciest ciest


UM demo

SZJZJ

JVSVS

SZJZJ

JVSVS

SZJZJ

JVSVS

SZJZJ

JVSVS

Štart

Štart

SZ SZ SV ..... Vzdialenosti

Feromón


Simulované žíhanie


Fyzikálna evolúcia makroskopic-kých systémov

Nie je populačným algoritmom

Stochastický algoritmus

Nezávisle objavený aj Černým z Katedry teoretickej fyziky MFF UK v Bratislave

Metóda vhodná na hľadanie globálneho minima je to vlastne horolezecký algoritmus

umožňujúci únik z lokálneho extrému


Akceptácia nového riešenia

pravdepodobnospravdepodobnosťť

1.0

vhodnosťakt.

T1 > T2 > T3

T3

T2

T1


Základná štruktúra SŽ

AkceptáciaAkceptácia

Vyhodnotenie Vyhodnotenie GenerovanieGenerovanie

jedinca jedinca

Generovanie Generovanie jedincajedinca

VyhodnotenieVyhodnoteniejedincajedinca

Koniec ?Koniec ? NastavenieNastavenieteploty teploty

Koniec ?Koniec ?


SŽ demo

D

D: SZ SZ SV JV J SV JZ J J SZ

D1 D2

D1: ... JV ...

D2: ... SV ...


Dynamické určovanie vhodnosti


Vzťah dravec-korisť

Nie je samostatným algoritmom ale rozšírením iných algoritmov

Určovanie vhodnosti (tvar plochy vhodnosti) spôsobuje: úloha je príliš ľahká - nie je tlak

na pokračovanie vývoja úloha je príliš obtiažna -

algoritmus sa nevie ‘zachytiť’


Koevolučné určovanie vhodnostiSúťaženie (najčastejšie) dvoch populácií obe sa vyvíjajú jedna je stabilná (aktivujú sa jej rôzne časti)

Dvojité prehľadávanie toho istého priestoru prehľadávania rôznych priestorov - každá populácia má svoj (jedna reprezentuje riešenia, druhá nejaké pomocné objekty)


Základná koevolučná štruktúra

Súboj Súboj Vyhodnotenie Vyhodnotenie

... ...

Koniec ?Koniec ?

... ...

... ...

Vyhodnotenie Vyhodnotenie

... ...

Koniec ?Koniec ?

... ...

... ...

U MEL Á I NTELIGENCI A prednáška č. 9

Documents

Transcript of U MEL Á I NTELIGENCI A prednáška č. 9