Detail of the student project

List
Topic:Urychlení evolučních algoritmů pomocí gaussovských procesů
Department:Katedra kybernetiky
Supervisor:
Announce as:DP
Description:Zadání je externí, zadavatel: Dr.Martin Holena,CSc. - Ústav informatiky AV ČR, Pod vodárenskou věží 2, Praha 8 (e:mail: martin@cs.cas.cz).

Garantem za katedru kybernetiky je: Ing.Petr Pošík,Ph.D. (e:mail: posik@labe.felk.cvut.cz)

(Klíčová slova: OPTIMALIZACE, EVOLUČNÍ ALGORITMY, EMPIRICKÉ OPTIMALIZOVANÉ FUNKCE, REGRESNÍ MODELY, GAUSSOVSKÉ PROCESY)

Evoluční algoritmy jsou v posledních 20 letech jednou z nejúspěšnějších metod pro řešení netradičních optimalizačních problémů, jako např. hledání nejvhodnějších dokumentů obsahujících požadované informace, objevování nejzajímvějších informací v dostupných datech či další typy optimalizačních úloh, při nichž lze hodnoty cílové funkce získat pouze empiricky. Protože evoluční algoritmy pracují pouze s funkčními hodnotami optimalizované funkce, blíží s k jejímu optimu podstatně pomaleji než optimalizační metody pro hladké funkce, které využívají rovněž informace o gradientu optimalizované funkce, případně o jejích druhých derivacích. Tato vlastnost evolučních algoritmů je zvláště nepříjemná ve spojení se skutečností, že empirické získání hodnoty optimalizované funkce bývá obvykle značně nákladné i časově náročné. Evoluční algoritmy však lze podstatně urychlit tím, že při vyhodnocování funkční hodnoty optimalizované funkce používají empirickou optimalizovanou funkci jen občas, zatímco většinou vyhodnocují pouze její dostatečně přesný regresní model. K nejslibnějším regresním modelům patří modely založené na gaussovských procesech. Není proto divu, že právě ony patřily k prvním, které se pro urychlení evoluční optimalizace začaly používat. Přesto je výzkum urychlování evolučních algoritmů pomocí gaussovských procesů teprve v začátcích. Příspěvkem k němu by měla být i navrhovaná diplomová práce.
Instruction:Student se nejdříve důkladně seznámí s gaussovskými procesy a také s principy optimalizace pomocí evolučních algoritmů. Bude přitom věnovat pozornost i urychlení evoluční optimalizace empirických funkcí pomocí regresního modelu optimalizované funkce. Dosud publikované přístupy k urychlení evolučních algoritmů pomocí gaussovských procesů implementuje ve vývojovém prostředí Matlab. Na základě prostudované literatury i testování implementovaných přístupů navrhne jejich možná zdokonalení či modifikace. Některé z nich také implementuje a porovná je s původními přístupy na několika testovacích funkcích pro evoluční algoritmy, jakož i na alespoň jedné databázi hodnot empirické optimalizované funkce z reálné aplikace, kterou dostane od vedoucího práce.
Bibliography:•D. Büche, N.N. Schraudolph, P. Koumoutsakos. Accelerating evolutionary algorithms with Gaussian process fitness function models. IEEE Transactions on Systems, Man and Cybernetics. Part C: Applications and Reviews, Special Issue on Knowledge Extraction and Incorporation in Evolutionary Computation, 35 (2005) 183–194.
•Y.S. Ong, P.B. Nair, A.J. Keane, K.W. Wong, Surrogate-assisted evolutionary optimization frameworks for high-fidelity engineering design problems. In Knowledge Incorporation in Evolutionary Computation. Berlin, Springer, 2005, 307–331.
•C.E. Rasmussen, C.K.I. Williams. Gaussian Processes for Machine Learning. Cambridge, MIT Press, 2005.
•H. Ulmer, F. Streichert, A. Zell, Model assisted evolution strategies. In Knowledge Incorporation in Evolutionary Computation. Berlin, Springer, 2005, 333–355.
•Z.Z. Zhou, Y.S. Ong, P.B. Nair, A.J. Keane, K.Y. Lum, Combining global and local surrogate models to accellerate evolutionary optimization. IEEE Transactions on Systems, Man and Cybernetics. Part C: Applications and Reviews, 37 (2007) 66–76.
Date:16.10.2009
Responsible person: Petr Pošík