Detail of the student project

List
Topic:Využití umělých neuronových sítí k urychlení evolučních algoritmů
Department:Katedra kybernetiky
Supervisor:
Announce as:DP
Description:Zadání je externí, zadavatel: Dr.Martin Holena,CSc. - Ústav informatiky AV ČR, Pod vodárenskou věží 2, Praha 8 (e:mail: martin@cs.cas.cz).

Garantem za katedru kybernetiky je: Ing.Petr Pošík,Ph.D. (e:mail: posik@labe.felk.cvut.cz)

(Klíčová slova: OPTIMALIZACE, VÍCEVRSTVÉ PERCEPTRONY, RBF SÍTĚ, EVOLUČNÍ ALGORITMY, EMPIRICKÉ OPTIMALIZOVANÉ FUNKCE)

Evoluční algoritmy jsou v posledních 20 letech jednou z nejúspěšnějších metod pro řešení netradičních optimalizačních problémů, jako např. hledání nejvhodnějších dokumentů obsahujících požadované informace, objevování nejzajímvějších informací v dostupných datech či další typy optimalizačních úloh, při nichž lze hodnoty optimalizované funkce získat pouze empiricky. Protože evoluční algoritmy pracují pouze s funkčními hodnotami optimalizované funkce, blíží s k jejímu optimu podstatně pomaleji než optimalizační metody pro hladké funkce, které využívají rovněž informace o gradientu optimalizované funkce, případně o jejích druhých derivacích. Tato vlastnost evolučních algoritmů je zvláště nepříjemná ve spojení se skutečností, že empirické získání hodnoty optimalizované funkce bývá obvykle značně nákladné i časově náročné. Evoluční algoritmy však lze podstatně urychlit tím, že při vyhodnocování funkční hodnoty optimalizované funkce používají empirickou optimalizovanou funkci jen občas, zatímco většinou vyhodnocují pouze její dostatečně přesný regresní model. K nejslibnějším regresním modelům patří některé typy umělých neuronových sítí, které mají tzv. univerzální aproximační schopnost, zejména vícevrstvé perceptrony a RBF sítě. Výzkum využitelnosti takových typů umělých neuronových sítí k urychlení evoluční optimalizace empirických funkcí je však teprve na samém počátku. Příspěvkem k němu by měla být i navrhovaná diplomová práce.
Instruction:Student se nejdříve seznámí s principy optimalizace pomocí evolučních algoritmů a se základy umělých neuronových sítí. Bude přitom věnovat pozornost i urychlení evoluční optimalizace empirických funkcí pomocí regresního modelu optimalizované funkce. S využitím prostudované literatury analyzuje možnosti použití některých typů umělých neuronových sítí pro konstrukci takových regresních modelů. Několik nejslibnějších z nich rozpracuje až do implementovatelné podoby a zahrne je do prototypové implementace. Na závěr porovná implementovaná řešení na několika testovacích funkcích pro evoluční algoritmy, jakož i na alespoň jedné databázi hodnot empirické optimalizované funkce z reálné aplikace, kterou dostane od vedoucího práce.
Bibliography:•Genetic Algorithm and Direct Search Toolbox, version 2. The MathWorks, Inc.: Natick, 2004.
•Y. Jin, A comprehensive survey of fitness approximation in evolutionary computation. Soft Compuing, 9 (2005) 3–12.
•Y. Jin, M. Hüsken, M. Olhofer, B. Sendhoff. Neural networks for fitness approximation in evolutionary optimization. In Knowledge Incorporation in Evolutionary Computation. Berlin, Springer, 2005, 281–306.
•Neural Network Toolbox User's Guide, version 4. The MathWorks, Inc.: Natick, 2005.
•H. Ulmer, F. Streichert, A. Zell, Model assisted evolution strategies. In Knowledge Incorporation in Evolutionary Computation. Berlin, Springer, 2005, 333–355.
•Z.Z. Zhou, Y.S. Ong, P.B. Nair, A.J. Keane, K.Y. Lum, Combining global and local surrogate models to accellerate evolutionary optimization. IEEE Transactions on Systems, Man and Cybernetics. Part C: Applications and Reviews, 37 (2007) 66–76.
Date:16.10.2009
Responsible person: Petr Pošík