Detail of the student project

List
Topic:Využití jádrových funkcí k urychlení evolučních algoritmů
Department:Katedra kybernetiky
Supervisor:
Announce as:DP
Description:Zadání je externí, zadavatel: Dr.Martin Holena,CSc. - Ústav informatiky AV ČR, Pod vodárenskou věží 2, Praha 8 (e:mail: martin@cs.cas.cz).

Garantem za katedru kybernetiky je: Ing.Petr Pošík,Ph.D. (e:mail: posik@labe.felk.cvut.cz)

(Klíčová slova: OPTIMALIZACE, REGRESE POMOCÍ OPĚRNÝCH VEKTORŮ, JÁDROVÉ FUNKCE, EVOLUČNÍ ALGORITMY, EMPIRICKÉ OPTIMALIZOVANÉ FUNKCE)

Evoluční algoritmy jsou v posledních 20 letech jednou z nejúspěšnějších metod pro řešení netradičních optimalizačních problémů, jako např. hledání nejvhodnějších dokumentů obsahujících požadované informace, objevování nejzajímvějších informací v dostupných datech či další typy optimalizačních úloh, při nichž lze hodnoty optimalizované funkce získat pouze empiricky. Protože evoluční algoritmy pracují pouze s funkčními hodnotami optimalizované funkce, blíží s k jejímu optimu podstatně pomaleji než optimalizační metody pro hladké funkce, které využívají rovněž informace o gradientu optimalizované funkce, případně o jejích druhých derivacích. Tato vlastnost evolučních algoritmů je zvláště nepříjemná ve spojení se skutečností, že empirické získání hodnoty optimalizované funkce bývá obvykle značně nákladné i časově náročné. Evoluční algoritmy však lze podstatně urychlit tím, že při vyhodnocování funkční hodnoty optimalizované funkce používají empirickou optimalizovanou funkci jen občas, zatímco většinou vyhodnocují pouze její dostatečně přesný regresní model. K nejslibnějším regresním modelům patří modely používané při tzv. regresi pomocí opěrných vektorů (support vector regression). Jsou založeny na funkcích vyskytujících se v jádrech operátorů a označovaných proto jako jádrové funkce. Výzkum využitelnosti jádrových funkcí k urychlení evoluční optimalizace empirických funkcí je však teprve na samém počátku. Příspěvkem k němu by měla být i navrhovaná diplomová práce.
Instruction:Student se nejdříve seznámí s principy optimalizace pomocí evolučních algoritmů a se základy regrese pomocí opěrných vektorů. Bude přitom věnovat pozornost i urychlení evoluční optimalizace empirických funkcí pomocí regresního modelu optimalizované funkce. S využitím prostudované literatury analyzuje možnosti použití některých typů jádrových funkcí pro konstrukci takových regresních modelů. Několik nejslibnějších z nich rozpracuje až do implementovatelné podoby a zahrne je do prototypové implementace. Na závěr porovná implementovaná řešení na několika testovacích funkcích pro evoluční algoritmy, jakož i na alespoň jedné databázi hodnot empirické optimalizované funkce z reálné aplikace, kterou dostane od vedoucího práce.
Bibliography:•Genetic Algorithm and Direct Search Toolbox, version 2. The MathWorks, Inc.: Natick, 2004.
•Y. Jin, A comprehensive survey of fitness approximation in evolutionary computation. Soft Compuing, 9 (2005) 3–12.
•B. Schölkopf, A. Smola. Learning with Kernels. Cambridge, MIT Press, 2002, kapitoly 1–12.
•H. Ulmer, F. Streichert, A. Zell, Model assisted evolution strategies. In Knowledge Incorporation in Evolutionary Computation. Berlin, Springer, 2005, 333–355.
•Z.Z. Zhou, Y.S. Ong, P.B. Nair, A.J. Keane, K.Y. Lum, Combining global and local surrogate models to accellerate evolutionary optimization. IEEE Transactions on Systems, Man and Cybernetics. Part C: Applications and Reviews, 37 (2007) 66–76.
Date:16.10.2009
Responsible person: Petr Pošík