doctoral thesis
Enhancements of differential evolution algorithm using parameters adaptation and population initialization

Dražen Bajer (2017)
Sveučilište Josipa Jurja Strossmayera u Osijeku
Fakultet elektrotehnike, računarstva i informacijskih tehnologija Osijek
Zavod za programsko inženjerstvo
Katedra za programske jezike i sustave
Metadata
TitleUnaprjeđenja algoritma diferencijalne evolucije podešavanjem parametara i izborom počrtne populacije
AuthorDražen Bajer
Mentor(s)Goran Martinović
Abstract
Potrebu ili težnju za stalnim poboljšavanjem razlicitih sustava ili modela moguce je susresti u mnogim vidovima inženjerstva i znanosti. U tu svrhu cesto je nužno suociti se s razlicitim problemima optimizacije. Oni uobicajeno posjeduju mnoga svojstva koja ih cine vrlo zahtjevnima za rješavanje. Uz to, nerijetko su nalik crnim kutijama iz kojih je moguce dobiti samo odziv na danu pobudu, odnosno ulaz. Ukoliko se radi o problemima numericke optimizacije, može se istaknuti diferencijalna evolucija (DE) kao predstavnik evolucijskih algoritama (EAs) koja je u središtu ove disertacije. Iako relativno jednostavna, dokazane je ucinkovitosti, a u disertaciji su predložena tri njena unaprjeenja. S obzirom na osjetljivost i problem odreivanja prikladnih vrijednosti parametara algoritma, predložen je postupak samopodešavanja faktora skaliranja i stope križanja kao podskupa istih. On se istice održavanjem zadanog broja prethodno uspješnih vrijednosti parametara za svakog clana populacije, a na temelju kojih se generiraju nove vrijednosti. Takoer, pocetna populacije može biti bitan cimbenik u ucinkovitosti DE te je shodno tome predložena metoda za njenu inicijalizaciju, a zasnovana je na grupiranju podataka i Cauchyjevim slucajnim varijablama. Kljucan element i glavna razlika DE u odnosu na druge uobicajene EAs je njena mutacija. U disertaciji je predložena mutacija koja obavlja odabir baznog vektora pomocu prilagodljive k-turnirske selekcije. Predložena unaprjeenja opsežno su testirana na skupu odabranih standardnih testnih funkcija i na funkcijama pripremljenim za CEC 2014 natjecanje u numerickoj optimizaciji. Analiza ostvarenih rezultata dovela je zakljucka da predložena unaprjeenja znacajno pospješuju ucinkovitost algoritma u koji su ugraena te da su vrlo konkurentna u odnosu na neka srodna unaprjeenja dostupna u literaturi. Na koncu, ispitani su ponašanje i ucinkovitost standardnog algoritma DE pri izgradnji radijalnih mreža kao klasifikacijskih modela. Izgradnja tih mreža predstavlja složeni problem globalne optimizacije u prvom redu s gledišta broja parametara koje je nužno podesiti te zahtijevnog vrednovanja. Iako standardni algoritam predstavlja valjan izbor za rješavanje navedenog problema, testiranjem i analizom pokazano je da predložena unaprjeenja i u ovom slucaju pospješuju njegovu ucinkovitost
KeywordsDifferential evolution population initialization classification mutation numerical optimization radial basis function networks self-adaptation of parameters
Parallel title (English)Enhancements of differential evolution algorithm using parameters adaptation and population initialization
Committee MembersŽeljko Hocenski (committee chairperson)
GranterSveučilište Josipa Jurja Strossmayera u Osijeku
Fakultet elektrotehnike, računarstva i informacijskih tehnologija Osijek
Lower level organizational unitsZavod za programsko inženjerstvo
Katedra za programske jezike i sustave
PlaceOsijek
StateCroatia
Scientific field, discipline, subdisciplineTECHNICAL SCIENCES
Computing
Program Engineering
UDK621.3
APPLIED SCIENCES. MEDICINE. TECHNOLOGY
Electrical engineering
Study programme typeuniversity
Study levelpostgraduate
Study programmePostgraduate doctoral study programme; specializations in: branch Power Engineering and Communications, branch Informatics
Study specializationbranch Informatics
Academic title abbreviationdr.sc.
Genredoctoral thesis
Language Croatian
Defense date2017-03-08
Promoted date2017-03-03
Parallel abstract (English)
The need or tendency to improve different systems or models can be encountered in numerous forms of engineering and science. For that purpose, frequently optimization problems must be tackled. Such problems usually posses different properties that make them hard to solve. Besides, it is not uncommon that they are like black boxes which only provide responses to given inputs. Dealing with numerical optimization problems, differential evolution (DE) as an representative evolutionary algorithm (EA) may be pointed out, which is also in the center of the thesis. Although relatively simple, its performance is acclaimed. Three enhancements of DE are proposed in the thesis. Due to sensitivity to parameter values and the problem of determining appropriate ones, a self-adaptive scheme for controlling the scale factor and crossover-rate is proposed. It features, for each population member, the maintenance of a number of previously successful parameter values that are used for generating new ones. Also, the initial population may play an important factor in the performance of DE, and an initialization method is proposed which is based on data clustering and Cauchy deviates. The key element and difference between DE and other common EAs is its mutation. A mutation that employs an adaptive k-tournament selection for determining the base vector is proposed. All proposed enhancements were extensively tested on a set of selected standard functions and benchmark functions prepared for the CEC 2014 competition on numerical optimization. The analysis of the obtained results led to the conclusion that the enhancements considerably improve the performance of the algorithm incorporating them, but also that they compare favorably against similar enhancements from the literature. Finally, the behavior and performance of the standard DE algorithm were investigated in designing radial basis function networks for classification. The design of such networks represents a complex global optimization problem primarily from the viewpoint of the number of parameters that need to be adjusted and expansive evaluations. Although the standard algorithm is a viable choice for tackling this problem, the performed testing and analysis showed that the proposed enhancements yield improved performance in this case as wel
Parallel keywords (Croatian)Diferencijalna evolucija inicijalizacija populacije klasifikacija mutacija numericka optimizacija radijalne mreže samopodešavanje parametara
Versionaccepted version
Resource typetext
Access conditionOpen access
Terms of usehttp://rightsstatements.org/vocab/InC/1.0/
Noteaccepted version
URN:NBNhttps://urn.nsk.hr/urn:nbn:hr:200:645925
CommitterAnka Ovničević