Гібридні еволюційні нейронні мережі та їх навчання - Вікторов, Є. О. (My University, 2011)
Дисертація присвячена дослідженню гібридних еволюційних нейронних мереж, котрі мають можливість в процесі навчання налаштовувати не тільки свої параметри, але й структуру, для вирішення таких задач інтелектуального аналізу даних, як прогнозування, ідентифікація або класифікація в умовах апріорної і поточної структурної та параметричної невизначеності. При цьому в ролі вхідних даних розглядалися часові ряди або масиви числових даних, представлені у вигляді таблиць «об'єкт-властивість». Основною метою дисертаційної роботи є розробка методів, що дозволили б подолати недолікі сучасних нейро-фаззі систем – відсутність ефективних механізмів структурної оптимізації і нездатність функціонувати в режимі реального часу. Поставлена мета була повністю вирішена завдяки введеній у рамках дисертаційної роботи багатовимірній каскадній нео-фаззі нейронній мережі і набору методів для налаштовування її синаптичних вагових коефіцієнтів і кількості каскадів. Крім того, в дисертаційній роботі пропонуються інші гібридні нейронні мережі, що є модифікацією каскадно-кореляційної архітектури, запропонованої Фальманом і Лєб’єром, кожна з яких має свої недоліки і переваги, серед яких можна відзначити можливість лінгвістичної інтерпретації отриманих результатів, підвищену чисельну стійкість методів навчання, простоту реалізації нейро- архітектури на платах. Як один з варіантів структурної адаптації нейро-фаззі мереж в роботі розглянуто механізм самоорганізації на основі методу групового урахування аргументів, який був застосований до так званої нео-фаззі нейронної мережі. Thesis is devoted to hybrid evolving neural networks which have ability to adjust not only their parameters, but also a structure to deal with such intelligent data analysis problems as forecasting, identification or classification under a priori and current structural and parametric uncertainty. Mentioned above hybrid systems are expected to process input data given as time series or arrays of numerical data in form of “object-property” tables.The main purpose of the thesis is to overcome the shortcomings of modern neurofuzzy systems – the lack of effective mechanisms for structural optimization and impossibility to process data in on-line mode. The problem was completely solved by the so called multivariate cascade neo-fuzzy neural network and a set of procedures for its synaptic weights and structure adjustment. Also the thesis offered other hybrid neural networks, which are modifications of the Cascade-Correlation Learning Architecture proposed by Fahlman and Lebiere, each of which has its disadvantages and advantages, among which the following could be marked out: linguistic interpretation of the obtained results, increased numerical stability of learning algorithms, convenient and easy on-board implementation capability. In this thesis the procedure for the synaptic weights adjustment of cascade neural networks in sequential data processing mode is introduced for the first time. Also in the thesis for the first time introduced a set of neural elements and architectures that use orthogonal polynomials systems as an activation functions. Proposed architectures have increased learning rate, and more numerically stable procedures for synaptic weights adjustment in comparison with conventional neural networks. As a variant of structural adaptation of the neuro-fuzzy networks in the thesis a mechanism of self-organization based on group method of data handling is considered. This technique was applied to the so called neo-fuzzy neural network.
Keywords: класичні системи ортогональних поліномів; орто-синапс; орто-нейрон; подвійний орто-нейрон; каскадна ортогональна нейронна мережа; квадратичний нейрон; нео-фаззі нейрон; МГУА; багатовимірна каскадна нео-фаззі нейронна мережа; classical orthogonal polynomials systems; ortho-synapse; ortho-neuron; double ortho-neuron; cascade orthogonal neural network; quadratic neuron; the neo-fuzzy neuron; GMDH; multivariate cascade neo-fuzzy neural network