Нейромережна обробка багатовимірних сигналів - Островерхий, О. В. (My University, 2010)
У роботі проведено аналіз проблеми адаптивної обробки багатовимірної інформації за допомогою штучних нейронних мереж (ШНМ). Вивчено базові архітектури та методи навчання найчастіше використовуваних статичних та динамічних ШНМ, що застосовуються для розв’язання задач апроксимації, фільтрації, ідентифікації та класифікації. Запропоновано методи модифікації архітектури ШНМ СМАС для зниження вимог до пам’яті та підвищення ефективності обробки багатовимірних даних. Зокрема, розроблено метод автоматичної побудови адаптивної схеми дискретизації вхідних сигналів у ШНМ СМАС. Запропоновано удосконалені процедури навчання динамічних КІХ-мереж методом часового зворотного поширення з метою зменшення його обчислювальних витрат шляхом зміни порядку входження членів сум навчання. Отримано співвідношення між коефіцієнтом навчання та коефіцієнтом підсилення загальної функції активації нейронів модульних рекурентних ШНМ, що значно зменшує обчислювальні витрати, необхідні для реалізації процедур навчання цих мереж. Достовірність результатів підтверджується експериментальними дослідженнями та впровадженнями. У середовищі MatLab 7 проведено імітаційне моделювання різних задач апроксимації, фільтрації та ідентифікації багатовимірних нелінійних функцій за допомогою як статичних, так і динамічних ШНМ. The thesis covers the analysis of the problem of multidimensional data adaptive processing using artificial neural networks (ANN). The most frequently used static and dynamic ANN architectures and learning algorithms are investigated for their application in solving the approximation, filtration, identification, and classification problems. Several methods of CMAC ANN architecture modification are proposed with the purpose of reducing memory usage and improving the efficiency of multidimensional data processing. Specifically, an algorithm for creating the CMAC’s input space adaptive sampling scheme is developed. In addition, a method is proposed for modification of the temporal backpropagation algorithm for training the dynamic FIR networks in order to diminish computational complexity. The relation between the learning rate and nonlinear activation function gain coefficient in the dynamic recurrent ANNs is derived, which allows the computational costs of the training algorithms for these networks to be decreased. Simulation in the MatLab 7 environment shows the high efficiency of using ANNs for solving various problems of approximation, identification, and filtration of multidimensional nonlinear functions.
Keywords: штучна нейронна мережа; апроксимація; метод навчання ШНМ; динамічні ШНМ; фільтрація; адаптивна дискретизація; багатовимірна функція; artificial neural network; approximation; training algorithm; dynamic neural network; filtering; multidimensional function