Адаптация активационных функций в глубоких нейронных сетях - Слепанская, В. Д.; Дейнеко, А. А.; Бодянский, Е. В. (НТУ «ХПИ», 2019)
В настоящее время искусственные нейронные сети (ANN) получили широкое распространение для решения широкого класса практических задач, связанных с обработкой информации, благодаря своим универсальным аппроксимирующим возможностям и способности обучаться в процессе анализа данных. Существенно более высокого качества результатов можно добиться с помощью глубоких нейронных сетей (DNN), численная реализация которых наталкивается на вычислительные трудности, порождаемые эффектами «исчезающего» и «взрывающегося» градиента.
Keywords: искусственные нейронные сети; обработка информации; глубокая нейронная сеть