Розпізнавання зображень згортковими нейронними мережами з використанням різних активаційних функцій

Abstract

Об’єкт дослідження – розпізнавання зображень згортковими нейронними мережами. Предмет дослідження – ефективність використання деяких активаційних функцій при розпізнаванні зображень згортковими нейронними мережами. Мета роботи – дослідження існуючих активаційних функцій, розглядання можливих нових активаційних функцій, та оцінка їх ефективності в задачі класифікації зображень з використанням згорткових нейронних мереж. Методи дослідження – аналіз літератури та визначення закономірностей, що можуть робити деякі існуючі активаційні функції успішними, та відповідне створення можливих нових активаційних функцій, із проведенням експериментів з використанням реальних даних для оцінки їх ефективності. У роботі були сформовані прості емпіричні правила для створення нових активаційних функцій, та створена і протестована низка нових активаційних функцій. Загалом було випробувано 37 різновидів нових функцій та порівняно їх із 35 існуючими. Були проведені експерименти із наборами даних CIFAR-10, MNIST, Fashion-MNIST.