Публікація: Покращена архитектура трансформера за рахунок квантових обчислень
Завантаження...
Дата
2025
Автори
Назва журналу
ISSN журналу
Назва тома
Видавництво
Анотація
Об’єктом дослідження є нейронні мережі трансформерної архітектури. Метою роботи є розробка та дослідження покращеної архітектури трансформера, що використовує квантові обчислювальні елементи для підвищення ефективності, швидкодії та якості обробки даних у задачах штучного інтелекту. Методами дослідження є аналіз літературних джерел з класичних і квантових трансформерів, математичне моделювання квантових обчислювальних блоків у структурі трансформера, симуляція роботи квантових нейронних мереж із застосуванням фреймворку PyTorch+ PennyLane, експериментальна перевірка моделі на типових задачах та порівняльний аналіз результатів з базовими класичними трансформерами. У результаті досліджено підходи до побудови гібридної трансформерної архітектури, яка поєднує класичні нейронні мережі з квантовими обчислювальними елементами. Розглянуто концепцію варіаційних квантових схем, реалізовано експериментальну модель на основі фреймворків PyTorch і PennyLane. Проведено навчання моделі на наборі даних IMDb для задачі аналізу сентименту, а також виконано порівняльну оцінку з класичним трансформером за основними метриками точності. Результати підтверджують перспективність інтеграції квантових елементів у глибокі архітектури для покращення узагальнюючих властивостей моделей.
Опис
Ключові слова
варіаційна квантова схема, квантові обчислення, квантово-посилена увага, q-трансформер
Бібліографічний опис
Попович К. С. Покращена архитектура трансформера за рахунок квантових обчислень : пояснювальна записка до кваліфікаційної роботи здобувача вищої освіти на другому (магістерському) рівні, спеціальність 122 Комп’ютерні науки / К. С. Попович ; М-во освіти і науки України, Харків. нац. ун-т радіоелектроніки. – Харків, 2025. – 59 с.