Банківський асистент використовуючи великі мовні моделі (LLM) - Гребінник, Є. В. (My University, 2025)
Мета роботи – створення банківського асистенту для класифікації банківських транзакцій на класи: Зловмисна, Легальна. Методи дослідження – теоретичний (збір та структуризація теоретичного матеріалу), експериментальний (програмна реалізація великої мовної моделі та її навчання). Методи розробки базуються на технологіях Python з фреймворками Pytorch, Transformers. У результаті було проведено аналіз архітектур великих мовних моделей та архітектури трансформер відповідно, досліджени методи навчання та роботи таких шарів як: self-attention, cross-attention, multi-head attention та блоків: encoder та decoder й використані існуючі набори даних, що складаються приблизно з 16000 банківських транзакцій. Аналогічні дані були використані для розрахунку метрики точності.
Keywords: банківська транзакція; мовна модель