Дослідження методів покращення контекстної пам’яті чат-боту на основі великих мовних моделей

Abstract

Об’єктом дослідження є методи покращення контекстної пам’яті чат-боту на основі великих мовних моделей. Мета дослідження – порівняти методи покращення контекстної пам’яті чат-боту на основі великих мовних моделей задля вибору та обґрунтування найкращого з них. Використано методи Метод Sliding Window Context, Summarized (Episodic) Memory та RAG для реалізації чат-боту на основі великих мовних моделей. Проведено аналіз сучасних методів покращення контекстної пам’яті. Сформовано та візуалізовано алгоритми методів блок-схемами. Наукова новизна роботи полягає у розробленні гібридної методики покращення контекстної пам’яті, враховуючи сильні та слабкі сторони існуючих методів. Взаємозв’язок з іншими роботами полягає в удосконаленні контекстної пам’яті чат-боту для вирішення складних завдань, що вимагають багатоетапних міркувань або розрахунків. Рекомендації щодо використання результатів роботи сформовано за результатами тестування та наведено у висновках. У результаті дослідження розроблено застосунки чат-боту на основі великих мовних моделей з реалізацією методів покращення контекстної пам’яті. У результаті їх тестування отримано статистику точності відповідей відносно усіх підходів.