Дослідження методу покращення роботи великих мовних моделей з використанням технології RAG

Abstract

Об’єктом дослідження є процес обробки текстової інформації та пошуку релевантних знань у системах, на основі технології RAG та LLM. Предметом дослідження є методи семантичного пошуку у RAG-системах на основі векторних представлень тексту та LLM. Метою дослідження є аналіз, проєктування та реалізація підходу до підвищення якості відповідей LLM шляхом використання технології RAG, а також оцінювання ефективності цього підходу на практичному застосунку. Використано метод Dense Retrieval, модель SentenceTransformers, а також векторну базу FAISS. Для генерації відповідей застосовано модель GPT-4o-mini. Проведено аналітичний огляд сучасних підходів до побудови RAG-архітектур, механізмів індексації та взаємодії LLM із зовнішніми джерелами даних. Наукова новизна роботи полягає в удосконаленні процесу семантичного пошуку шляхом застосування щільних векторних уявлень і динамічного формування контексту для LLM. Взаємозв’язок з іншими роботами полягає у підвищенні ефективності LLM, підходами семантичного пошуку й інтеграції зовнішніх знань. Рекомендації щодо використання результатів роботи сформовано на основі проведених експериментів і подано у висновках. У результаті дослідження розроблено застосунок, що виконує індексацію документів, здійснює семантичний пошук на основі технології RAG та генерує точні відповіді, комбінуючи інформацію з бази знань і можливості LLM.