Вдосконалення агентів LLM шляхом використання їх в якості пошукових агентів

Abstract

Об’єкт дослідження – великі мовні моделі. Предмет дослідження – покращення ефективності мовних моделей через механізми масштабування під час виведення – залучення додаткових обчислень для покращення роботи моделі, на основі пошуку. Мета роботи – дослідження відмінностей між агентами на основі мовних моделей та класичними пошуковими агентами, причин цих відмінностей та можливості подолання проблем пов'язаних з їх наявністю. Методи дослідження – теоретичний, емпіричний. В результаті проведених досліджень проаналізовано, які відмінності заважають великим мовним моделям відтворювати окремі властивості пошукових агентів, запропоновано стратегію подолання відповідних перешкод і методи, які нею керуються. В якості програмної платформи використано бібліотеки машинного навчання «PyTorch», «transformers», фреймворк для управління агентами «LlamaIndex», бібліотеку для аналізу мовних моделей «NNsight», мову програмування Python 3. Реалізовані методи є ефективним інструментом масштабування під час виведення для мовних моделей і у відповідних їм сценаріях випереджають сучасні аналоги.