Порівняльний аналіз архітектурних рішень для інтеграції довготривалої пам’яті у діалогові системи

Abstract

Тематика обмеженої контекстуальної пам’яті існуючих великих мовних моделей (LLMs) є одним із ключових архітектурних викликів у проєктуванні сучасних діалогових систем. Кінцевий розмір контекстного вікна призводить до втрати релевантної інформації під час тривалих сесій, що знижує актуальність та якість взаємодії. Це, в свою чергу, вимагає пошуку та аналізу архітектурних рішень, здатних розширити пам’ять LLMs, забезпечуючи послідовність і логічну узгодженість діалогу