Розроблення безпекового модуля для протидії кібератакам та інфільтрації у системи штучного інтелекту

Abstract

Об’єктом роботи є процес захисту систем на основі великих мовних моделей від кібератак та інфільтрації через маніпуляцію підказками. Метою роботи є розроблення безпекового модуля – шлюзу на базі REST API із багатошаровим захистом LLM від атак. Методи роботи: регулярні вирази та Unicode-нормалізація для виявлення загроз, зважена агрегація для оцінювання ризику, метрики бінарної класифікації для оцінювання ефективності. Практична цінність полягає у можливості інтеграції розробленого модуля у реальні LLM-сервіси як незалежного рівня захисту без прив’язки до конкретної моделі. Розроблений модуль досягає задовільних показників метрик. Область застосування – комерційні, освітні та корпоративні сервіси, що використовують LLM-інтерфейси та потребують захисту від зловживань.