Дослідження методів автоматичної модерації контенту на платформі Discord на основі трансформерних моделей

Abstract

Метою роботи є розробка інтелектуальної системи у вигляді Discord-бота, який здійснює автоматичний аналіз користувальницького контенту, виявляє токсичні повідомлення та небажані зображення, а також забезпечує відповідну реакцію для підтримки безпечного середовища спілкування. Для досягнення поставленої мети у роботі вирішено такі задачі: проведено аналіз предметної галузі та визначено основні проблеми токсичності в онлайн-комунікації; виконано огляд існуючих методів і моделей для виявлення токсичного тексту та NSFW-зображень; обґрунтовано вибір підходів до реалізації системи; розроблено модулі класифікації тексту на основі трансформерних моделей та аналізу зображень із використанням методів комп’ютерного зору і мультимодальних моделей; реалізовано програмний засіб у вигляді Discord-бота; проведено тестування системи та оцінено її ефективність. У роботі використано сучасні методи обробки природної мови, глибинного навчання та комп’ютерного зору, зокрема трансформерні моделі для аналізу тексту та моделі для класифікації зображень. Практичне значення отриманих результатів ‒ використання розробленої системи для автоматичної модерації контенту в онлайн-спільнотах, що дозволяє зменшити навантаження на адміністраторів і підвищити рівень безпеки цифрового середовища.