Trust-adjusted risk assessment in a multi-agent decision support system for software development

Abstract

У роботі узагальнено сучасні підходи до оцінювання ризиків у багатoагентних системах підтримки прийняття рішень у межах парадигми TRiSM (Trust, Risk and Security Management). Показано, що сучасні агентні архітектури штучного інтелекту, які поєднують автономних агентів і центральний планувальник, формують багаторівневе поширення ризиків та каскадну динаміку відмов, що обумовлює обмеженість класичних моделей оцінювання ризиків, заснованих лише на ймовірності та впливі. Запропоновано підхід до оцінювання ризиків із урахуванням довіри як розширення традиційної моделі шляхом введення динамічного коефіцієнта довіри, який враховує відповідність політикам, результати валідації та моніторинг під час виконання. Встановлено узгодженість запропонованого підходу з принципами TRiSM та можливість його інтеграції з механізмами управління і валідації. Показано, що застосування підходу сприяє підвищенню системної стійкості та зниженню ефекту підсилення ризиків у багатoагентних СППР із централізованим планувальником