Проблема пояснювального штучного інтелекту в задачах нейровізуалізації

Abstract

У роботі розглянуто ключові виклики та методичні підходи концепції пояснювального штучного інтелекту (XAI) при аналізі даних медичної нейровізуалізації. Проаналізовано фундаментальну суперечність між високою діагностичною точністю сучасних глибоких моделей та їхньою непрозорістю для клініцистів. Здійснено порівняльний аналіз методів локального пояснення (Saliency Maps) та контрфактичного моделювання, висвітлено їхні вразливості до шумів та проблему «інтуїтивної когнітивності». Визначено, що вектор розвитку систем інтелектуальної підтримки лікарських рішень лежить у переході від ізольованого аналізу зображень до комплексних інтерпретованих макросистем, інтегрованих із графовими нейромережами та інструментами захищеного навчання.