Застосування методів Explainable AI (XAI) для підвищення прозорості ухвалення рішень у медичних інформаційних системах

Abstract

Об’єкт дослідження – процес ухвалення рішень у медичних інформаційних системах з використанням методів машинного навчання. Предмет дослідження – методи Explainable Artificial Intelligence (XAI), що застосовуються для підвищення прозорості, інтерпретованості та обґрунтованості рішень моделей машинного навчання в медичних інформаційних системах. Мета роботи – підвищення прозорості ухвалення рішень у медичних інформаційних системах шляхом застосування методів Explainable AI для інтерпретації результатів роботи моделей машинного навчання та забезпечення зрозумілих пояснень для медичних фахівців. Методи дослідження – методи аналізу та обробки медичних даних, алгоритми машинного навчання (градієнтний бустинг), методи пояснюваного штучного інтелекту, зокрема SHAP-аналіз, методи локальної та глобальної інтерпретації моделей, статистичні методи оцінки якості класифікації, а також методи програмної реалізації та експериментального дослідження.