Лекция №14 "Explainability"
Четырнадцатое занятие на курсе «Нейронные сети и их применение в научных исследованиях» для восьмого потока обучения. Преподаватель: Виктор Немченко Дата: 13.02.2025 00:00 Заставка 00:51 Мотивация использования Explainability 06:10 Объяснимость моделей классического ML 06:38 Оценка важности признаков для линейных моделей 09:04 Оценка важности признаков для деревьев решений 13:00 Методы, изучающие отклик модели на изменение входных данных 13:22 ICE (Individual Conditional Expectation) 18:09 LIME (Local Interpretable Model-agnostic Explanations) 31:42 SHAP (SHapley Additive exPlanations) 42:42 Градиентные методы 42:50 Vanilla Gradient 46:34 SmoothGrad 49:21 Integrated Gradients 50:21 Grad-CAM 55:29 Критика градиентных методов Материалы лекции: Открыть в Colab: https://colab.research.google.com/drive/1-HsAyjuACyFcSt7k4k4kKx0eCHOTbLrq Открыть в HTML: https://msu.ai/explainability_notebook_new Сайт: https://msu.ai VK: https://vk.com/msu_ai Telegram: https://t.me/msu_ai_channel #MSU_AI#Фонд_Интеллект
Четырнадцатое занятие на курсе «Нейронные сети и их применение в научных исследованиях» для восьмого потока обучения. Преподаватель: Виктор Немченко Дата: 13.02.2025 00:00 Заставка 00:51 Мотивация использования Explainability 06:10 Объяснимость моделей классического ML 06:38 Оценка важности признаков для линейных моделей 09:04 Оценка важности признаков для деревьев решений 13:00 Методы, изучающие отклик модели на изменение входных данных 13:22 ICE (Individual Conditional Expectation) 18:09 LIME (Local Interpretable Model-agnostic Explanations) 31:42 SHAP (SHapley Additive exPlanations) 42:42 Градиентные методы 42:50 Vanilla Gradient 46:34 SmoothGrad 49:21 Integrated Gradients 50:21 Grad-CAM 55:29 Критика градиентных методов Материалы лекции: Открыть в Colab: https://colab.research.google.com/drive/1-HsAyjuACyFcSt7k4k4kKx0eCHOTbLrq Открыть в HTML: https://msu.ai/explainability_notebook_new Сайт: https://msu.ai VK: https://vk.com/msu_ai Telegram: https://t.me/msu_ai_channel #MSU_AI#Фонд_Интеллект