Интерпретируемое машинное обучение (2022)

Курс Интерпретируемое машинное обучение читается в весеннем семестре первого года обучения магистерской программы "Искусственный интеллект в кибербезопасности".

• Когда: в четверг, 14:35.
• Где: дистанционно, ссылка на зум, ссылка на чат

Курс рекомендуется студентам, интересующимся методами интерпретации для моделей машинного обучения.

Оценка за курс будет определяться по результатам выполнения домашних заданий заданий. Выполнение всех домашних заданий позволяют получить "зачет" автоматически.

Лекции

• 14.02 - ML задачи в кибербезопасности слайды
• 21.02 - Введение в интерпретируемое машинное обучение слайды видео - часть 1 видео - часть 2
• 18.03 - LIME слайды видео
• 24.03 - SHAP слайды видео
• 31.03 - PDP, ICE, ALE слайды видео
• 7.04 - Saliency maps, DeconvNet, Occlusion Sensitivity, Integrated gradients тетрадка видео

Задания

1. Реализация LIME и SHAP Описание задания Дедлайн: 26 марта
2. Интерпретация нейронных сетей для картинок Распределение методов интерпретации по людям Дедлайн: 12 мая

Полезные ссылки и литература

1. Machine Learning and Cybersecurity (2021)
2. Molnar "Interpretable Machine Learning" (2020)
3. Masis "Interpretable Machine Learning with Python" (2021)
4. Ribeiro "“Why Should I Trust You?” Explaining the Predictions of Any Classifier" (2016)
5. https://github.com/marcotcr/lime
6. https://shap.readthedocs.io
7. https://scikit-learn.org/stable/modules/partial_dependence.html
8. Friedman, Jerome H. “Greedy function approximation: A gradient boosting machine.” Annals of statistics (2001): 1189-1232
9. Apley, Daniel W. “Visualizing the effects of predictor variables in black box supervised learning models.” arXiv preprint arXiv:1612.08468 (2016)