Интерпретируемое машинное обучение (2022): различия между версиями

Материал из SecSem Wiki
Перейти к навигации Перейти к поиску
(Новая страница: «Страница курса "Интерпретируемое машинное обучение"»)
 
(→‎Задания)
 
(не показаны 22 промежуточные версии 2 участников)
Строка 1: Строка 1:
−
Страница курса "Интерпретируемое машинное обучение"
+
__NOTOC__
 +
Курс '''Интерпретируемое машинное обучение''' читается в весеннем семестре первого года обучения магистерской программы "Искусственный интеллект в кибербезопасности".
 +
 
 +
* '''Когда''': в четверг, 14:35.
 +
* '''Где''': дистанционно, [https://us02web.zoom.us/j/89520765465?pwd=RFVSYVhBY0N4Q2Rzai8raTlPbUVxdz09 ссылка на зум], [https://t.me/+4pURIJfM2bU4NDIy ссылка на чат]
 +
 
 +
Курс рекомендуется студентам, интересующимся методами интерпретации для моделей машинного обучения.
 +
 
 +
Оценка за курс будет определяться по результатам выполнения домашних заданий заданий. Выполнение всех домашних заданий позволяют получить "зачет" автоматически.
 +
 
 +
== Лекции ==
 +
* '''14.02''' - ML задачи в кибербезопасности [https://www.dropbox.com/s/ff6uqqijyvmh8dz/1_MLinCybersecurity.pdf?dl=0 слайды]
 +
* '''21.02''' - Введение в интерпретируемое машинное обучение [https://www.dropbox.com/s/ye2qk2xq5vp75xd/2_XAIIntro.pdf?dl=0 слайды] [https://www.dropbox.com/s/2g77fvvljwh6izs/2_XAIIntro_1.mp4?dl=0 видео - часть 1] [https://www.dropbox.com/s/9fotma9b4iaf9pw/2_XAIIntro_2.mp4?dl=0 видео - часть 2]
 +
* '''18.03''' - LIME [https://www.dropbox.com/s/yglbepfkl53q43c/3_Lime.pdf?dl=0 слайды] [https://www.dropbox.com/s/gvugffzv52ng1j0/3_Lime.mp4?dl=0 видео]
 +
* '''24.03''' - SHAP [https://www.dropbox.com/s/b6rvh6rzig65ieg/4_SHAP.pdf?dl=0 слайды] [https://www.dropbox.com/s/pa6pwg8wvxh14qy/4_SHAP.mp4?dl=0 видео]
 +
* '''31.03''' - PDP, ICE, ALE [https://www.dropbox.com/s/ld05h4fh9zmo5l7/5_PDP_ICE_ALE.pdf?dl=0 слайды] [https://www.dropbox.com/s/fzxasn5m2zq9wcc/5_PDP_ICE_ALE.mp4?dl=0 видео]
 +
* ''' 7.04''' - Saliency maps, DeconvNet, Occlusion Sensitivity, Integrated gradients [https://www.dropbox.com/s/db2c6y4xaccuhpw/6_SDOI.ipynb?dl=0 тетрадка] [https://www.dropbox.com/s/fq6p6vjeswrs08p/6_SDOI.mp4?dl=0 видео]
 +
* '''14.04''' - Backpropagation methods: Vanila backprop, Guided backprop, CAM (class activation methods), Grad-CAM+, Grad-CAM++ [https://www.dropbox.com/s/hyk5dollr4d7iik/7_Backprop_methods.ipynb?dl=0 тетрадка]
 +
* '''21.04''' - Visual Transformers [https://www.dropbox.com/s/gfyb3g4y6epikxt/8_ViT.ipynb?dl=0 тетрадка] [https://www.dropbox.com/s/x1kx7kzlzxq0otb/8_ViTs.mp4?dl=0 видео]
 +
* '''28.04''' - Deep Taylor decomposition, Layer-wise Relevance Propagation [https://www.dropbox.com/s/n2ho4s8nfk2fpn6/9_LRP.ipynb?dl=0 тетрадка] [https://www.dropbox.com/s/28fod9sjccvgpdm/9_LRP.mp4?dl=0 видео]
 +
 
 +
== Задания ==
 +
# Реализация LIME и SHAP [https://t.me/c/1554651430/20 Описание задания] Дедлайн: 26 марта
 +
# Интерпретация нейронных сетей для картинок [https://t.me/c/1554651430/78 Распределение методов интерпретации по людям] Дедлайн: 20 мая
 +
 
 +
== Полезные ссылки и литература ==
 +
=== Книги ===
 +
# [https://cset.georgetown.edu/publication/machine-learning-and-cybersecurity/ Machine Learning and Cybersecurity (2021)]
 +
# [https://www.dropbox.com/s/wd6g3jhi0qy3eyv/interpretable-machine-learning.pdf?dl=0 Molnar "Interpretable Machine Learning" (2020)]
 +
# [https://github.com/PacktPublishing/Interpretable-Machine-Learning-with-Python Masis "Interpretable Machine Learning with Python" (2021)]
 +
# [https://www.dropbox.com/s/ive59hcn7783vpm/%D0%9B%D0%B5%D0%BA%D1%86%D0%B8%D0%B8_%D0%BF%D0%BE_%D1%84%D1%83%D0%BD%D0%BA%D1%86%D0%B8%D0%BE%D0%BD%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%D0%BC%D1%83_%D0%B0%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7%D1%83_%D0%A5%D0%B5%D0%BB%D0%B5%D0%BC%D1%81%D0%BA%D0%B8%D0%B9_A_%D0%AF_z_lib_org.pdf?dl=0 Хелемский "Лекции по функциональному анализу"]
 +
=== Статьи ===
 +
# [https://www.dropbox.com/s/h7sa4zi3n44qmkb/lime_paper.pdf?dl=0 Ribeiro "“Why Should I Trust You?” Explaining the Predictions of Any Classifier" (2016)]
 +
# Friedman, Jerome H. “Greedy function approximation: A gradient boosting machine.” Annals of statistics (2001): 1189-1232
 +
# Apley, Daniel W. “Visualizing the effects of predictor variables in black box supervised learning models.” arXiv preprint arXiv:1612.08468 (2016)
 +
# [https://arxiv.org/abs/1706.07979 "General Activation Maximization, Activation Maximization in Codespace, Simple Taylor Decomposition, Deep Taylor Decomposition, LRP-ab"]
 +
# [https://distill.pub/2017/feature-visualization/ "DeepDream"]
 +
# [https://arxiv.org/pdf/1312.6034.pdf "Saliency Map, Vanilla Backpropagation"]
 +
# [https://arxiv.org/pdf/1311.2901.pdf "DeConvNet Full Input Reconstruction, DeConvNet Partial Input Reconstruction, Occlusion Sensitivity"]
 +
# [https://arxiv.org/pdf/1412.6806.pdf "Guided Backpropagation"]
 +
# [https://arxiv.org/pdf/1703.01365.pdf "Integrated Gradients"]
 +
# [https://arxiv.org/pdf/1706.03825.pdf "SmoothGrad"]
 +
# [http://iphome.hhi.de/samek/pdf/MonXAI19.pdf "Deep Taylor Decomposition, LRP-0, -epsilon, -gamma, LRP-ab"]
 +
# [https://arxiv.org/pdf/1704.02685.pdf "DeepLIFT"]
 +
# [http://cnnlocalization.csail.mit.edu/Zhou_Learning_Deep_Features_CVPR_2016_paper.pdf "Class Activation Map (CAM)"]
 +
# [https://arxiv.org/pdf/1610.02391.pdf "Gradient-Weighted Class Activation Map (Grad-CAM)"]
 +
=== Репозитории и либы ===
 +
# https://github.com/marcotcr/lime
 +
# https://shap.readthedocs.io
 +
# https://scikit-learn.org/stable/modules/partial_dependence.html

Текущая версия на 13:03, 30 апреля 2022

Курс Интерпретируемое машинное обучение читается в весеннем семестре первого года обучения магистерской программы "Искусственный интеллект в кибербезопасности".

Курс рекомендуется студентам, интересующимся методами интерпретации для моделей машинного обучения.

Оценка за курс будет определяться по результатам выполнения домашних заданий заданий. Выполнение всех домашних заданий позволяют получить "зачет" автоматически.

Лекции

Задания

  1. Реализация LIME и SHAP Описание задания Дедлайн: 26 марта
  2. Интерпретация нейронных сетей для картинок Распределение методов интерпретации по людям Дедлайн: 20 мая

Полезные ссылки и литература

Книги

  1. Machine Learning and Cybersecurity (2021)
  2. Molnar "Interpretable Machine Learning" (2020)
  3. Masis "Interpretable Machine Learning with Python" (2021)
  4. Хелемский "Лекции по функциональному анализу"

Статьи

  1. Ribeiro "“Why Should I Trust You?” Explaining the Predictions of Any Classifier" (2016)
  2. Friedman, Jerome H. “Greedy function approximation: A gradient boosting machine.” Annals of statistics (2001): 1189-1232
  3. Apley, Daniel W. “Visualizing the effects of predictor variables in black box supervised learning models.” arXiv preprint arXiv:1612.08468 (2016)
  4. "General Activation Maximization, Activation Maximization in Codespace, Simple Taylor Decomposition, Deep Taylor Decomposition, LRP-ab"
  5. "DeepDream"
  6. "Saliency Map, Vanilla Backpropagation"
  7. "DeConvNet Full Input Reconstruction, DeConvNet Partial Input Reconstruction, Occlusion Sensitivity"
  8. "Guided Backpropagation"
  9. "Integrated Gradients"
  10. "SmoothGrad"
  11. "Deep Taylor Decomposition, LRP-0, -epsilon, -gamma, LRP-ab"
  12. "DeepLIFT"
  13. "Class Activation Map (CAM)"
  14. "Gradient-Weighted Class Activation Map (Grad-CAM)"

Репозитории и либы

  1. https://github.com/marcotcr/lime
  2. https://shap.readthedocs.io
  3. https://scikit-learn.org/stable/modules/partial_dependence.html
Источник — https://course.secsem.ru/w/index.php?title=Интерпретируемое_машинное_обучение_(2022)&oldid=672