Объясняемость модели становится основной частью конвейера машинного обучения. Сохранение модели машинного обучения в виде «черного ящика» больше не вариант. К счастью, есть инструменты, которые быстро развиваются и становятся все более популярными. Это руководство представляет собой практическое руководство по XAI-анализу пакета Python с открытым исходным кодом SHAP для решения проблемы регрессии. SHAP (Аддитивные объяснения Шепли) Лундберга и Ли ( 2016 ) - это метод объяснения..