В этой статье мы рассмотрим некоторые из самых популярных методов интерпретации моделей машинного обучения. Эти методы не зависят от модели. Но я могу сказать, что большинство этих методов также в значительной степени полагаются на интерпретируемые алгоритмы, такие как регрессия, древовидная модель или вероятностная модель. На эту статью сильно повлияло Интерпретируемое машинное обучение Кристофа Молнара. Методы локальной интерпретации в основном представляют собой индивидуальные..

Интерпретируемость модели ML важна. Модель ML — это черный ящик, и никто не может быть уверен, что, несмотря на ее хорошую точность, модель работает корректно. Нам нужно знать, что происходит в черном ящике, и есть несколько методов, которые могут помочь нам понять, почему модель приняла те или иные решения. Что такое интерпретируемость? Интерпретируемость — это степень, в которой человек может понять причину решения. Чем выше интерпретируемость модели ML, тем легче кому-то..