Отказ от ответственности: это интуитивный обзор очень высокого уровня этой эзотерической темы. В этой статье не рассматриваются все технические тонкости.
Начнем с задачи одномерной бинарной классификации. Вот набор красных и зеленых точек, лежащих вдоль оси X.
Если мы дадим эту задачу машине линейных опорных векторов, у нее не возникнет проблем с классификацией двух классов красных и зеленых шаров путем рисования границы решения.
Представьте себе сценарий, когда машина линейных опорных векторов с трудом классифицирует эти два класса.
Сможете ли вы придумать, как провести линию а так, чтобы можно было разделить шары двух классов?
На самом деле в этом сценарии классы теперь более линейно разделимы! Здесь в игру вступает трюк с ядром.
Идея состоит в том, чтобы преобразовать входные данные из одномерного пространства в двумерное пространство.
Мы передаем точки входных данных в функцию f(x) =x² . На рисунке выше показано сопоставление исходных точек данных и точек после применения функции. После применения функции становится очевидным, что точки данных линейно разделимы.
Функция f(x)=x² называется «ядром».
На практике используются сложные ядра. Ядро Гаусса, функция радиального базиса, полиномиальное ядро и т. д. — вот лишь некоторые из них.
Если мы вернемся к исходным точкам данных, то обнаружим, что точки данных разделены параболической границей решения, которая является нелинейной.
Ядро-машины опорных векторов могут выходить за рамки линейных решений, что делает их более сложными, а также более применимыми к сценариям реального мира.