Отказ от ответственности: это интуитивный обзор очень высокого уровня этой эзотерической темы. В этой статье не рассматриваются все технические тонкости.

Начнем с задачи одномерной бинарной классификации. Вот набор красных и зеленых точек, лежащих вдоль оси X.

Если мы дадим эту задачу машине линейных опорных векторов, у нее не возникнет проблем с классификацией двух классов красных и зеленых шаров путем рисования границы решения.

Представьте себе сценарий, когда машина линейных опорных векторов с трудом классифицирует эти два класса.

Сможете ли вы придумать, как провести линию а так, чтобы можно было разделить шары двух классов?

На самом деле в этом сценарии классы теперь более линейно разделимы! Здесь в игру вступает трюк с ядром.

Идея состоит в том, чтобы преобразовать входные данные из одномерного пространства в двумерное пространство.

Мы передаем точки входных данных в функцию f(x) =x² . На рисунке выше показано сопоставление исходных точек данных и точек после применения функции. После применения функции становится очевидным, что точки данных линейно разделимы.

Функция f(x)=x² называется «ядром».

На практике используются сложные ядра. Ядро Гаусса, функция радиального базиса, полиномиальное ядро ​​и т. д. — вот лишь некоторые из них.

Если мы вернемся к исходным точкам данных, то обнаружим, что точки данных разделены параболической границей решения, которая является нелинейной.

Ядро-машины опорных векторов могут выходить за рамки линейных решений, что делает их более сложными, а также более применимыми к сценариям реального мира.