Липшиц

…и что "нет!

Наклон:

Для любого графика линия на графике образует наклон. Наклон задается уравнением (y2 — y1) / (x2 — x1) , где y2 — это значение на горизонтальной линии, которое соответствует x2, а y1 соответствует x1.

Самый крутой склон:

Для набора графиков вы можете найти, какой график имеет самый крутой наклон. Для приведенных выше графиков самым крутым является график с наклоном 2. Наибольшее значение является самым крутым. Склоны почти стоячие более крутые, чем склоны почти плоские.

Не держите ползающего ребенка на очень крутом склоне. Можно использовать очень пологий склон.

Наклон с интервалами:

Учитывая график, было бы неплохо знать наклон на любом интервале. Просто получите любые 2 точки по вашему выбору на оси x [x2,x1], найдите соответствующие значения на оси y [y2,y1] и найдите slope.

Лиспшиц:

Липшиц просто говорит, что для данного графика всегда есть самая крутая точка L.

Поскольку самый крутой наклон L на графике имеет наибольшее значение, то все остальные наклоны в любой точке графика не такие крутые, как L (или могут быть другие наклоны, такие же крутые, как L, но не более крутые, чем L). л).

Если график является 2-липшицевым, это означает, что самый крутой наклон на этом графике имеет значение 2 (что означает, что другие наклоны на графике меньше 2 или равны 2). Если это 43 липшица, это означает, что самый крутой наклон на этом графике имеет значение 43 (это означает, что другие наклоны на графике меньше 43, а некоторые могут быть равны 43, но ни один из них не превышает 43).

Для графика slope = (y2 — y1) / (x2 — x1) . Но есть самый крутой уклон, L, а все остальные уклоны меньше, чем L, или некоторые из них могут быть равны L
, то есть slope ≤ L, что означает (y2 — y1) / (x2 — x1) ≤ L. Но нас не интересуют отрицательные или положительные наклоны, а только значения, поэтому мы возьмем абсолютные значения (т.е. удалим все отрицательные знаки).

|y2 — y1| / |x2 — x1| ≤ L

умножение обеих сторон на |x2 — x1| ,

|y2 — y1| ≤ L * |x2 — x1| , что дает нам уравнение Липшица.

Использование в нейронных сетях:

Для очень крутых склонов вы обнаружите, что существует очень маленький диапазон значений x (то есть от 0 до 1) и большой диапазон значений y (от 0 до 100000000). Следовательно, небольшое увеличение x приведет к значительному увеличению y, что может подтолкнуть ваш прогноз к неправильной классификации.

С другой стороны, для очень пологих наклонов очень маленькое изменение x приводит к еще меньшему изменению y, что может быть полезно, если крошечные изменения являются шумами в ваших входных данных.