Отказ от ответственности: это примечания к уроку Математическая часть сигмовидного нейрона (курс PadhAI onefourthlabs Первый курс глубокого обучения)

Алгоритм обучения:

Мы знаем, что нужно обновить вес w, используя формулы perticualr.

w = w+ ηΔw [η — малое значение]

Что нам нужно в основном после обновления

Потери(w)› Потери(w+ ηΔw)

Потеря должна уменьшиться после того, как мы обновим значение w.

Мы сделаем все это, используя ряды Тейлора.

Серия Тейлор:

Он говорит, что

Если у вас есть функция, и если вы знаете ее значение в любой точке, то ее значение в новой точке, которая находится ближе к старой точке, может быть задано по приведенной выше формуле.

Мы знаем, что x³ = 27, мы можем записать это как f(x) = x³

Каково значение f(27+0,000001)³

Точно так же мы используем, если мы используем его для функции потерь, применяя его для w или b, тогда мы используем его следующим образом.

Правило градиентного спуска:

  1. Направление u, в котором мы намерены двигаться, должно быть 180 градусов относительно градиента.
  2. Другими словами, двигайтесь в направлении, противоположном градиенту.

Наконец, проделав всю математику, мы пришли к окончательным формулам для всех обновлений значений w и b, то есть Δw, Δb, как показано ниже.

Таким образом, код, который мы пишем для модели сигмовидного нейрона, включает все это, как показано ниже.

Оценка:

Здесь также мы будем оценивать нашу модель на заданных тестовых данных.

Тестовые данные содержат y и yhat

y = истинное значение, yhat= прогнозируемое значение

Поэтому RMSE (среднеквадратичная ошибка) в основном используется для задач регрессии, а не для классификации. Если вы принудительно выполняете классификацию по определенному порогу, нам нужно двоично преобразовать выходные данные.

Наконец, точность определяется по той же формуле, что и отношение количества правильных прогнозов к общему количеству прогнозов.

Это небольшая попытка, загрузка заметок. Я верю в то, что «обмен знаниями — это лучший способ развития навыков». Буду признателен за комментарии. Могут быть предложены даже небольшие правки.

Каждые аплодисменты будут большим стимулом.

Подпишитесь на мою среду, чтобы получать больше обновлений……