Отказ от ответственности: это примечания к уроку Математическая часть сигмовидного нейрона (курс PadhAI onefourthlabs Первый курс глубокого обучения)
Алгоритм обучения:
Мы знаем, что нужно обновить вес w, используя формулы perticualr.
w = w+ ηΔw [η — малое значение]
Что нам нужно в основном после обновления
Потери(w)› Потери(w+ ηΔw)
Потеря должна уменьшиться после того, как мы обновим значение w.
Мы сделаем все это, используя ряды Тейлора.
Серия Тейлор:
Он говорит, что
Если у вас есть функция, и если вы знаете ее значение в любой точке, то ее значение в новой точке, которая находится ближе к старой точке, может быть задано по приведенной выше формуле.
Мы знаем, что x³ = 27, мы можем записать это как f(x) = x³
Каково значение f(27+0,000001)³
Точно так же мы используем, если мы используем его для функции потерь, применяя его для w или b, тогда мы используем его следующим образом.
Правило градиентного спуска:
- Направление u, в котором мы намерены двигаться, должно быть 180 градусов относительно градиента.
- Другими словами, двигайтесь в направлении, противоположном градиенту.
Наконец, проделав всю математику, мы пришли к окончательным формулам для всех обновлений значений w и b, то есть Δw, Δb, как показано ниже.
Таким образом, код, который мы пишем для модели сигмовидного нейрона, включает все это, как показано ниже.
Оценка:
Здесь также мы будем оценивать нашу модель на заданных тестовых данных.
Тестовые данные содержат y и yhat
y = истинное значение, yhat= прогнозируемое значение
Поэтому RMSE (среднеквадратичная ошибка) в основном используется для задач регрессии, а не для классификации. Если вы принудительно выполняете классификацию по определенному порогу, нам нужно двоично преобразовать выходные данные.
Наконец, точность определяется по той же формуле, что и отношение количества правильных прогнозов к общему количеству прогнозов.
Это небольшая попытка, загрузка заметок. Я верю в то, что «обмен знаниями — это лучший способ развития навыков». Буду признателен за комментарии. Могут быть предложены даже небольшие правки.
Каждые аплодисменты будут большим стимулом.
Подпишитесь на мою среду, чтобы получать больше обновлений……