Нейрон - это основной блок обработки информации в нейронной сети.

В нейроне пять основных элементов. Нейрон обозначается как k.

Синапс

Синапс - это, по сути, входной сигнал для вашего нейрона. Синапс также известен как связующее звено. Каждый нейрон в нейронной сети ожидает набор синапсов.

Синапс обозначается как x kj, где k представляет нейрон, а j представляет индекс синапса. Общее количество синапсов, принимаемых нейроном, обозначается m.

К сожалению, Medium не поддерживает надстрочные и подстрочные индексы. Поэтому я выбрал простую альтернативу, в которой базовый компонент написан жирным шрифтом, тогда как символы верхнего и нижнего индекса написаны курсивом. Например, x² становится x 2 (x выделяется жирным шрифтом, а 2 - курсивом).

Параметр

Синапс умножается на соответствующее специальное значение, известное как параметр или вес. Параметр определяется на этапе обучения из вашего тренировочного набора. В нейроне с m синапсами есть m параметров. Другими словами, у каждого синапса есть соответствующий параметр. Следует отметить, что параметры могут находиться в таких интервалах, как [-1, 1] или [0, 1].

Параметр обозначается как w kj, где k представляет нейрон, а j представляет индекс параметра. Общее количество параметров равно общему количеству синапсов.

Линейный комбайнер

После того, как синапсы умножаются на соответствующие параметры, все они складываются в суммирующем соединении, которое также известно как линейный сумматор.

Выход суммирующего соединения обозначается как u k, где k представляет нейрон.

Предвзятость

К выходу суммирующего соединения добавляется внешнее значение, известное как смещение. Новое оцененное значение известно как индуцированное локальное поле или потенциал активации. Смещение либо увеличивает, либо уменьшает результат суммирующего соединения.

Когда значения индуцированного локального поля и выход суммирующего соединения нанесены на график, выполняется аффинное преобразование наблюдается из-за наличия значения смещения. Другими словами, построенный график не проходит через начало координат.

Смещение обозначается как b k. Индуцированное локальное поле или потенциал активации обозначается как v k.

Функция активации

Специальная функция, известная как функция активации, ограничивает амплитуду выходного сигнала нейрона. Другими словами, он нормализует вывод до интервала, такого как [0, 1] или [-1, 1].

Активация функция обозначается как φ.

Математические уравнения

Математически вышеприведенные утверждения можно записать следующим образом.