Публикации по теме 'all-you-need-is-good-init'


ВСЕ, ЧТО ВАМ НУЖНО, ЭТО ХОРОШАЯ ИНИТ
Автор: Дмытро Мишкин , Иржи Матас Глубокие нейронные сети точны и быстры в выводах, но их трудно обучить с использованием таких методов, как обратное распространение ошибки, использование сигмовидной (или тангенциальной) нелинейности в полностью связанных слоях, если кто-то ошибается с инициализацией весов или предварительной обработкой этих данных. нелинейности могут насытить и полностью остановить обучение, потери при обучении будут постоянными и никогда не уменьшатся. Инициализация..