В этой статье представлены подробные решения вопросов уровня магистра в области глубокого обучения, опубликованных в этой публикации.
- Что из следующего может решить проблему умирающего ReLU?
(a) Негерметичный ReLU
(b) Низкая скорость обучения
(c) Отсев
( г) нормализация партии
Правильные ответы: (a), (b) и (d).
(a): Leaky ReLU добавляет небольшой наклон к функции ReLU для x ‹ 0, что гарантирует, что модуль ReLU никогда не умрет:
