Я просмотрел много статей о сверточных нейронных сетях и обнаружил, что есть несколько хороших структур, на которые я могу ссылаться. Например, AlexNet, VGG, GoogleNet.
Однако, если я хочу настроить архитектуру CNN самостоятельно, как расположить / упорядочить разные слои? Например. слой свертки, выпадение, максимальное объединение ... Есть ли стандарт? или просто продолжайте пробовать разные комбинации для получения хорошего результата?
На мой взгляд, стандартного стандарта нет, но комбинации
1-Например, если вы хотите создать более глубокую сеть, вы можете использовать остаточный блок, чтобы избежать проблемы исчезающего градиента.
2-Стандарт использования свертки 3,3 заключается в том, что он снижает вычислительные затраты, например, 3 одновременных свертки 3,3 могут достичь свертки 7,7 при меньших затратах.
3-Основная причина отсева состоит в том, чтобы ввести регуляризацию, которая также может быть достигнута путем пакетной нормализации, как утверждает автор.
4-Перед тем, что улучшать и как улучшать, нужно понять проблему, которую он / она пытается решить.
Вы можете ознакомиться с тематическим исследованием, которое было проведено в Стэндфорде,
Обычно вы хотите разместить слой объединения после сверточного слоя. Кроме того, вы можете думать о выпадении как о параметре, который применяется к слою, а не к отдельному слою в целом - в зависимости от того, что вам легче представить.
