Публикации по теме 'batch-normalization'
Концепция нормализации и пакетной нормализации
Давайте начнем с понимания необходимости нормализации и того, что это такое.
Допустим, вам дан набор данных о ценах на жилье с n характеристиками. Некоторые из его характеристик - это площадь, количество комнат, количество этажей, год постройки, материал крыши и т. Д. и один столбец с надписью продажной цены.
Если вы посмотрите на значения функции «Площадь», они могут варьироваться от сотен до тысяч, например, 800 кв. Футов, 1500 кв. Футов, 1200 кв. Футов. А значения признака - «Нет...
Вопросы по теме 'batch-normalization'
Tensorflow: использование пакетной нормализации дает плохие (неустойчивые) потери и точность проверки
Я пытаюсь использовать пакетную нормализацию с помощью tf.layers.batch_normalization () и мой код выглядит так:
def create_conv_exp_model(fingerprint_input, model_settings, is_training):
# Dropout placeholder
if is_training:...
1804 просмотров
schedule
03.10.2021
Как рассчитать пакетную нормализацию с помощью Python?
Когда я внедряю пакетную нормализацию в python с нуля, я сбиваюсь с толку. См. документ , в котором приведены некоторые цифры о методах нормализации, я думаю, что это может быть неверно. Описание и рисунок неверны.
Описание из статьи:...
97 просмотров
schedule
23.03.2022
Восстановите обученную модель тензорного потока, отредактируйте значение, связанное с узлом, и сохраните его.
Я обучил модель с помощью tensorflow и использовал пакетную нормализацию во время обучения. Для пакетной нормализации требуется, чтобы пользователь передал логическое значение is_training , чтобы указать, находится ли модель в фазе обучения или...
1242 просмотров
schedule
21.05.2022
Как настроить InceptionV3 в Керасе
Я пытаюсь обучить классификатор на основе архитектуры InceptionV3 в Керасе. Для этого я загрузил предварительно обученную модель InceptionV3 без вершины и добавил последний полностью связанный слой для классов моей задачи классификации. В первом...
146 просмотров
schedule
25.05.2022
Пакетная нормализация с помощью трехмерных сверток в TensorFlow
Я реализую модель, основанную на трехмерных свертках (для задачи, аналогичной распознаванию действий), и хочу использовать пакетную нормализацию (см. [Иоффе и Сегеди 2015] ). Я не смог найти ни одного учебника, посвященного трехмерным конвенциям,...
6971 просмотров
schedule
14.06.2022
Как использовать BatchNormalization с тензорным потоком?
У меня проблемы с использованием пакетной нормализации с тензорным потоком. Я построил следующую модель:
def weight_variable(kernal_shape):
weights = tf.get_variable(name='weights', shape=kernal_shape, dtype=tf.float32, trainable=True,...
1496 просмотров
schedule
30.06.2022
Подходит ли мой код для использования слоев пакетной нормализации в тензорном потоке?
У меня есть два входа: qi_pos & qi_neg одинаковой формы. Они должны быть обработаны двумя слоями mlp и, наконец, получить два результата, которые действуют как оценка. Вот мои коды:
self.mlp1_pos = nn_layers.full_connect_(qi_pos,...
65 просмотров
schedule
03.08.2022
Использование пакетной нормализации с выпадением на этапе тестирования дает Nan
Я пытаюсь добавить пакетную нормализацию в свой CNN и прочитал много сообщений о том, как это сделать, но все же моя реализация дает в результате массив нанов при установке для обучения значения False.
При установке для обучения значения True...
917 просмотров
schedule
01.08.2022
Плохой результат с пакетной нормализацией
Я пытался реализовать DCGan , документ для лица, и заблокирован двумя нижеприведенными проблемами почти для 2 недели. Мы ценим любые предложения. Спасибо.
Проблема 1:
В документе DCGAN предлагается использовать BN (Batch Normalization) как...
707 просмотров
schedule
19.08.2022
Разница между tf.nn.batch_normalization и tf.nn.batch_norm_with_global_normalization
Я пытаюсь реализовать пакетную нормализацию с помощью tensorflow и нашел этот хороший пост . Обе функции, кажется, принимают схожие параметры, но кажется, что люди используют последнюю больше.
Могут ли они использоваться взаимозаменяемо? Если...
1033 просмотров
schedule
20.11.2022
как добавить настраиваемый слой bn в caffe
Я загружаю проект deeplabV2 с GitHub и обнаруживаю, что в нем нет слоя "BN" . Я хотите добавить его в код кафе, но столкнулись с этой ошибкой:
src/caffe/layers/batch_norm_layer.cpp:250:31:
error: macro "REGISTER_LAYER_CLASS" requires 2...
260 просмотров
schedule
22.05.2023
ValueError: Tensor (BN_1/moments/Squeeze:0, shape=(32, 256, 32), dtype=float32) должен быть из того же графа, что и Tensor
Я пытаюсь начать работу с TensorFlow в python, создавая простую CNN с пакетной нормализацией. Но когда я создаю новый график для запуска, исключение происходит с BN.
Мои ключевые коды следующие
**# exception here**
def batch_norm(x, beta,...
519 просмотров
schedule
13.06.2023
Keras: пакетная нормализация (ось = 1) имеет ранг 0
Я пытаюсь создать нейронную сеть с вводом (пакет, каналы (3), 64, 32). В Keras, но у меня есть ошибки с использованием пакетной нормализации (поскольку ошибка начинается с упомянутого слоя, я решил изолировать часть, которая вызывает error) Модель...
1024 просмотров
schedule
13.04.2023
Как работает keras.layers.Batchnomalization?
Я пробовал пакетную нормализацию для набора игрушек [[1,2],[5,4]. Нормируя среди оси = 0, мы получаем
#[[-1/sqrt(2),-1/sqrt(2)],[1/sqrt(2), 1/sqrt(2)]]
Однако мой слой (ось = 0) и слой (ось = 1) дают неверный результат.
X =...
190 просмотров
schedule
31.10.2022
Потеря валидации ›› Потеря поезда, те же данные, двоичный классификатор
Я реализовал нейронную сеть этой статьи с некоторыми отличиями (изображение ниже) для классификации ЭЭГ; train_on_batch производительность отличная, с очень низкими потерями, но test_on_batch производительность, хотя и для одних и тех же...
201 просмотров
schedule
25.12.2022
Как использовать пакетную нормализацию Tensorflow с GradientTape?
Предположим, у нас есть простая модель Keras, использующая BatchNormalization:
model = tf.keras.Sequential([
tf.keras.layers.InputLayer(input_shape=(1,)),
tf.keras.layers.BatchNormalization()
])
Как...
971 просмотров
schedule
16.07.2023
Детали расчета пакетной нормализации
Я реализую алгоритм BN в своей модели CNN, используя C++. Но я очень смущен из-за его расчета среднего и стандартного отклонения. Давайте посмотрим на фотографии ниже.
Насколько я знаю, нужно вычислять среднее значение каждого пикселя....
46 просмотров
schedule
13.06.2023
Невозможно загрузить модель Keras в Keras 2.4.3 (с Tensorflow 2.3.0), которая была сохранена в Keras 2.1.0 (с Tensorflow 1.3.0)
Я реализую модель Keras с настраиваемым слоем пакетной перенормировки, который имеет 4 веса (бета, гамма, running_mean и running_std) и 3 переменные состояния (r_max, d_max и t):
self.gamma = self.add_weight(shape = shape, #NK - shape = shape...
1922 просмотров
schedule
22.10.2022
Модель Tensorflow выводит другое значение во время вывода
Во время обучения я записываю прогнозируемые значения, которые моя модель регрессора выводит на основе данных обучения. Когда я запустил тот же набор данных в режиме прогнозирования, диапазон значений, которые выводит модель, сильно отличается:...
410 просмотров
schedule
31.12.2023
Пакетная нормализация вызывает огромную разницу между обучением и потерей вывода
Я выполнил инструкции на веб-странице Tensorflow по tf.layers.batch_normalization установить training равным True при обучении и False при выводе (действительном и тестовом).
Однако пакетная нормализация всегда дает мне огромную разницу...
1888 просмотров
schedule
29.01.2024
