Как создать подмодель на основе тонко настроенной VGGNet16

Следующая сетевая архитектура предназначена для поиска сходства между двумя изображениями.

Изначально взял VGGNet16 и снял классификационную головку:

vgg_model = VGG16(weights="imagenet", include_top=False,
input_tensor=Input(shape=(img_width, img_height, channels)))

После этого я установил параметр layer.trainable = False, чтобы сеть работала как средство извлечения признаков.

Я передал в сеть два разных изображения:

encoded_left = vgg_model(input_left)
encoded_right = vgg_model(input_right)

Это создаст два вектора признаков. Затем для классификации (независимо от того, похожи они или нет) я использовал метрическую сеть, которая состоит из 2 слоев свертки, за которыми следуют пулы и 4 полностью связанных слоя.

merge(encoded_left, encoded_right) -> conv-pool -> conv-pool -> reshape -> dense * 4 -> output

Следовательно, модель выглядит так:

model = Model(inputs=[left_image, right_image], outputs=output)

После обучения только метрической сети, для тонкой настройки сверточных слоев я установил последний блок convo для обучения. Следовательно, на второй фазе обучения, наряду с метрической сетью, также обучается последний блок свертки.

Теперь я хочу использовать эту настроенную сеть для другой цели. Вот сводка сети:

__________________________________________________________________________________________________
Layer (type)                    Output Shape         Param #     Connected to
==================================================================================================
input_1 (InputLayer)            (None, 224, 224, 3)  0
__________________________________________________________________________________________________
input_2 (InputLayer)            (None, 224, 224, 3)  0
__________________________________________________________________________________________________
vgg16 (Model)                   (None, 7, 7, 512)    14714688    input_1[0][0]
                                                                 input_2[0][0]
__________________________________________________________________________________________________
Merged_feature_map (Concatenate (None, 7, 7, 1024)   0           vgg16[1][0]
                                                                 vgg16[2][0]
__________________________________________________________________________________________________
mnet_conv1 (Conv2D)             (None, 7, 7, 1024)   4195328     Merged_feature_map[0][0]
__________________________________________________________________________________________________
batch_normalization_1 (BatchNor (None, 7, 7, 1024)   4096        mnet_conv1[0][0]
__________________________________________________________________________________________________
activation_1 (Activation)       (None, 7, 7, 1024)   0           batch_normalization_1[0][0]
__________________________________________________________________________________________________
mnet_pool1 (MaxPooling2D)       (None, 3, 3, 1024)   0           activation_1[0][0]
__________________________________________________________________________________________________
mnet_conv2 (Conv2D)             (None, 3, 3, 2048)   8390656     mnet_pool1[0][0]
__________________________________________________________________________________________________
batch_normalization_2 (BatchNor (None, 3, 3, 2048)   8192        mnet_conv2[0][0]
__________________________________________________________________________________________________
activation_2 (Activation)       (None, 3, 3, 2048)   0           batch_normalization_2[0][0]
__________________________________________________________________________________________________
mnet_pool2 (MaxPooling2D)       (None, 1, 1, 2048)   0           activation_2[0][0]
__________________________________________________________________________________________________
reshape_1 (Reshape)             (None, 1, 2048)      0           mnet_pool2[0][0]
__________________________________________________________________________________________________
fc1 (Dense)                     (None, 1, 256)       524544      reshape_1[0][0]
__________________________________________________________________________________________________
batch_normalization_3 (BatchNor (None, 1, 256)       1024        fc1[0][0]
__________________________________________________________________________________________________
activation_3 (Activation)       (None, 1, 256)       0           batch_normalization_3[0][0]
__________________________________________________________________________________________________
fc2 (Dense)                     (None, 1, 128)       32896       activation_3[0][0]
__________________________________________________________________________________________________
batch_normalization_4 (BatchNor (None, 1, 128)       512         fc2[0][0]
__________________________________________________________________________________________________
activation_4 (Activation)       (None, 1, 128)       0           batch_normalization_4[0][0]
__________________________________________________________________________________________________
fc3 (Dense)                     (None, 1, 64)        8256        activation_4[0][0]
__________________________________________________________________________________________________
batch_normalization_5 (BatchNor (None, 1, 64)        256         fc3[0][0]
__________________________________________________________________________________________________
activation_5 (Activation)       (None, 1, 64)        0           batch_normalization_5[0][0]
__________________________________________________________________________________________________
fc4 (Dense)                     (None, 1, 1)         65          activation_5[0][0]
__________________________________________________________________________________________________
batch_normalization_6 (BatchNor (None, 1, 1)         4           fc4[0][0]
__________________________________________________________________________________________________
activation_6 (Activation)       (None, 1, 1)         0           batch_normalization_6[0][0]
__________________________________________________________________________________________________
reshape_2 (Reshape)             (None, 1)            0           activation_6[0][0]
==================================================================================================
Total params: 27,880,517
Trainable params: 13,158,787
Non-trainable params: 14,721,730

Поскольку последний блок свертки VGGNet уже обучен на настраиваемом наборе данных, я хочу разрезать сеть на уровне:

__________________________________________________________________________________________________
vgg16 (Model)                   (None, 7, 7, 512)    14714688    input_1[0][0]
                                                                 input_2[0][0]
__________________________________________________________________________________________________

и используйте это как мощный инструмент для извлечения функций. Для этой задачи я загрузил доработанную модель:

model = load_model('model.h5')

затем попытался создать новую модель как:

new_model = Model(Input(shape=(img_width, img_height, channels)), model.layers[2].output)

Это приводит к следующей ошибке:

`AttributeError: Layer vgg16 has multiple inbound nodes, hence the notion of "layer output" is ill-defined. Use `get_output_at(node_index)` instead.`

Пожалуйста, посоветуйте мне, где я делаю не так.


person Ali R. Memon    schedule 04.12.2019    source источник


Ответы (1)


Я пробовал несколько способов, но следующий метод работает отлично. Вместо создания новой модели как:

model = load_model('model.h5')
new_model = Model(Input(shape=(img_width, img_height, channels)), model.layers[2].output)

Я использовал такой способ:

model = load_model('model.h5')
sub_model = Sequential()
for layer in model.get_layer('vgg16').layers:
    sub_model.add(layer)

Надеюсь, это поможет другим.

person Ali R. Memon    schedule 05.12.2019