Этот пост содержит другую визуализацию эксперимента «Регуляризация с точки зрения весов».

Смещение результатов

Набор данных изображения STL

Z: Базовый уровень (без регуляризации) (без нормализации партии)

Набор данных изображения STL

Z: исходный уровень (без регуляризации) (с нормализацией партии)

Набор данных изображения STL

A: abs(Theta) (без пакетной нормализации)

Набор данных изображения STL

A: абс (тета) (с пакетной нормализацией)

Набор данных изображения STL

B: Theta² (без пакетной нормализации)

Набор данных изображения STL

B: Theta² (с пакетной нормализацией)

Набор данных изображения STL

C: sqrt(Theta²) (без пакетной нормализации)

Набор данных изображения STL

C: sqrt(Theta²) (с пакетной нормализацией)

Набор данных изображения STL

D: — log(1+Theta²) (без пакетной нормализации)

Набор данных изображения STL

D: — log(1+Theta²) (с пакетной нормализацией)

Набор данных изображения STL

E: — tanh(Theta) (без пакетной нормализации)

Набор данных изображения STL

E: — tanh(Theta) (с пакетной нормализацией)

Набор данных изображения STL

F: — tanh(Theta²) (без пакетной нормализации)

Набор данных изображения STL

F: — tanh(Theta²) (с пакетной нормализацией)

Набор данных изображения STL

G: — tanh(abs(Theta)) (без пакетной нормализации)

Набор данных изображения STL

G: — tanh(abs(Theta)) (с пакетной нормализацией)

Набор данных изображения STL

H: — tanh(abs(Theta)²) (без пакетной нормализации)

Набор данных изображения STL

H: — tanh(abs(Theta)²) (с пакетной нормализацией)

Набор данных изображения STL

I: sin(Theta) (без пакетной нормализации)

Набор данных изображения STL

I: sin(Theta) (с пакетной нормализацией)

Набор данных изображения STL

J: abs(sin(Theta)) (без пакетной нормализации)

Набор данных изображения STL

J: abs(sin(Theta)) (с пакетной нормализацией)

Набор данных изображения STL

K: log(Theta²) (без пакетной нормализации)

Набор данных изображения STL

K: log(Theta²) (с пакетной нормализацией)

Набор данных изображения STL

L: Theta* log(Theta²) (без пакетной нормализации)

Набор данных изображения STL

L: Theta* log(Theta²) (с пакетной нормализацией)