Этот пост содержит другую визуализацию эксперимента «Регуляризация с точки зрения весов».
Смещение результатов
Набор данных изображения STL
Z: Базовый уровень (без регуляризации) (без нормализации партии)
Набор данных изображения STL
Z: исходный уровень (без регуляризации) (с нормализацией партии)
Набор данных изображения STL
A: abs(Theta) (без пакетной нормализации)
Набор данных изображения STL
A: абс (тета) (с пакетной нормализацией)
Набор данных изображения STL
B: Theta² (без пакетной нормализации)
Набор данных изображения STL
B: Theta² (с пакетной нормализацией)
Набор данных изображения STL
C: sqrt(Theta²) (без пакетной нормализации)
Набор данных изображения STL
C: sqrt(Theta²) (с пакетной нормализацией)
Набор данных изображения STL
D: — log(1+Theta²) (без пакетной нормализации)
Набор данных изображения STL
D: — log(1+Theta²) (с пакетной нормализацией)
Набор данных изображения STL
E: — tanh(Theta) (без пакетной нормализации)
Набор данных изображения STL
E: — tanh(Theta) (с пакетной нормализацией)
Набор данных изображения STL
F: — tanh(Theta²) (без пакетной нормализации)
Набор данных изображения STL
F: — tanh(Theta²) (с пакетной нормализацией)
Набор данных изображения STL
G: — tanh(abs(Theta)) (без пакетной нормализации)
Набор данных изображения STL
G: — tanh(abs(Theta)) (с пакетной нормализацией)
Набор данных изображения STL
H: — tanh(abs(Theta)²) (без пакетной нормализации)
Набор данных изображения STL
H: — tanh(abs(Theta)²) (с пакетной нормализацией)
Набор данных изображения STL
I: sin(Theta) (без пакетной нормализации)
Набор данных изображения STL
I: sin(Theta) (с пакетной нормализацией)
Набор данных изображения STL
J: abs(sin(Theta)) (без пакетной нормализации)
Набор данных изображения STL
J: abs(sin(Theta)) (с пакетной нормализацией)
Набор данных изображения STL
K: log(Theta²) (без пакетной нормализации)
Набор данных изображения STL
K: log(Theta²) (с пакетной нормализацией)
Набор данных изображения STL
L: Theta* log(Theta²) (без пакетной нормализации)
Набор данных изображения STL
L: Theta* log(Theta²) (с пакетной нормализацией)