MLP с Scikitlearn: приложение искусственной нейронной сети для прогнозирования

Поздравляем с использованием [sklearn's MLPRegressor][1], знакомство с нейронными сетями всегда полезно.

Масштабирование входных данных имеет решающее значение для нейронных сетей. Рекомендуем просмотреть главу 11 книги Этама Алпайдина "Введение в машинное обучение". Это также очень подробно описано в статье об эффективности BackProp. . Проще говоря, очень важно масштабировать входные данные, чтобы ваша модель научилась нацеливать выходные данные.

На английском языке scaling в этом случае означает преобразование ваших данных в значения между 0 and 1 (включительно). Хороший публикация Stats Exchange описывает различия в масштабировании. . Для масштабирования MinMax вы сохраняете то же распределение ваших данных, в том числе чувствительны к выбросам. В sklearn существуют более надежные методы (описанные в этом посте), такие как RobustScaler.

Возьмем, к примеру, очень простой набор данных:

| Feature 1 | Feature 2 | Feature 3 | Feature 4 | Feature 5 | Target |
|:---------:|:---------:|:---------:|:---------:|:---------:|:------:|
|     1     |     17    |     22    |     3     |     3     |   53   |
|     2     |     18    |     24    |     5     |     4     |   54   |
|     1     |     11    |     22    |     2     |     5     |   96   |
|     5     |     20    |     22    |     7     |     5     |   59   |
|     3     |     10    |     26    |     4     |     5     |   66   |
|     5     |     14    |     30    |     1     |     4     |   63   |
|     2     |     17    |     30    |     9     |     5     |   93   |
|     4     |     5     |     27    |     1     |     5     |   91   |
|     3     |     20    |     25    |     7     |     4     |   70   |
|     4     |     19    |     23    |     10    |     4     |   81   |
|     3     |     13    |     8     |     19    |     5     |   14   |
|     9     |     18    |     3     |     67    |     5     |   35   |
|     8     |     12    |     3     |     34    |     7     |   25   |
|     5     |     15    |     6     |     12    |     6     |   33   |
|     2     |     13    |     2     |     4     |     8     |   21   |
|     4     |     13    |     6     |     28    |     5     |   46   |
|     7     |     17    |     7     |     89    |     6     |   21   |
|     4     |     18    |     4     |     11    |     8     |    5   |
|     9     |     19    |     7     |     21    |     5     |   30   |
|     6     |     14    |     6     |     17    |     7     |   73   |

Я могу немного изменить ваш код, чтобы поиграть с этим:

import pandas as pd, numpy as np
from sklearn.neural_network import MLPRegressor
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import RobustScaler
from sklearn.metrics import mean_squared_error 

df = pd.read_clipboard()

# Build data
y = df['Target'].to_numpy()
scaled_y = df['Target'].values.reshape(-1, 1) #returns a numpy array
df.drop('Target', inplace=True, axis=1)
X = df.to_numpy()

#scaling with RobustScaler
scaler = RobustScaler()
X = scaler.fit_transform(X)

# Scaling y just to show you the difference
scaled_y = scaler.fit_transform(scaled_y)

# Set random_state so we can replicate results
X_train , X_test, y_train, y_test = train_test_split(X,y,test_size=0.2, random_state=8)
scaled_X_train , scaled_X_test, scaled_y_train, scaled_y_test = train_test_split(X,scaled_y,test_size=0.2, random_state=8)

mlp = MLPRegressor(activation='logistic')
scaled_mlp = MLPRegressor(activation='logistic')

mlp.fit(X_train, y_train)
scaled_mlp.fit(scaled_X_train, scaled_y_train)

preds = mlp.predict(X_test)
scaled_preds = mlp.predict(scaled_X_test)

for pred, scaled_pred, tar, scaled_tar in zip(preds, scaled_preds, y_test, scaled_y_test):
    print("Regular MLP:")
    print("Prediction: {} | Actual: {} | Error: {}".format(pred, tar, tar-pred))
    
    print()
    print("MLP that was shown scaled labels: ")
    print("Prediction: {} | Actual: {} | Error: {}".format(scaled_pred, scaled_tar, scaled_tar-scaled_pred))

Короче говоря, уменьшение цели естественным образом уменьшит вашу ошибку, поскольку ваша модель изучает не фактическое значение, а значение от 0 до 1.

Вот почему мы не масштабируем нашу целевую переменную, так как ошибка, естественно, меньше, поскольку мы принудительно помещаем значения в 0...1 пробел.

1. вы не можете сравнить MSE между этими двумя моделями, так как он зависит от масштаба. Понятно, что ваш MSE меньше, когда вы масштабируете свой y, поскольку y (в вашем случае) становится меньше, применяя MinMaxScaler. Когда вы масштабируете свои прогнозируемые и фактические значения y, а затем снова вычисляете MSE, оно должно быть таким же, как и для модели с необработанными значениями y (хотя и не на 100%).

Главный вывод: не сравнивайте MSE между моделями только внутри модели. Абсолютное значение MSE трудно интерпретировать.

2. Я не уверен, что понял ваш вопрос. Я предполагаю, что вы спрашиваете тех, кого вы обучили своей модели с масштабированными значениями y, как вы можете делать прогнозы y в том смысле, что масштаб - это количество транспортных средств. Если это вопрос, то именно поэтому вы не должны масштабировать y.

Что делает MinMaxScaler, так это вычисляет следующее:

X_std = (X - X.min(axis=0)) / (X.max(axis=0) - X.min(axis=0))
X_scaled = X_std * (max - min) + min

см. также документ MinMaxScaler. После этого вы можете попытаться пересчитать прогнозы, но я не думаю, что это имеет смысл.

1. Поскольку это проблема регрессии, вы вряд ли захотите масштабировать переменную цель/ответ в этом случае. Вы захотите масштабировать определенные функции, особенно учитывая большие числа величин, которые сочетаются с другими функциями, которые могут быть, например, двоичными. Но, не видя полного набора данных, я не могу подтвердить, будет ли это подходящим способом. Кроме того, вы должны сравнить это с базовой моделью. СКО 45 000 может показаться плохим, но если СКО базового уровня в 10 раз больше, то ваша модель только что улучшила базовый показатель СКО на 1000 %.

TL;DR Пытайтесь масштабировать только в том случае, если функции различаются по величине или в данной функции есть большие выбросы. введите код сюда

2. Если вы не масштабируете целевую переменную, вам не нужно пытаться «перемасштабировать ее». Однако, если вам нужно/хотите, вы можете изучить использование TransformedTargetRegressor здесь