Укажите фиксированные параметры и параметры для поиска в optuna (lightgbm)

Я только что нашел Optuna, и кажется, что они интегрированы с lightGBM, но мне трудно понять, где я могу исправить параметры, например scoring="auc", и где я могу определить сетку для поиска, например num_leaves=[1,2,5,10].

Использование https://github.com/optuna/optuna/blob/master/examples/lightgbm_tuner_simple.py в качестве примера, они просто определяют params dict с некоторыми фиксированными параметрами (все параметры, не указанные в этом dict, настроены?), и документация гласит, что

Он настраивает важные гиперпараметры (например, min_child_samples и feature_fraction) поэтапно

Как я могу контролировать, какие параметры настраиваются и в каком пространстве, и как я могу исправить некоторые параметры?


person CutePoison    schedule 09.11.2020    source источник


Ответы (1)


Я ничего не знаю о LightGBM, но поскольку это первый результат исправления параметров в optuna, я отвечу на эту часть вопроса:

В optuna пространство поиска определяется в коде целевой функции. Эта функция должна принимать в качестве входных данных объект «испытаний», и вы можете создавать параметры, вызывая функции suggest_float(), suggest_int() и т. Д. Для этого объекта испытаний. Дополнительную информацию см. В документации по адресу 10_key_features / 002_configurations.html

Обычно исправление параметра выполняется путем его жесткого кодирования вместо вызова функции suggest, но можно исправить определенные параметры извне, используя PartialFixedSampler

person Edwin van der Helm    schedule 26.02.2021