Использует ли Google Cloud ML Engine поиск по сетке для настройки гиперпараметров?

Методика поиска по сетке - это простой в использовании и досадно параллельный подход для поиска наилучшего набора гиперпараметров для моделей машинного обучения. Использует ли Google Cloud Machine Learning (ML) поиск по сетке?


person osipov    schedule 13.09.2017    source источник


Ответы (1)


Не по умолчанию. Поиск по сетке прост в использовании и понятен, но он страдает проклятием проблемой размерности. Вместо поиска по сетке Google Cloud ML Engine использует метод байесовской оптимизации, основанный на алгоритме, называемом Гауссовский процесс бандитов.

Базовая технология, используемая Cloud ML Engine, взята из исследовательского проекта Google Vizier, который является Внутренний сервис Google для выполнения оптимизации методом черного ящика, который де-факто стал механизмом настройки параметров в Google.

Однако, если вы действительно хотите использовать поиск по сетке, вы можете заставить Cloud ML Engine использовать его, указав параметр «algorithm» в вашем yaml-файле гиперпараметров, как описано в документация по Cloud ML Engine

person osipov    schedule 13.09.2017