Аннотированные данные — это важнейший элемент глубокого обучения. Тем не менее, аннотированные данные редко используются в некоторых приложениях (например, в медицине и робототехнике). Чтобы уменьшить количество аннотаций, самоконтролируемое обучение направлено на предварительное обучение глубоких сетей на неаннотированных данных для изучения полезных представлений. Различные подходы к обучению с самоконтролем предлагают разные цели для обучения глубокой сети с неаннотированными..

Самоконтролируемое обучение (SSL) быстро сокращает разрыв с контролируемыми методами. Недавно Facebook AI Research (FAIR), один из основных игроков в расширении горизонтов самоконтролируемого обучения, представил SEER. SEER — это модель с самоконтролем с параметрами 1,3 млрд, предварительно обученная на изображениях Instagram размером 1 млрд, которая достигает 84,2% точности в топ-1 на ImageNet, комфортно превосходя все существующие модели с самоконтролем бумажные . Другие исследователи..

Это сообщение в блоге представляет собой обзор следующей статьи: MixMatch: целостный подход к полу-контролируемому обучению . Используя большие коллекции помеченных данных, глубокие нейронные сети могут достичь производительности человеческого уровня. Однако на практике создание больших наборов данных с полными метками может быть утомительным, подверженным ошибкам и дорогостоящим, особенно в медицинских областях, где требуются экспертные знания. Мы можем избавиться от необходимости в..

GAN Если вы не знакомы с генеративными состязательными сетями (GAN), они представляют собой очень популярную технику генеративного моделирования, образованную путем сопоставления двух глубоких нейронных сетей, генератора и дискриминатора. Эта состязательная потеря вызвала интерес многих исследователей глубокого обучения и искусственного интеллекта. Однако, несмотря на красоту формулировки GAN и потрясающие результаты современных архитектур, GAN, как правило, очень сложно обучить. Один из..