Генеративный предварительно обученный преобразователь (GPT) — это модель глубокого обучения, которая произвела революцию в области обработки естественного языка (NLP). Он основан на архитектуре Transformer, представленной в статье Vaswani et al. «Внимание было всем, что вам нужно». в 2017 году. GPT может генерировать человекоподобный текст на основе заданной подсказки, что делает его мощным инструментом для различных приложений, включая ответы на вопросы, классификацию текста и многое..

Представьте себе сценарий, в котором вам говорят, что использование предварительно обученных весов (скажем, resnet-50, 101 и т. Д.) В качестве экстрактора функций (магистральная архитектура) для вашей модели глубокой нейронной сети (DNN) может значительно повысить производительность вашей модели, а также сэкономить у вас много тренировочного времени. Если вы чем-то похожи на меня, вы будете чрезвычайно довольны этим и сразу же погрузитесь в изучение того, как использовать эти предварительно..