Благодаря своей способности обрабатывать большое количество обучающих данных и методов для преодоления проблемы исчезающего градиента и проблемы взрывающегося градиента нейронная сеть-трансформер стала центром притяжения в области машинного обучения. Здесь я постарался кратко расшифровать весь алгоритм преобразования. Введение Нейронная сеть-трансформер имеет совершенно другой алгоритм и архитектуру, чем традиционные нейронные сети. Предыдущие модели языковой обработки, такие как LSTM,..