В реальных задачах инженерам машинного обучения часто приходится решать несколько конкретных задач одновременно, а не одну. Для этого они используют модели типа BERT , которые предварительно обучаются на большом объеме данных, а затем настраиваются под каждую конкретную задачу. Итак, это однозадачные модели. Однако размещение множества однозадачных моделей может потребовать большого количества ресурсов графического процессора и оперативной памяти, что приведет к высоким затратам...