Вы должны знать трансформеров. Ну, я имею в виду не автоботов, Bumble Bee, а знаменитую структуру машинного обучения.
Вы, вероятно, использовали модели трансформеров Huggingface. Но вы когда-нибудь развертывали их?
С Pinferencia просто добавьте еще три строчки, и ваша модель появится в сети!
Никогда не слышали о Pinferencia? Еще не поздно. Зайдите на его GitHub, чтобы посмотреть. Не забудьте поставить звезду, если вам понравилось.
Трубопровод трансформатора HuggingFace
Как вы используете конвейер преобразования HuggingFace?
И вы можете предсказать изображение с его URL-адресом:
predict("https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/pipeline-cat-chonk.jpeg")
Результат:
Развертывать
Теперь разверните его с помощью Pinferencia, просто добавьте три строки и сохраните как app.py.
Теперь подойдите к терминалу и запустите
uvicorn app:service --reload
Ваш сервис подключен к сети! Перейдите по адресу http://127.0.0.1:8000 и проверьте API.
Теперь вы можете отправить запрос:
Результат:
Или просто используйте интерактивный пользовательский интерфейс, который предоставляет Pinferencia:
Достаточно просто, да?
Если вам нравится Pinferencia, перейдите по ссылке https://github.com/underneathall/pinferencia и поставьте звезду.
