Обзор



Как создать демо-версию машинного обучения в 2022 году
Узнайте, почему в 2022 году вам следует создавать демо-версии моделей машинного обучения и как это сделать так, чтобы это соответствовало вашим… nicjac.dev



Какой фреймворк использовать, где разместить код и где разместить модель, которую можно легко загрузить в эти фреймворки.

Хостинг моделей

Градио

Официальный сайт: https://gradio.app/

Градио(приложение+деплой) и HuggingFace(хостинг модели)

Плюсы Gradio:

  • Быстрая и простая настройка из коробки
  • Работает прямо в блокнотах
  • Абсолютно никаких знаний в веб-разработке не требуется
  • Приложениями легко поделиться
  • Хороший выбор встроенных элементов пользовательского интерфейса
  • Такие функции, как скриншоты или пометка вывода, очень удобны для демонстраций.

Минусы градиента:

  • Ограниченный контроль над макетом пользовательского интерфейса
  • Не подходит для сложных приложений (например, управление состоянием, кэширование)

Быстрый свет

Xgboost: https://medium.com/towards-data-science/deploying-ml-models-using-streamlit-5d6212453bdd

Плюсы Streamlit:

  • Быстрая установка
  • Расширенные функции, такие как кэширование и управление состоянием, позволяют создавать сложные приложения.
  • Большой выбор встроенных виджетов пользовательского интерфейса
  • Настраиваемый макет пользовательского интерфейса
  • Расширяемость за счет поддержки пользовательских сторонних компонентов

Минусы Streamlit:

  • Совместное использование приложений не так тривиально, как с помощью Gradio
  • Сложные приложения требуют некоторого понимания передовых концепций веб-разработки.
  • Не совместим с ноутбуками
  • Отсутствуют некоторые базовые встроенные функции для демонстраций машинного обучения (например, пометка неожиданных входных/выходных данных).

ОбниматьсяFace Spaces



Spaces
Мы на пути к развитию и демократизации искусственного интеллекта с помощью открытого исходного кода и открытой науки.huggingface.co



Spaces похож на «страницу github» для моделей, он создает репозиторий на Huggingface, на котором размещена модель обслуживания кодовой базы. Он поддерживает выбор Streamlit или Gradio в качестве обслуживающей среды.

Посмотрите это видео, чтобы увидеть, как это работает:

В этом случае модель размещена на Huggingface, обучена с помощью autoNLP, цена которого сейчас довольно высока. https://www.youtube.com/watch?v=s-6V6HlwX98&t=0s

Полный стек

Фласк

https://flask.palletsprojects.com/en/2.1.x/

https://github.com/flask-restful/flask-restful

  • Серверная часть, отвечающая за загрузку и обслуживание модели в качестве REST API.
  • Внешний интерфейс для предоставления элементов пользовательского интерфейса для взаимодействия с внутренним интерфейсом.