Стратегия развертывания модели машинного обучения
Если вы хотите развернуть свою модель мл, которая использует остальные API на базе flask. Вы предпочитаете самостоятельное развертывание или управляемые услуги?
Учтите приведенный ниже пункт при окончательном принятии решения.
- Размер вашей модели мл составляет примерно 600 МБ.
2. Обновление модели происходит 2 раза в неделю.
3. Подавайте около 1 лака в день.
4. После установки всех библиотек в виртуальной среде Python размер приложения приближается к 1,5 ГБ, большую часть места занимает тензорный поток и еще несколько библиотек.
5. Он должен быть рентабельным и масштабируемым, когда это необходимо.
В настоящее время мы развернули на цифровых океанских каплях, мы также можем развернуть на EC2, потому что я не нашел никаких управляемых сервисов, которые могли бы помочь мне с такими развертываниями.
Пробовали Python в любом месте или Heroku, даже платформу приложений DO, но ни один из них не работал, все предлагают подписку на более крупную машину, что довольно дорого.
Дайте мне знать ваши взгляды.
