Рекомендуемый способ обслуживания прогнозов PyTorch с помощью Google AI Platform

Читая документацию Google, кажется, что есть два разных способа обслуживания прогнозов из моделей PyTorch.

  1. Использование пользовательских процедур прогнозирования
  2. Создание пользовательского контейнера и использование torchserve

Хотя вариант 1 кажется более популярным при чтении онлайн-блогов, таких как этот, кажется странным не использовать вариант 2, поскольку в документации явно упоминается PyTorch.

Может ли кто-нибудь объяснить, почему можно выбрать один вариант вместо другого?


pytorch google-cloud-ml google-ai-platform
person alim1990    schedule 05.02.2021    source источник

Ответы (1)


arrow_upward
0
arrow_downward

1 проще в том смысле, что вам не нужно беспокоиться о создании обработчика http, но вам, вероятно, будет сложнее протестировать его локально.

2 вы создаете свой собственный контейнер, поэтому вы можете сначала попробовать запустить его на своем локальном компьютере. Это немного больше работы, потому что вы должны иметь возможность настроить обработчик http.

person Brendan    schedule 19.02.2021