При публикации веб-службы Azure ML и предварительной загрузке данных в нашу модель R мы видим нестабильную производительность. Первые вызовы медленные, но последующие вызовы быстрые, некоторое время ожидания (несколько минут) следующего вызова приводит к более длительному времени ответа.
Веб-служба машинного обучения Azure для моделей R показывает непредсказуемость
Ответы (1)
Работа веб-служб машинного обучения Azure в фоновом режиме означает, что экземпляры, на которых размещены модели, подготавливаются и перемещаются в очень динамичной многопользовательской среде. Кэширование данных (разогрев) может быть полезным, но это не означает, что все последующие вызовы будут попадать в один и тот же экземпляр с теми же данными, доступными в кеше.
Для моделей, которым требуется много данных в памяти, существует ограничение на то, что уровень размещения веб-служб Azure ML может предложить на данном этапе. Сервер Microsoft R может быть альтернативой для размещения этих больших рабочих нагрузок машинного обучения и использования Service Fabric для масштабирования.
person
Valery Jacobs
schedule
22.06.2016
