Отладка развертывания модели AML

У меня есть модель ML (обученная локально) на python. Ранее модель была развернута на сервере Windows IIS и работает нормально.

Теперь я пытаюсь развернуть его как службу на экземпляре контейнера Azure (ACI) с 1 ядром и 1 ГБ памяти. Я взял ссылки из один и два Microsoft docs. В документации используется SDK для всех шагов, но я использую функцию графического интерфейса пользователя с портала Azure.

После регистрации модели я создал сценарий входа и файл YAML среды conda (см. Ниже) и загрузил их в пользовательский актив развертывания (в области модели развертывания).

К сожалению, после нажатия кнопки развертывания состояние развертывания застревает в переходном состоянии. Даже через 4 часа состояние остается прежним, и журналов развертывания тоже не было, поэтому я не могу найти, что я делаю здесь не так.

ПРИМЕЧАНИЕ: ниже - только отрывок из сценария входа.

import pandas as pd
import pickle
import re, json
import numpy as np
import sklearn

def init():
    global model 
    global classes
    model_path = os.path.join(os.getenv('AZUREML_MODEL_DIR'), 'randomForest50.pkl')
    model = pickle.load(open(model_path, "rb"))

    classes = lambda x : ["F", "M"][x]

def run(data):
    try:
        namesList = json.loads(data)["data"]["names"]
        pred = list(map(classes, model.predict(preprocessing(namesList))))
        return str(pred[0])
    except Exception as e:
        error = str(e)
        return error
name: gender_prediction
dependencies:
- python
- numpy
- scikit-learn
- pip:
    - pandas
    - pickle
    - re
    - json

comment
Анк, не могли бы вы поделиться информацией ниже, чтобы помочь нам разобраться в этой проблеме? - идентификатор подписки / рабочее пространство / имя службы - размер модели - есть ли у нас зависимости от библиотеки Windows?   -  person Frank Cai    schedule 22.01.2021


Ответы (1)


Проблема была в файле YAML. Зависимости / библиотеки в YAML должны соответствовать среде conda. Итак, я все изменил соответствующим образом, и это сработало.

Измененный файл YAML:

name: gender_prediction
dependencies:
- python=3.7
- numpy
- scikit-learn
- pip:
    - azureml-defaults
    - pandas
    - pickle4
    - regex
    - inference-schema[numpy-support]   
person Ank Raw    schedule 05.02.2021