Какой самый простой способ перейти от развертывания ACI к AKS?
После решения Почему мое развертывание модели ML в экземпляре контейнера Azure по-прежнему не выполняется? и после развертывания в ACI я использую службу машинного обучения Azure для развертывания модели ML в качестве веб-службы на AKS.
Мой текущий (рабочий) код развертывания ACI
from azureml.core.webservice import Webservice, AciWebservice
from azureml.core.image import ContainerImage
aciconfig = AciWebservice.deploy_configuration(cpu_cores=1,
memory_gb=8,
tags={"data": "text", "method" : "NB"},
description='Predict something')
image_config = ContainerImage.image_configuration(execution_script="score.py",
docker_file="Dockerfile",
runtime="python",
conda_file="myenv.yml")
image = ContainerImage.create(name = "scorer-image",
models = [model],
image_config = image_config,
workspace = ws
)
service_name = 'scorer-svc'
service = Webservice.deploy_from_image(deployment_config = aciconfig,
image = image,
name = service_name,
workspace = ws)
Я хотел бы изменить его так, чтобы он развертывался на AKS, но выглядит более замысловатым, чем я ожидал, поскольку я представлял себе переход от ACI к AKS (то есть от тестирования к производству) как обычную операцию. Тем не менее, кажется, что в коде нужно немного больше изменений, чем я думал:
- АКС, кажется, требует
InferenceConfig
объект (?) - с AKS нет такого метода, как
deploy_from_image
для развертывания из моего существующего Dockerimage
(?)
Можно ли выполнить развертывание на AKS, выполнив минимальные изменения в коде ACI?
1 ответ
Из предоставленного вами кода при развертывании приложения в ACI с использованием метода Webservice.deploy_from_image
с параметрами deployment_config
и изображение контейнера. Deploy_config делает по AciWebservice.deploy_configuration
,
Когда вы посмотрите на ML о AKS, вы также можете найти метод AksWebservice.deploy_configuration
, Так что вам просто нужно изменить метод AciWebservice.deploy_configuration
в AksWebservice.deploy_configuration
Затем приложение может быть развернуто из ACI в AKS. И это минимальные изменения. Также его можно развернуть из образа докера.