Pytorch на GCP: тип машины недоступен на этой конечной точке

Question

Я новичок в GCP, так что извините за то, что я спрашиваю / упускаю что-то очевидное здесь.

Я пытаюсь развернуть и создать ресурс версии на GCP с пользовательской моделью pytorch. До сих пор все работало нормально, пока я не попытался создать новую версию модели. Затем я продолжаю получать:INVALID_ARGUMENT: тип машины недоступен на этой конечной точке.

Я пытался переключаться между различными типами из их списка здесь без удачи. Что мне не хватает?

Вот сценарий, который я запускаю для развертывания:

      MODEL_NAME='test_iris'
MODEL_VERSION='v1'
RUNTIME_VERSION='2.4'
MODEL_CLASS='model.PyTorchIrisClassifier'
PYTORCH_PACKAGE='gs://${BUCKET_NAME}/packages/torch-1.8.1+cpu-cp37-cp37m-linux_x86_64.whl'

DIST_PACKAGE='gs://${BUCKET_NAME}/models/Test_model-0.1.tar.gz'
GCS_MODEL_DIR='models/'
REGION="europe-west1"


# Creating model on AI platform
gcloud alpha ai-platform models create ${MODEL_NAME}\
--region=europe-west1 --enable-logging \
--enable-console-logging

gcloud beta ai-platform versions create ${MODEL_VERSION} --model=${MODEL_NAME} \
    --origin=gs://${BUCKET_NAME}/${GCS_MODEL_DIR} \
    --python-version=3.7 \
    --machine-type=mls1-c4-m2\
    --runtime-version=${RUNTIME_VERSION} \
    --package-uris=${DIST_PACKAGE},${PYTORCH_PACKAGE} \
    --prediction-class=${MODEL_CLASS}

Спасибо!

Answer 1

Согласно документации , вы можете развернуть подпрограмму пользовательского прогнозирования только при использовании устаревшего (MLS1) типа машины для вашей версии модели. Однако вы не можете использовать региональную конечную точку с этим типом машины, как указано здесь,

• Региональные конечные точки поддерживают только типы компьютеров Compute Engine (N1). Вы не можете использовать устаревшие типы компьютеров (MLS1) на региональных конечных точках.

Как я вижу, вы указали региональную конечную точку с --regionфлаг, который не поддерживает тип машины, необходимый для вашего варианта использования. Таким образом, вам нужно изменить модель и ее версию на глобальную конечную точку, чтобы вы больше не столкнулись с ошибкой.

Кроме того, когда вы указываете региональную конечную точку в gcloud create model --region, вам необходимо указать этот же регион при создании версии модели. С другой стороны, при создании модели в глобальной конечной точке gcloud create model --regions, вы можете опустить флаг региона в команде gcloud ai-platform versions create. Обратите внимание, что команда используется только для глобальной конечной точки.

Наконец, я должен указать, что, согласно документации , при выборе региона для глобальной конечной точки, используя --regionsПри создании модели ваши узлы прогнозирования работают в указанном регионе. Хотя инфраструктура прогнозирования платформы AI, управляющая вашими ресурсами, не обязательно может работать в одном регионе.