Платформа Google Cloud AI: я не могу создать версию модели с помощью параметра "--accelerator"

Question

Чтобы получать онлайн-прогнозы, я создаю версию модели на AI-платформе. Он отлично работает, если я не хочу использовать параметр --accelerator.

Вот команда, которая работает:

    gcloud alpha ai-platform versions create [...] --model [...] --origin=[...] --python-version=3.5 --runtime-version=1.14 --package-uris=[...] --machine-type=mls1-c4-m4 --prediction-class=[...]

Вот параметр, из-за которого он не работает:

    --accelerator=^:^count=1:type=nvidia-tesla-k80

Я получаю следующее сообщение об ошибке:

    ERROR: (gcloud.alpha.ai-platform.versions.create) INVALID_ARGUMENT: Request contains an invalid argument.

Я ожидаю, что это сработает, поскольку 1) параметр существует и использует эти два ключа (счетчик и тип), 2) я использую правильный синтаксис для параметра, любые другие синтаксисы вернут синтаксическую ошибку и 3) "nvidia-tesla-k80"значение существует (оно описано в --help) и доступно в регионе, в котором развернута модель.

Answer 1

Убедитесь, что вы используете последнюю версию Google Cloud SDK.

Затем вы можете использовать следующую команду:

gcloud beta ai-platform versions create $VERSION_NAME \
  --model $MODEL_NAME \
  --origin gs://$MODEL_DIRECTORY_URI \
  --runtime-version 1.15 \
  --python-version 3.7 \
  --framework tensorflow \
  --machine-type n1-standard-4 \
  --accelerator count=1,type=nvidia-tesla-t4

Для справки вы можете включить ведение журнала во время создания модели:

gcloud beta ai-platform models create {MODEL_NAME} \
 --regions {REGION} 
 --enable-logging \
 --enable-console-logging

Answer 2

Формат параметра --accelerator, как вы можете проверить в официальной документации:

--accelerator=count=1,type=nvidia-tesla-k80

Я думаю, это может вызвать вашу проблему, дайте мне знать.