Случайные ошибки онлайн-прогноза 500 и 429 с Resnet50 на платформе AI
Я развернул модель ResNet50 (900 МБ) на платформе AI с минимальным узлом = 1.
Когда я делаю вывод, иногда я получаю ошибки 500 и 429 случайным образом. Для ошибок кода платформы AI (https://cloud.google.com/ml-engine/docs/troubleshooting):
- Ошибка 500: не удалось загрузить модель.
- Ошибка 429: недостаточно памяти
Я немного сбит с толку, потому что эти ошибки случаются случайно. Когда возникают эти ошибки, я снова проигрываю запросы и получаю хорошие результаты.
Пожалуйста, не могли бы вы объяснить мне, почему у меня такое поведение? И как я могу исправить эту проблему?
Большое спасибо за ваши ответы,
Лучшие,