Утечка памяти у Sagemaker

Question

Я развернул модель глубокого обучения в Sagemaker и создал конечную точку. К сожалению, я поместил его в изображение большого размера, после чего конечная точка выдает "RuntimeError: Ошибка CUDA: недостаточно памяти". Поэтому я хотел бы перезапустить конечную точку, но, кажется, нет никакой кнопки перезагрузки. Что я мог сделать для его перезапуска?

Спасибо

Answer 1

Предполагая, что вы имели в виду UpdateEndpoint под "перезапуском", вы не сможете обновить конечную точку SageMaker, если она уже находится в состоянии "Сбой". Это задокументировано в ссылках на API SageMaker.

Если вы уже определили причину сбоя конечной точки, вы можете удалить сбойную конечную точку и создать новую с правильной моделью.