Google Cloud Vision AutoML плохая производительность прогнозирования

Question

Я обучил пользовательской модели Google Cloud Vision с использованием AutoML. Цель этой модели - классифицировать одну метку для данного изображения.

Я реализовал клиент для отправки запросов прогнозирования HTTP в их REST API. Это прекрасно работает, однако время, необходимое для получения ответа, составляет 13 секунд. Это кажется очень медленным и неэффективным для меня. Я уверен, что это вызвано Google, так как я планировал вызовы методов (загрузка необработанных данных изображений может занять некоторое время, но использование того же изображения в их предварительно обученной сети Cloud Vision намного быстрее).

Кто-нибудь еще сталкивался с этой проблемой и нашел решение для этого? Или лучше просто обучить мою собственную модель с использованием Tensorflow/Pytorch с переносом, опираясь, например, на Imagenet, и построить API вокруг этого.

Answer 1

Мне нужно 2050 мс, я не нашел это плохим. Было бы лучше, если вы поделитесь кодом для просмотра здесь.