Модель обслуживания Google Cloud MLE и приложения Keras - предварительная обработка ввода и вывода
Я использую одну из моделей от Keras Applications. После обучения я хотел бы развернуть его в Google Cloud MLE. Моя проблема в том, что мне нужно обработать входные записи перед использованием модели, а затем обработать ответ перед отправкой обратно. При обработке входных записей мы можем использовать serving_input_receiver_fn
функция в export_savedmodel
после преобразования модели Кераса в Оценщик. Однако я не вижу способа, которым мы можем обработать ответ модели. После небольшого ознакомления с темой я хотел бы спросить, решит ли какой-либо из следующих вариантов мою проблему:
- Использовать как-то
predict_signature_def
- Использование TF Estimator напрямую с моделью из Приложения в
model_fn
функция (но я слышал, что Keras Applications плохо взаимодействует с оценщиками TF) - Использование некоторых механизмов Google Cloud MLE
- Что-то другое?