Модель преобразователя tensorflow tensorrt - это сохраненная модель или замороженнаяgrpah?

Я оптимизировал модель обнаружения объектов с помощью trt.TrtGraphConverterV2.

converter = trt.TrtGraphConverterV2(
        input_saved_model_dir=input_saved_model_dir,
        conversion_params=conversion_params
    )
converter.convert()
 

А позже использовал метод save для сохранения. Он создал каталог с единственным файлом saved_model.pb.

converter.save(output_saved_model_dir=output_saved_model_dir)

Когда я пытался загрузить модель вывода, используя

model_loaded = tf.saved_model.load_v2(input_saved_model_dir, tags=[tag_constants.SERVING]) 

Загрузка происходит без проблем, но я не получаю никаких выводов.

Как мне загрузить модель, чтобы получить значения.

0 ответов

Другие вопросы по тегам