Преобразование тензорного потока для модели LSTM

Я пытаюсь преобразовать модель, основанную на тензорном потоке (LSTM), в тензорный поток с использованием TENO и tf_convert инструмент, но тензор потока облегченная модель после преобразования составляет около 245 МБ, где, как оригинальный тензор потока мобильных составляет около ~ 1 МБ.

Ниже приведена команда, которую я использовал

bazel run --config=opt //tensorflow/contrib/lite/toco:toco -- \  
    --input_file= <inputfile> \
    --output_file= <outputfile> \
    --input_format=TENSORFLOW_GRAPHDEF \
    --output_format=TFLITE \
    --input_shape=1,1\
    --input_array=input\
    --output_array=output\
    --inference_type=QUANTIZED_UINT8 \
    --inference_type=FLOAT \
    --input_data_type=FLOAT \
    --allow_custom_ops

Я пытался с --allow_custom_ops и размер преобразованной модели совпадает с / без пользовательской операции в инструменте TOCO.

2018-08-27 18: 09: 18.538279: I tenorflow/contrib/lite/toco/graph_transformations/graph_transformations.cc:39] Перед удалением неиспользованных операций: 4210 операторов, 6021 массив (0 квантованных) 2018-08-27 18:09:19.255416: I tenorflow/contrib/lite/toco/graph_transformations/graph_transformations.cc:39] Перед общими преобразованиями графов: 4210 операторов, 6021 массивов (0 квантованных) 2018-08-27 18:09:20.504422: I tenorflow/contrib/lite/toco/graph_transformations/graph_transformations.cc:39] После общих преобразований графов передайте операторы 1: 3604, 6008 массивов (0 квантовано) 2018-08-27 18:09:21.335526: I tenorflow / contrib / lite / toco / graph_transformations / graph_transformations.cc:39] Перед преобразованием графов деквантования: 3604 оператора, 6008 массивов (0 квантованных) 2018-08-27 18:09:21.897161: I tenorflowflow/contrib/lite/toco/allocate_transient_arrays.cc:329] Всего выделен временный массив размер: 15616 байт, теоретическое оптимальное значение: 15616 байт.

Есть ли план для тензорного потока для поддержки операций, связанных с LSTM, в ближайшем будущем?

0 ответов

Другие вопросы по тегам