Преобразование тензорного потока для модели LSTM
Я пытаюсь преобразовать модель, основанную на тензорном потоке (LSTM), в тензорный поток с использованием TENO и tf_convert
инструмент, но тензор потока облегченная модель после преобразования составляет около 245 МБ, где, как оригинальный тензор потока мобильных составляет около ~ 1 МБ.
Ниже приведена команда, которую я использовал
bazel run --config=opt //tensorflow/contrib/lite/toco:toco -- \
--input_file= <inputfile> \
--output_file= <outputfile> \
--input_format=TENSORFLOW_GRAPHDEF \
--output_format=TFLITE \
--input_shape=1,1\
--input_array=input\
--output_array=output\
--inference_type=QUANTIZED_UINT8 \
--inference_type=FLOAT \
--input_data_type=FLOAT \
--allow_custom_ops
Я пытался с --allow_custom_ops
и размер преобразованной модели совпадает с / без пользовательской операции в инструменте TOCO.
2018-08-27 18: 09: 18.538279: I tenorflow/contrib/lite/toco/graph_transformations/graph_transformations.cc:39] Перед удалением неиспользованных операций: 4210 операторов, 6021 массив (0 квантованных) 2018-08-27 18:09:19.255416: I tenorflow/contrib/lite/toco/graph_transformations/graph_transformations.cc:39] Перед общими преобразованиями графов: 4210 операторов, 6021 массивов (0 квантованных) 2018-08-27 18:09:20.504422: I tenorflow/contrib/lite/toco/graph_transformations/graph_transformations.cc:39] После общих преобразований графов передайте операторы 1: 3604, 6008 массивов (0 квантовано) 2018-08-27 18:09:21.335526: I tenorflow / contrib / lite / toco / graph_transformations / graph_transformations.cc:39] Перед преобразованием графов деквантования: 3604 оператора, 6008 массивов (0 квантованных) 2018-08-27 18:09:21.897161: I tenorflowflow/contrib/lite/toco/allocate_transient_arrays.cc:329] Всего выделен временный массив размер: 15616 байт, теоретическое оптимальное значение: 15616 байт.
Есть ли план для тензорного потока для поддержки операций, связанных с LSTM, в ближайшем будущем?