Размер кода для модели AOT-Compiled Cifar10
В настоящее время я изучаю xla с использованием компиляции AOT и использую Cifar10 в качестве эталона для тестирования его производительности и размера кода.
Есть несколько вопросов, которые смутили меня.
После использования AOT-компиляции я получил бинарный файл размером 5,3 МБ, но исходный размер тензорного графа составляет около 4,2 МБ. Означает ли это, что во время компиляции что-то не так (за этапом компиляции следует https://www.tensorflow.org/performance/xla/tfcompile, и вывод двоичного файла кажется правильным) или просто потому, что xla с использованием компиляции AOT может обещаете всегда эффективно уменьшать размер кода?
Почему XLA-AOT до сих пор не поддерживает GPU? Означает ли это, что основная цель xla с использованием компиляции AOT состоит в том, чтобы скомпилировать граф вывода в исполняемый код для таких мобильных устройств, у которых нет графического процессора, так что поддержка бэкэнда графического процессора на самом деле не важна?
Кстати, упомянутый выше тензор потока графа получается:
graph = convert_variables_to_constants(sess, sess.graph.as_graph_def(), ["softmax_linear/c2"])
tf.train.write_graph(graph,path,restore_model.pb, as_text=False)
Спасибо за любую помощь!