Оптимизация Tensorflow Intel MKL с форматом данных NHWC

Question

Оптимизация Tensorflow Intel MKL с форматом данных NHWC

TensorFlow скомпилирован с оптимизацией Intel MKL, многие операции будут оптимизированы и будут поддерживать NCHW.

Может кто-нибудь объяснить, почему Intel MKL поддерживает формат NCHW больше, чем NHWC?

0

tensorflow intel-mkl

Источник

user5027455 18 июн '18 в 06:54

1 ответ

Другие вопросы по тегам tensorflow intel-mkl

user9427019 19 июн '18 в 09:06 2018-06-19 09:06 · Answer 1 · 2018-06-19 09:06

Формат NHWC по умолчанию TensorFlow - не самый эффективный формат данных для ЦП, и это приводит к некоторым дополнительным накладным расходам на преобразование. Однако поддержка Intel MKL поддерживает формат NCHW

2

Источник

user9427019 19 июн '18 в 09:06

user10880709 29 янв '19 в 00:01 2019-01-29 00:01 · Answer 2 · 2019-01-29 00:01

MKLDNN будет выполнять большую часть вычислений, требующих большого объема вычислений, в пользовательской (заблокированной) структуре памяти, а преобразование из NCHW -> заблокировано занимает время, аналогичное NHWC -> заблокировано. Так что не должно быть никакой разницы для чистых ускорений MKLDNN. Разница заключается в некоторой математике на основе GEMM, которая по умолчанию работает с форматом NCHW, а это означает, что для некоторых вызовов matmul НЕ потребуется преобразование макета, если входной формат - NCHW.