Как запустить модель tflite на процессоре Coral

Question

Реально ли запустить модель tflite на процессоре Coral?

Коралловые документы для BasicEngine состояния: model must be compiled for the Edge TPU; otherwise, it simply executes on the host CPU. Коралловый док

Я попытался запустить Keras Mobilenet, преобразованный в tflite и намеренно не скомпилированный для Edge-tpu, но получил следующую ошибку

Traceback (most recent call last):
  File "estimate.py", line 69, in <module>
    main()
  File "estimate.py", line 42, in main
    engine = BasicEngine(args.model)
  File "/usr/lib/python3/dist-packages/edgetpu/swig/edgetpu_cpp_wrapper.py", line 300, in __init__
    this = _edgetpu_cpp_wrapper.new_BasicEngine(*args)
RuntimeError: Error in interpreter initialization.

Answer 1

Простой ответ - вы можете. По сути, любая неподдерживаемая операция, выполняемая в вашей модели, автоматически запускается на ЦП. См. Это изображение для пояснения.

Answer 2

Убедитесь, что преобразованные входы и выходы модели квантованы в UINT8. В противном случае это происходит даже после компиляции модели.