Как загрузить и предсказать предварительно обученную модель тензорного потока в код Java?

Question

Я не уверен, какова общая практика загрузки предварительно обученной модели keras в код Java?

Я видел deeplearning4j и нативную поддержку Google Java.

Удивительно, но Google говорит:

Предупреждение: API-интерфейс TensorFlow не распространяется на гарантии стабильности API-интерфейса TensorFlow.

Я действительно запутался, что здесь происходит и что нужно рассмотреть, прежде чем выбрать движок Java с тензорным потоком. Очевидно, я хотел бы поддержать последнюю версию CUDA/ cuDNN. Мое приложение работает на ПК, это не мобильное приложение.

Answer 1

Вы можете выполнить следующие действия:

1. Вы можете использовать TensorFlow Lite или TensorFlow Mobile. Рекомендуется TensorFlow Lite. Посетите здесь.
2. TensorFlow Lite имеет зависимость gradle, а также maven, что полезно в Android и Java.
3. Чтобы преобразовать вашу модель Python в файл TF Lite, используйте функции из этой записной книжки
4. Он может выполнять выводы по модели, которую вы обучили на python. Но у TF Lite есть проблемы с ячейками LSTM и слоями BatchNormalization.