Tensorflow - XLA | Передача тензоров во внешние функции во время выполнения

Я тестирую библиотеку, которая выгружает определенные конфиденциальные вычисления в безопасную среду. Tensorflow - это одно приложение, которое я и моя команда заинтересованы в портировании для работы с ним, особенно для работы с XLA. Моей команде не удалось добавить опцию TF, которая выполняет разгрузку.

Чтобы это работало с XLA, мне нужно вставить операции XLA, которые отправляют и получают данные в эту библиотеку через API, предоставляемый библиотекой. Насколько я понимаю, эти операции XLA должны быть добавлены к переводу операций TF в операции XLA в тензорном потоке /compiler/tf2xla/. Я предполагаю, что операции, перечисленные в определении ComputationBuilder, являются доступными операциями XLA, и вызов внешней функции в настоящее время не входит в их число.

Можно ли добавить такую ​​опцию XLA, которую можно опустить в инструкцию вызова llvm? Или это возможно другими способами?

Пожалуйста, поделитесь своими мыслями.

Спасибо!

PS: Обратите внимание, что у меня больше опыта с LLVM, чем с tenorflow.

0 ответов

Другие вопросы по тегам