Как я могу аннотировать аннотацию NVTX для экспортированной модели ONNX?
Я экспортирую модель ML из PyTorch в модель ONNX с помощьюtorch.onnx.exportфункция.
Когда я использую модель PyTorch, у нее есть аннотации NVTX для оптимизации, которые используются для системы Nsight.
Но когда я сменил модель с PyTorch на ONNX, она просто исчезла.
Как я могу использовать NVTX в модели ONNX?
я используюmodel = onnx.load(onnx_file)для вызова функции, поэтому я не могу аннотировать фрагменты кода NVTX в самом коде.