Строковый параметр тензорного потока Nvidia Triton

Question

У меня есть модель тензорного потока со строковым параметром в качестве входных данных. Какой тип использовать для строк в Triton Java API?

Например. Определение модели

          {
        "name":"test_model", "platform":"tensorflow_savedmodel", "backend":"tensorflow",
            "version_policy":{
        "latest":{
            "num_versions":1
        }
    },
        "max_batch_size":8,
            "input":[{
        "name":"input_text", "data_type":"TYPE_STRING", "format":"FORMAT_NONE", "dims":[1],"reshape":{
            "shape":[]},"is_shape_tensor":false, "allow_ragged_batch":false
    }]

Код клиента

      String text = "the text";

    InferTensorContents.Builder input0_data = InferTensorContents.newBuilder();
    input0_data ... how to set

Answer 1

Triton использует протобуфы Google, поэтому они используют ByteString.

          String text = "textstring";
    InferTensorContents.Builder input0input_text = InferTensorContents.newBuilder();
    final ByteString input = ByteString.copyFrom(text, Charset.forName("UTF8"));
    System.out.println(input.size());
    input0input_text.addByteContents(input);