Пакетные прогнозы Vertex AI из списка файлов

Question

Я хочу отправить задание пакетного прогнозирования для пользовательской модели (в моем случае это модель факела, но я думаю, что в данном случае это неактуально). Итак, я прочитал документацию:

Но поскольку примеров нет, я не могу быть уверен, какой будет схема json-объекта, который вершина ai отправит в мою модель. У кого-то это работает?

Я предполагаю, что запрос будет в следующем теле:

      {'instance' : <b64-encoded-content-of-the-file>}

Но когда я прочитал документацию (о других «особенностях» вершины ai), я мог также представить себе следующее тело:

      {'instance': {'b64' : <b64-encoded-content-of-the-file>}}

Кто-нибудь действительно знает?

Еще я сделал «фальшивую модель», которая возвращает полученный запрос ... когда я отправляю задание пакетного прогнозирования, оно фактически завершается успешно, но когда я проверяю выходной файл, он пуст ... так что ... На самом деле мне нужна помощь / больше времени, чтобы подумать о других способах расшифровки документов vertex ai.

Заранее спасибо!

Answer 1

Пользовательский контейнер Vertex AI должен обертывать службу конечной точкой (прогнозировать) для получения списка экземпляров, каждый из которых является сериализуемым объектом json.

      {'instances': [{'b64' : <b64-encoded-content-of-the-file1>}, {'b64' : <b64-encoded-content-of-the-file1>}, ...]}