Описание тега tensorflow-serving

2 ответа

Обслуживание Tensorflow: когда его использовать, а не просто выводить внутри службы Flask?

Я работаю с моделью, обученной с использованием API обнаружения объектов. Вот как я это сделал: Создайте службу Tensorflow на порту 9000, как описано в базовом руководстве Создайте код Python, вызывающий этот сервис, используя предикат_pb2 из tenors…
30 янв '18 в 17:28
1 ответ

code=StatusCode.UNAVAILABLE, details="Ошибка ОС"

Я развернул свою собственную модель с обслуживанием tenorflow. Обычно это работает без проблем, но иногда появляется такое сообщение об ошибке: AbortionError(code=StatusCode.UNAVAILABLE, details="OS Error") Я не знаю почему, кто-нибудь может мне пом…
08 авг '18 в 10:47
1 ответ

Невозможно преобразовать в тензорное прото: TypeError для tf.contrib.util.make_tensor_proto при отправке входного файла

1) Я написал простую программу, использующую тензорный поток для чтения текстового файла, и хотел развернуть ее на сервере с использованием тензорного потока. Это программа tf.app.flags.DEFINE_integer('model_version', 2, 'version number of the model…
1 ответ

Как отладить "INVALID_ARGUMENT: псевдоним входного тензора не найден в подписи"

Я пытаюсь получить доступ к моей модели обслуживания tenorflow, которая имеет сигнатуру, как видно из этого сегмента кода: regression_signature = predict_signature_def( inputs={"phase_features" : phase_features}, outputs={"phase_weight": phase_weigh…
08 май '17 в 13:47
0 ответов

"Пинг" обслуживающего тензор потока сервера

Я реализовал несколько сервисов gRPC, которые имеют общий интерфейс, который позволяет мне "пинговать" их, чтобы увидеть, работают ли они. Для этого у меня есть запрос getServiceVersion(), который возвращает мне версию службы, если служба работает, …
08 май '17 в 11:22
1 ответ

Tensorflow Serving - сообщение "Нет версий обслуживаемого" для модели, обученной с помощью tf.contrib.learn.Experiment

Я обучил модель, используя руководство по началу работы от Google Cloud ML Engine в качестве справочного материала. Мне удалось без проблем развернуть и обслуживать эту модель на Google Cloud ML. Сейчас я пытаюсь обслужить его с помощью Tensorflow S…
3 ответа

Невозможно сохранить широкую и глубокую модель tf.contrib.learn в сеансе тензорного потока и передать ее на обслуживание TensorFlow.

Я использую широкую и глубокую модель tf.contrib.learn в службе TensorFlow и экспортирую обученную модель, использующую фрагмент кода. with tf.Session() as sess: init_op = tf.initialize_all_variables() saver = tf.train.Saver() m.fit(input_fn=lambda:…
07 ноя '16 в 16:48
0 ответов

Получение исключения при попытке получить оценки из размещенной модели формата tf savemodelbundle с использованием Java

Я получаю исключение, пытаясь получить оценки из размещенной модели формата savemodelbundle. Я использую GRPC версии 1.1.2. Исключение составляет io.grpc.StatusRuntimeException: INTERNAL: tensorflow.serving.PredictionService/Predict: INTERNAL: Expec…
25 сен '18 в 18:18
0 ответов

Как вписать API обслуживающего клиента TensorFlow в лямбду Python?

Я пытаюсь построить Python Lambda для отправки изображений в TensorFlow Serving для вывода. У меня есть по крайней мере две зависимости: CV2 и tenorflow_serving.apis. Я запустил несколько учебных пособий, показывающих, что можно запускать тензорный …
0 ответов

Сбой класса трекера TensorFlow при создании второго экземпляра - сеансы должны быть уникальными?

У меня есть трекер TensorFlow, который я собираю, чтобы он соответствовал стандартному формату OpenCV Tracker. Эти трекеры могут быть использованы так (я заменил вычисления и вещи, которые не используют тензорный поток с ~<this>~): tracker = c…
3 ответа

Обслуживать обученную модель Tensorflow с REST API с помощью Flask?

У меня есть обученная модель Tensorflow, и я хочу использовать метод прогнозирования с REST API. Я могу подумать о том, чтобы использовать Flask для создания простого REST API, который получает JSON в качестве входных данных, а затем вызывает метод …
0 ответов

Подключение к тензорной подаче из PHP

Связь между обслуживанием Tensorflow и PHP довольно незрелая. Я не мог найти соответствующую информацию в Интернете. Теоретически должно быть возможно скомпилировать файлы proto в файлы pb.php, но это не дает результатов по отношению к файлам proto …
11 янв '17 в 10:26
0 ответов

Форма [-1, 1] имеет отрицательные размеры

Я работаю над одной проблемой классификации классов по тензорному потоку. Обучение закончено, и я сохранил свою модель. Когда я пытаюсь вызвать прогноз с помощью облака Google, я получаю эту ошибку: { "error": "Prediction failed: Error during model …
0 ответов

Оптимизация XLA JIT на процессоре

Я пытаюсь взять сохраненную модель (или замороженный график) и включить компиляцию JA JIT. Я использую параметры оптимизации configProto, чтобы установить его на L1, но, похоже, это не имеет никакого значения для выполнения графика TF. Я прочитал, ч…
1 ответ

TensorFlow: как экспортировать оценщик с помощью модуля TensorHub?

У меня есть оценка с использованием столбца text_embedding TensorHub, например, так: my_dataframe = pandas.DataFrame(columns=["title"}) # populate data labels = [] # populate labels with 0|1 embedded_text_feature_column = hub.text_embedding_column( …
1 ответ

Кажется, bazel.rc не работает при сборке tenorflow-обслуживания r1.10 или r1.11

Я строю тензор потока, обслуживающего r1.10; так как моя версия Python Centos7 по умолчанию 2.7.13, и я хочу собрать с python3.6, я изменил PYTHON_BIN_PATH в tools/bazel.rc следующим образом.[envi для python3.6 устанавливается с pyenv] build --actio…
15 сен '18 в 10:00
2 ответа

Неизвестно: KeyError: 'pyfunc_0'

Я экспортирую saveModel, который принимает заполнитель строки в качестве входного тензора. Я ввел граф, чтобы предварительно обработать этот тензор строки, чтобы он мог быть передан в модель. Тем не менее, я использую py_func выполнить мои строковые…
2 ответа

Как устранить ошибку аргумента Tensorflow Fetch при попытке передать аргументы через feed_dict?

Ниже приведен код, который я запускаю, где я реализую документ. Я беру две матрицы, умножаю их и затем выполняю кластеризацию. Что я делаю неправильно? import tensorflow as tf from sklearn.cluster import KMeans import numpy as np a = np.random.rand(…
19 апр '17 в 12:54
1 ответ

Обслуживание пользовательской модели TensorFlow

Я новичок в машинном обучении, в основном я создал собственный набор данных изображений и тренируюсь на них и распознаю изображения на ноутбуке Jupyter, после этого я попытался развернуть эту модель, следуя этому руководству Я исполняю bazel build -…
0 ответов

Обслуживающий клиент тензор потока не работает (grpc.framework.interfaces.face.face.AbortionError: AbortionError)

Я развертываю программу соответствия текста с текстом в докере со ссылкой на официальный веб-сайт, все этапы установки и этапы тестирования в порядке, включая состояние работающего сервера, а также OK, но у клиента есть проблема. Позвольте мне объяс…
19 апр '18 в 11:38