Описание тега seldon-core

Вопросы с тегом
2 ответа

Селдон: Как использовать мои собственные экземпляры Grafana и Prometheus?

Я хочу использовать свои уже существующие экземпляры Prometheus и Grafana в пространстве имен мониторинга, чтобы имитировать то, что делается. Я использую диаграммы управления сообщества prometheus и устанавливаю kube-prometheus-stackна k8s. Вот что…
30 янв '21 в 09:16
0 ответов

Есть ли какой-либо инструмент для хранения данных запросов и ответов в базе данных [закрыто]

мы пытаемся найти инструменты, которые могут хранить данные запросов и ответов в базе данных, такие как Cassandra или elasticsearch. Здесь у нас есть API нашей модели машинного обучения, работающий на некоторой конечной точке на localhost:<port&g…
10 фев '21 в 09:57
1 ответ

установка интерфейса командной строки seldon-batch-processor

Я изучал пакетную обработку Seldon: https://docs.seldon.io/projects/seldon-core/en/latest/servers/batch.html , но мне не удалось найти документацию, показывающую, как установить CLI seldon-batch-processor. Кто-нибудь может показать мне, как его уста…
15 фев '21 в 19:51
2 ответа

Получение IP-адреса шлюза Ingress с помощью клиента Kubernetes Python

Я использую следующую команду kubectl, чтобы получить IP-адрес хоста Ingress после того, как мое развертывание Seldon станет доступным. kubectl -n istio-system get service istio-ingressgateway -o jsonpath='{.status.loadBalancer.ingress[0].ip}' Я хот…
03 июл '21 в 12:14
0 ответов

Запрос не может достичь входных трансформаторов ядра Seldon

Я пытаюсь использовать входной трансформатор вместе с моделью. Ниже приведен yaml развертывания: apiVersion: machinelearning.seldon.io/v1 kind: SeldonDeployment metadata: name: two-testing spec: predictors: - componentSpecs: - spec: containers: - na…
23 июл '21 в 12:52
0 ответов

Ошибка запуска argo: в доступе отказано

Я запускаю арго и получаю сообщение об ошибке bash: /argo/staging/script: Permission denied Похоже, что у файла сценария нет разрешений на выполнение, я просто попытался заменить bash на cat в строке 58 и получил ту же ошибку, я не думаю, что у него…
01 сен '21 в 17:36
1 ответ

Ядро Seldon не удалось загрузить sklearn/irir

Я попытался загрузить модель диафрагмы с помощью ядра seldon, но, к сожалению, произошла следующая ошибка.SKLEARN_SERVER загружает модель sklearn / iris seldon со следующей ошибкой. starting microservice 2021-09-02 02:43:19,363 - seldon_core.microse…
02 сен '21 в 06:04
1 ответ

Как быстро запустить seldon-core по типу с переадресацией портов?

Следуя документации, я пытаюсь настроить быстрый запуск Seldon-Core https://docs.seldon.io/projects/seldon-core/en/v1.11.1/workflow/github-readme.html У меня нет LoadBalancer, поэтому я хотел бы использовать перенаправление портов для доступа к служ…
12 окт '21 в 13:07
1 ответ

Альтернатива перенаправления Flask в ядре Seldon

У меня есть панель управления кибана, где есть несколько ссылок, по которым пользователь может нажимать. Ссылка вызывает службу фляги, которая выполняет некоторую обработку и перенаправляет URL-адрес, используя flask's redirect API, чтобы на панели …
11 ноя '21 в 14:01
0 ответов

Как обслуживать предварительно обученные модели, такие как универсальный кодировщик предложений, с использованием ядра Seldon

Я пытаюсь использовать ядро ​​seldon для предварительно обученных моделей тензорного потока с использованием ядра seldon. Каков наилучший способ обслуживания предварительно обученных моделей. Я попытался развернуть напрямую, но это не сработало, а п…
19 окт '22 в 14:32
0 ответов

Запросы seldon-code tfserver grpc возвращают `StatusCode.UNIMPLEMENTED`

У меня есть модель тензорного потока.pbсо спецификацией, как показано ниже The given SavedModel SignatureDef contains the following input(s): inputs['Conv1_input'] tensor_info: dtype: DT_FLOAT shape: (-1, 28, 28, 1) name: serving_default_Conv1_input…
03 дек '22 в 23:14
0 ответов

Передача uri модели в развертывание ядра seldon в kubeflow (локально)

Я пытаюсь передать uri модели, который хранится в компоненте kubeflow, в качестве выходного пути. К редкому развертыванию ядра Это код, который обучает модель и выводит путь к файлу в виде файла joblib. Согласно основной документации seldon, чтобы п…
27 ноя '22 в 12:30
1 ответ

Развертывание ядра Seldon в частном кластере GKE с Anthos Service Mesh

Я пытаюсь использовать частный кластер GKE со стандартной конфигурацией с управляемым профилем сервисной сетки Anthos. Однако, когда я пытаюсь развернуть модель «Iris» для теста, развертывание зависает при вызове «storage.googleapis.com»: $ kubectl …
19 ноя '22 в 21:05
1 ответ

Подача ML с использованием kserve seldon или bentoml

Что лучше kserve, seldon core или bentoML? и каковы преимущества/недостатки и особенности каждого из них Перерыл много исследований, однозначного ответа не нашел
28 окт '22 в 08:57
1 ответ

MLServer GRPC не может преобразовать массив размером 347 в форму (1,)

Я следую примеру, чтобы обслуживать модель sklearn https://github.com/SeldonIO/MLServer/blob/master/docs/examples/sklearn/README.md Я могу обучить и создать модель, а затем успешно выполнить вызов REST для вывода. Однако сейчас я пытаюсь создать выз…
19 июл '22 в 04:42
0 ответов

Статус моего модуля kubernetes — Init: CrashLoopBackOff с использованием ядра seldon.

Поскольку я использовал официальный манифест seldon core для развертывания простого приложения hello world. apiVersion: machinelearning.seldon.io/v1alpha2 kind: SeldonDeployment metadata: labels: app: seldon name: outliersdetector spec: name: outlie…
12 авг '22 в 14:55
0 ответов

Возможен ли настраиваемый декларативный Horizontal Pod AutoScaler (HPA) в развертывании seldon (CRD) для среды с несколькими развертываниями?

Используя CRD SeldonDeployment, я хочу настроить HPA, следуя этому примеру . Конфигурация развертывания seldon: apiVersion: machinelearning.seldon.io/v1 kind: SeldonDeployment metadata: name: seldon-model spec: name: test-deployment predictors: - co…
18 окт '22 в 11:42
1 ответ

Обход Dex в KubeFlow для доступа к модели seldon через curl

Я следовал примеру по адресу: https://github.com/SeldonIO/seldon-core/tree/master/examples/kubeflow . Шаги Сделано: kubectl port-forward $(kubectl get pods -l istio=ingressgateway -n istio-system -o jsonpath='{.items[0].metadata.name}') -n istio-sys…
16 окт '22 в 23:17
1 ответ

SeldonDeployment зависает при создании / Pods зависает в ожидании с Kubeflow, установленным через манифест

Я следовал примеру https://github.com/SeldonIO/seldon-core/tree/master/examples/kubeflow. 1.kubectl port-forward $(kubectl get pods -l istio=ingressgateway -n istio-system -o jsonpath='{.items[0].metadata.name}') -n istio-system 8003:80 2.kubectl cr…
16 окт '22 в 13:09
0 ответов

Ошибка SeldonAPI для модели mlserver, развернутой на Seldon

Я пытаюсь диагностировать ошибку вызова модели, показанную ниже. Ошибка случайная (5-10% трафика). Система Селдона не ограничена памятью или процессором. Кто-нибудь знает, что означает эта трассировка стека? level=error logger=SeldonRestApi thread=&…
28 июн '23 в 22:32