Описание тега google-cloud-python

Use this tag if you are going to refer something from Python libraries OR API Clients of Google Cloud Platform.
1 ответ

Python: как я могу создать GoogleCredentials, используя определенного пользователя вместо get_application_default()

Я обновляю скрипт для вызова конечных точек Google Cloud, защищенных OAuth2. В предыдущей версии предполагалось, что один пользователь предварительно аутентифицирован gcloud auth login и, таким образом, смог использовать значение по умолчанию: crede…
1 ответ

Получение 100 результатов за раз в Google App Engine

Я надеялся, что кто-нибудь сможет объяснить мне, как использовать смещения или курсоры в App Engine. я использую gcloud к объектам удаленного доступа для огромной миграции данных, и хотел бы получить данные в пакетах по 100. Я предполагаю, что есть …
3 ответа

Эффективно написать кадр данных Pandas в Google BigQuery

Я пытаюсь загрузить pandas.DataFrame Google большой запрос, используя pandas.DataFrame.to_gbq() Функция документирована здесь. Проблема в том, что to_gbq() занимает 2,3 минуты, а загрузка непосредственно в Google Cloud Storage GUI занимает меньше ми…
1 ответ

Конфигурация CORS для хранилища Google Cloud не устанавливается с помощью клиента Python

Конфигурация CORS для хранилища облачных хранилищ не устанавливается с помощью Python. Я выполняю шаги, указанные в: http://google-cloud-python.readthedocs.io/en/latest/storage/buckets.html То есть, >>> policies = bucket.cors >>> p…
1 ответ

Python BigQuery API - получить схему / заголовок таблицы

Приведенный пример запроса, как import uuid from google.cloud import bigquery def query_shakespeare(): client = bigquery.Client() query_job = client.run_async_query(str(uuid.uuid4()), """ #standardSQL SELECT corpus AS title, COUNT(*) AS unique_words…
08 ноя '17 в 18:49
0 ответов

Как записать данные в Google Cloud Bigtable в приложении PySpark на dataproc?

Я использую Spark в кластере Google Cloud Dataproc, и я хотел бы написать в Bigtable в работе PySpark. Поскольку коннектор Google для этого же недоступен, я просто использую клиент Bigtable Google Cloud для вставки данных и использую искру для парал…
0 ответов

Выполнение шаблона из App Engine с использованием Java

Мне нужно запустить шаблон задания потока данных из App Engine за фиксированный интервал времени, чтобы сделать интервал исправления. Я использовал задание cron, но у меня нет идеи, как запустить шаблон на языке Java. Мне нужен приведенный ниже код …
1 ответ

Загадочное сообщение Google Cloud Dataflow при загрузке файла из gcp в локальную систему

Я пишу конвейер потока данных, который обрабатывает видео из облака Google. Мой конвейер загружает каждый рабочий элемент в локальную систему, а затем повторно загружает результаты обратно в корзину GCP. После предыдущего вопроса. Конвейер работает …
2 ответа

Код ошибки API Google Vision

Я пытаюсь пример кода в https://googlecloudplatform.github.io/google-cloud-python/stable/vision-usage.html from google.cloud import vision client = vision.Client() image = client.image('./image.jpg') safe_search = image.detect_safe_search() image.de…
1 ответ

Python-клиент BigQuery отбрасывает несколько строк с помощью Streaming API

У меня около миллиона элементов данных, вставляемых в BigQuery с использованием потокового API (BigQuery Python Client insert_row функции), но есть некоторая потеря данных, ~10000 элементов данных теряются при вставке. Есть ли вероятность, что BigQu…
1 ответ

google.cloud.pubsub - Потоковое извлечение сообщений PubSub

В настоящее время я провожу некоторые тесты на последней google-cloud-pubsub==0.35.4 релиз pubsub. Мое намерение состоит в том, чтобы обработать бесконечный поток (изменяющийся в нагрузке), используя динамическое количество клиентских клиентов. Тем …
1 ответ

Записать ключ учетной записи Google Cloud Service, созданный в скрипте Python API

Мне удалось создать служебную учетную запись и ее ключ через API Python iamcredetials.googleapis.com, но я не могу войти в нее, так как ключ имеет формат P12 и получен как dict, и я не могу найти способ входа в ключ. Есть ли способ создать файл p12 …
0 ответов

Firestore: прослушивание документов во вложенной коллекции

Я пытаюсь прослушать документы в коллекции из кода Python, используя пример из документации Firestore. Я получаю правильные данные при прослушивании корневой коллекции, но ничего не получаю при прослушивании вложенной коллекции. Вот мой код: db = fi…
1 ответ

Как разобрать записи журнала аудита из Stackdriver на GCP

Я пытаюсь получить журналы аудита BigQuery с помощью клиентских библиотек Stackdriver Logging в Python. Согласно учебному пособию следующий код должен быть в состоянии извлечь записи журнала: for entry in client.list_entries(): do_something_with(ent…
1 ответ

Почему API видения google-cloud-python возвращает несколько аннотаций?

Я работаю с Google Cloud Vision API с Python( https://googlecloudplatform.github.io/google-cloud-python/stable/vision-usage.html) Но я не мог понять, почему результат аннотации одного изображения состоит из list из annotations.В документе говорится:…
3 ответа

Утечка памяти в Python-клиенте Google PubSub

Я публикую сообщения в Google PubSub на неопределенный срок, используя Python. Я публикую сообщения в пакетном режиме. Я установил batch_size как 20. Я публикую сообщения в 5 процессах. Я выполнил приведенный ниже скрипт в GCE с 1 CPU и 3,75 памяти.…
5 ответов

Google Cloud Storage + Python: есть ли способ перечислить obj в определенной папке в GCS?

Я собираюсь написать программу на Python, чтобы проверить, находится ли файл в определенной папке моего Google Cloud Storage, основная идея состоит в том, чтобы получить list всех объектов в папке, имя файла list, а затем проверьте, если файл abc.tx…
1 ответ

Ошибки времени ожидания Google Cloud Datastore в python

У меня есть таблица в Google Cloud Datastore, где я храню небольшую структуру данных, которая написана в одном сервисе Python и прочитана в другом. Я использую gcloud версии 0.15.0. Вот код Python, который я использую для записи / чтения данных в / …
1 ответ

Как я могу загрузить файл размером более 32 МБ в GCS с помощью клиента Google-Cloud?

Недавно я начал использовать клиент google-cloud и сделал небольшой пример (для ясности я пропустил / изменил некоторые параметры): <form id="testform" method="post" enctype="multipart/form-data"> <p> <div> <label for="fotos"&gt…
1 ответ

Создание записи в хранилище данных приводит к появлению зашифрованных свойств при просмотре в браузере

Мне удается создать или изменить сущность хранилища данных в порядке с google.cloud.datastore в python, но когда я захожу в свой проект Cloud Platform в браузере и проверяю запись, похоже, что все его свойства зашифрованы (они выглядят как "Rm9vIEJh…