Публикация в Vertex AI Моя подсказка из функции Google Cloud

Я создал приглашение AI Vertex AI Generative Studio. Я могу отправить POST с помощью CURL и получить ответ. Но когда я пытаюсь создать облачную функцию, я не могу авторизоваться. Кажется, есть инструкции о том, как получить доступ к вашим подсказкам из приложения с помощью SDK, но нет инструкций о том, как сделать это из Cloud Function в качестве вызова сервера к серверу. Любая помощь приветствуется

импортировать ОС из google.auth.transport, запросы на импорт из google.oauth2, import service_account, импортировать запросы на импорт json по запросу

def vertex_ai_request(request):# Определить константы API_ENDPOINT = "us-central1-aiplatform.googleapis.com" PROJECT_ID = "XXXX" MODEL_ID = "text-bison@001" URL = f"https://{API_ENDPOINT}/v1/ проекты/{PROJECT_ID}/locations/us-central1/publishers/google/models/{MODEL_ID}:predict"

      # Load the service account credentials
credentials = service_account.Credentials.from_service_account_file(
    'service-account-file.json'
)
auth_req = requests.Request()
token = credentials.refresh(auth_req).token

# Define the headers
headers = {
    "Authorization": f"Bearer {token}",
    "Content-Type": "application/json"
}

# Define the payload
payload = {
    "instances": [
        {
            "content": "Your content here ..."
        }
    ],
    "parameters": {
        "candidateCount": 1,
        "maxOutputTokens": 317,
        "temperature": 0.2,
        "topP": 0.8,
        "topK": 40
    }
}

# Send the POST request
response = req.post(URL, headers=headers, json=payload)

# Print the response to the logs
print(response.json())

return 'Request completed', 200

0 ответов

Другие вопросы по тегам