Presto/Python: как подключиться к Presto в AWS EMR с помощью python?

Я создал кластер Presto, используя AWS EMR. Я использую все конфигурации по умолчанию. Я хотел бы написать скрипт Python на главном узле, чтобы выдвигать запросы к presto и получать результат.

Я нашел библиотеку PyHive, но не знаю, что поместить в строку подключения:

from pyhive import presto  # or import hive
cursor = presto.connect('localhost').cursor()
statement = 'SELECT * FROM my_awesome_data LIMIT 10'
cursor.execute(statement)
my_results = cursor.fetchall()

Я думаю, что localhost, вероятно, прав, потому что я запускаю скрипт на главном узле кластера presto, но я получаю ошибку:

OperationalError: Unexpected status code 404
b'<!DOCTYPE html><html><head><title>Apache Tomcat/8.0.45 - Error report</title><style type="text/css">H1 {font-family:Tahoma,Arial,sans-serif;color:white;background-color:#525D76;font-size:22px;} H2 {font-family:Tahoma,Arial,sans-serif;color:white;background-color:#525D76;font-size:16px;} H3 {font-family:Tahoma,Arial,sans-serif;color:white;background-color:#525D76;font-size:14px;} BODY {font-family:Tahoma,Arial,sans-serif;color:black;background-color:white;} B {font-family:Tahoma,Arial,sans-serif;color:white;background-color:#525D76;} P {font-family:Tahoma,Arial,sans-serif;background:white;color:black;font-size:12px;}A {color : black;}A.name {color : black;}.line {height: 1px; background-color: #525D76; border: none;}</style> </head><body><h1>HTTP Status 404 - /v1/statement</h1><div class="line"></div><p><b>type</b> Status report</p><p><b>message</b> <u>/v1/statement</u></p><p><b>description</b> <u>The requested resource is not available.</u></p><hr class="line"><h3>Apache Tomcat/8.0.45</h3></body></html>'
Источник

1 ответ

Решение

Я выяснил, что порт, который EMR устанавливает для веб-коннектора Presto, это 8889, поэтому с правильным соединением:

from pyhive import presto
cursor = presto.connect(host='localhost', port=8889).cursor()
statement = 'SELECT * FROM my_awesome_data LIMIT 10'
cursor.execute(statement)
my_results = cursor.fetchall()

Я получаю свои результаты:

print(my_results)

[('tn', 44599263, 925636329.2440014), ('fp', 169984085, 3624296366.570987), ('fn', 6370, 488192.751), ('tp', 47909, 4036930.0270000002)]
Источник
Другие вопросы по тегам