Установка Apache HAWQ на основе HDFS
Я хотел бы установить Apache HAWQ на основе Hadoop.
Перед установкой HAWQ я должен установить Hadoop и настроить все мои узлы.
У меня есть четыре узла, как показано ниже, и мой вопрос как удар.
Должен ли я установить дистрибутив hadoop для hawq-master
?
1. hadoop-master //namenode, Secondary Namenode, ResourceManager, HAWQ Standby,
2. hawq-master //HAWQ Master
3. datanode01 //Datanode, HAWQ Segment
4. datanode02 //Datanode, HAWQ Segment
Я написал роль каждого узла рядом с узлами, как указано выше. На мой взгляд, я должен установить hadoop для hadoop-master
, datanode01
а также datanode02
и я должен установить hadoop-master
как наменоде (мастер) и остальные как datanode
(Ведомый). И тогда я установлю apache HAWQ на все узлы. Я установлю hawq-master
в качестве главного узла и hadoop-master
в качестве HAWQ. Ожидание и, наконец, два других узла в качестве сегмента HAWQ.
То, что я хочу, это установка HAWQ на основе Hadoop. Итак, я думаю, что hawq-master
должно быть построено поверх hadoop, но нет связи с hadoop-master
,
Если я продолжу описанную выше процедуру, то думаю, что мне не нужно устанавливать дистрибутив hadoop на hawq-master
, Правильно ли мое мнение, чтобы успешно установить установку HAWQ на основе Hadoop?
Если hadoop должен быть установлен на hawq-master
тогда какой из них правильный?
1. `hawq-master` should be set as `namenode` .
2. `hawq-master` should be set as 'datanode`.
Любая помощь будет оценена.
1 ответ
Честно говоря, нет никаких строгих ограничений на то, как устанавливаются hadoop и hawq, если они настроены правильно.
Для вашего беспокойства: "Я думаю, что hawq-master должен быть построен поверх hadoop, но нет никакой связи с hadoop-master". ИМО, это должно быть "hawq должен быть построен поверх hadoop". И мы настроили файлы конфигурации hawq-master (hawq-site.xml), чтобы у hawq были связи с hadoop.
Обычно для мастера hawq и мастера hadoop мы могли установить каждый компонент на одном узле, но некоторые из них мы могли бы установить на одном узле, чтобы сохранить узлы. Но для сегмента данных HDFS и сегмента HAWQ мы часто устанавливаем их вместе. Принимая нагрузку на каждую машину, мы могли бы установить их, как показано ниже:
hadoop hawq
hadoop-master namenode hawq standby
hawq-master secondarynamenode hawq master
other node datanode segment
Если вы сконфигурируете hawq с интеграцией пряжи, в кластере будут находиться менеджер ресурсов и менеджер узлов.
hadoop role hawq role
hadoop-master namenode hawq standby
hawq-master snamenode,resourcemanager hawq master
other node datanode, nodemanager segment
Установка их вместе не означает, что у них есть соединения, это ваш конфигурационный файл, который позволяет им общаться друг с другом. Вы можете установить все основные компоненты вместе, но там может быть слишком тяжело для машины. Прочтите дополнительную информацию об Apache HAWQ на http://incubator.apache.org/projects/hawq.html и прочитайте некоторые документы на http://hdb.docs.pivotal.io/211/hdb/index.html.
Кроме того, вы можете подписаться на список рассылки dev и user, отправив электронное письмо по адресу dev-subscribe@hawq.incubator.apache.org / user-subscribe@hawq.incubator.apache.org, чтобы подписаться и отправить электронные письма на dev@hawq.incubator.apache.org / user@hawq.incubator.apache.org, чтобы задавать вопросы.