Не вижу никаких дагов в тезе

Question

Я могу запустить улей на Tez, но не вижу никакой работы в Tez UI.

И это сведет меня с ума!

и пользователь и имя являются нулевыми на сервере временной шкалы

Конфиг это удар: tez-site.xml

<property>
      <name>tez.history.logging.service.class</name>
      <value>org.apache.tez.dag.history.logging.ats.ATSHistoryLoggingService</value>
</property>
<property>
       <description>URL for where the Tez UI is hosted</description>
       <name>tez.tez-ui.history-url.base</name>
       <value>http://10.0.0.51:8080/tez-ui</value>
</property>

и yarn-site.xml

<property>
  <name>yarn.timeline-service.enabled</name>
  <value>true</value>
</property>
<property>
  <name>yarn.timeline-service.hostname</name>
  <value>0.0.0.0</value>
</property>
<property>
  <name>yarn.timeline-service.http-cross-origin.enabled</name>
  <value>true</value>
</property>
<property>
  <name>yarn.resourcemanager.system-metrics-publisher.enabled</name>
  <value>true</value>
</property>
<property>
  <name>yarn.timeline-service.generic-application-history.enabled</name>
  <value>true</value>
</property>
<property>
   <name>yarn.timeline-service.webapp.address</name>
   <value>${yarn.timeline-service.hostname}:8188</value>
</property>
<property>
  <name>yarn.timeline-service.webapp.https.address</name>
  <value>${yarn.timeline-service.hostname}:2191</value>
</property>

И URL:

http://10.0.0.51:8188/ws/v1/timeline/TEZ_DAG_ID  
http://10.0.0.51:8188/ws/v1/timeline/TEZ_APPLICATION_ATTEMPT  
http://10.0.0.51:8188/ws/v1/timeline/TEZ_APPLICATION  

Все они, я просто получаю такой же ответ ниже:

{
entities: [ ]
}

Answer 1

В моем случае выяснилось, что это проблема YARN ACL. Так мне помогло следующее:

yarn.acl.enable = false
or
yarn.admin.acl = activity_analyzer,yarn,dr.who,admin

В качестве бонуса собрана полная комплектация для HDP 3.1 + TEZ 0.9.2:

Конфигурация ПРЯЖИ:

yarn.timeline-service.enabled = true
yarn.acl.enable = false
yarn.admin.acl = activity_analyzer,yarn,dr.who,admin
yarn.timeline-service.webapp.address = <host>:8188
yarn.timeline-service.version = 2,0f
yarn.timeline-service.hostname = <host>
yarn.timeline-service.http-cross-origin.enabled = true
yarn.timeline-service.http-cross-origin.allowed-origins = *
yarn.resourcemanager.system-metrics-publisher.enabled = true
yarn.timeline-service.entity-group-fs-store.group-id-plugin-classes = org.apache.tez.dag.history.logging.ats.TimelineCachePluginImpl

Конфигурация TEZ:

yarn.timeline-service.enabled = true
tez.tez-ui.history-url.base = http://<host>/tez-ui/
tez.am.tez-ui.history-url.template = __HISTORY_URL_BASE__?viewPath=/#/tez-app/__APPLICATION_ID__
tez.history.logging.service.class = org.apache.tez.dag.history.logging.ats.ATSV15HistoryLoggingService
tez.dag.history.logging.enabled = true
tez.am.history.logging.enabled = true
tez.allow.disabled.timeline-domains = true

Конфигурация улья:

hive_timeline_logging_enabled = true
hive.exec.pre.hooks = org.apache.hadoop.hive.ql.hooks.ATSHook
hive.exec.post.hooks = org.apache.hadoop.hive.ql.hooks.ATSHook,org.apache.atlas.hive.hook.HiveHook
hive.exec.failure.hooks = org.apache.hadoop.hive.ql.hooks.ATSHook

Конфигурация HDFS:

hadoop.http.filter.initializers = org.apache.hadoop.security.HttpCrossOriginFilterInitializer

Answer 2

Насколько я вижу в пользовательском интерфейсе Timeline Server, у вас нет информации о рабочих местах. В пользовательском интерфейсе Timeline и Tez вы не можете видеть информацию о заданиях, которые вы выполняли до того, как Timeline Server был включен, поскольку сервер Timeline использует хранилище LevelDB и должен публиковать информацию во время выполнения задания.