Не удалось инициализировать схему для HiveServer2 в Apache Hive 3.0.0 в Cygwin (Windows 10) [решено]

У меня уже был кластер Hadoop 3.0.0, состоящий из 2 машин: 1 namenode + RM и 1 datanode. Я попытался установить Apache Hive 3.0.0, следуя этому документу.

Когда я бегу schematool -dbType derby -initSchema --verbose на Cygwin было сгенерировано исключение:

$ schematool -dbType derby -initSchema --verbose
SLF4J: Class path contains multiple SLF4J bindings.
SLF4J: Found binding in [jar:file:/C:/BigSol/apache-hive-3.0.0-bin/lib/log4j-slf4j-impl-2.10.0.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: Found binding in [jar:file:/C:/BigSol/hadoop-3.0.0/share/hadoop/common/lib/slf4j-log4j12-1.7.25.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: See http://www.slf4j.org/codes.html#multiple_bindings for an explanation.
SLF4J: Actual binding is of type [org.apache.logging.slf4j.Log4jLoggerFactory]
Metastore connection URL:        jdbc:derby:;databaseName=metastore_db;create=true
Metastore Connection Driver :    org.apache.derby.jdbc.EmbeddedDriver
Metastore connection User:       APP
Starting metastore schema initialization to 3.0.0
org.apache.hadoop.hive.metastore.HiveMetaException: Unknown version specified for initialization: 3.0.0
org.apache.hadoop.hive.metastore.HiveMetaException: Unknown version specified for initialization: 3.0.0
        at org.apache.hadoop.hive.metastore.MetaStoreSchemaInfo.generateInitFileName(MetaStoreSchemaInfo.java:137)
        at org.apache.hive.beeline.HiveSchemaTool.doInit(HiveSchemaTool.java:580)
        at org.apache.hive.beeline.HiveSchemaTool.doInit(HiveSchemaTool.java:562)
        at org.apache.hive.beeline.HiveSchemaTool.main(HiveSchemaTool.java:1445)
        at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
        at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
        at java.lang.reflect.Method.invoke(Method.java:498)
        at org.apache.hadoop.util.RunJar.run(RunJar.java:239)
        at org.apache.hadoop.util.RunJar.main(RunJar.java:153)
*** schemaTool failed ***

При просмотре строки кода, которая вызвала исключение, я обнаружил, что Hive пытался найти схему SQL, расположенную по адресу %HIVE_HOME%\scripts\metastore\upgrade\derby\hive-schema-3.0.0.derby.sql,

Я сомневаюсь, что Cygwin испортил путь, так что Hive не нашел эту схему.

Мои вопросы:

  1. Как я могу исправить путь (или исправить проблему)?
  2. Есть ли пакетные файлы, эквивалентные *.sh файлы в %HIVE_HOME%\bin каталог как у Hive 2.1.1 есть?

1 ответ

Я нашел решение. После запуска schematool на машине Linux и скопировал metastore_db каталог на машине Windows, мне удалось запустить HiveServer2, но beeline CLI сказал, что баночка в C:\cygdrive\c\BigSol\apache-hive-3.0.0-bin\lib\hive-beeline-3.1.0.jar не был найден.

Оказалось, что Java в Cygwin разобрать не по тому пути. Я сделал символическую ссылку от C:\cygdrive\c в C:\ и это сработало.

Другие вопросы по тегам