Как передать client_protocol драйверу JDBC в R?

Я пытаюсь подключиться к HiveServer2 с использованием пакета dplyr.spark.hive, но у меня возникает ошибка, что я не могу передать имя пользователя в функцию dbConnect, и, вероятно, это причина, по которой я получаю сообщение об ошибке NULL client_protocol.

Кто-нибудь знает, как это исправить или как передать user/username функции dbConnect, где драйвером является JDBC?

Этот запрос beeline отлично работает для меня

beeline  -u "jdbc:hive2://host:port/dbname;auth=noSasl" -n mkosinski --outputformat=tsv --incremental=true -f sql_statement.sql > sql_output

но этот эквивалент R не соответствует:

> library(dplyr.spark.hive)
Warning: changing locked binding for ‘over’ in ‘dplyr’ whilst loading ‘dplyr.spark.hive’
Warning: changing locked binding for ‘partial_eval’ in ‘dplyr’ whilst loading ‘dplyr.spark.hive’
Warning: changing locked binding for ‘default_op’ in ‘dplyr’ whilst loading ‘dplyr.spark.hive’

Attaching package: ‘dplyr.spark.hive’

The following object is masked from ‘package:SparkR’:

    cache

Warning messages:
1: replacing previous import by ‘purrr::%>%’ when loading ‘dplyr.spark.hive’ 
2: replacing previous import by ‘purrr::order_by’ when loading ‘dplyr.spark.hive’ 
> Sys.setenv(HADOOP_JAR = "/opt/spark-1.5.0-bin-hadoop2.4/lib/spark-assembly-1.5.0-hadoop2.4.0.jar")
> Sys.setenv(HIVE_SERVER2_THRIFT_BIND_HOST = 'tools-1.hadoop.srv')
> Sys.setenv(HIVE_SERVER2_THRIFT_PORT = '10000')
> host = 'tools-1.hadoop.srv'
> port = 10000
> driverclass = "org.apache.hive.jdbc.HiveDriver"
> Sys.setenv(HADOOP_JAR = "/opt/spark-1.5.0-bin-hadoop2.4/lib/spark-assembly-1.5.0-hadoop2.4.0.jar")
> library(RJDBC)
> dr = JDBC(driverclass, Sys.getenv("HADOOP_JAR"))
> #url = paste0("jdbc:hive2://", host, ":", port)
> url = paste0("jdbc:hive2://", host, ":", port,"/loghost;auth=noSasl")
> class = "Hive"
> con.class = paste0(class, "Connection") # class = "Hive"
> con = new(con.class, dbConnect(dr, url, username = "mkosinski", database = "loghost"))
log4j:WARN No appenders could be found for logger (org.apache.hive.jdbc.Utils).
log4j:WARN Please initialize the log4j system properly.
log4j:WARN See http://logging.apache.org/log4j/1.2/faq.html#noconfig for more info.
Error in .jcall(drv@jdrv, "Ljava/sql/Connection;", "connect", as.character(url)[1],  : 
  java.sql.SQLException: Could not establish connection to jdbc:hive2://tools-1.hadoop.srv:10000/loghost;auth=noSasl: Required field 'client_protocol' is unset! Struct:TOpenSessionReq(client_protocol:null, configuration:{use:database=loghost})
> con = new(con.class, dbConnect(dr, url, username = "mkosinski"))
Error in .jcall(drv@jdrv, "Ljava/sql/Connection;", "connect", as.character(url)[1],  : 
  java.sql.SQLException: Could not establish connection to jdbc:hive2://tools-1.hadoop.srv:10000/loghost;auth=noSasl: Required field 'client_protocol' is unset! Struct:TOpenSessionReq(client_protocol:null, configuration:{use:database=loghost})

ИЗМЕНИТЬ 1

Я пытался использовать разные .jar для подключения (как было предложено в комментариях), и похоже, что предыдущая проблема решена (вероятно, я использовал неправильный .jar), но теперь я получаю сообщение об ошибке, сообщающее мне, что соединение каким-то образом не настроено:

> Sys.setenv(HADOOP_HOME="/usr/share/hadoop/share/hadoop/common/")
> Sys.setenv(HIVE_HOME = '/opt/hive/lib/')
> host = 'tools-1.hadoop.srv'
> port = 10000
> driverclass = "org.apache.hive.jdbc.HiveDriver"
> library(RJDBC)
Loading required package: DBI
Loading required package: rJava
> dr = JDBC(driverclass,classPath = c("/opt/hive/lib/hive-jdbc-1.0.0-standalone.jar"))
> dr2 = JDBC(driverclass,classPath = c("/opt/hive/lib/hive-jdbc-1.0.0-standalone.jar",
+                                      "/opt/hive/lib/commons-configuration-1.6.jar"))
> url = paste0("jdbc:hive2://", host, ":", port)
> dbConnect(dr, url, username = "mkosinski", database = "loghost") -> cont
log4j:WARN No appenders could be found for logger (org.apache.hive.jdbc.Utils).
log4j:WARN Please initialize the log4j system properly.
log4j:WARN See http://logging.apache.org/log4j/1.2/faq.html#noconfig for more info.
Error in .jcall(drv@jdrv, "Ljava/sql/Connection;", "connect", as.character(url)[1],  : 
  java.lang.NoClassDefFoundError: org/apache/hadoop/conf/Configuration
> dbConnect(dr2, url, username = "mkosinski", database = "loghost") -> cont
Error in .jcall(drv@jdrv, "Ljava/sql/Connection;", "connect", as.character(url)[1],  : 
  java.lang.NoClassDefFoundError: org/apache/hadoop/conf/Configuration
> sessionInfo()
R version 3.1.3 (2015-03-09)
Platform: x86_64-redhat-linux-gnu (64-bit)
Running under: CentOS Linux 7 (Core)

locale:
 [1] LC_CTYPE=en_US.UTF-8          LC_NUMERIC=C                  LC_TIME=en_US.UTF-8           LC_COLLATE=en_US.UTF-8       
 [5] LC_MONETARY=en_US.UTF-8       LC_MESSAGES=en_US.UTF-8       LC_PAPER=en_US.UTF-8          LC_NAME=en_US.UTF-8          
 [9] LC_ADDRESS=en_US.UTF-8        LC_TELEPHONE=en_US.UTF-8      LC_MEASUREMENT=en_US.UTF-8    LC_IDENTIFICATION=en_US.UTF-8

attached base packages:
[1] stats     graphics  grDevices utils     datasets  methods   base     

other attached packages:
[1] RJDBC_0.2-5 rJava_0.9-7 DBI_0.3.1  

loaded via a namespace (and not attached):
[1] tools_3.1.3

person Marcin Kosiński    schedule 31.12.2015    source источник
comment
Мои 2 цента: это сообщение об ошибке пахнет проблемой конфигурации на стороне клиента для JAR-файлов Hadoop/Hive больше, чем что-либо еще (см. stackoverflow.com/questions/30931599/ например). К какой версии HiveServer2 вы подключаетесь? Какая версия драйвера JDBC на самом деле выбирается из CLASSPATH задания R?   -  person Samson Scharfrichter    schedule 02.01.2016
comment
@SamsonScharfrichter, спасибо, что открыл мне глаза. Я проверю, все ли версии совместимы с hive-client, hive-jdbc и hiveserver2.   -  person Marcin Kosiński    schedule 03.01.2016
comment
@SamsonScharfrichter Я проверил, что версия моего куста 1.0.0, и мой hive-jdbc.jar также имеет версию 1.0.0 - я понятия не имею, как проверить версию HiveServer2. Более того, я понятия не имею, что такое CLASSPATH задания R.   -  person Marcin Kosiński    schedule 11.01.2016
comment
Хорошо, я понимаю, что classpath - это вектор путей к jar-файлам, которые необходимы для подключения к hiveserver2 при использовании JDBC. И, вероятно, мне следует добавить банки morde, как это указано здесь streever.atlassian.net /вики/страницы/   -  person Marcin Kosiński    schedule 11.01.2016
comment
С Hive 1.0 он должен сводиться к hive-jdbc-standalone (большой ~ 18 МБ) плюс, только для кластеров Kerberos, hadoop-common / hadoop-auth / commons-configuration плюс, опционально, только для отключения предупреждений, slf4j-log4j12.jar / log4j.jar   -  person Samson Scharfrichter    schedule 11.01.2016
comment
Ух ты. Я попробую это завтра. Спасибо за комментарий   -  person Marcin Kosiński    schedule 11.01.2016
comment
Спасибо @SamsonScharfrichter за предложение. Похоже, что hive-jdbc-standalone - это правильный jar, но теперь я получаю ошибку Java о некоторой конфигурации. Не могли бы вы быть так любезны и взглянуть на мой РЕДАКТИРОВАТЬ 1?   -  person Marcin Kosiński    schedule 12.01.2016
comment
Блин - org.apache.hadoop.conf.Configuration есть в hadoop-common; тогда вам нужно добавить конфигурацию commons в микс   -  person Samson Scharfrichter    schedule 12.01.2016
comment
Спасибо, я думаю, вы можете опубликовать ответ, что я указал неправильную банку и что для этого сообщения требуется более одной банки :)   -  person Marcin Kosiński    schedule 12.01.2016


Ответы (1)


Проблема заключалась в неправильной спецификации .jar (аргумент classPath в JDBC) и неправильном URL-адресе hiveServer2.

Объяснение здесь https://stackoverflow.com/a/34792408/3857701

person Marcin Kosiński    schedule 14.01.2016