标签:安装 code bucketId tez hive range set 报错 true
hive select * from table 出现如上报错
背景 集群为cdp ,hive版本为3.1
集群最开始安装了hive 和tez 没有安装hive on tez。后面发现select count(1)的时候没有启动tez
最后是 hive 不安装 hiveserver2
hive on tez 安装了
另外 这个版本的hive有时候是建外表的,有时候是内表,搞得我都怀疑自己了。。。
建议大家都show create table 看下
说完了。然后我们是用datax从postgresql导数到hive。 这套我们之前在cdh上已经跑了很久了,没有任何问题。结果在cdp的时候报错了。
.
唉 。最后百度无果,国内垃圾。
set hive.mapred.mode=nonstrict;
set hive.optimize.ppd=true;
set hive.optimize.index.filter=true;
set hive.tez.bucket.pruning=true; --根据大佬所说 这条是关键
set hive.explain.user=false;
set hive.fetch.task.conversion=none;
set hive.support.concurrency=true;
set hive.txn.manager=org.apache.hadoop.hive.ql.lockmgr.DbTxnManager;
干,虽说不理解这是啥意思 但是复制了这段 确实就好了。
还有另外一种。查原码
[HIVE-23051] Clean up BucketCodec - ASF JIRAhttps://issues.apache.org/jira/browse/HIVE-23051
直接说了这里一直为true。所以移除就行。自己替换下jar就行。
其实我猜测hive3.1默认是桶表,然后我又没有分桶 桶数量就是-1.这里就会报错
标签:安装,code,bucketId,tez,hive,range,set,报错,true 来源: https://blog.csdn.net/cclovezbf/article/details/123221567
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。