• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
导航菜单
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • windows
  • 服务器硬件
  • 服务器运维
  • 云计算
  • 虚拟化
  • IIS教程
  • Linux
  • Apache
  • Ftp
  • DNS
  • Nginx
您的位置:首页 > 服务器 >云计算 > HIVE以及OOZIE添加第三方JAR包的方法,hiveoozie

HIVE以及OOZIE添加第三方JAR包的方法,hiveoozie

作者:网友 字体:[增加 减小] 来源:互联网

本文主要包含oozie hive,oozie,oozie使用,oozie安装,oozie spark等服务器相关知识,网友希望可以进行参考

HIVE以及OOZIE添加第三方JAR包的方法,hiveoozie


本文原文出处: http://blog.csdn.net/bluishglc/article/details/46005269 严禁任何形式的转载,否则将委托CSDN官方维护权益!

很多时候,我们需要在HIVE中引入第三方jar包或者是自己编写的“UDF”jar包。在HIVE中,涉及指定外部jar包的配置有两个地方:

从目前的实验可以确定的有两点:

hive-site.xml配置项:hive.aux.jars.path

对于hive.aux.jars.path的配置,建议制定一个HDFS路径,jar包上传到HDFS上,这样比较方便。如果指定是本地路径,则需要确保每个节点上的对应位置上都放置了需要的jar包,这样操作起来比较麻烦。

环境变量HIVE_AUX_JARS_PATH

对于环境变量HIVE_AUX_JARS_PATH,要特别说明一下,通常我们说设置一下这个变量就可以引入相应的jar,但是在当前版本的hive下,这个变量的设值有些问题,让我们来看一下启动hive的shell脚本hive-env.sh,它里面有这样一段:

# Folder containing extra libraries required for hive compilation/execution can be controlled by:
if [ "${HIVE_AUX_JARS_PATH}" != "" ]; then
  export HIVE_AUX_JARS_PATH=${HIVE_AUX_JARS_PATH}
elif [ -d "/usr/hdp/current/hive-webhcat/share/hcatalog" ]; then
  export HIVE_AUX_JARS_PATH=/usr/hdp/current/hive-webhcat/share/hcatalog
fi

这是段脚本比较糟糕,因为一旦我们给HIVE_AUX_JARS_PATH设值,则/usr/hdp/current/hive-webhcat/share/hcatalog就会被忽略掉。这显然看起来很怪异,实际上hive只能读取一个HIVE_AUX_JARS_PATH,也就是上面这段怪异代码的主要原因。所以,一个比较好的做法是,我们可以在一个地方集中放置我们的共享jar包,然后在/usr/hdp/current/hive-webhcat/share/hcatalog下面建立一相应的软连接就可以,比如,我们把jar统一放在/usr/lib/share-lib下,然后这样建立软连接:

sudo -u hive ln -s /usr/lib/share-lib/elasticsearch-hadoop-2.1.0.Beta4.jar /usr/hdp/current/hive-webhcat/share/hcatalog/elasticsearch-hadoop-2.1.0.Beta4.jar

OOZIE中如何指定第三方JAR包

如果你的依赖到第三方JAR的HIVE脚本本身又是一个OOZIE工作流中的一环,那么我们的工作还没有完,如果你在OOZIE配置并引入第三方JAR,那么你的工作流还是会失败。对于OOZIE,引入第三方JAR的方法是oozie-site.xml中的oozie.service.WorkflowAppService.system.libpath, 我们需要配置这个选项,并把相应的JAR包上传到这个目录下。注意,这也是一个HDFS的路径!

分享到:QQ空间新浪微博腾讯微博微信百度贴吧QQ好友复制网址打印

您可能想查找下面的文章:

  • HIVE以及OOZIE添加第三方JAR包的方法,hiveoozie

相关文章

  • openstack-计算节点安装(Node),openstack-node
  • CMDBuild安装及webservice接口的获取,cmdbuildwebservice
  • 推荐引擎mahout安装与配置,引擎mahout配置
  • R语言数据分析系列之一,数据分析系列之一
  • hadoop中NameNode、DataNode和Client三者之间协作关系及通信方式介绍,hadoopnamenode
  • 有关微软技术方向的最新学习资源【2015-9月】,学习资源2015-9
  • Azure云平台学习之路(一)——Azure简介,azure之路
  • 如何选择大数据培训机构,选择数据培训机构
  • openstack性能测试用例和测试结果,openstack性能测试
  • hbase,hbase安装

文章分类

  • windows
  • 服务器硬件
  • 服务器运维
  • 云计算
  • 虚拟化
  • IIS教程
  • Linux
  • Apache
  • Ftp
  • DNS
  • Nginx

最近更新的内容

    • hadoop1 & hadoop2 fair-schduler 配置和使用,hadoop
    • openstack中Nova组件servers的所有python API 汇总,openstacknova
    • pig里面没有if:不能判断一个条件后决定一个执行步骤,pigif
    • hadoop集群搭建之NFS服务,hadoop集群nfs
    • Spark的日志配置,Spark日志配置
    • Hive作为Mondrian的数据源,hivemondrian
    • 产品型公司的发展-Zoho发布费用管理新品,让CRM系统更强大,-zohocrm
    • Hadoop之——SQOOP笔记,hadoopsqoop
    • Hadoop之——Flume笔记,hadoopflume
    • MapReduce实现倒排索引,mapreduce实现索引

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有