Spark 配置连接hive 元数据库(mysql)

Spark 连接hive 元数据库(mysql)

方法一:

11)打开Hive metastore 2[root@head42 ~]# hive --service metastore & 3netstat -ano|grep 9083 ??? 42)开启spark连接Mysql 5[root@head42 ~]# spark-shell --conf spark.hadoop.hive.metastore.uris=thrift://localhost:9083 63)scala> spark.sql("show tables").show 7spark.sql("select * from database_name.table_name")//访问其他数据库 8+--------+--------------+-----------+ 9|database| tableName|isTemporary| 10+--------+--------------+-----------+ 11| default| customer| false| 12| default|text_customers| false| 13+--------+--------------+-----------+ 14这样就Ok了!

方法二:

1)拷贝hive的hive-site.xml文件到spark的conf目录下

2)修改spark中hive-site.xml文件

1添加以下: 2<configuration> 3<property> 4 <name>hive.metastore.uris</name> 5 <value>thrift://localhost:9083</value> 6</property> 7</configuration>

3)另建窗口启动:

[root@head42 conf]# hive --service metastore

4)启动spark:

[root@head42 conf]# spark-shell

5)测试:

1spark.sql("select * from database_name.table_name").show//访问其他数据库的表格 2scala> spark.sql("show tables").show 3+--------+--------------+-----------+ 4|database| tableName|isTemporary| 5+--------+--------------+-----------+ 6| default| customer| false| 7| default|text_customers| false| 8+--------+--------------+-----------+ 9这样就OK了!
点赞
收藏

评论区

加载中...

相关推荐

MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1

文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s

Oracle 分组与拼接字符串同时使用

SELECTT.,ROWNUMIDFROM(SELECTT.EMPLID,T.NAME,T.BU,T.REALDEPART,T.FORMATDATE,SUM(T.S0)S0,MAX(UPDATETIME)CREATETIME,LISTAGG(TOCHAR(

MySQL部分从库上面因为大量的临时表tmp_table造成慢查询

背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_

手写Java HashMap源码

HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22

Python3:sqlalchemy对mysql数据库操作,非sql语句

Python3:sqlalchemy对mysql数据库操作,非sql语句python3authorlizmdatetime2018020110:00:00coding:utf8'''

KVM调整cpu和内存

一.修改kvm虚拟机的配置1、virsheditcentos7找到“memory”和“vcpu”标签,将<namecentos7</name<uuid2220a6d1a36a4fbb8523e078b3dfe795</uuid