温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Hive与HBase的整合过程中的基本命令操作是怎样的

发布时间:2021-11-11 17:16:07 来源:亿速云 阅读:194 作者:柒染 栏目:云计算

Hive与HBase的整合过程中的基本命令操作是怎样的,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。

一:Hive与Hbase的整合过程。

1.创建HBase识别的表,然后查看表是否创建成功。

hive:

hive> CREATE TABLE hivehbase(key int, value string)
    > STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler' 
    > WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,columnfamily1:val")
    > TBLPROPERTIES ("hbase.table.name" = "hbasehive");

hive> CREATE TABLE hivehbase(key int, value string)
    > STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler' 
    > WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,columnfamily1:val")
    > TBLPROPERTIES ("hbase.table.name" = "hbasehive");
OK
Time taken: 9.881 seconds
hive> show tables;
OK
hivehbase
testhive
Time taken: 0.055 seconds, Fetched: 2 row(s)

hbase:

hbase(main):002:0> list
TABLE  
hbasehive

注意:     hbase.table.name 定义在hbase的table名称 
                hbase.columns.mapping 定义在hbase的列族 

2.使用sql往hivehbase中导入数据,将testhive表中的以下数据导入到hivehbase中,如下:

hive> select * from testhive;
OK
1	Berg
1	Berg
2	Cccc
3	Xxxx
4	Jjjj

 开始导入数据,即: 注意overwrite,相同的数据记录会覆盖点,复制。

hive>  insert overwrite table hivehbase select * from testhive;

导入数据成功后,在查询该表中数据,即:

hive> select * from hivehbase;
OK
1	Berg
2	Cccc
3	Xxxx
4	Jjjj
Time taken: 0.458 seconds, Fetched: 4 row(s)

然后进入hbase,查看hbase中hbasehive表中是否存在数据:

hbase(main):004:0> scan 'hbasehive'
ROW                       COLUMN+CELL                                                             
 1                        column=columnfamily1:val, timestamp=1464514508295, value=Berg           
 2                        column=columnfamily1:val, timestamp=1464514508295, value=Cccc           
 3                        column=columnfamily1:val, timestamp=1464514508295, value=Xxxx           
 4                        column=columnfamily1:val, timestamp=1464514508295, value=Jjjj           
4 row(s) in 0.0470 seconds

可以看到,在hive中往hivehbase中添加的数据,已经存在在hbase中的hbasehive表中了,
那反过来,在hbase中往hbasehive中添加的数据,在hive中的hivehbase能否查看到了?

往hbase中的hbasehive中添加一条数据记录,如下:

hbase(main):007:0> put 'hbasehive', '5','columnfamily1:val','Yyyy'

然后在在hive中查看hivehbase中的表数据,可以看到:

hive> select * from hivehbase;
OK
1    Berg
2    Cccc
3    Xxxx
4    Jjjj
5    Yyyy   : 已经说明,在hbase中操作数据,也能够在hive中查询到。

3.hive访问已经存在的hbase,使用CREATE EXTERNAL TABLE,

 在hbase中准备一张 student表,并为其表中插入三条数据记录,即:

hbase(main):026:0> create 'student','info'


hbase(main):028:0> put 'student','1','info:name','Berg'

hbase(main):029:0> put 'student','2','info:name','Hbase'

hbase(main):030:0> put 'student','3','info:name','hive'
 

使用CREATE EXTERNAL TABLE:

    CREATE EXTERNAL TABLE hbase_person(key string, value string,value string,value int)       STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'  
    WITH SERDEPROPERTIES ("hbase.columns.mapping" = "info:name,info:sex,info:age")   
    TBLPROPERTIES("hbase.table.name" = "person"); 

如下:

hive> CREATE EXTERNAL TABLE hivehbase_student(key int, value string)
    > STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
    > WITH SERDEPROPERTIES ("hbase.columns.mapping" = "info:name")
    > TBLPROPERTIES("hbase.table.name" = "student");
OK


查看表是否生成:
hive> show tables;
OK
hivehbase_student   : 表示已经生成存在。


然后在查看hive中 这张表的数据: 
hive> select * from hivehbase_student;
OK
1    Berg
2    Hbase
3    hive   

结果表名,该数据跟hbase中student表中的数据一致。

 

****************************************************************************************************

完成上述操作后,在接着往下看:

二:多列和多列族(Multiple Columns and Families) 

1.在hive中操作数据库,如下:

先准备一张元数据表,multiplehive,往该表中存放多条数据记录,操作如下:

hive> create table multiplehive
    > (id int, name string,sex string, age int)
    > ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' STORED AS TEXTFILE;
OK
Time taken: 0.179 seconds
hive> load data local inpath '/home/hadoop/mytestdata/multiplehive.txt' into table multiplehive;
Loading data to table default.multiplehive
OK
Time taken: 0.736 seconds
hive> select * from multiplehive;
OK
1	Berg	f	21
2	BigData	m	20
Time taken: 0.186 seconds, Fetched: 2 row(s)

CREATE TABLE hivehbase_person(key int, name string, sex string, age int) 
STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,info:name,info:sex,info:age")
TBLPROPERTIES("hbase.table.name" = "hbasehive_person");

hive> CREATE TABLE hivehbase_person(key int, name string, sex string, age int) 
    > STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
    > WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,info:name,info:sex,info:age")
    > TBLPROPERTIES("hbase.table.name" = "hbasehive_person");
OK

创建关联表成功后,在hive中往表 hivehbase _person表中插入准备好的数据,即:

hive> insert overwrite table hivehbase_person select id,name,sex,age from multiplehive;
 

然后在查看这张表的数据,如下:

hive> select * from hivehbase_person;
OK
1	Berg	f	21
2	BigData	m	20
Time taken: 0.679 seconds, Fetched: 2 row(s)

再去Hbase中,查看这张表的数据:hbase(main):039:0> scan 'hbasehive_person'

hbase(main):039:0> scan 'hbasehive_person'
ROW                       COLUMN+CELL                                                             
 1                        column=info:age, timestamp=1464522188307, value=21                      
 1                        column=info:name, timestamp=1464522188307, value=Berg                   
 1                        column=info:sex, timestamp=1464522188307, value=f                       
 2                        column=info:age, timestamp=1464522188307, value=20                      
 2                        column=info:name, timestamp=1464522188307, value=BigData                
 2                        column=info:sex, timestamp=1464522188307, value=m                       
2 row(s) in 8.1630 seconds

看完上述内容是否对您有帮助呢?如果还想对相关知识有进一步的了解或阅读更多相关文章,请关注亿速云行业资讯频道,感谢您对亿速云的支持。

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI