温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

HBase数据模型和表设计知识点有哪些

发布时间:2021-12-09 09:46:50 来源:亿速云 阅读:129 作者:iii 栏目:大数据

这篇文章主要介绍“HBase数据模型和表设计知识点有哪些”,在日常操作中,相信很多人在HBase数据模型和表设计知识点有哪些问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”HBase数据模型和表设计知识点有哪些”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

术语

Table

  • Hbase的table由多个行组成。

Row

  • 一个行在Hbase中由一个或多个有值的列组成。Row按照字母进行排序,因此行键的设计非常重要。这种设计方式可以让有关系的行非常的近,通常行键的设计是网站的域名反转,比如(org.apache.www, org.apache.mail, org.apache.jira),这样的话所有的Apache的域名就很接近。

Column Family(列簇或列族)

  • 列簇在物理上包含了许多的列与列的值,每个列簇都有一些存储的属性可配置。例如是否使用缓存,压缩类型,存储版本数等。在表中,每一行都有相同的列簇,尽管有些列簇什么东西也没有存。

Column

  • 列由列簇加上列的标识组成,一般是“列簇:列标识”,创建表的时候不用指定列名(列标识)

Column Qualifier

  • 列簇的限定词,理解为列的唯一标识。但是列标识是可以改变的,因此每一行可能有不同的列标识

Cell

  • Cell是由row,column family,column qualifier包含时间戳与值组成的,一般表达某个值的版本。

Timestamp

  • 时间戳一般写在value的旁边,代表某个值的版本号,默认的时间戳是写入数据的那一刻,也可以在写入数据的时候指定不同的时间戳

标识设计要点

  • 只要是数据库都存在,模式设计的问题,关系型中有模式设计的范式,Hbase作为列式存储数据库,其模式设计也非常重要。

hbase与关系型数据库对比

属性hbaseRDBMS
数据类型只有字符串丰富的数据类型
数据操作增删改查,不支持join各种各样的函数与表连接
存储模式基于列式存储基于表结构和行式存储
数据保护更新后仍然保留旧数据数据替换
可伸缩性轻易增加节点需要中间层,牺牲性能

设计时考虑因素

  • Hbase关键概念:表,rowkey,列簇,时间戳

    • 这个表应该有多少列簇

    • 列簇使用什么数据

    • 每个列簇有有多少列

    • 列名是什么,尽管列名不必在建表时定义,但读写数据是要知道的

    • 单元应该存放什么数据

    • 每个单元存储多少时间版本

    • 行键(rowKey)结构是什么,应该包含什么信息

设计要点

行键rowkey设计

  • 说明

    • 行键是关键部分,直接关系到后续服务的访问性能。如果行键设计不合理,后续查询服务效率会成倍的递减。

  • 细节

    • rowkey全局唯一,如果重复添加数据会覆盖。

    • 避免单调的递增行键,因为Hbase的行键是有序排列的,这样可能导致一段时间内大部分写入集中在某一个Region上进行操作,负载都在一台节点上。可以设计成: [metric_type][event_timestamp],不同的metric_type可以将压力分散到不同的region上

    • 行键短到可读即可,因为查询短键比长键性能好些,所以设计时要权衡长度,最好不要超过16个字节。

    • 行键不能改变,唯一可以改变的方式是先删除后插入

列簇设计

  • 说明

    • 列簇是一些列的集合,一个列簇的成员有相同的前缀,以冒号(:)作为分隔符。

  • 细节

    • 当前Hbase不能很好处理2~3个以上的列簇,所以尽可能让列簇少一些,如果表有多个列簇,列簇A有100万行数据,列簇B有10亿行,那么列簇A会分散到很多的Region导致扫描列簇A的时候效率底下。

    • 列簇名的长度要尽量小,一个为了节省空间,另外加快效率,比如d表示data,v表示value

列簇属性

  • HFile数据块,默认是64KB,数据库数据的大小影响数据块索引的大小。数据块大的话一次加载进内存的数据越多,扫描查询效果越好。但是数据块小的话,随机查询性能更好

  • 数据块缓存,数据块缓存默认是打开的,如果一些比较少访问的数据可以选择关闭缓存

  • 数据压缩,压缩会提高磁盘利用率,但是会增加CPU的负载,看情况进行控制

到此,关于“HBase数据模型和表设计知识点有哪些”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注亿速云网站,小编会继续努力为大家带来更多实用的文章!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI