HBase 简介

HBase是什么

HBase 基于 Google 的 BigTable 论文而来，是一个分布式海量列式非关系型数据库系统，可以提供超大规模数据集的实时随机读写。

  • MySQL存储机制
id NAME AGE SALARY JOB
1 小明 23 学生
2 小红 10w 律师

此时空值字段浪费存储空间。

  • HBase列存储
1
2
3
4
5
6
7
rowkey：1 name：小明
rowkey：1 age：23
rowkey：1 job：学生
rowkey：2 name ：小红
rowkey：2 salary：10w
rowkey：2 job：律师
....

列存储的优点：

  1. 减少存储空间占用，空值字段不会存储。

  2. 支持好多列，可以随意增加列

HBase的特点

  • 海量存储： 底层基于HDFS存储海量数据

  • 列式存储：HBase表的数据是基于列族进行存储的，一个列族包含若干列

  • 极易扩展：底层依赖HDFS，当磁盘空间不足的时候，只需要动态增加DataNode服务节点就可以

  • 高并发：支持高并发的读写请求

  • 稀疏：稀疏主要是针对HBase列的灵活性，在列族中，你可以指定任意多的列，在列数据为空的情况下，是不会占用存储空间的。

  • 数据的多版本：HBase表中的数据可以有多个版本值，默认情况下是根据版本号去区分，版本号就是插入数据的时间戳

  • 数据类型单一：所有的数据在HBase中是以字节数组进行存储

HBase的应用

  • 交通方面：船舶GPS信息，每天有上千万左右的数据存储

  • 金融方面：消费信息、贷款信息、信用卡还款信息等

  • 电商方面：电商网站的交易信息、物流信息、游览信息等

  • 电信方面：通话信息

总结：HBase适合海量明细数据的存储，并且后期需要有很好的查询性能（单表超千万、上亿，且并发要求高）

HBase整体架构


  • Zookeeper

    • 实现了HMaster的高可用

    • 保存了HBase的元数据信息，是所有HBase表的寻址入口

    • 对HMaster和HRegionServer实现了监控

  • HMaster（Master）

    • 为HRegionServer分配Region

    • 维护整个集群的负载均衡

    • 维护集群的元数据信息

    • 发现失效的Region，并将失效的Region分配到正常的HRegionServer上

  • HRegionServer（RegionServer）

    • 负责管理Region

    • 接受客户端的读写数据请求

    • 切分在运行过程中变大的Region

  • Region

    • 每个HRegion由多个Store构成，

    • 每个Store保存一个列族（Columns Family），表有几个列族，则有几个Store，

    • 每个Store由一个MemStore和多个StoreFile组成，MemStore是Store在内存中的内容，写到文件后就是StoreFile。StoreFile底层是以HFile的格式保存。

HBase数据模型

HBase的数据也是以表（有行有列）的形式存储

  • HBase逻辑架构

  • HBase物理存储