HBase是Google Bigtable的开源实现,它利用Hadoop HDFS作为其文件存储系统,利用Hadoop MapReduce来处理HBase中的海量数据,利用Zookeeper作为协同服务。
1. HBase的表结构
HBase以表的形式存储数据。表有行和列组成。列划分为若干个列族/列簇(column family)。
Row Key
|
column-family1
|
column-family2
|
column-family3
|
column1
|
column2
|
column1
|
column2
|
column3
|
column1
|
key1
|
t1:abc
t2:gdxdf
|
|
t4:dfads
t3:hello
t2:world
|
|
|
|
key2
|
t3:abc
t1:gdxdf
|
|
t4:dfads
t3:hello
|
|
t2:dfdsfa
t3:dfdf
|
|
key3
|
|
t2:dfadfasd
t1:dfdasddsf
|
|
|
|
t2:dfxxdfasd
t1:taobao.com
|
如上图所示,key1,key2,key3是三条记录的唯一的row key值,column-family1,column-family2,column-family3是三个列族,每个列族下又包括几列。比如column-family1这个列族下包括两列,名字是column1和column2,t1:abc,t2:gdxdf是由row key1和column-family1-column1唯一确定的一个单元cell。这个cell中有两个数据,abc和gdxdf。两个值的时间戳不一样,分别是t1,t2, hbase会返回最新时间的值给请求者。
这些名词的具体含义如下:
1. Row Key:与nosql数据库们一样,row key是用来检索记录的主键。访问hbase table中的行,只有三种方式:通过单个row key访问;通过row key的range; 全表扫描
Row key行键 (Row key)可以是任意字符串(最大长度是 64KB,实际应用中长度一般为 10-100bytes),在hbase内部,row key保存为字节数组。存储时,数据按照Row key的字典序(byte order)排序存储。设计key时,要充分排序存储这个特性,将经常一起读取的行存储放到一起。(位置相关性)
注意:字典序对int排序的结果是1,10,100,11,12,13,14,15,16,17,18,19,2,20,21…,9,91,92,93,94,95,96,97,98,99。要保持整形的自然序,行键必须用0作左填充。
行的一次读写是原子操作 (不论一次读写多少列)。这个设计决策能够使用户很容易的理解程序在对同一个行进行并发更新操作时的行为。
2. 列族 column family:hbase表中的每个列,都归属与某个列族。列族是表的chema的一部分(而列不是),必须在使用表之前定义。列名都以列族作为前缀。例如courses:history, courses:math 都属于 courses 这个列族。
访问控制、磁盘和内存的使用统计都是在列族层面进行的。实际应用中,列族上的控制权限能帮助我们管理不同类型的应用:我们允许一些应用可以添加新的基本数据、一些应用可以读取基本数据并创建继承的列族、一些应用则只允许浏览数据(甚至可能因为隐私的原因不能浏览所有数据)。
3.单元 Cell:HBase中通过row和columns确定的为一个存贮单元称为cell。由{row key, column( =<family> + <label>), version} 唯一确定的单元。cell中的数据是没有类型的,全部是字节码形式存贮。
4. 时间戳 timestamp:每个cell都保存着同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是 64位整型。时间戳可以由hbase(在数据写入时自动 )赋值,此时时间戳是精确到毫秒的当前系统时间。时间戳也可以由客户显式赋值。如果应用程序要避免数据版本冲突,就必须自己生成具有唯一性的时间戳。每个cell中,不同版本的数据按照时间倒序排序,即最新的数据排在最前面。
为了避免数据存在过多版本造成的的管理 (包括存贮和索引)负担,hbase提供了两种数据版本回收方式。一是保存数据的最后n个版本,二是保存最近一段时间内的版本(比如最近七天)。用户可以针对每个列族进行设置。
2. HBase shell的基本用法
Hbase提供了一个shell的终端给用户交互。通过执行 help get 可以看到命令的帮助信息。
以网上的一个学生成绩表的例子来演示hbase的用法。
name
|
grad
|
course
|
math
|
art
|
zkb
|
5
|
97
|
87
|
baoniu
|
4
|
89
|
80
|
这里grad对于表来说是一个列,course对于表来说是一个列族,这个列族由两个列组成math和art,当然我们可以根据我们的需要在course中建立更多的列族,如computer,physics等相应的列添加入course列族。图中需要注意的是90这个值,列族下面的列也是可以没有名字的。
1. 建立一个表格scores 具有两个列族grad 和courese
hbase(main):001:0> create 'scores','grade', 'course'
2. 查看当前HBase中具有哪些表
hbase(main):002:0> list
3. 查看表的构造:
hbase(main):004:0> describe 'scores'
4. 加入一行数据,行名称为zkb 列族grad的列名为”” 值位5
hbase(main):006:0> put 'scores','zkb','grade:','5'
5. 给zkb这一行的数据的列族course添加一列<math,97>
hbase(main):007:0> put 'scores','zkb','course:math','97'
6. 给zkb这一行的数据的列族course添加一列<art,87>
hbase(main):008:0> put 'scores','zkb','course:art','87'
7. 加入一行数据,行名称为baoniu 列族grad的列名为”” 值为4
hbase(main):009:0> put 'scores','baoniu','grade:','4'
8. 给baoniu这一行的数据的列族course添加一列<math,89>
hbase(main):010:0> put 'scores','baoniu','course:math','89'
9. 给Jerry这一行的数据的列族course添加一列<art,80>
hbase(main):011:0> put 'scores','baoniu','course:art','80'
10. 查看scores表中zkb的相关数据
hbase(main):012:0> get 'scores','zkb'
11. 查看scores表中所有数据
hbase(main):013:0> scan 'scores'
注意:scan命令可以指定startrow,stoprow来scan多个row
例如:scan 'user_test',{COLUMNS =>'info:username',LIMIT =>10, STARTROW => 'test',STOPROW=>'test2'}
12. 查看scores表中所有数据courses列族的所有数据
hbase(main):017:0> scan 'scores',{COLUMNS => 'course'}
13. 删除scores表
hbase(main):024:0> disable 'scores'
hbase(main):025:0> drop 'scores'
分享到:
相关推荐
hadoop HBaseshell常用shell命令,这是工作中整理的一份文档,使用价值很高
(2)熟练使用HBase操作常用的 Shell命令。(3)熟悉HBase操作常用的 Java API。 A.3.2 实验平台 (1)操作系统:Linux。 (2)Hadoop 版本:2.7.1或以上版本。(3)HBase版本:1.1.2或以上版本。(4) JDK 版本:1.7或以上...
HBase shell的基本用法
│ Day15[Hbase 基本使用及存储设计].pdf │ ├─02_视频 │ Day1501_Hbase的介绍及其发展.mp4 │ Day1502_Hbase中的特殊概念.mp4 │ Day1503_Hbase与MYSQL的存储比较.mp4 │ Day1504_Hbase部署环境准备.mp4 │ Day...
Hbase shell 、Hbase api、Hbase 配置
这是本人使用hbase shell的部分经验总结,一般的shell使用全部包括了。 版本,压缩,region等需求,以及使用普通shell使用hbase shell
本节介绍一些常用的命令和具体操作,并讲解如何使用命令行实现一个“学生成绩表”。 —般操作 1. 查询服务器状态 hbase(main):0il:0>status 1 active master,0 backup masters, 1 servers,0 dead,4.0000 average ...
HBase是一种构建在HDFS之上的分布式、面向列的存储系统。在需要实时读写、随机访问超大规模数据集时,可以使用HBase。该文档整理了一些HBase Shell 常用命令以及示例,希望能够帮助初学者快速熟悉hbase的基本使用。
hadoop2安装和常用shell命令,
HBase是Google Bigtable的开源实现,它利用Hadoop HDFS作为其文件存储系统,利用Hadoop MapReduce来处理HBase中的海量数据,利用Zookeeper作为协同服务。 1. 简介 HBase是一个分布式的、面向列的开源数据库,源于...
实验9-HBase shell命令使用.pdf
htabse 命令的基本操作步骤,1.熟悉使用HBase操作常用的Shell命令。 2.学会表和族的属性操作。 3.学会Filter操作。 4.学会时间戳和数据版本的操作。 学会数据批量导入。
2. 熟练使用HBase操作常用的Shell命令; 3. 熟悉HBase操作常用的Java API。 二、实验平台 1. 操作系统:Linux(建议Ubuntu16.04或Ubuntu18.04); 2. Hadoop版本:3.1.3; 3. HBase版本:2.2.2; 4. JDK版本:1.8; ...
掌握Hbase shell操作。 1.2实验要求: 用Hbase shell操作创建一个student表,其结构如下表所示 Row Key address score province city street Java Hadoop Math zhangsan guangdong guangzhou yinglonglu 85 80 90 ...
一.实验内容 HBase编程实践: ...2、熟练使用HBase操作常用的Shell命令。 3、熟悉HBase操作常用的JavaAPI。 三.实验过程截图及说明 1、安装HBase (1)解压HBase文件到/usr/local目录下,并将目录改名为hbase:
今天小编就为大家分享一篇HBASE 常用shell命令,增删改查方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
简单的介绍了habse存储数据的样子和简单的hbase shell 使用
HBase分布式NoSQL数据库实验 1.HBase基础 HBase伪分布式部署 ...创建和使用自动化脚本Shell HBase用户权限管理 4.HBase编程开发 Java API命名空间操作 Java API表操作 编程实现数据操作功能 编程应用过滤器
2.4. HBase运行模式:单机和分布式 2.5. ZooKeeper 2.6. 配置文件 2.7. 配置示例 2.8. 重要配置 2.9. Bloom Filter 3. 升级 3.1. 从HBase 0.20.x or 0.89.x 升级到 HBase 0.90.x 3.2. 从 0.90.x 到 0.92.x 4. The ...