欢迎投稿

今日深度:

HBase实战,

HBase实战,


第一章 HBase介绍 
HBase是一种数据库:Hadoop数据库。它经常被描述为一种稀疏的、分布式的、持久化的、多维有序的映射,它基于行键(row key)、列键(column key)和时间戳(timestamp)建立索引。 
HBase基于BigTable 
联机事务处理(OLTP)尽快的返回响应结果 
联机分析处理(OLAP) 
抓取增量数据: 
    1.抓取监控指标:OpenTSDB 
    2.抓取用户交互数据:Facebook和StumbleUpon 
    3.遥测技术 Mozilia和Trend Micro 





第二章 入门 
HBase是一种专门为 半结构话数据(semistructured)和水平可扩展性(horizontal scalability) 
设计的数据库。它表数据存储在表里。在表里,数据按照一个四维坐标系来组织: 
    行键、列簇、列限定符、时间版本 
HBase是无模式数据库,只需要提前定义列簇。它也是无类型数据库,把所有数据不加解释滴按照字节数组存储。有5个基本命令来访问HBase中的数据: 
    Get、Put、Delete、Scan、Increment 
基于非行键查询HBase的唯一办法是通过带过滤器的扫描 
HBase不是一个ACID兼容数据库 
  HBase不是一个ACID兼容数据库。但是HBase提供一些保证,当你的应用系统访问HBase系统时,你可以用其来使你的应用系统的行为更加合理。这些保证具体如下: 
    1.操作是低级原子不可分的。换句话说,给定行上的Put()要门整理成功要么整体回到 
      操作开始前的状态,永远不会部分行写入而凌一航部分没有。这个要素和操作执行 
      的列簇的数量五官 
    2.行间操作不是原子性的。不能保证所有操作整体成功或者失败,所有单行操作如上一点 
      所述是原子性的 
    3.checkAnd* 和 increment* 操作是原子不可分的 
    4.对于给定的多个写操作,总是以每个写操作为整体彼此独立的。这是低一点的延伸。 
    5.对于给定行的任何Get()操作,返回系统当时所保存的完整行 
    6.全表扫描不是对某个时间点表的快照扫描。如果扫描已经开始,但是在运行R行被扫描 
      器对象读出之前,行R被改变了,那么扫描器独处行R更新后的版本,但是扫描器读出 
      的数据是一直的,得到行R更新后的完整行 

数据模型从逻辑上可以分为键值存储或者有序映射的映射。物理数据模型是基于列簇的列式数据库,单个记录以键值形式存储。 
Atomicity   原子性 
Consistency 一致性 
Isolation   隔离性 
Durability  持久性 
一个列簇对应一个MemStore,也对应一个BlockCache,对应多个HFile,HFile是基于列簇的 
行键。列簇,列限定符,时间版本 用java对象表示为: 
Map<RowKey,Map<ColumnFamily,Map<ColumnQualifier,Map<Version,Date>>>> 
行键是HBase中唯一的全局索引坐标,因为查询经常通过行键扫描实现。复合行键是支持这种扫描的常见做法。 
行键值经常希望是均衡分部的。诸如MD5或SHA1等散列算法通常用来实现这种均衡分部 





第三章 分布式的HBase、HDFS和MapReduce 
Hadoop分布式文件系统作为HBase的存储层,支持可用性(availability)和可靠性(reliability) 
联机事务处理(OLTP) 和 联机分析处理(OLAP) 
在线系统看中的是得到一点数据所需要的时间 
离线系统看中的是每秒处理单位数量 

许多计算问题本来很适合并行化处理。只是因为一些偶然的原因,它们不得不用串行化方式处理。这 

些原因可能是编程语言设计、存储引擎实现方式、函数库API等。挑战一下你的算法设计能力,看看 

这样的情况有哪些。不是所有问题都容易并行处理 

MapReduce概览 
MapReduce的一些限制如下: 
  1.所有计算都分解为map或者reduce任务来实现 
  2.每个任务处理全部输入数据中的一部分 
  3.主要根据输入数据和输出数据定义任务 
  4.任务依赖于自己的输入数据,不需要与其他任务通讯

www.htsjk.Com true http://www.htsjk.com/hbase/42161.html NewsArticle HBase实战, 第一章 HBase介绍   HBase是一种数据库:Hadoop数据库。它经常被描述为一种稀疏的、分布式的、持久化的、多维有序的映射,它基于行键(row key)、列键(column key)和时间戳(timesta...
相关文章
    暂无相关文章
评论暂时关闭