拥有Hbase标签的文章
Hbase

Hive与HBase的整合

张军博客
开场白:Hive与HBase的整合功能的实现是利用两者本身对外的API接口互相进行通信,相互通信主要是依靠hive_hbase-handler.jar工具类(HiveStorageHandlers),大致意思如图所示:口水:对hive_hbase-handler.jar这个东东还有点兴趣,有空来磋磨一下。一、2个注意事项:1、需要的软件有Hadoop、Hive、Hbase、Zookeeper,Hive与HBase的整合对Hive的版本有要求,所以不要下载.

系统 2019-08-29 22:50:21 587

Hbase

HBase系统架构

张军博客
Client1包含访问hbase的接口,client维护着一些cache来加快对hbase的访问,比如regione的位置信息。Zookeeper1保证任何时候,集群中只有一个master2存贮所有Region的寻址入口。3实时监控RegionServer的状态,将Regionserver的上线和下线信息实时通知给Master4存储Hbase的schema,包括有哪些table,每个table有哪些columnfamilyMaster1为Regionser

系统 2019-08-29 23:26:48 501

Hbase

配置密码分布式集群环境hadoop、hbase、zookeep

张军博客
新手发帖,很多方面都是刚入门,有错误的地方请大家见谅,欢迎批评指正1、环境说明群集环境少至要需3个节点(也就是3台服务器设备):1个Master,2个Slave,节点之间局域网连接,可以互相ping通,面下举例说明,配置节点IP分配如下:HostnameIP新建户用新建户用密码Master10.10.10.213hadoop123456Slave110.10.10.214hadoop123456Slave210.10.10.215hadoop123456三

系统 2019-08-12 01:32:52 346

Hbase

Thrift中实现按照时间戳范围操作Hbase数据

张军博客
在一次做项目的过程中,要实现一个功能,功能描述为前端给定日期范围,在该日期范围内取出指定行的信息。在Thrift常用的API中,取出一行所有的数据接口为getVer(),getver()具体描述如下:如果想取到带有时间戳的数据,有一个接口为getVerTs,getVerTs内容描述如下:但是此接口只能取到小于该时间戳的数据,如果想取到时间戳范围内的数据还是无能为力,为了实现此功能,接着又去尝试了getVer()中参数5map的用法,以为在map中添加tim

系统 2019-08-12 01:31:57 307

Hbase

HBase技术介绍

张军博客
HBase简介HBase–HadoopDatabase,是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价PCServer上搭建起大规模结构化存储集群。HBase是GoogleBigtable的开源实现,类似GoogleBigtable利用GFS作为其文件存储系统,HBase利用HadoopHDFS作为其文件存储系统;Google运行MapReduce来处理Bigtable中的海量数据,HBase同样利用HadoopMapR

系统 2019-08-12 09:29:57 286

Hbase

HBase二级索引与Join

张军博客
二级索引与索引Join是多数业务系统要求存储引擎提供的基本特性,RDBMS早已支持,NOSQL阵营也在摸索着符合自身特点的最佳解决方案。这篇文章会以HBase做为对象来讨论如何基于Hbase构建二级索引与实现索引join。文末同时会列出目前已知的包括0.19.3版secondaryindex,ITHbase,Facebook方案和官方Coprocessor的介绍。理论目标在HBase中实现二级索引与索引Join需要考虑三个目标:1,高性能的范围检索。2,数

系统 2019-08-12 09:30:06 270

Hbase

HBase存储文件格式概述

张军博客
概述HBase是基于Bigtable论文的面向列的分布式存储系统,其存储设计是基于Memtable/SSTable的。其它如Cassandra都是采用的该设计。整个存储分为两部分,一部分为内存中的MemStore(Memtable),另外一部分为磁盘(这里是HDFS)上的HFile(SSTable)。下面分别讲述两种类型的存储分别的实现:MemStore中最重要的变量是:volatileKeyValueSkipListSetkvset;这里的KeyValu

系统 2019-08-29 22:14:21 227

Hbase

hive集成hbase笔记

张军博客
系统环境:Hbase:0.90.3hive:0.7.0hive0.7.0自带的lib下包含文件“hbase-0.89.0-SNAPSHOT.jar”,我的hbase版本是0.90.3,首先拷贝hbase-0.90.3.jar到hive/lib下,然后删除“hbase-0.89.0-SNAPSHOT.jar”。创建hive表、hbase表:Xml代码CREATETABLEhbase_table_1(keyint,valuestring)STOREDBY'or

系统 2019-08-29 22:43:49 186

Hbase

hbase查询一条数据的过程

张军博客
HBase中的Client如何路由到正确的RegionServer在HBase中,大部分的操作都是在RegionServer完成的,Client端想要插入,删除,查询数据都需要先找到相应的RegionServer。什么叫相应的RegionServer?就是管理你要操作的那个Region的RegionServer。Client本身并不知道哪个RegionServer管理哪个Region,那么它是如何找到相应的RegionServer的?本文就是在研究源码的基

系统 2019-08-12 09:29:45 185