区分 hdfs hbase hive hbase适用场景
  • 发表于 11个月前
  • 阅读 308
  • 收藏 1
  • 点赞 0
  • 评论 0
摘要: hdfs hbase hive hbase适用场景

Hive

不想用程序语言开发MapReduce的朋友比如DB们,熟悉SQL的朋友可以使用Hive开离线的进行数据处理与分析工作。

注意Hive现在适合在离线下进行数据的操作,就是说不适合在挂在真实的生产环境中进行实时的在线查询或操作,因为一个字“慢”。相反

起源于FaceBook,Hive在Hadoop中扮演数据仓库的角色。建立在Hadoop集群的最顶层,对存储在Hadoop群上的数据提供类SQL的接口进行操作。你可以用 HiveQL进行select,join,等等操作。

如果你有数据仓库的需求并且你擅长写SQL并且不想写MapReduce jobs就可以用Hive代替。

HBase

HBase作为面向列的数据库运行在HDFS之上,HDFS缺乏随即读写操作,HBase正是为此而出现。HBase以Google BigTable为蓝本,以键值对的形式存储。项目的目标就是快速在主机内数十亿行数据中定位所需的数据并访问它。

HBase是一个数据库,一个NoSql的数据库,像其他数据库一样提供随即读写功能,Hadoop不能满足实时需要,HBase正可以满足。如果你需要实时访问一些数据,就把它存入HBase。

你可以用Hadoop作为静态数据仓库,HBase作为数据存储,放那些进行一些操作会改变的数据。

 hbase与hive都是架构在hadoop之上的。都是用hadoop作为底层存储。而hbase是作为分布式数据库,而hive是作为分布式数据仓库。当然hive还是借用hadoop的MapReduce来完成一些hive中的命令的执行。
  1. 什么场景下应用Hbase?

  • 成熟的数据分析主题,查询模式已经确立,并且不会轻易改变。

  • 传统的关系型数据库已经无法承受负荷,高速插入,大量读取。

  • 适合海量的,但同时也是简单的操作(例如:key-value)。

官方解释:

Use Apache HBase™ when you need random, realtime read/write access to your Big Data. This project's goal is the hosting of very large tables -- billions of rows X millions of columns -- atop clusters of commodity hardware. Apache HBase is an open-source, distributed, versioned, non-relational database modeled after Google's Bigtable: A Distributed Storage System for Structured Data by Chang et al. Just as Bigtable leverages the distributed data storage provided by the Google File System, Apache HBase provides Bigtable-like capabilities on top of Hadoop and HDFS.

Pig VS Hive

Hive更适合于数据仓库的任务,Hive主要用于静态的结构以及需要经常分析的工作。Hive与SQL相似促使 其成为Hadoop与其他BI工具结合的理想交集。

Pig赋予开发人员在大数据集领域更多的灵活性,并允许开发简洁的脚本用于转换数据流以便嵌入到较大的 应用程序。

Pig相比Hive相对轻量,它主要的优势是相比于直接使用Hadoop Java APIs可大幅削减代码量。正因为如此,Pig仍然是吸引大量的软件开发人员。

Hive和Pig都可以与HBase组合使用,Hive和Pig还为HBase提供了高层语言支持,使得在HBase上进行数据统计处理变的非常简单

Hive VS HBase

Hive是建立在Hadoop之上为了减少MapReduce jobs编写工作的批处理系统,HBase是为了支持弥补Hadoop对实时操作的缺陷的项目 。

想象你在操作RMDB数据库,如果是全表扫描,就用Hive+Hadoop,如果是索引访问,就用HBase+Hadoop 。

Hive query就是MapReduce jobs可以从5分钟到数小时不止,HBase是非常高效的,肯定比Hive高效的多

最新文章

  1. netbeans项目中排除node_modules文件夹
  2. 自己实现一个高大尚的Android客户端
  3. Linux2.6内核实现的是NPTL
  4. Github的使用以及Git的简单入门 - 课程作业三
  5. CentOS安装中文输入法:ibus
  6. ACM Sdut 2158 Hello World!(数学题,排序) (山东省ACM第一届省赛C题)
  7. "git add -A" is equivalent to "git add .; git add -u".
  8. Managing linux Shell Jobs
  9. Ring3 和Ring0 解释
  10. 正式学习 React(三)番外篇 reactjs性能优化之shouldComponentUpdate
  11. 开源项目live555学习心得
  12. JSP入门 导出文件
  13. Linux查看显示编辑文本文件
  14. nohup + & 保证服务后台运行不中断
  15. MySQL 5.7 模式(SQL_MODE)详细说明 转
  16. Cordova 项目 加载不出XML文件
  17. 打通MySQL架构和业务的任督二脉
  18. Activiti工作流笔记(1)
  19. petri网初步
  20. PHP中静态方法(static)与非静态方法的使用及区别

热门文章

  1. Nexus搭建私服
  2. WebApi全局异常处理方式
  3. Extjs tree1
  4. docker怎么破?
  5. MFC程序如何修改icon图标
  6. Renesas APIs ***
  7. Linux c- libevent
  8. 用命令行cmd 编译小程序
  9. GOF23设计模式之组合模式(composite)
  10. year()+month() 不错的Idear