1.sqoop概述

  sqoop是Apache旗下一款hadoop和关系数据库服务器之间传送数据的工具;

  核心的功能:

    导入,迁入(从关系型数据库-->hdfs hive hbase)

    导出,迁出(从hdfs hive hbase-->关系型数据库)

  导入数据:mysql,Oracle导入数据到hadoop的HDFS,hive,hbase等数据存储系统;

  导出数据:从hadoop的文件系统中导出数据到关系型数据库mysql等;sqoop的本质还是一个命令行工具,和HDFS,hive相比,并没有什么高深的理论;

    

2.工作机制

  将导入或导出命令翻译成MapReduce程序来实现,在翻译出MapReduce中主要是对inputfromat和outputformat进行定制;

3.安装

  3.1 前提概述

    将来sqoop在使用的时候有可能会跟那些系统或者组件打交道?

      HDFS,MapReduce,yarn,zookeeper,hive,hbase,mysql;

    如果你的sqoop工具将来要进行hive或者hbase等等的系统与mysql实现交互,你安装的sqoop软件的节点一定要包含以上你要使用的集群或者软件系统的安装包;

  3.2 软件下载

    下载地址:http://mirrors.hust.edu.cn/apache/

    

  3.3 安装步骤

    3.3.1 上传并解压文件

tar -zxvf sqoop-1.4..bin__hadoop-2.6..tar.gz 

    3.3.2 重命名sqoop目录

mv sqoop-1.4..bin__hadoop-2.6. sqoop

    3.3.3 进入到sqoop的conf目录下,将sqoop-env-template.sh文件更名为sqoop-env.sh文件

mv sqoop-env-template.sh sqoop-env.sh

    3.3.4 修改sqoop-env.sh文件

vim sqoop-env.sh 
#Set path to where bin/hadoop is available
export HADOOP_COMMON_HOME=/opt/module/hadoop #Set path to where hadoop-*-core.jar is available
export HADOOP_MAPRED_HOME=/opt/module/hadoop #set the path to where bin/hbase is available
export HBASE_HOME=/opt/module/hbase #Set the path to where bin/hive is available
export HIVE_HOME=/opt/module/hive #Set the path for where zookeper config dir is
export ZOOCFGDIR=/opt/module/zookeeper/conf

    3.3.5 将mysql数据库连接的驱动包复制到sqoop安装的lib目录下

      

    3.3.6 配置系统环境变量    

vim /etc/profile
export SQOOP_HOME=/opt/module/sqoop
export PATH=$PATH:$SQOOP_HOME/bin
source /etc/profile    #刷新文件

    3.3.7 验证是否安装成功

sqoop-version

      

最新文章

  1. Linux学习之CentOS(二十八)--RAID原理基础及Linux下软件RAID配置
  2. centos6.x开机卡死
  3. UILabel和NSAttributedString那些事
  4. 在Spring-Mybatis-Restful中配置多数据源的properties文件
  5. ArcGIS中利用ArcMap将地理坐标系转换成投影坐标系(从WKID=4326到WKID=102100)
  6. 对js闭包的粗浅理解
  7. 20141015--for语句1
  8. sharepoint 2010 使用自定义列表模版创建列表(1)
  9. mysql 数据库热备份
  10. PHP设计模式——备忘录模式
  11. 剑指offer 二进制1中的个数
  12. java se之File类
  13. Postgres 优雅存储树形数据
  14. MySQL常用字符串函数
  15. ApocalypseSomeday
  16. 使用WinForm Chart控件 制作饼装,柱状,折线图
  17. OS Tools-GO富集分析工具的使用与解读详细教程
  18. php 读取网站页面源码的经典函数
  19. 09. pt-fingerprint
  20. gulp实例

热门文章

  1. RxJava--Buffer,GroupBy 对比
  2. MyBatis配置项--配置环境(environments)--数据源(dataSource)
  3. python- 函数高级
  4. PHP字符串全排列算法
  5. POJ 1170 Shopping Offers非状态压缩做法
  6. 集训模拟赛-1-T2
  7. django-haystack全文检索详细教程
  8. CentOS安装jsoncpp
  9. Android 开发技术周报 Issue#278
  10. 【源码】RingBuffer(二)——消费者