073 HBASE的读写以及client API

一：读写思想

1.系统表

　　hbase：namespace

　　　　存储hbase中所有的namespace的信息

　　hbase：meta　　　

　　　　rowkey:hbase中所有表的region的名称
　　　　column：regioninfo：region的名称，region的范围
　　　　server：该region在哪台regionserver上

2.读写流程

　　tbname,rowkey -> region -> regionserver -> store -> storefile

　　但是这些都是加载过meta表之后，然后meta表如何寻找？

3.读的流程　　

　　-》根据表名和rowkey找到对应的region
　　-》zookeeper中存储了meta表的region信息
　　-》从meta表中获取相应的region的信息
　　-》找到对应的regionserver
　　-》查找对应的region
　　-》读memstore
　　-》storefile

4.写的流程　　

　　-》根据表名和rowkey找到对应的region
　　-》zookeeper中存储了meta表的region信息
　　-》从meta表中获取相应的region的信息
　　-》找到对应的regionserver
　　-》正常情况
　　-》WAL（write ahead log预写日志），一个regionserver维护一个hlog
　　-》memstore (达到一定大小，flush到磁盘)
　　-》当多个storefile达到一定大小以后，会进行compact，合并成一个storefile
　　-》当单个storefile达到一定大小以后，会进行split操作，等分割region

5.注意点

　　关于版本的合并和删除是在compact阶段完成的。hbase只负责数据的增加存储
　　hmaster短暂的不参与实际的读写

二：HBase Client API 的书写

1.添加依赖

2.添加配置文件

　　core-site.xml

　　hdfs-site.xml

　　hbase-site.xml

　　log4j.properties

　　regionservers

3.get的书写

4.put的书写

5.delete的书写

　　注意全部删除：

6.scan的书写

7.过滤条件的scan的书写

三：复制源代码

 package com.beifeng.bigdat;

 import java.io.IOException;

 import org.apache.hadoop.conf.Configuration;

 import org.apache.hadoop.hbase.Cell;

 import org.apache.hadoop.hbase.CellUtil;

 import org.apache.hadoop.hbase.HBaseConfiguration;

 import org.apache.hadoop.hbase.client.Delete;

 import org.apache.hadoop.hbase.client.Get;

 import org.apache.hadoop.hbase.client.HTable;

 import org.apache.hadoop.hbase.client.Put;

 import org.apache.hadoop.hbase.client.Result;

 import org.apache.hadoop.hbase.client.ResultScanner;

 import org.apache.hadoop.hbase.client.Scan;

 import org.apache.hadoop.hbase.filter.Filter;

 import org.apache.hadoop.hbase.filter.PrefixFilter;

 import org.apache.hadoop.hbase.util.Bytes;

 public class HbaseClientTest {

     public static HTable getTable(String name) throws Exception{

         Configuration conf=HBaseConfiguration.create();

         HTable table=new HTable(conf,name);

         return table;

     }

     public static void getData(HTable table) throws Exception{

         Get get=new Get(Bytes.toBytes("103"));

         get.addFamily(Bytes.toBytes("info"));

         Result rs=table.get(get);

         for(Cell cell:rs.rawCells()){

             System.out.println(

                     Bytes.toString(CellUtil.cloneFamily(cell))+"--"+

                     Bytes.toString(CellUtil.cloneQualifier(cell))+"---"+

                     Bytes.toString(CellUtil.cloneValue(cell))+"----"+

                     cell.getTimestamp()

                     );

             System.out.println("----------------------------------------------");

         }

     }

     public static void putData(HTable table) throws Exception{

         Put put=new Put(Bytes.toBytes("103"));

         put.add(Bytes.toBytes("info"),

                 Bytes.toBytes("name"),

                 Bytes.toBytes("zhaoliu"));

         table.put(put);

         getData(table);

     }

     public static void deleteData(HTable table) throws Exception{

         Delete delete =new Delete(Bytes.toBytes("103"));

         delete.deleteColumns(Bytes.toBytes("info"), Bytes.toBytes("name"));

         table.delete(delete);

         getData(table);

     }

     public static void scanData(HTable table) throws Exception{

         Scan scan =new Scan();

         ResultScanner rs=table.getScanner(scan);

         for(Result r:rs){

             System.out.println(Bytes.toString(r.getRow()));

             for(Cell cell:r.rawCells()){

                 System.out.println(

                         Bytes.toString(CellUtil.cloneFamily(cell))+"---"+

                         Bytes.toString(CellUtil.cloneQualifier(cell))+"---"+

                         Bytes.toString(CellUtil.cloneValue(cell))+"--"+

                         cell.getTimestamp()

                     );

             System.out.println();

             }

         }

     }

     public static void filterScan(HTable table) throws Exception{

         Scan scan =new Scan();

         Filter filter=new PrefixFilter(Bytes.toBytes("10"));

         scan.setFilter(filter);

         scan.setCacheBlocks(true);

         scan.setCaching(1000);

         scan.setBatch(100);

         ResultScanner rs=table.getScanner(scan);

         for(Result r:rs){

             System.out.println(Bytes.toString(r.getRow()));

             for(Cell cell:r.rawCells()){

                 System.out.println(

                         Bytes.toString(CellUtil.cloneFamily(cell))+"---"+

                         Bytes.toString(CellUtil.cloneQualifier(cell))+"---"+

                         Bytes.toString(CellUtil.cloneValue(cell))+"--"+

                         cell.getTimestamp()

                     );

             System.out.println();

             }

         }

     }

     public static void main(String[] args) throws Exception {

         HTable table=getTable("nstest1:tb1");

         //getData(table);

         //putData(table);

         //deleteData(table);

         //scanData(table);

         filterScan(table);

     }

 }

巴特西

073 HBASE的读写以及client API

最新文章

热门文章