批量处理 
 
不建议用Hibernate,它的insert效率实在不搞,不过最新版本的Hibernate似乎已经在批量处理的时候做过优化了,设置一些参数如batch_size,不过性能我没有测试过,听说是这样。我记得以前在做大批量数据转移的时候我们测试过Hibernate,很慢,直接Pass,当时我们的系统由于用多个数据库,所以用的jdbc,如果不考虑移植还是可以用存储过程的。 存储过程对数据库依赖过强,不便系统移植 
  
浅析Hibernate下数据批量处理方法 
关键字: hibernate指处理 
    
来源:IT专家网  
  很多人都对Java在批量数据的处理方面是否是其合适的场所持有怀疑的念头,由此延伸,那么就会认为ORM可能也不是非凡适合数据的批量处理。其实,我想假如我们应用得当的话,完全可以消除ORM批量处理性能问题这方面的顾虑。下面以Hibernate为例来做为说明,假如我们真的不得不在 Java中使用Hibernate来对数据进行批量处理的话。 向数据库插入100 000条数据,用Hibernate可能像这样:  
  Session session = sessionFactory.openSession();

Transaction tx = session.beginTransaction();

for ( int i=0; i<100000; i++ ) { 
  Customer customer = new Customer(.....);

session.save(customer);

}

tx.commit();

session.close();   
  大概在运行到第50 000条的时候,就会出现内存溢出而失败。这是
Hibernate把最近插入的Customer都以session-level cache在内存做缓存,我们不要忘记Hiberante并没有限制first-level cache 的缓存大小。  
  ◆持久对象实例被治理在事务结束时,此时Hibernate与数据库同步任何已经发生变 化的被治理的的对象。  
  ◆Session实现了异步write-behind,它答应Hibernate显式地写操作的批处理。 这里,我给出Hibernate如何实现批量插入的方法:

  首先,我们设置一个合理的JDBC批处理大小,hibernate.jdbc.batch_size 20。 然后在一定间隔对Session进行flush()和clear()。  
Session session = sessionFactory.openSession();   

 Transaction tx = session.beginTransaction();    

for ( int i=0; i<100000; i++ ) { 
  Customer customer = new Customer(.....); 

   session.save(customer);   

  if ( i % 20 == 0 ) { 
       //flush 插入数据和释放内存:   

      session.flush(); session.clear();

  }  


tx.commit();    

session.close();   
  那么,关于怎样删除和更新数据呢?那好,在Hibernate2.1.6或者更后版本,scroll() 这个方法将是最好的途径:  
  Session session = sessionFactory.openSession();    

Transaction tx = session.beginTransaction();  
  ScrollableResults customers = session.getNamedQuery("GetCustomers")  .scroll(ScrollMode.FORWARD_ONLY);    

int count=0;  
  while ( customers.next() ) { 
  Customer customer = (Customer) customers.get(0);  

  customer.updateStuff(...);  

  if ( ++count % 20 == 0 ) {   

//flush 更新数据和释放内存: 
  session.flush(); session.clear(); 

}   

tx.commit(); 

session.close();   
  这种做法并不困难,也不算不优雅。请注重,假如Customer启用了
second-level caching ,我们仍然会有一些内存治理的问题。原因就是对于用户的每一次插入和更新,Hibernate在事务处理结束后不得不通告second-level cache 。因此,我们在批处理情况下将要禁用用户使用缓存。 

最新文章

  1. 【Win 10 应用开发】通过数据绑定更新进度条
  2. Hadoop中wordcount程序
  3. dojo/aspect源码解析
  4. js按Enter键提交表单
  5. KaliLinux装好系统后安装常用软件
  6. 在Ubuntu上为Android系统编写Linux内核驱动程序(老罗学习笔记1)
  7. WPF 中如何使用第三方控件 ,可以使用WindowsFormsHost 类
  8. “Assign Random Colors” is not working in 3ds Max 2015
  9. VC版本的MakeObjectInstance把WNDPROC映射到类的成员函数
  10. 国外程序员收集整理的PHP资源大全
  11. 为什么用户主目录下.bash_profile没有自动执行
  12. 12. leetcode 455.Assign Cookies
  13. DB2 HADR备库归档问题
  14. vmvare入门(1)使用移动,不要使用复制
  15. C++函数式编程实现牛顿法
  16. centos7防火墙导致不能访问的
  17. 压缩软件WinRar 5.5 x64去广告方式【窗口类名下断】
  18. JS创建对象的几种方式整理
  19. javascript(作业九)
  20. [BZOJ3674]可持久化并查集加强版&[BZOJ3673]可持久化并查集 by zky

热门文章

  1. vscode设置背景图片
  2. 【03】node 之 作用域
  3. Js 中 == 与 === 的区别
  4. 【转】linux之shfit
  5. WebService 序列化和反序列化
  6. Javascript&Html-系统对话框
  7. H5 <audio> 音频标签自定义样式修改以及添加播放控制事件
  8. 【Chrome】Octotree Chrome插件离线安装
  9. 此时不应有 \Microsoft (转)
  10. 【转载】51CTO-Android设置模拟器屏幕大小