Mysql海量数据分表分库如何列表分页?

1.现在使用ElasticSearch了。基于Lucene的解决方案

2.必须将mysql里的数据写入到类似hbase这样的分布式数据库,查询快。但分页、查询的话,可以在hbase前加一层solr,用于建立数据索引

如何对分库后的数据进行分页查询?

yeyingsheng 发布于 2015/04/21 10:18
阅读 7K+
收藏 1
 si项目,现在连接6台mysql数据库,路由分库算法是根据id的hash值%6,根据值不同分别存入6台数据库。现在不知道如何做分页查询列表,请问有谁知道吗 
 
 
收藏 (1)

 分享
 
0
 
 
三阶魔方

2015/04/21 13:50

1、直接使用跨库的多表联合查询。不建议。

2、向6台数据库server均发送一个查询请求,然后对所有查询结果进行汇总,再处理分页逻辑。

3、建立一个总数据库,只负责维护主键和必要的索引,以供分页查询。

4、使用redis维护一个主键序列,分页操作就是截取该序列的一部分,其结果就是主键id集合。拿到id后便可以映射到多台mysql服务器上查询数据了。但毕竟数据被分布式存储了,取到完整结果集必须要多次、多台的数据库访问,这个肯定是避免不了。

注:“多台”数据库访问的问题无解,但同台“多次”数据库访问的问题可以通过程序优化。

 
yeyingsheng

2015/04/21 14:35
感觉使用redis维护一个主键序列比较靠谱一点,但是没有用过
 
0
 
 
hylent

2015/04/21 13:07
另建一个主库,有所有分库的数据
yeyingsheng

2015/04/21 14:45
回复 @hylent : 你说的也挺有道理,不知道大家采取最多的方式是什么?
hylent

2015/04/21 14:38
回复 @1157624952 : 嗯,单点,可以主备。最佳答案中的,在redis里维护索引的方法,也不错,不过,就要和业务挂钩了,多种排序方式需要维护多个序列。不过我还是觉得,数据放在内存中不太稳妥。。
yeyingsheng

2015/04/21 14:32
这样的话就会出现主机单点问题了
 
0
 
 
Jack_Q

2015/04/21 13:20
有没有使用cobar或mycat
yeyingsheng

2015/04/21 14:33
没有使用
 
0
 
 
Brin想写程序

2015/04/21 14:28

复杂查询情况下,只去前20页的内容。。也就是默认取200条,然后200*10做好排序,然后去前200条,分20页给用户显示出来。

对于基于日期,序号的有序数组的分页,可以记录当前分页最后一个的被分页的值,作为stub,然后往后组装。

Brin想写程序

2015/04/21 16:58
回复 @1157624952 : 直接查各个数据库啊。。跟路由算法没关系。。
yeyingsheng

2015/04/21 15:52
@Brin想写程序 额,我是根据路由算法插入相应的数据库的,没法每个查啊
Brin想写程序

2015/04/21 15:24
回复 @1157624952 : limit 200,每个表都执行一遍。。
yeyingsheng

2015/04/21 14:46
但是我如何去取前二十页呢
 
0
 
 
hylent

2015/04/21 14:42

单纯就索引来说的话,可以试试一些专门做全文索引的服务软件。

不过这个只是我的想法,功能上应该可以,没实际中这样跑过,不知道稳定性怎么样

yeyingsheng

2015/04/21 14:47
这个没有试过
 
0
 
 
郭幻程

2015/04/21 16:24

向每个库发送同样的数据,汇总,排序,分页

为毛不用mycat

 
 
0
 
 
匿名t3a

2015/04/21 21:18

你需要一个中间件

试试 Amoeba for MySQL 看看行不行

最新文章

  1. javascript学习之BOM
  2. mysql优化杂记
  3. linux 内核源代码
  4. $.ajax()引发的对Deferred的总结 (转)
  5. shareplex三点同步配置
  6. AHB总线和APB总线
  7. Sprite Kit编程指南(1)-深入Sprite Kit
  8. .Net普通三层 到 工厂模式->线程内唯一+单元工作模式->WebService分布式三层
  9. 前端资讯周报 3.13 - 3.19: WebVR来了!以及如何优化scroll事件性能
  10. Linux 计划任务总结
  11. js事件底层原理探究
  12. webpack中使用DefinePlugin定义全局变量
  13. 【练习】Python第四次:实现对文件的增删改查
  14. 电影《Green book》观后感_已补全:携带着种族歧视的“光环”,艰难地获得朋友的相互依赖,依然得享受生活的酸甜苦咸。
  15. unbind()清除指定元素绑定效果
  16. Elasticsearch学习之深入搜索五 --- phrase matching搜索技术
  17. Django的认证系统 auth模块
  18. moment
  19. 2017阿里C++研发工程师-校招-笔试模拟
  20. Binary Tree Longest Consecutive Sequence -- LeetCode

热门文章

  1. Mysql8安装与配置
  2. JS全选反选功能
  3. java的智能提示无法打开
  4. python中利用matplotlib绘图可视化知识归纳
  5. zookeeper的使用demo(c#/java)
  6. PHP洗牌、猴子选大王两个小算法
  7. Android -- 带你从源码角度领悟Dagger2入门到放弃(三)
  8. 【论文速读】Pan He_ICCV2017_Single Shot Text Detector With Regional Attention
  9. Vue系列之 => MintUI初使用
  10. python 之路 day5 - 常用模块