【mySQL】mysql数据库分页查询讨论专题

【mySQL】mysql数据库分页查询讨论专题MySQL:limit分页公式、总页数公式1)limit分页公式(1)limit分页公式:curPage是当前第几页;pageSize是一页多少条记录limit(curPage-1)*pageSize,pageSize(2)用的地方:sql语句中select*fromstudentlimit(curPage-1)*pageSize,pageSize;2)…

大家好,又见面了,我是你们的朋友全栈君。

目录

一、limit分页公式、总页数公式

1 limit分页公式

2 总页数公式

二 、Mysql的三种分页方法

1 limit m,n分页语句(低效)

2 limit m语句 (有局限)

三、 查询优化

1 使用子查询优化

2 使用 id 限定优化(前提:id是连续递增,删除过记录不符合)

3 使用临时表优化

四、关于数据表的id说明

五、欢迎大家提出错误和新方案


作者:bandaoyu 本文随时更新,地址:https://blog.csdn.net/bandaoyu/article/details/89844673

一、limit分页公式、总页数公式

1 limit分页公式

(1)limit分页公式:curPage是当前第几页;pageSize是一页多少条记录

limit  (curPage-1)*pageSize,pageSize

(2)用的地方:sql语句中

select * from student limit(curPage-1)*pageSize,pageSize;

2 总页数公式

(1)总页数公式:totalRecord是总记录数;pageSize是一页分多少条记录

int totalPageNum = (totalRecord +pageSize - 1) / pageSize;

(2)用的地方:前台UI分页插件显示分页码
(3)查询总条数:totalRecord是总记录数,SELECT COUNT(*) FROM tablename

二 、Mysql的三种分页方法

1 limit m,n分页语句(低效)

select * from dept order by deptno desc limit 3,3;
select * from dept order by deptno desc limit m,n;

limit 3,3的意思扫描满足条件的3+3行,撇去前面的3行,返回最后的3行,那么问题来了,如果是limit 200000,200,需要扫描200200行,如果在一个高并发的应用里,每次查询需要扫描超过20W行,效率十分低下。

测试见:https://www.cnblogs.com/youyoui/p/7851007.html

例如:

select * from orders_history where type=8 limit 100,100;
select * from orders_history where type=8 limit 1000,100;
select * from orders_history where type=8 limit 10000,100;
select * from orders_history where type=8 limit 100000,100;
select * from orders_history where type=8 limit 1000000,100;

耗时分别如下:

  • 查询100偏移:        25ms 
  • 查询1000偏移:      77ms 
  • 查询10000偏移:    3128ms
  • 查询100000偏移:  3812ms
  • 查询1000000偏移:14608ms

2 limit m语句 (有局限)

 select * from dept where deptno >10 order by deptno asc limit n;//下一页
 select * from dept where deptno <60 order by deptno desc limit n//上一页

这种方式不管翻多少页只需要扫描n条数据

但是,虽然扫描的数据量少了,但是在某些需要跳转到多少页的时候就无法实现,这时还是需要用到方法1,既然不能避免,那么我们可以考虑尽量减小m的值,因此我们可以给这条语句加上一个条件限制。使得每次扫描不用从第一条开始。这样就能尽量减少扫描的数据量。

例如:每页10条数据,当前是第10页,当前条目ID的最大值是109,最小值是100.(当前100-109)
那么跳到第9页:

select * from dept where deptno<100 order by deptno desc limit 0,10;   //倒序

那么跳到第8页:

select * from dept where deptno<100 order by deptno desc limit 10,10;

那么跳到第11页:

select * from dept where deptno>109 order by deptno asc limit 0,10;

最后附上参考文档网址:http://www.open-open.com/doc/view/2bda32bf64864e8e965e91686f5309d4
原文:https://blog.csdn.net/HADEWOKE/article/details/53996110

注意:这个方法有个局限,就是需要deptno是连续的,也就是中间的记录不能有删除。(可以用删除标志代替真正的物理删除)

上面的方法还可以优化,见第三。

三、 查询优化

子查询优化原理:一次SQL查询优化原理分析(900W+数据,从17s到300ms) – 知乎

1 使用子查询优化

这种方式先定位偏移位置的 id,然后往后查询,这种方式适用于 id 递增的情况。

select * from orders_history where type=8 limit 100000,1;
select id from orders_history where type=8 limit 100000,1;

select * from orders_history where type=8 and 
id>=(select id from orders_history where type=8 limit 100000,1) 
limit 100;

select * from orders_history where type=8 limit 100000,100;

4条语句的查询时间如下:

  • 第1条语句:3674ms
  • 第2条语句:1315ms
  • 第3条语句:1327ms
  • 第4条语句:3710ms

针对上面的查询需要注意:

  • 比较第1条语句和第2条语句:使用 select id 代替 select * 速度增加了3倍
  • 比较第2条语句和第3条语句:速度相差几十毫秒
  • 比较第3条语句和第4条语句:得益于 select id 速度增加,第3条语句查询速度增加了3倍

这种方式相较于原始一般的查询方法,将会增快数倍。

2 使用 id 限定优化(前提:id是连续递增,删除过记录不符合)

这种方式假设数据表的id是连续递增的,则我们根据查询的页数和查询的记录数可以算出查询的id的范围,可以使用 id between and 来查询:

select * from orders_history where type=2 
and id between 1000000 and 1000100 limit 100;

查询时间:15ms 12ms 9ms

这种查询方式能够极大地优化查询速度,基本能够在几十毫秒之内完成。限制是只能使用于明确知道id的情况,不过一般建立表的时候,都会添加基本的id字段,这为分页查询带来很多便利。

还可以有另外一种写法:

select * from orders_history where id >= 1000001 limit 100;

当然还可以使用 in 的方式来进行查询,这种方式经常用在多表关联的时候进行查询,使用其他表查询的id集合,来进行查询:

select * from orders_history where id in
(select order_id from trade_2 where goods = 'pen')
limit 100;

这种 in 查询的方式要注意:某些 mysql 版本不支持在 in 子句中使用 limit。

3 使用临时表优化

这种方式已经不属于查询优化,这儿附带提一下。

对于使用 id 限定优化中的问题,需要 id 是连续递增的,但是在一些场景下,比如使用历史表的时候,或者出现过数据缺失问题时,可以考虑使用临时存储的表来记录分页的id,使用分页的id来进行 in 查询。这样能够极大的提高传统的分页查询速度,尤其是数据量上千万的时候。

四、关于数据表的id说明

一般情况下,在数据库中建立表的时候,强制为每一张表添加 id 递增字段,这样方便查询。

如果像是订单库等数据量非常庞大,一般会进行分库分表。这个时候不建议使用数据库的 id 作为唯一标识,而应该使用分布式的高并发唯一 id 生成器来生成,并在数据表中使用另外的字段来存储这个唯一标识。

使用先使用范围查询定位 id (或者索引),然后再使用索引进行定位数据,能够提高好几倍查询速度。即先 select id,然后再 select *;

MySQL分页查询优化 – 悠悠i – 博客园

五、欢迎大家提出错误和新方案

欢迎大家指出错误、隐患、缺陷或提出补充、更好的方案,相互探讨。

@UESTC

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/138298.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

  • linux 修改文件内容sed,linux下通过sed命令直接修改文件内容

    linux 修改文件内容sed,linux下通过sed命令直接修改文件内容linux下通过sed命令直接修改文件内容sed是实现对流的编辑。通常,我们使用sed可以实现内容的编辑后然后保存成另外的一个文件,如果正确的话,才写入到源文件。但是某些时候,我们需要直接修改文件,因为,保存文件到一个文件,然后再覆盖原文件的办法显得很麻烦。其实很简单,只需要一个-i参数就可以了。比如,我想替换文件中的properties为property,可以使用sed’s/propert…

  • linux SIGABRT信号

    自己写的程序启动时偶尔会被SIGABRT信号杀死。故查看下SIGABRT的用法。SIGABRT是中止一个程序,它可以被捕捉,但不能被阻塞。处理函数返回后,所有打开的文件描述符将会被关闭,流也会被flush。程序会结束,有可能的话还会coredump。当程序调用abort(3)时,该进程会向自己发送SIGABRT信号。所以,SIGABRT一般用于信号中一些关键的处理,assert失败时也

  • 实战中遇到的C++流文件重置的一个大陷阱 为什么ifstream的seekg函数无效

    实战中遇到的C++流文件重置的一个大陷阱 为什么ifstream的seekg函数无效实战中遇到的C++流文件重置的一个大陷阱为什么ifstream的seekg函数无效

  • 关于参数thresh的理解(pd.dropna(thresh=n))

    关于参数thresh的理解(pd.dropna(thresh=n))书上的表达:假设你只想保留包含一定数量的观察值的行,可以使用thresh参数来表示。嗯嗯嗯….有些模棱两可。摸索了一番,终于理解了。格式:df.dropna(thresh=n)简单的理解:这一行除去NA值,剩余数值的数量大于等于n,便显示这一行。1.先创建数组,代码如下:1importnumpyasnp2from…

    2022年10月29日
  • java 长轮询_基于springboot 长轮询的实现操作

    java 长轮询_基于springboot 长轮询的实现操作springboot长轮询实现基于@EnableAsync,@Sync@SpringBootApplication@EnableAsyncpublicclassDemoApplication{publicstaticvoidmain(String[]args){SpringApplication.run(DemoApplication.class,args);}}@Req…

    2022年10月14日
  • 信息系统项目的范围管理论文_高级项目管理师论文

    信息系统项目的范围管理论文_高级项目管理师论文本人参加了2019年上半年信息系统项目管理师考试,目前已经通过。论文我压了2篇,但是都没有压中,考场看到题目差点吐血,还好后面按照自己的思路也顺利过关。这里和大家分享一下我的论文资料,大家可以参考。摘要20xx年x月,我作为项目经理参与了深圳市某上市公司的生产管理系统项目。该项目总投资300万人民币,建设工期为10个月,通过项目的建设,实现了该公司物料管理、库存管理、生产工单、生产计划、生产派…

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号