MySQL百万级数据量分页查询方法及其优化「建议收藏」

MySQL百万级数据量分页查询方法及其优化

大家好,又见面了,我是全栈君。

点击上方“ 码农编程进阶笔记 ”,选择“置顶或者星标”
文末有干货,每天定时与您相约!

方法一:直接使用数据库提供的SQL语句

语句样式:MySQL中可用如下方法:

select * from table_name limit m, n;

适用场景:适用于数据量较少的情况(元组百/千级)

原因/缺点: 全表扫描,速度会很慢 且 有的数据库结果集返回不稳定(如某次返回1,2,3,另外的一次返回2,1,3). limit限制的是从结果集的 m 位置处取出 n 条输出,其余抛弃.

方法二:建立主键或唯一索引,利用索引(假设每页10条)

语句样式: MySQL中,可用如下方法:

select * from table_name where id_pk > (pageNum*10) limit m;

适应场景: 适用于数据量多的情况(元组数上万)

原因: 索引扫描,速度会很快. 有朋友提出: 因为数据查询出来并不是按照pk_id排序的,所以会有漏掉数据的情况,只能方法3

方法三:基于索引再排序

语句样式,MySQL中可用如下方法:

select * from table_name where id_pk > (pageNum * 10) order by id_pk asc limit m;

适应场景: 适用于数据量多的情况(元组数上万). 最好 order by 后的列对象是主键或唯一所以,使得 order by 操作能利用索引被消除但结果集是稳定的(稳定的含义,参见方法1)

原因: 索引扫描,速度会很快. 但MySQL的排序操作,只有 asc 没有 desc ( desc 是假的,未来会做真正的 desc ,期待…).

方法四:基于索引使用prepare

第一个问号表示pageNum,第二个问号表示每页元组数

语句样式,MySQL中可用如下方法:

prepare stmt_name from select * from table_name where id_pk > (? * ?) order by id_pk asc limit m;

适应场景: 大数据量

原因: 索引扫描,速度会很快. prepare语句又比一般的查询语句快一点。

方法五:利用MySQL支持order操作可以利用索引快速定位部分元祖,避免全表扫描

比如:读第1000到1019行元组(pk是主键/唯一键).

select * from your_table where pa >= 1000 order by pk asc limit 0,20;

方法六:利用”子查询/连接+索引”快速定位元祖的位置,然后再读取元祖。

比如(id是主键/唯一键,蓝色字体时变量)

利用子查询示例:

select * from your_table where id <= 
(select id from your_table order by id desc limit ($page - 1) * $pagesize order by id desc limit $pagesize)

利用连接示例:

select * from your_table as t1
join (select id from your_table order by id desc limit ($page - 1) * $pagesize as t2 where t1.id <= t2.id order by t1.id desc limit $pagesize);

mysql大数据量使用limit分页,随着页码的增大,查询效率越低下。

往日精选文章

2020最新版MySQL数据库面试题(一)

2020最新版MySQL数据库面试题(二)

2020最新版MySQL数据库面试题(三)

别怕!MySQL引起的CPU消耗过大,我有办法

一次SQL查询优化原理分析(900W+数据,从17s到300ms)

为什么 select count(*) from t,在 InnoDB 引擎中比 MyISAM 慢?

MySQL百万级数据量分页查询方法及其优化「建议收藏」

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/111799.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

  • 一位前辈工程师职业发展的忠告(转自51testing)

    一位前辈工程师职业发展的忠告(转自51testing)

  • 数据仓库搭建ODS层[通俗易懂]

    数据仓库搭建ODS层[通俗易懂]其他内容请关注我的博客!在<项目>专栏里!!!目录一、用户行为数据1.1创建日志表1.2ODS层加载数据脚本二、业务数据2.1hive建表2.2ODS层加载数据脚本一、用户行为数据1.1创建日志表1)创建支持lzo压缩的分区表droptableifexistsods_log;CREATEEXTERNALTABLEods_log(`line`string)PARTITIONEDBY(`dt`string)–

  • idea2021年最新永久激活码【在线注册码/序列号/破解码】

    idea2021年最新永久激活码【在线注册码/序列号/破解码】,https://javaforall.cn/100143.html。详细ieda激活码不妨到全栈程序员必看教程网一起来了解一下吧!

  • Windows搭建SVN服务器「建议收藏」

    Windows搭建SVN服务器「建议收藏」写这篇文章其实是弥补6年前的一个遗憾,之前在第一家公司时,快要离职时,帮公司搭建一个SVN服务器,当时在Linux上面搭建,搭建的服务器不支持HTTP协议,无法在浏览器中查看,限于当时的能力,未能找到具体的解决方案。今天听同事在提SVN服务器,突然想搭建一个,搭建之后,Windows环境可以直接通过http协议访问,就这样吧,后续遇到SVN使用的具体问题再细究吧。需要的软件S…

  • idea如何进行debug调试断点上被打了个对钩_debug调试教程

    idea如何进行debug调试断点上被打了个对钩_debug调试教程IDEA如何进行debug调试第一步,设断点,打开debug第二步,使用Debug调试的功能键程序调试,相信是所有程序员必经之路,因为程序写出来是不可能没有错误的,当然除了非常简单的一些程序之外。相信大家肯定使用过不同的编译软件,都有调试功能,在功能上大多都是大同小异,没有什么区别的,可能唯一的区别在于调试按钮的样式和快捷键不一样。接下来我将带领大家来了解IDEA调试功能,以Java程序为例。第一步,设断点,打开debug      &n

    2022年10月15日
  • Jenkins安装_jenkins安装与配置

    Jenkins安装_jenkins安装与配置前言jenkins的环境搭建方法有很多,本篇使用docker快速搭建一个jenkins环境。环境准备:mac/Linuxdockerdocker拉去jenkins镜像先下载jenkins镜

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号