MySQL性能优化

MySQL性能优化

大家好,又见面了,我是全栈君。

怎样从MySQL一个数据表中提取一条随机的效率,同一时候要保证效率最高。

方法一

这是最原始最直观的语法。例如以下:

SELECT * FROM foo ORDER BY RAND() LIMIT 1

当数据表中数据量较小时,此方法可行。但当数据量到达一定程度,比方100万数据或以上。就有非常大的性能问题。

假设你通过EXPLAIN来分析这个 语句,会发现尽管MySQL通过建立一张暂时表来排序,但因为ORDER BY和LIMIT本身的特性。在排序未完毕之前,我们还是无法通过LIMIT来获取须要的记录。亦即。你的记录有多少条,就必须首先对这些数据进行排序。

方法二

看来对于大数据量的随机数据抽取,性能的症结出在ORDER BY上,那么怎样避免?方法二提供了一个方案。

首先,获取数据表的全部记录数:

SELECT count(*) AS num_rows FROM foo

然后,通过相应的后台程序记录下此记录总数(假定为num_rows)。

然后运行:

SELECT * FROM foo LIMIT [0到num_rows之间的一个随机数],1

上面这个随机数的获得能够通过后台程序来完毕。此方法的前提是表的ID是连续的或者自增长的。

这种方法已经成功避免了ORDER BY的产生。

方法三

有没有可能不用ORDER BY。用一个SQL语句实现方法二?能够,那就是用JOIN。

SELECT * FROM Bar B JOIN (SELECT CEIL(MAX(ID)*RAND()) AS ID FROM Bar) AS m ON B.ID >= m.ID LIMIT 1;

此方法实现了我们的目的,同一时候,在数据量大的情况下,也避免了ORDER BY所造成的全部记录的排序过程。由于通过JOIN里面的SELECT语句实际上仅仅运行了一次,而不是N次(N等于方法二中的num_rows)。并且, 我们能够在筛选语句上加上“大于”符号。还能够避免由于ID好不连续所产生的记录为空的现象。

在mysql中查询5条不反复的数据,使用下面:

SELECT * FROM `table` ORDER BY RAND() LIMIT 5

就能够了。可是真正測试一下才发现这样效率很低。一个15万余条的库,查询5条数据,竟然要8秒以上

搜索Google,网上基本上都是查询max(id) * rand()来随机获取数据。

SELECT *
FROM `table` AS t1 JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `table`)) AS id) AS t2
WHERE t1.id >= t2.id
ORDER BY t1.id ASC LIMIT 5;

可是这样会产生连续的5条记录。解决的方法仅仅能是每次查询一条,查询5次。

即便如此也值得,由于15万条的表,查询仅仅须要0.01秒不到。

上面的语句採用的是JOIN。mysql的论坛上有人使用

SELECT *
FROM `table`
WHERE id >= (SELECT FLOOR( MAX(id) * RAND()) FROM `table` )
ORDER BY id LIMIT 1;

我測试了一下,须要0.5秒,速度也不错。可是跟上面的语句还是有非常大差距。总觉有什么地方不正常。

于是我把语句改写了一下。

SELECT * FROM `table`
WHERE id >= (SELECT floor(RAND() * (SELECT MAX(id) FROM `table`))) 
ORDER BY id LIMIT 1;

这下,效率又提高了,查询时间仅仅有0.01秒

最后。再把语句完好一下。加上MIN(id)的推断。我在最開始測试的时候,就是由于没有加上MIN(id)的推断。结果有一半的时间总是查询到表中的前面几行。
完整查询语句是:

SELECT * FROM `table`
WHERE id >= (SELECT floor( RAND() * ((SELECT MAX(id) FROM `table`)-(SELECT MIN(id) FROM `table`)) + (SELECT MIN(id) FROM `table`))) 
ORDER BY id LIMIT 1;

SELECT *
FROM `table` AS t1 JOIN (SELECT ROUND(RAND() * ((SELECT MAX(id) FROM `table`)-(SELECT MIN(id) FROM `table`))+(SELECT MIN(id) FROM `table`)) AS id) AS t2
WHERE t1.id >= t2.id
ORDER BY t1.id LIMIT 1;

最后对这两个语句进行分别查询10次。
前者花费时间 0.147433 秒
后者花费时间 0.015130 秒
看来採用JOIN的语法比直接在WHERE中使用函数效率还要高非常多

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/116058.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

  • 大数据技术大致包含哪些内容「建议收藏」

    大数据技术大致包含哪些内容「建议收藏」关于大数据的概念,指的是无法在一定时间内用常规软件工具对其内容进行抓取、管理和处理的数据集合。而大数据技术,是指从各种各样类型的数据中,快速获得有价值信息的能力。那么关于大数据的技术大致包含哪些内容?一、数据采集ETL工具负责将分布的、异构数据源中的数据如关系数据、平面数据文件等抽取到临时中间层后进行清洗、转换、集成,最后加载到数据仓库或数据集市中,成为联机分析处理、数据挖掘的基础。二…

  • 使用 PyTorch 实现 MLP 并在 MNIST 数据集上验证

    使用 PyTorch 实现 MLP 并在 MNIST 数据集上验证这是深度学习课程的第一个实验,主要目的就是熟悉Pytorch框架。MLP是多层感知器,我这次实现的是四层感知器,代码和思路参考了网上的很多文章。个人认为,感知器的代码大同小异,尤其是用Pytorch实现,除了层数和参数外,代码都很相似。Pytorch写神经网络的主要步骤主要有以下几步:1.构建网络结构2.加载数据集3.训练神经网络(包括优化器的选择和Loss的计算)4.测试神经网络

  • 仿淘宝实现多行星级评价

    仿淘宝实现多行星级评价

    2021年10月14日
  • .net mvc5_mvc工作流程

    .net mvc5_mvc工作流程作者:josh-jw介绍我们可以在web页面用HTML表格元素定义WebGrid显示数据,它以非常简单的方式呈现表格数据,支持自定义格式列,分页,排序,并通过AJAX异步更新。WebGrid主要属性:Source-数据来自哪里。通常情况下,通过controlleraction传递modelDefaultSort-定义如何将数据排序。只要在这里提供列名。RowsPerPage-每页表格显示…

  • Class类的getClassLoader()方法

    Class类的getClassLoader()方法packageminglu;importjava.lang.reflect.InvocationTargetException;importjava.lang.reflect.Method;publicclassHelloWorld{ publicstaticvoidmain(String[]args)throwsInstantiationException,

  • c++视频转字符画_c++字符数组转化为字符串

    c++视频转字符画_c++字符数组转化为字符串运行此程序需要有graphics图形库#include <stdio.h>#include <graphics.h> // 图形库的头文件#define HEIGHT 8 // 转换后的高度#define WIDTH 8 // 转换后的宽度#define ASCII1 32 // 转换ASCII数量struct ASCII{ char as…

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号