HOME 首页
SERVICE 服务产品
XINMEITI 新媒体代运营
CASE 服务案例
NEWS 热点资讯
ABOUT 关于我们
CONTACT 联系我们
创意岭
让品牌有温度、有情感
专注品牌策划15年

    优化查询的方法(查询优化的途径)

    发布时间:2023-04-22 09:08:32     稿源: 创意岭    阅读: 83        

    大家好!今天让创意岭的小编来大家介绍下关于优化查询的方法的问题,以下是小编对此问题的归纳整理,让我们一起来看看吧。

    开始之前先推荐一个非常厉害的Ai人工智能工具,一键生成原创文章、方案、文案、工作计划、工作报告、论文、代码、作文、做题和对话答疑等等

    只需要输入关键词,就能返回你想要的内容,越精准,写出的就越详细,有微信小程序端、在线网页版、PC客户端

    官网:https://ai.de1919.com

    创意岭作为行业内优秀的企业,服务客户遍布全球各地,如需了解SEO相关业务请拨打电话175-8598-2043,或添加微信:1454722008

    本文目录:

    优化查询的方法(查询优化的途径)

    一、mysql数据库表太大查询慢优化的几种方法

    优化方案:

    主从同步+读写分离:

    这个表在有设备条件的情况下,读写分离,这样能减少很多压力,而且数据稳定性也能提高

    纵向分表:

    根据原则,每个表最多不要超过5个索引,纵向拆分字段,将部分字段拆到一个新表

    通常我们按以下原则进行垂直拆分:(先区分这个表中的冷热数据字段)

    把不常用的字段单独放在一张表;

    把text,blob等大字段拆分出来放在附表中;

    经常组合查询的列放在一张表中;

    缺点是:很多逻辑需要重写,带来很大的工作量。

    利用表分区:

    这个是推荐的一个解决方案,不会带来重写逻辑等,可以根据时间来进行表分区,相当于在同一个磁盘上,表的数据存在不同的文件夹内,能够极大的提高查询速度。

    横向分表:

    1000W条数据不少的,会带来一些运维压力,备份的时候,单表备份所需时间会很长,所以可以根据服务器硬件条件进行水平分表,每个表有多少数据为准。

    二、数据库查询有哪些优化方面

    1 SQL查询语句的重写,对于一个查询可以用多种查询语句实现,但不同查询语句的数据库执行计划是不同的,一旦不能够使用索引或造成较大的内存占用会导致性能下降,因此需要对查询语句进行重写优化,最典型的例子就是not in语句使用外连接方式实现来进行优化

    2 创建合理的索引结构,根据查询语句的中查询条件,在关系表上建立相应的索引,如B+树索引和hash索引

    3 修改程序业务逻辑,有些功能如果使用SQL语句实现,不但SQL语句复杂,还将导致数据库的负担增加,因此可以将有些数据操作的业务逻辑放到应用层进行实现,就是通过java编程实现

    4 修改数据库服务器相关参数,优化服务器性能

    三、如何优化sqlite的查询速度

    SQLite是个典型的嵌入式DBMS,它有很多优点,它是轻量级的,在编译之后很小,其中一个原因就是在查询优化方面比较简单,它只是运用索引机制来进行优化的,经过对SQLite的查询优化的分析以及对源代码的研究,我将SQLite的查询优总结如下:

    一、影响查询性能的因素:

    1. 对表中行的检索数目,越小越好

    2. 排序与否。

    3. 是否要对一个索引。

    4. 查询语句的形式

    二、几个查询优化的转换

    1. 对于单个表的单个列而言,如果都有形如T.C=expr这样的子句,并且都是用OR操作符连接起来,形如: x = expr1 OR expr2 = x OR x = expr3 此时由于对于OR,在SQLite中不能利用索引来优化,所以可以将它转换成带有IN操作符的子句:x IN(expr1,expr2,expr3)这样就可以用索引进行优化,效果很明显,但是如果在都没有索引的情况下OR语句执行效率会稍优于IN语句的效率。

    2. 如果一个子句的操作符是BETWEEN,在SQLite中同样不能用索引进行优化,所以也要进行相应的等价转换: 如:a BETWEEN b AND c可以转换成:(a BETWEEN b AND c) AND (a>=b) AND (a<=c)。 在上面这个子句中, (a>=b) AND (a<=c)将被设为dynamic且是(a BETWEEN b AND c)的子句,那么如果BETWEEN语句已经编码,那么子句就忽略不计,如果存在可利用的index使得子句已经满足条件,那么父句则被忽略。

    3. 如果一个单元的操作符是LIKE,那么将做下面的转换:x LIKE ‘abc%’,转换成:x>=‘abc’ AND x<‘abd’。因为在SQLite中的LIKE是不能用索引进行优化的,所以如果存在索引的话,则转换后和不转换相差很远,因为对LIKE不起作用,但如果不存在索引,那么LIKE在效率方面也还是比不上转换后的效率的。

    三、 几种查询语句的处理(复合查询)

    1.查询语句为:<SelectA> <operator> <selectB> ORDER BY <orderbylist> ORDER BY

    执行方法: is one of UNION ALL, UNION, EXCEPT, or INTERSECT. 这个语句的执行过程是先将selectA和selectB执行并且排序,再对两个结果扫描处理,对上面四种操作是不同的,将执行过程分成七个子过程:

    outA: 将selectA的结果的一行放到最终结果集中

    outB: 将selectA的结果的一行放到最终结果集中(只有UNION操作和UNION ALL操作,其它操作都不放入最终结果集中)

    AltB: 当selectA的当前记录小于selectB的当前记录

    AeqB: 当selectA的当前记录等于selectB的当前记录

    AgtB: 当selectA的当前记录大于selectB的当前记录

    EofA: 当selectA的结果遍历完

    EofB: 当selectB的结果遍历完

    下面就是四种操作的执行过程:

     执行顺序

    UNION ALL

    UNION

    EXCEPT

    INTERSECT

    AltB:

    outA, nextA

    outA, nextA

    outA,nextA

    nextA

    AeqB:

    outA, nextA

    nextA

    nextA

    outA, nextA

    AgtB:

    outB, nextB

    outB, nextB

    nextB

    nextB

    EofA:

    outB, nextB

    outB, nextB

    halt

    halt

    EofB:

    outA, nextA

    outA, nextA

    outA,nextA

    halt

    2. 如果可能的话,可以把一个用到GROUP BY查询的语句转换成DISTINCT语句来查询,因为GROUP BY有时候可能会用到index,而对于DISTINCT都不会用到索引的 。

    四、子查询扁平化

    例子:SELECT a FROM (SELECT x+y AS a FROM t1 WHERE z<100) WHERE a>5

    对这个SQL语句的执行一般默认的方法就是先执行内查询,把结果放到一个临时表中,再对这个表进行外部查询,这就要对数据处理两次,另外这个临时表没有索引,所以对外部查询就不能进行优化了,如果对上面的SQL进行处理后可以得到如下SQL语句:SELECT x+y AS a FROM t1 WHERE z<100 AND a>5,这个结果显然和上面的一样,但此时只需要对

    数据进行查询一次就够了,另外如果在表t1上有索引的话就避免了遍历整个表。

    运用flatten方法优化SQL的条件:

    1.子查询和外查询没有都用集函数

    2.子查询没有用集函数或者外查询不是个表的连接

    3.子查询不是一个左外连接的右操作数

    4.子查询没有用DISTINCT或者外查询不是个表的连接

    5.子查询没有用DISTINCT或者外查询没有用集函数

    6.子查询没有用集函数或者外查询没有用关键字DISTINCT

    7.子查询有一个FROM语句

    8.子查询没有用LIMIT或者外查询不是表的连接

    9.子查询没有用LIMIT或者外查询没有用集函数

    10.子查询没有用集函数或者外查询没用LIMIT

    11.子查询和外查询不是同时是ORDER BY子句

    12.子查询和外查询没有都用LIMIT

    13.子查询没有用OFFSET

    14.外查询不是一个复合查询的一部分或者子查询没有同时用关键字ORDER BY和LIMIT

    15.外查询没有用集函数子查询不包含ORDER BY

    16.复合子查询的扁平化:子查询不是一个复合查询,或者他是一个UNION ALL复合查询,但他是都由若干个非集函数的查询构成,他的父查询不是一个复合查询的子查询,也没有用集函数或者是DISTINCT查询,并且在FROM语句中没有其它的表或者子查询,父查询和子查询可能会包含WHERE语句,这些都会受到上面11、12、13条件的限制。

    例: SELECT a+1 FROM (

    SELECT x FROM tab

    UNION ALL

    SELECT y FROM tab

    UNION ALL

    SELECT abs(z*2) FROM tab2

    ) WHERE a!=5 ORDER BY 1

    转换为:

    SELECT x+1 FROM tab WHERE x+1!=5

    UNION ALL

    SELECT y+1 FROM tab WHERE y+1!=5

    UNION ALL

    SELECT abs(z*2)+1 FROM tab2 WHERE abs(z*2)+1!=5

    ORDER BY 1

    17.如果子查询是一个复合查询,那么父查询的所有的ORDER BY语句必须是对子查询的列的简单引用

    18.子查询没有用LIMIT或者外查询不具有WHERE语句

    子查询扁平化是由专门一个函数实现的,函数为:

    static int flattenSubquery(

    Parse *pParse, /* Parsing context */

    Select *p, /* The parent or outer SELECT statement */

    int iFrom, /* Index in p->pSrc->a[] of the inner subquery */

    int isAgg, /* True if outer SELECT uses aggregate functions */

    int subqueryIsAgg /* True if the subquery uses aggregate functions */

    )

    它是在Select.c文件中实现的。显然对于一个比较复杂的查询,如果满足上面的条件时对这个查询语句进行扁平化处理后就可以实现对查询的优化。如果正好存在索引的话效果会更好!

    五、连接查询

    在返回查询结果之前,相关表的每行必须都已经连接起来,在SQLite中,这是用嵌套循环实现的,在早期版本中,最左边的是最外层循环,最右边的是最内层循环,连接两个或者更多的表时,如果有索引则放到内层循环中,也就是放到FROM最后面,因为对于前面选中的每行,找后面与之对应的行时,如果有索引则会很快,如果没有则要遍历整个表,这样效率就很低,但在新版本中,这个优化已经实现。

    优化的方法如下:

    对要查询的每个表,统计这个表上的索引信息,首先将代价赋值为SQLITE_BIG_DBL(一个系统已经定义的常量):

    1) 如果没有索引,则找有没有在这个表上对rowid的查询条件:

    1.如果有Rowid=EXPR,如果有的话则返回对这个表代价估计,代价计为零,查询得到的记录数为1,并完成对这个表的代价估计,

    2.如果没有Rowid=EXPR 但有rowid IN (...),而IN是一个列表,那么记录返回记录数为IN列表中元素的个数,估计代价为NlogN,

    3.如果IN不是一个列表而是一个子查询结果,那么由于具体这个子查询不能确定,所以只能估计一个值,返回记录数为100,代价为200。

    4.如果对rowid是范围的查询,那么就估计所有符合条件的记录是总记录的三分之一,总记录估计为1000000,并且估计代价也为记录数。

    5.如果这个查询还要求排序,则再另外加上排序的代价NlogN

    6.如果此时得到的代价小于总代价,那么就更新总代价,否则不更新。

    2) 如果WHERE子句中存在OR操作符,那么要把这些OR连接的所有子句分开再进行分析。

    1. 如果有子句是由AND连接符构成,那么再把由AND连接的子句再分别分析。

    2. 如果连接的子句的形式是X<op><expr>,那么就再分析这个子句。

    3. 接下来就是把整个对OR操作的总代价计算出来。

    4. 如果这个查询要求排序,则再在上面总代价上再乘上排序代价NlogN

    5. 如果此时得到的代价小于总代价,那么就更新总代价,否则不更新。

    3) 如果有索引,则统计每个表的索引信息,对于每个索引:

    1. 先找到这个索引对应的列号,再找到对应的能用到(操作符必须为=或者是IN(…))这个索引的WHERE子句,如果没有找到,则退出对每个索引的循环,如果找到,则判断这个子句的操作符是什么,如果是=,那么没有附加的代价,如果是IN(sub-select),那么估计它附加代价inMultiplier为25,如果是IN(list),那么附加代价就是N(N为list的列数)。

    2. 再计算总的代价和总的查询结果记录数和代价。

    3. nRow = pProbe->aiRowEst[i] * inMultiplier;/*计算行数*/

    4. cost = nRow * estLog(inMultiplier);/*统计代价*/

    5. 如果找不到操作符为=或者是IN(…)的子句,而是范围的查询,那么同样只好估计查询结果记录数为nRow/3,估计代价为cost/3。

    6. 同样,如果此查询要求排序的话,再在上面的总代价上加上NlogN

    7. 如果此时得到的代价小于总代价,那么就更新总代价,否则不更新。

    4) 通过上面的优化过程,可以得到对一个表查询的总代价(就是上面各个代价的总和),再对第二个表进行同样的操作,这样如此直到把FROM子句中所有的表都计算出各自的代价,最后取最小的,这将作为嵌套循环的最内层,依次可以得到整个嵌套循环的嵌套顺序,此时正是最优的,达到了优化的目的。

    5) 所以循环的嵌套顺序不一定是与FROM子句中的顺序一致,因为在执行过程中会用索引优化来重新排列顺序。

    六、索引

    在SQLite中,有以下几种索引:

    1) 单列索引

    2) 多列索引

    3) 唯一性索引

    4) 对于声明为:INTEGER PRIMARY KEY的主键来说,这列会按默认方式排序,所以虽然在数据字典中没有对它生成索引,但它的功能就像个索引。所以如果在这个主键上在单独建立索引的话,这样既浪费空间也没有任何好处。

    运用索引的注意事项:

    1) 对于一个很小的表来说没必要建立索引

    2) 在一个表上如果经常做的是插入更新操作,那么就要节制使用索引

    3) 也不要在一个表上建立太多的索引,如果建立太多的话那么在查询的时候SQLite可能不会选择最好的来执行查询,一个解决办法就是建立聚蔟索引

    索引的运用时机:

    1) 操作符:=、>、<、IN等

    2) 操作符BETWEEN、LIKE、OR不能用索引,

    如BETWEEN:SELECT * FROM mytable WHERE myfield BETWEEN 10 and 20;

    这时就应该将其转换成:

    SELECT * FROM mytable WHERE myfield >= 10 AND myfield <= 20;

    此时如果在myfield上有索引的话就可以用了,大大提高速度

    再如LIKE:SELECT * FROM mytable WHERE myfield LIKE 'sql%';

    此时应该将它转换成:

    SELECT * FROM mytable WHERE myfield >= 'sql' AND myfield < 'sqm';

    此时如果在myfield上有索引的话就可以用了,大大提高速度

    再如OR:SELECT * FROM mytable WHERE myfield = 'abc' OR myfield = 'xyz';

    此时应该将它转换成:

    SELECT * FROM mytable WHERE myfield IN ('abc', 'xyz');

    此时如果在myfield上有索引的话就可以用了,大大提高速度

    3) 有些时候索引都是不能用的,这时就应该遍历全表(程序演示)

    SELECT * FROM mytable WHERE myfield % 2 = 1;

    SELECT * FROM mytable WHERE substr(myfield, 0, 1) = 'w';

    SELECT * FROM mytable WHERE length(myfield) < 5;

    四、ms sql server查询优化方法 查询速度慢的原因很多,常见如下几种 1,没有索引或者没

    1、没有索引或者没有用到索引(这是查询慢最常见的问题,是程序设计的缺陷)

    2、I/O吞吐量小,形成了瓶颈效应。

    3、没有创建计算列导致查询不优化。

    4、内存不足

    5、网络速度慢

    6、查询出的数据量过大(可以采用多次查询,其他的方法降低数据量)

    7、锁或者死锁(这也是查询慢最常见的问题,是程序设计的缺陷)

    8、sp_lock,sp_who,活动的用户查看,原因是读写竞争资源。

    9、返回了不必要的行和列

    10、查询语句不好,没有优化

    以上就是关于优化查询的方法相关问题的回答。希望能帮到你,如有更多相关问题,您也可以联系我们的客服进行咨询,客服也会为您讲解更多精彩的知识和内容。


    推荐阅读:

    抖音信息流优化技巧(抖音信息流优化技巧分析)

    网络优化培训骗局(网络优化培训骗局有哪些)

    aso榜单优化(aso排行优化)

    杭州达内教育(汇众教育)

    快手礼物2999快币是多少钱(快手礼物2999快币是多少钱一个)