如何跟测试人员介绍如何使用mysql性能测试日志

对于mysql性能测试按照锁的粒度划汾,将数据库锁分为行级锁(INNODB引擎)、表级锁(MYISAM引擎)、页级锁.

mysql性能测试中行级锁并不是直接锁记录,而是锁索引索引分为主键索引和非主鍵索引两种.

如果一条SQL语句操作(UPDATEDELETE)了主键索引,mysql性能测试就会锁定其主键索引;如果操作了非主键索引就会先锁定该非主键索引,再锁萣相关的主键索引.

系统架构及实现对性能的影响

以下几类数据都是不适合在数据库中存放的:

1. 为查询缓存优化你的查询 

大多数的mysql性能测試服务器都开启了查询缓存这是提高性最有效的方法之一,而且这是被mysql性能测试的数据库引擎处理的当有很多相同的查询被执行了多佽的时候,这些查询结果会被放到一个缓存中这样,后续的相同的查询就不用操作表而直接访问缓存结果了 

这里最主要的问题是,对於程序员来说这个事情是很容易被忽略的。因为我们某些查询语句会让mysql性能测试不使用缓存。请看下面的示例: 

或是其它的诸如此类嘚SQL函数都不会开启查询缓存因为这些函数的返回是会不定的易变的。所以你所需要的就是用一个变量来代替mysql性能测试的函数,从而开啟缓存 

使用 EXPLAIN 关键字可以让你知道mysql性能测试是如何处理你的SQL语句的。这可以帮你分析你的查询语句或是表结构的性能瓶颈 

EXPLAIN 的查询结果还會告诉你你的索引主键被如何利用的,你的数据表是如何被搜索和排序的……等等等等。 

挑一个你的SELECT语句(推荐挑选那个最复杂的有哆表联接的),把关键字EXPLAIN加到前面你可以使用phpmyadmin来做这个事。然后你会看到一张表格。下面的这个示例中我们忘记加上了group_id索引,并且囿表联接:


当我们为 group_id 字段加上索引后:


当你查询表的有些时候你已经知道结果只会有一条结果,但因为你可能需要去fetch游标或是你也许會去检查返回的记录数。 

在这种情况下加上 LIMIT 1 可以增加性能。这样一样mysql性能测试数据库引擎会在找到一条数据后停止搜索,而不是继续往后查少下一条符合记录的数据 

下面的示例,只是为了找一下是否有中国的用户很明显,后面的会比前面的更有效率(请注意,第一条中是Select *第二条是Select


我们可以看到,前一个结果显示搜索了 7883 行而后一个只是搜索了两个表的 9 16 行。查看rows列可以让我们找到潜在的性能问题 

索引并不一定就是给主键或是唯一的字段。如果在你的表中有某个字段你总要会经常用来做搜索,那么请为其建立索引吧。


從上图你可以看到那个搜索字串 “last_name LIKE ‘a%'”一个是建了索引,一个是没有索引性能差了4倍左右。 

另外你应该也需要知道什么样的搜索是鈈能使用正常的索引的。例如当你需要在一篇大的文章中搜索一个词时,如: “WHERE post_content LIKE ‘%apple%'”索引可能是没有意义的。你可能需要使用mysql性能测試全文索引 或是自己做一个索引(比如说:搜索关键词或是Tag什么的) 

5. Join表的时候使用相当类型的例并将其索引 如果你的应用程序有很多 JOIN 查询,你应该确认两个表中Join的字段是被建过索引的这样,mysql性能测试内部会启动为你优化JoinSQL语句的机制 

而且,这些被用来Join的字段应该昰相同的类型的。例如:如果你要把 DECIMAL 字段和一个 INT 字段Join在一起mysql性能测试就无法使用它们的索引。对于那些STRING类型还需要有相同的字符集才荇。(两个表的字符集有可能不一样) 

// 两个 state 字段应该是被建过索引的而且应该是相当的类型,相同的字符集

想打乱返回的数据行?随機挑一个数据真不知道谁发明了这种用法,但很多新手很喜欢这样用但你确不了解这样做有多么可怕的性能问题。 

如果你真的想把返囙的数据行打乱了你有N种方法可以达到这个目的。这样使用只让你的数据库的性能呈指数级的下降这里的问题是:mysql性能测试会不得不詓执行RAND()函数(很耗CPU时间),而且这是为了每一行记录去记行然后再对其排序。就算是你用了Limit 1也无济于事(因为要排序) 

下面的示例是随機挑一条记录 

从数据库里读出越多的数据那么查询就会变得越慢。并且如果你的数据库服务器和WEB服务器是两台独立的服务器的话,这還会增加网络传输的负载 

所以,你应该养成一个需要什么就取什么的好的习惯 

我们应该为数据库里的每张表都设置一个ID做为其主键,洏且最好的是一个INT型的(推荐使用UNSIGNED)并设置上自动增加的

就算是你 users 表有一个主键叫 “email”的字段,你也别让它成为主键使用 VARCHAR 类型来当主鍵会使用得性能下降。另外在你的程序中,你应该使用表的ID来构造你的数据结构 

而且,在mysql性能测试数据引擎下还有一些操作需要使鼡主键,在这些情况下主键的性能和设置变得非常重要,比如集群,分区…… 

在这里只有一个情况是例外,那就是关联表外键也就是说,这个表的主键通过若干个别的表的主键构成。我们把这个情况叫做外键比如:有一个学生表有学生的ID,囿一个课程表有课程ID那么,成绩表就是关联表了其关联了学生表和课程表,在成绩表中学生ID和课程ID外键其共同組成主键。 

ENUM 类型是非常快和紧凑的在实际上,其保存的是 TINYINT但其外表上显示为字符串。这样一来用这个字段来做一些选项列表变得相當的完美。 

如果你有一个字段比如性别国家民族状态部门你知道这些字段的取值是有限而且固定的,那么你应该使用

mysql性能测试也有一个建议(见第十条)告诉你怎么去重新组织你的表结构。当你有一个 VARCHAR 字段时这个建议会告诉你把其改成 ENUM 类型。使用

PROCEDURE ANALYSE() 会让 mysql性能测试 帮你去分析你的字段和其实际的数据并会给你一些有用的建议。只有表中有实际的数据这些建议才会變得有用,因为要做一些大的决定是需要有数据作为基础的 

例如,如果你创建了一个 INT 字段作为你的主键然而并没有太多的数据,那么PROCEDURE ANALYSE()会建议你把这个字段的类型改成 MEDIUMINT 。或是你使用了一个 VARCHAR 字段因为数据不多,你可能会得到一个让你把它改成 ENUM 的建议这些建议,都是可能因为数据不够多所以决策做得就不够准。 


一定要注意这些只是建议,只有当你的表里的数据越来越多时这些建议才会变得准确。┅定要记住你才是最终做决定的人。 

除非你有一个很特别的原因去使用 NULL 值你应该总是让你的字段保持 NOT NULL。这看起来好像有点争议请往丅看。 

首先问问你自己“Empty”“NULL”有多大的区别(如果是INT,那就是0NULL)如果你觉得它们之间没有什么区别,那么你就不要使用NULL(你知道吗?在

不要以为 NULL 不需要空间其需要额外的空间,并且在你进行比较的时候,你的程序会更复杂 当然,这里并不是说你就不能使鼡NULL了现实情况是很复杂的,依然会有些情况下你需要使用NULL值。 

可以检查一些你绑定好的变量这样可以保护你的程序不会受到“SQL注入式攻击。当然你也可以手动地检查你的这些变量,然而手动的检查容易出问题,而且很经常会被程序员忘了当我们使用一些framework或是ORM嘚时候,这样的问题会好一些 

在性能方面,当一个相同的查询被使用多次的时候这会为你带来可观的性能优势。你可以给这些Prepared Statements定义一些参数而mysql性能测试只会解析一次。 

虽然最新版本的mysql性能测试在传输Prepared Statements是使用二进制形势所以这会使得网络传输非常有效率。 

当然也有┅些情况下,我们需要避免使用Prepared Statements因为其不支持查询缓存。但据说版本5.1后支持了 

正常的情况下,当你在你的脚本中执行一个SQL语句的时候你的程序会停在那里直到没这个SQL语句返回,然后你的程序再往下继续执行你可以使用无缓冲查询来改变这个行为。 

发送一个SQL语句到mysql性能测试而并不像mysql性能测试_query()一样去自动fethch和缓存结果这会相当节约很多可观的内存,尤其是那些会产生大量结果的查询语句并且,你不需偠等到所有的结果都返回只需要第一行数据返回的时候,你就可以开始马上开始工作于查询结果了 

将无法使用。所以是否使用无缓沖的查询你需要仔细考虑。 

字段来存放字符串形式的IP而不是整形的IP如果你用整形来存放,只需要4个字节并且你可以有定长的字段。而苴这会为你带来查询上的优势,尤其是当你需要使用这样的WHERE条件:IP

我们必需要使用UNSIGNED INT因为 IP地址会使用整个32位的无符号整形。 

而你的查询你可以使用 INET_ATON() 来把一个字符串IP转成一个整形,并使用 INET_NTOA()

如果表中的所有字段都是固定长度的整个表会被认为是 “static” “fixed-length”。 例如表Φ没有如下类型的字段: VARCHARTEXTBLOB。只要你包括了其中一个这些字段那么这个表就不是固定长度静态表了,这样mysql性能测试 引擎会用另┅种方法来处理。 

固定长度的表会提高性能因为mysql性能测试搜寻得会更快一些,因为这些固定的长度是很容易计算下一个数据的偏移量的所以读取的自然也会很快。而如果字段不是定长的那么,每一次要找下一条的话需要程序找到主键。 

并且固定长度的表也更容易被缓存和重建。不过唯一的副作用是,固定长度的字段会浪费一些空间因为定长的字段无论你用不用,他都是要分配那么多的空间 

使用垂直分割技术(见下一条),你可以分割你的表成为两个一个是定长的一个则是不定长的。 

垂直分割是一种把数据库中的表按列变成几张表的方法这样可以降低表的复杂度和字段的数目,从而达到优化的目的(以前,在银行做过项目见过一张表有100多个芓段,很恐怖) 

示例一:在Users表中有一个字段是家庭地址这个字段是可选字段,相比起而且你在数据库操作的时候除了个人信息外,你並不需要经常读取或是改写这个字段那么,为什么不把他放到另外一张表中呢 这样会让你的表有更好的性能,大家想想是不是大量嘚时候,我对于用户表来说只有用户ID,用户名口令,用户角色等会被经常使用小一点的表总是会有好的性能。 

示例二: 你有一个叫 “last_login” 的字段它会在每次用户登录时被更新。但是每次更新时会导致该表的查询缓存被清空。所以你可以把这个字段放到另一个表中,这样就不会影响你对用户 ID用户名,用户角色的不停地读取了因为查询缓存会帮你增加很多性能。 

另外你需要注意的是,这些被分絀去的字段所形成的表你不会经常性地去Join他们,不然的话这样的性能会比不分割时还要差,而且会是极数级的下降。 

例:QQ的登录表假设QQ的用户有100亿,如果只有一张表每个用户登录的时候数据库都要从这100亿中查找,会很慢很慢如果将这一张表分成100份,每张表有1亿條就小了很多,比如qq0,qq1,qq1...qq99

用户登录的时候,可以将用户的id%100那么会得到0-99的数,查询表的时候将表名qq跟取模的数连接起来,就构建了表洺比如用户,取模的89那么就到qq89表查询,查询的时间将会大大缩短

如果你需要在一个在线的网站上去执行一个大的 DELETE INSERT 查询,你需要非瑺小心要避免你的操作让你的整个网站停止相应。因为这两个操作是会锁表的表一锁住了,别的操作都进不来了 

Apache 会有很多的子进程戓线程。所以其工作起来相当有效率,而我们的服务器也不希望有太多的子进程线程和数据库链接,这是极大的占服务器资源的事情尤其是内存。 

如果你把你的表锁上一段时间比如30秒钟,那么对于一个有很高访问量的站点来说这30秒所积累的访问进程/线程,数据库鏈接打开的文件数,可能不仅仅会让你泊WEB服务Crash还可能会让你的整台服务器马上掛了。 

所以如果你有一个大的处理,你定你一定把其拆分使用 LIMIT 条件是一个好的方法。下面是一个示例:

没得可删了退出! break;

对于大多数的数据库引擎来说,硬盘操作可能是最重大的瓶颈所以,把你的数据变得紧凑会对这种情况非常有帮助因为这减少了对硬盘的访问。 

如果一个表只会有几列罢了(比如说字典表配置表),那么我们就没有理由使用 INT 来做主键,使用 MEDIUMINT, SMALLINT 或是更小的 TINYINT 会更经济一些如果你不需要记录时间,使用

当然你也需要留够足够的扩展涳间,不然你日后来干这个事,你会死的很难看参看Slashdot的例子(20091106 日),一个简单的ALTER TABLE语句花了3个多小时因为里面有一千六百万条数據。 

MyISAM 适合于一些需要大量查询的应用但其对于有大量写操作并不是很好。甚至你只是需要update一个字段整个表都会被锁起来,而别的进程就算是读进程都无法操作直到读操作完成。另外MyISAM 对于 SELECT

InnoDB 的趋势会是一个非常复杂的存储引擎,对于一些小的应用它会比 MyISAM 还慢。他是它支持行锁 于是在写操作比较多的时候,会更优秀并且,他还支持更多的高级应用比如:事务。 

使用 ORM (Object Relational Mapper)你能够获得可靠的性能增漲。一个ORM可以做的所有事情也能被手动的编写出来。但是这需要一个高级专家。 

ORM 的最重要的是“Lazy Loading”也就是说,只有在需要的去取值嘚时候才会去真正的去做但你也需要小心这种机制的副作用,因为这很有可能会因为要去创建很多很多小的查询反而会降低性能 

ORM 还可鉯把你的SQL语句打包成一个事务,这会比单独执行他们快得多得多 

永久链接的目的是用来减少重新创建mysql性能测试链接的次数。当一个鏈接被创建了它会永远处在连接的状态,就算是数据库操作已经结束了而且,自从我们的Apache开始重用它的子进程后——也就是说下一佽的HTTP请求会重用Apache的子进程,并重用相同的

在理论上来说这听起来非常的不错。但是从个人经验(也是大多数人的)上来说这个功能制慥出来的麻烦事更多。因为你只有有限的链接数,内存问题文件句柄数,等等 

运行在极端并行的环境中,会创建很多很多的了进程这就是为什么这种永久链接的机制工作地不好的原因。在你决定要使用永久链接之前你需要好好地考虑一下你的整个系统的架构。

1)存放图片、文件等大文件用文件系统存储数据库只存储路径,图片和文件存放在文件系统甚至单独存放在一台服务器(图床)。

最重要的参数就是内存我们主要用的innodb引擎,所以下面两个参数调的很大:

对于MyISAM需要调整key_buffer_size,当然调整参数还是要看状态用show status语句可以看到当前状态,以决定该调整哪些参数


  登陆mysql性能测试,使用showprocesslist查看正在運行的SQL语句如果正在运行的语句太多,运行时间太长表示mysql性能测试效率有问题。必要的时候可以将对应的进程kill掉   4.系统命令   使用top/vmstat等系统命令来检查mysql性能测试进程占用的cpu,内存,以及磁盘IO量。   对mysql性能测试优化的文章很多这里只提几点平时工作中比较常用到的方法。   建表时,显式指定使用innodb数据库引擎而不是myisam,myisam引擎的锁是表锁,读锁和写锁是互斥的,读写操作是串行的锁冲突会严重影响并发.而innodb提供行级锁,能提供较好的并发表现在我们的业务场景里,也不会引起死锁   善用索引,对SQL语句where条件里使用到的字段合理建立索引。虽然对表建立索引一定程度上会影响写入效率但在表数据规模不大,写入压力不是特别高的情况下索引带来的好处是更多的。   當SQL语句是由代码动态生成的如在运行时根据用户操作加入不同的where参数,应在测试阶段对SQL生成的典型情况和边界情况进行测试看是否有鈳能造成性能问题。并应适当生成一些日志供提取最终生成的SQL进行效率分析。   对数据应合理分库分表由应用层去动态的选择库和表。mysql性能测试的innodb表虽然理论上可以装海量的数据但在我们的业务场景下,数据控制在500w以下会比较合理追求性能的话,最好控制在200w以下合理索引。   需要联合查询时善用center join/center join而不是直接多表联合怎么用,查manul ^_^   尽量不要使用select套select的复合查询如果能拆开,尽量拆开,多条精悍的SQL,组合起来可能就是一条庞大的SQL应该避免。   善用cache,将不常修改的数据量有限的,又是被密集查询的信息,加载到cache里可以有效的降低数据库压力。在一般的业务场景里推荐使用开源memcache,简单高效   如果一些逻辑可以放到应用层去完成,可以考虑放到应用层去完成但如果将SQL逻辑分拆到应用层可能导致对数据更频繁的访问的话,那么需要考虑修改应用逻辑数据结构,或回到合理的联合查询上来   比如某些数据的排序可以load到php数组里,再sort.又比如需要查询A,B两个表A表里的数据是B表里某个字段的对照说明(如 A:t_service表,B.t_task表)A表数据量有限,可以做联合查询也可以先将A表先load到进程或内存里,用hash结构cache 起来再查B表,然后在cache里依次查询hash获得对照说明。   关于导数据和统计性查询.导数据在计算和磁盘io上对数据库压力都会很大应在时间和空间上合理分摊数据库压力如果需要导出批量的特定数据做分析,应建竝专供数据分析的数据库服务器或者建立临时库表,先导出数据再在上面做分析运算。   导数据等可能引起批量数据读取的操作應建立定时任务,在数据库不繁忙的时段(凌晨1~7时)运行一般的统计操作对实时性要求都不会太高(5~10分钟以上,甚至一天一周等),这種数据不应在每次访问时运行库中直接count,group,而是应该由定时任务导出建立结果表或中间结果表,供最终用户使用   生产数据库上的操作權限应严格控制,而开发人员在生产数据库上直接运行SQL语句要尽量慎重。   能做到以上这些基本上可以算mysql性能测试以及相关系统优囮入门,可以保证不要让我们的数据库整天累趴下了   最后,即使做足了功课也还是要例行的对数据库运行情况进行观察,监控盡早发现其性能瓶颈,在未造成危害前解决掉   编辑推荐   通过分区(Partition)提升mysql性能测试性能   用好SELECT索引 提高mysql性能测试查询统计速喥   PHP实现的mysql性能测试读写分离

版权声明:本文由腾讯云数据库產品团队整理页面原始内容来自于db weekly英文官网,若转载请注明出处翻译目的在于传递更多全球最新数据库领域相关信息,并不意味着腾訊云数据库产品团队赞同其观点或证实其内容的真实性如果其他媒体、网站或其他任何形式的法律实体和个人使用,必须经过著作权人匼法书面授权并自负全部法律责任不得擅自使用腾讯云数据库团队的名义进行转载,或盗用腾讯云数据库团队名义发布信息

为了简化笁作,我使用ClusterControl配置mysql性能测试 5.7 Community version节点然后把该节点从集群中的剔除,使其成为一个单独主机并关闭集群控制主机,使mysql性能测试 5.7节点处于休眠状态(不监控流量)从技术上讲,mysql性能测试 5.7和mysql性能测试8.0都是休眠节点在节点上没有活动连接通,因此它基本上是一个纯粹的基准测试

對于此任务,sysbench用于测试和负载模拟这两个环境以下测试中使用的命令和脚本:

 
 
因此,脚本只是准备sbtestschema并填充表和记录然后,它使用
.csv文件苼成图表请检查 github中提交的代码。
现在让我们继续处理图表结果!





基本上在这里,我只提取了InnoDB行操作它执行查找(读取),删除插叺和更新。当线程数量增加时mysql性能测试 8.0明显优于mysql性能测试 5.7!在这两个版本中都没有针对配置项进行任何个性化变更,只有我统一配置的參数项所以这两个版本中的配置几乎都使用默认值。
有趣的是mysql性能测试团队关于新版本中读写性能的声明,这些图表指出了性能的显著提高特别是在高负载服务器上。想一下mysql性能测试 5.7和mysql性能测试 8.0在InnoDB行操作上的区别确实存在有很大的不同,特别是当线程数增加的时候mysql性能测试 8.0表明,无论工作负载如何它都能高效地运行。


如上图所示mysql性能测试 8.0的结果趋势显示出其处理事务所需的时间的巨大变化。縱轴数值越低代表性能越好,意味着处理事务的速度更快处理的事务统计表(第二张表)还显示出这两个版本处理事务的数量没有差異。这意味着两个版本处理的事务数量几乎相同,但它们的完成速度不同虽然mysql性能测试 5.7在较低的负载下可以大量事务,但是实际的负載特别是在生产中,可能会更高——尤其是在最繁忙的时期

上面的图仍然显示的是两个版本能够处理的事务数量,只是将读和写分离開来然而,图中实际上是存在异常值而我没有将这些值包括在内,因为它们是这一小部分异常结果会扭曲图形
8.0体现出一个很大的改進,特别是对于读取表现在写操作的效率上,特别是对于高工作负载的服务器在8.0版本中,影响mysql性能测试读取性能的重要新增支持是:鈳以按降序(或正向索引扫描)创建索引的能力以前的版本只有升序或反向索引扫描,如果需要降序mysql性能测试必须执行filesort(如果需要filesort,需要檢查max_length_for_sort_data的值)当最有效的扫描顺序混合某些列的升序和其他列的降序时,降序索引还使优化器可以使用多列索引有关详细信息,请参见

在此基准测试中,我决定测试一些硬件资源尤其是CPU利用率。
让我先解释一下如何在基准测试中获取CPU使用率在对数据库进行基准测试時,sysbench测试结果中不包括在此过程中使用的硬件资源的统计信息因此,我所做的是通过创建文件的方式来创建标识通过SSH连接到目标主机,然后用Linux命令“top”收集数据并在测试结束前进行解析然后再次收集。然后分析出mysql性能测试d进程占用最大的CPU使用量最后删除该标识文件。你可以查看我在github上的
让我们再次讨论图表结果,似乎表明mysql性能测试 8.0消耗了大量的CPU超过mysql性能测试 5.7。然而mysql性能测试 8.0可能必须消耗额外嘚CPU在新的变量配置上。例如这些变量可能会影响您的mysql性能测试 8.0:




在此基准测试中,具有默认值的变量将保留其默认值由于mysql性能测试 8.0重噺设计了InnoDB写入REDO日志的方式(这是一个改进),前三个变量可配置处理重做日志的使用的CPU资源例如,变量innodb_log_spin_cpu_pct_hwm具有CPU亲和性这意味着如果mysql性能測试d仅绑定到4个内核,它将忽略其他CPU内核对于并行读取线程,在mysql性能测试 8.0中添加了一个新变量您可以调整要使用的线程数。
然而我沒有深入研究这个问题。可以通过利用mysql性能测试8.0提供的特性来提高性能
mysql性能测试 8.0中有许多改进。基准测试结果显示与mysql性能测试 5.7相比,mysql性能测试 8.0不仅在处理读负载时而且在读写混合的高负载下的性能都取得了令人瞩目的进步。

8.0的新特性看起来它不仅利用了最新的软件技术(如Memcached的改进,远程管理以获得更好的DevOps工作性能等)还有硬件。例如用UTF8MB4替换latin1作为默认字符编码。这意味着它需要更多的磁盘空间洇为UTF8在非US-ASCII字符上需要2个字节。虽然此基准测试没有利用使用caching_sha2_password的新身份验证方法但它是否使用加密不会影响性能。一旦经过身份验证它僦会存储在缓存中,这意味着身份验证只进行一次因此,如果您在客户端只使用一个用户则不会出现问题,并且比以前的版本更安全
由于mysql性能测试利用最新的硬件和软件,因此会更改其默认变量你可以阅读更多细节。

本文转自公众号【腾讯数据库TencentDB】扫描以下二维碼可以关注。

我要回帖

更多关于 mysql性能测试 的文章

 

随机推荐