分类存档: mysql

flickr主键生成策略

http://code.flickr.net/2010/02/08/ticket-servers-distributed-unique-primary-keys-on-the-cheap/

 

测试一下主键生成的性能,通过代码调用生成10万次主键为例。

测试的机器:8G内存,自身跑着7个tomcat,每个分配512M内存。mysql也安装在此机器上。

1、innodb无事务(never)

单线程:746秒,每个请求7.4秒

10线程:540秒,每个请求5.4秒

50线程:耗时太长,2449,每个请求24秒,经过查找,发现是数据库连接池最大数量限制为20影响了性能。把最大连接数改为100,更恶性的事件产生了,DB中的线程竟然开始互相竞争起来,导致严重影响性能。

2、innodb事务

3、MYISAM无事务

单线程:476秒,平均每次请求4.7ms

10线程: 244秒,平均每次请求2.4ms

50线程:237秒,平均每秒2.3ms

100线程:235秒,平均每秒2.3ms

4、MYISAM有事务(MYISAM本身不支持事务,只是测试下spring aop的影响)

单线程:在aop事务中,503秒,每个请求5ms,不在aop事务中,446秒,每秒请求4.4

10线程:在aop事务中,238秒,每个请求2.3秒,不在aop事务中,234秒,每个请求2.3秒

结论:InnoDB是并发数达到一定数据后,DB中锁的竞争厉害。但是myisam表倒没有这种问题,并发数在100时也没有遇到问题。

在aop事务中多少会有一点影响,但本身是myisam表,影响在可接受范围内。

可改进的地方:这次测试只是使用一个表,在flicker中,也介绍了如何分表来分担负载。但对这个项目来说,已经足够满足需求了。暂不考虑分表。

 

——————————————————————————————

2015.03.09

附下项目中使用的代码:

package cn.joylab.game.service.impl;

import java.util.concurrent.atomic.AtomicInteger;
import java.util.concurrent.atomic.AtomicLong;

import org.apache.commons.logging.Log;
import org.apache.commons.logging.LogFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;

import cn.joylab.game.dao2.Ticket32Dao;
import cn.joylab.game.dao2.Ticket64Dao;
import cn.joylab.game.model.Ticket32;
import cn.joylab.game.model.Ticket64;
import cn.joylab.game.service.TicketManager;

@Component("ticketManager")
public class TicketManagerImpl implements TicketManager {

	private static final int NUM = 1000;

	private AtomicInteger a32 = new AtomicInteger();
	private AtomicInteger a32_ = new AtomicInteger();
	private AtomicInteger b32 = new AtomicInteger();
	private AtomicInteger b32_ = new AtomicInteger();
	private AtomicInteger c32 = new AtomicInteger();
	private AtomicInteger c32_ = new AtomicInteger();
	private AtomicInteger d32 = new AtomicInteger();
	private AtomicInteger d32_ = new AtomicInteger();
	private AtomicInteger e32 = new AtomicInteger();
	private AtomicInteger e32_ = new AtomicInteger();
	private AtomicInteger f32 = new AtomicInteger();
	private AtomicInteger f32_ = new AtomicInteger();
	private AtomicInteger g32 = new AtomicInteger();
	private AtomicInteger g32_ = new AtomicInteger();
	private AtomicInteger h32 = new AtomicInteger();
	private AtomicInteger h32_ = new AtomicInteger();

	private AtomicLong a64 = new AtomicLong();
	private AtomicLong a64_ = new AtomicLong();
	private AtomicLong b64 = new AtomicLong();
	private AtomicLong b64_ = new AtomicLong();
	private AtomicLong c64 = new AtomicLong();
	private AtomicLong c64_ = new AtomicLong();
	private AtomicLong d64 = new AtomicLong();
	private AtomicLong d64_ = new AtomicLong();
	private AtomicLong e64 = new AtomicLong();
	private AtomicLong e64_ = new AtomicLong();
	private AtomicLong f64 = new AtomicLong();
	private AtomicLong f64_ = new AtomicLong();
	private AtomicLong g64 = new AtomicLong();
	private AtomicLong g64_ = new AtomicLong();
	private AtomicLong h64 = new AtomicLong();
	private AtomicLong h64_ = new AtomicLong();

	public int getNewId32(String stub) {
		if ("a".equals(stub)) {
			return getNewId32_1(stub, a32, a32_);
		} else if ("b".equals(stub)) {
			return getNewId32_1(stub, b32, b32_);
		} else if ("c".equals(stub)) {
			return getNewId32_1(stub, c32, c32_);
		} else if ("d".equals(stub)) {
			return getNewId32_1(stub, d32, d32_);
		} else if ("e".equals(stub)) {
			return getNewId32_1(stub, e32, e32_);
		} else if ("f".equals(stub)) {
			return getNewId32_1(stub, f32, f32_);
		} else if ("g".equals(stub)) {
			return getNewId32_1(stub, g32, g32_);
		} else if ("h".equals(stub)) {
			return getNewId32_1(stub, h32, h32_);
		} else {
			log.error("未解析的字符串:" + stub);
		}
		return -1;
	}

	private int getNewId32_1(String stub, AtomicInteger a, AtomicInteger b) {
		if (a.get() == 0) {
			int id = getNewId32_2(stub);
			a.set(id);
			b.set(NUM);
			return id * NUM;
		}
		int i = b.decrementAndGet();
		if (i > 0) {
			return a.get() * NUM + (NUM - i);
		} else {
			int id = getNewId32_2(stub);
			a.set(id);
			b.set(NUM);
			return id * NUM;
		}
	}

	private int getNewId32_2(String stub) {
		Ticket32 ticket32 = new Ticket32();
		ticket32.setStub(stub);
		if ("a".equals(stub)) {
			ticket32Dao.getNewId_a(ticket32);
		} else if ("b".equals(stub)) {
			ticket32Dao.getNewId_b(ticket32);
		} else if ("c".equals(stub)) {
			ticket32Dao.getNewId_c(ticket32);
		} else if ("d".equals(stub)) {
			ticket32Dao.getNewId_d(ticket32);
		} else if ("e".equals(stub)) {
			ticket32Dao.getNewId_e(ticket32);
		} else if ("f".equals(stub)) {
			ticket32Dao.getNewId_f(ticket32);
		} else if ("g".equals(stub)) {
			ticket32Dao.getNewId_g(ticket32);
		} else if ("h".equals(stub)) {
			ticket32Dao.getNewId_h(ticket32);
		} else {
			log.error("未解析的字符串:" + stub);
		}
		return ticket32.getId();
	}

	public long getNewId64(String stub) {
		if ("a".equals(stub)) {
			return getNewId64_1(stub, a64, a64_);
		} else if ("b".equals(stub)) {
			return getNewId64_1(stub, b64, b64_);
		} else if ("c".equals(stub)) {
			return getNewId64_1(stub, c64, c64_);
		} else if ("d".equals(stub)) {
			return getNewId64_1(stub, d64, d64_);
		} else if ("e".equals(stub)) {
			return getNewId64_1(stub, e64, e64_);
		} else if ("f".equals(stub)) {
			return getNewId64_1(stub, f64, f64_);
		} else if ("g".equals(stub)) {
			return getNewId64_1(stub, g64, g64_);
		} else if ("h".equals(stub)) {
			return getNewId64_1(stub, h64, h64_);
		} else {
			log.error("未解析的字符串:" + stub);
		}
		return -1;
	}

	private long getNewId64_1(String stub, AtomicLong a, AtomicLong b) {
		if (a.get() == 0) {
			long id = getNewId64_2(stub);
			a.set(id);
			b.set(NUM);
			return id * NUM;
		}
		long i = b.decrementAndGet();
		if (i > 0) {
			return a.get() * NUM + (NUM - i);
		} else {
			long id = getNewId64_2(stub);
			a.set(id);
			b.set(NUM);
			return id * NUM;
		}
	}

	private long getNewId64_2(String stub) {
		Ticket64 ticket64 = new Ticket64();
		ticket64.setStub(stub);
		if ("a".equals(stub)) {
			ticket64Dao.getNewId_a(ticket64);
		} else if ("b".equals(stub)) {
			ticket64Dao.getNewId_b(ticket64);
		} else if ("c".equals(stub)) {
			ticket64Dao.getNewId_c(ticket64);
		} else if ("d".equals(stub)) {
			ticket64Dao.getNewId_d(ticket64);
		} else if ("e".equals(stub)) {
			ticket64Dao.getNewId_e(ticket64);
		} else if ("f".equals(stub)) {
			ticket64Dao.getNewId_f(ticket64);
		} else if ("g".equals(stub)) {
			ticket64Dao.getNewId_g(ticket64);
		} else if ("h".equals(stub)) {
			ticket64Dao.getNewId_h(ticket64);
		} else {
			log.error("未解析的字符串:" + stub);
		}
		return ticket64.getId();
	}

	@Autowired
	private Ticket32Dao ticket32Dao;
	@Autowired
	private Ticket64Dao ticket64Dao;
	private static final Log log = LogFactory.getLog(TicketManagerImpl.class);
}

MySQL性能优化的21个最佳实践

今天,数据库的操作越来越成为整个应用的 性能瓶颈了,这点对于Web应用尤其明显。关于数据库的性能,这并不只是DBA才需要担心的事,而这更是我们程序员需要去关注的事情。当我们去设计数据库 表结构,对操作数据库时(尤其是查表时的SQL语句),我们都需要注意数据操作的性能。这里,我们不会讲过多的SQL语句的优化,而只是针对MySQL这 一Web应用最多的数据库。希望下面的这些优化技巧对你有用。

 

  1. 为查询缓存优化你的查询

 

大多数的MySQL服务器都开启了查询缓存。这是提高性最有效的方法之一,而且这是被MySQL的数据库引擎处理的。当有很多相同的查询被执行了多次的时候,这些查询结果会被放到一个缓存中,这样,后续的相同的查询就不用操作表而直接访问缓存结果了。

 

这里最主要的问题是,对于程序员来说,这个事情是很容易被忽略的。因为,我们某些查询语句会让MySQL不使用缓存。请看下面的示例:

 

 

 

上面两条SQL语句的差别就是 CURDATE() ,MySQL的查询缓存对这个函数不起作用。所以,像 NOW() 和 RAND() 或是其它的诸如此类的SQL函数都不会开启查询缓存,因为这些函数的返回是会不定的易变的。所以,你所需要的就是用一个变量来代替MySQL的函数,从而 开启缓存。

 

  2. EXPLAIN 你的 SELECT 查询

 

使用 EXPLAIN 关键字可以让你知道MySQL是如何处理你的SQL语句的。这可以帮你分析你的查询语句或是表结构的性能瓶颈。

 

EXPLAIN 的查询结果还会告诉你你的索引主键被如何利用的,你的数据表是如何被搜索和排序的……等等,等等。

 

挑一个你的SELECT语句(推荐挑选那个最复杂的,有多表联接的),把关键字EXPLAIN加到前面。你可以使用phpmyadmin来做这个事。然后,你会看到一张表格。下面的这个示例中,我们忘记加上了group_id索引,并且有表联接:

 

 

 

当我们为 group_id 字段加上索引后:

 

 

 

我们可以看到,前一个结果显示搜索了 7883 行,而后一个只是搜索了两个表的 9 和 16 行。查看rows列可以让我们找到潜在的性能问题。

 

  3. 当只要一行数据时使用 LIMIT 1

 

当你查询表的有些时候,你已经知道结果只会有一条结果,但因为你可能需要去fetch游标,或是你也许会去检查返回的记录数。

 

在这种情况下,加上 LIMIT 1 可以增加性能。这样一样,MySQL数据库引擎会在找到一条数据后停止搜索,而不是继续往后查少下一条符合记录的数据。

 

下面的示例,只是为了找一下是否有“中国”的用户,很明显,后面的会比前面的更有效率。(请注意,第一条中是Select *,第二条是Select 1)

 

 

 

  4. 为搜索字段建索引

 

索引并不一定就是给主键或是唯一的字段。如果在你的表中,有某个字段你总要会经常用来做搜索,那么,请为其建立索引吧。

 

 

 

从上图你可以看到那个搜索字串 “last_name LIKE ‘a%’”,一个是建了索引,一个是没有索引,性能差了4倍左右。

 

另外,你应该也需要知道什么样的搜索是不能使用正常的索引的。例如,当你需要在一篇大的文章中搜索一个词时,如: “WHERE post_content LIKE ‘%apple%’”,索引可能是没有意义的。你可能需要使用MySQL全文索引 或是自己做一个索引(比如说:搜索关键词或是Tag什么的)

 

  5. 在Join表的时候使用相当类型的例,并将其索引

 

如果你的应用程序有很多 JOIN 查询,你应该确认两个表中Join的字段是被建过索引的。这样,MySQL内部会启动为你优化Join的SQL语句的机制。

 

而且,这些被用来Join的字段,应该是相同的类型的。例如:如果你要把 DECIMAL 字段和一个 INT 字段Join在一起,MySQL就无法使用它们的索引。对于那些STRING类型,还需要有相同的字符集才行。(两个表的字符集有可能不一样)

 

 

 

  6. 千万不要 ORDER BY RAND()

 

想打乱返回的数据行?随机挑一个数据?真不知道谁发明了这种用法,但很多新手很喜欢这样用。但你确不了解这样做有多么可怕的性能问题。

 

如果你真的想把返回的数据行打乱了,你有N种方法可以达到这个目的。这样使用只让你的数据库的性能呈指数级的下降。这里的问题是:MySQL会不得不去 执行RAND()函数(很耗CPU时间),而且这是为了每一行记录去记行,然后再对其排序。就算是你用了Limit 1也无济于事(因为要排序)

 

下面的示例是随机挑一条记录

 

 

 

  7. 避免 SELECT *

 

从数据库里读出越多的数据,那么查询就会变得越慢。并且,如果你的数据库服务器和WEB服务器是两台独立的服务器的话,这还会增加网络传输的负载。

 

所以,你应该养成一个需要什么就取什么的好的习惯。

 

 

 

  8. 永远为每张表设置一个ID

 

我们应该为数据库里的每张表都设置一个ID做为其主键,而且最好的是一个INT型的(推荐使用UNSIGNED),并设置上自动增加的AUTO_INCREMENT标志。

 

就算是你 users 表有一个主键叫 “email”的字段,你也别让它成为主键。使用 VARCHAR 类型来当主键会使用得性能下降。另外,在你的程序中,你应该使用表的ID来构造你的数据结构。

 

而且,在MySQL数据引擎下,还有一些操作需要使用主键,在这些情况下,主键的性能和设置变得非常重要,比如,集群,分区……

 

在这里,只有一个情况是例外,那就是“关联表”的“外键”,也就是说,这个表的主键,通过若干个别的表的主键构成。我们把这个情况叫做“外键”。比如: 有一个“学生表”有学生的ID,有一个“课程表”有课程ID,那么,“成绩表”就是“关联表”了,其关联了学生表和课程表,在成绩表中,学生ID和课程 ID叫“外键”其共同组成主键。

 

  9. 使用 ENUM 而不是 VARCHAR

 

ENUM 类型是非常快和紧凑的。在实际上,其保存的是 TINYINT,但其外表上显示为字符串。这样一来,用这个字段来做一些选项列表变得相当的完美。

 

如果你有一个字段,比如“性别”,“国家”,“民族”,“状态”或“部门”,你知道这些字段的取值是有限而且固定的,那么,你应该使用 ENUM 而不是 VARCHAR。

 

MySQL也有一个“建议”(见第十条)告诉你怎么去重新组织你的表结构。当你有一个 VARCHAR 字段时,这个建议会告诉你把其改成 ENUM 类型。使用 PROCEDURE ANALYSE() 你可以得到相关的建议。

 

  10. 从 PROCEDURE ANALYSE() 取得建议

 

PROCEDURE ANALYSE() 会让 MySQL 帮你去分析你的字段和其实际的数据,并会给你一些有用的建议。只有表中有实际的数据,这些建议才会变得有用,因为要做一些大的决定是需要有数据作为基础的。

 

例如,如果你创建了一个 INT 字段作为你的主键,然而并没有太多的数据,那么,PROCEDURE ANALYSE()会建议你把这个字段的类型改成 MEDIUMINT 。或是你使用了一个 VARCHAR 字段,因为数据不多,你可能会得到一个让你把它改成 ENUM 的建议。这些建议,都是可能因为数据不够多,所以决策做得就不够准。

 

在phpmyadmin里,你可以在查看表时,点击 “Propose table structure” 来查看这些建议

 

 

 

一定要注意,这些只是建议,只有当你的表里的数据越来越多时,这些建议才会变得准确。一定要记住,你才是最终做决定的人。

 

  11. 尽可能的使用 NOT NULL

 

除非你有一个很特别的原因去使用 NULL 值,你应该总是让你的字段保持 NOT NULL。这看起来好像有点争议,请往下看。

 

首先,问问你自己“Empty”和“NULL”有多大的区别(如果是INT,那就是0和NULL)?如果你觉得它们之间没有什么区别,那么你就不要使用NULL。(你知道吗?在 Oracle 里,NULL 和 Empty 的字符串是一样的!)

 

不要以为 NULL 不需要空间,其需要额外的空间,并且,在你进行比较的时候,你的程序会更复杂。 当然,这里并不是说你就不能使用NULL了,现实情况是很复杂的,依然会有些情况下,你需要使用NULL值。

 

  12. Prepared Statements

 

Prepared Statements很像存储过程,是一种运行在后台的SQL语句集合,我们可以从使用 prepared statements 获得很多好处,无论是性能问题还是安全问题。

 

Prepared Statements 可以检查一些你绑定好的变量,这样可以保护你的程序不会受到“SQL注入式”攻击。当然,你也可以手动地检查你的这些变量,然而,手动的检查容易出问题, 而且很经常会被程序员忘了。当我们使用一些framework或是ORM的时候,这样的问题会好一些。

 

在性能方面,当一个相同的查询被使用多次的时候,这会为你带来可观的性能优势。你可以给这些Prepared Statements定义一些参数,而MySQL只会解析一次。

 

虽然最新版本的MySQL在传输Prepared Statements是使用二进制形势,所以这会使得网络传输非常有效率。

 

当然,也有一些情况下,我们需要避免使用Prepared Statements,因为其不支持查询缓存。但据说版本5.1后支持了。

 

在PHP中要使用prepared statements,你可以查看其使用手册:mysqli 扩展 或是使用数据库抽象层,如: PDO.

 

 

 

  13. 无缓冲的查询

 

正常的情况下,当你在当你在你的脚本中执行一个SQL语句的时候,你的程序会停在那里直到没这个SQL语句返回,然后你的程序再往下继续执行。你可以使用无缓冲查询来改变这个行为。

 

mysql_unbuffered_query() 发送一个SQL语句到MySQL而并不像mysql_query()一样去自动fethch和缓存结果。这会相当节约很多可观的内存,尤其是那些会产生大 量结果的查询语句,并且,你不需要等到所有的结果都返回,只需要第一行数据返回的时候,你就可以开始马上开始工作于查询结果了。

 

然而,这会有一些限制。因为你要么把所有行都读走,或是你要在进行下一次的查询前调用 mysql_free_result() 清除结果。而且, mysql_num_rows() 或 mysql_data_seek() 将无法使用。所以,是否使用无缓冲的查询你需要仔细考虑。

 

  14. 把IP地址存成 UNSIGNED INT

 

很多程序员都会创建一个 VARCHAR(15) 字段来存放字符串形式的IP而不是整形的IP。如果你用整形来存放,只需要4个字节,并且你可以有定长的字段。而且,这会为你带来查询上的优势,尤其是当 你需要使用这样的WHERE条件:IP between ip1 and ip2。

 

我们必需要使用UNSIGNED INT,因为 IP地址会使用整个32位的无符号整形。

 

而你的查询,你可以使用 INET_ATON() 来把一个字符串IP转成一个整形,并使用 INET_NTOA() 把一个整形转成一个字符串IP。在PHP中,也有这样的函数 ip2long() 和 long2ip()。

 

 

 

  15. 固定长度的表会更快

 

如果表中的所有字段都是“固定长度”的,整个表会被认为是 “static” 或 “fixed-length”。 例如,表中没有如下类型的字段: VARCHAR,TEXT,BLOB。只要你包括了其中一个这些字段,那么这个表就不是“固定长度静态表”了,这样,MySQL 引擎会用另一种方法来处理。

 

固定长度的表会提高性能,因为MySQL搜寻得会更快一些,因为这些固定的长度是很容易计算下一个数据的偏移量的,所以读取的自然也会很快。而如果字段不是定长的,那么,每一次要找下一条的话,需要程序找到主键。

 

并且,固定长度的表也更容易被缓存和重建。不过,唯一的副作用是,固定长度的字段会浪费一些空间,因为定长的字段无论你用不用,他都是要分配那么多的空间。

 

使用“垂直分割”技术(见下一条),你可以分割你的表成为两个一个是定长的,一个则是不定长的。

 

  16. 垂直分割

 

“垂直分割”是一种把数据库中的表按列变成几张表的方法,这样可以降低表的复杂度和字段的数目,从而达到优化的目的。(以前,在银行做过项目,见过一张表有100多个字段,很恐怖)

 

示例一:在Users表中有一个字段是家庭地址,这个字段是可选字段,相比起,而且你在数据库操作的时候除了个人信息外,你并不需要经常读取或是改写这 个字段。那么,为什么不把他放到另外一张表中呢? 这样会让你的表有更好的性能,大家想想是不是,大量的时候,我对于用户表来说,只有用户ID,用户名,口令,用户角色等会被经常使用。小一点的表总是会有 好的性能。

 

示例二: 你有一个叫 “last_login” 的字段,它会在每次用户登录时被更新。但是,每次更新时会导致该表的查询缓存被清空。所以,你可以把这个字段放到另一个表中,这样就不会影响你对用户 ID,用户名,用户角色的不停地读取了,因为查询缓存会帮你增加很多性能。

 

另外,你需要注意的是,这些被分出去的字段所形成的表,你不会经常性地去Join他们,不然的话,这样的性能会比不分割时还要差,而且,会是极数级的下降。

 

  17. 拆分大的 DELETE 或 INSERT 语句

 

如果你需要在一个在线的网站上去执行一个大的 DELETE 或 INSERT 查询,你需要非常小心,要避免你的操作让你的整个网站停止相应。因为这两个操作是会锁表的,表一锁住了,别的操作都进不来了。

 

Apache 会有很多的子进程或线程。所以,其工作起来相当有效率,而我们的服务器也不希望有太多的子进程,线程和数据库链接,这是极大的占服务器资源的事情,尤其是内存。

 

如果你把你的表锁上一段时间,比如30秒钟,那么对于一个有很高访问量的站点来说,这30秒所积累的访问进程/线程,数据库链接,打开的文件数,可能不仅仅会让你泊WEB服务Crash,还可能会让你的整台服务器马上掛了。

 

所以,如果你有一个大的处理,你定你一定把其拆分,使用 LIMIT 条件是一个好的方法。下面是一个示例:

 

 

 

  18. 越小的列会越快

 

对于大多数的数据库引擎来说,硬盘操作可能是最重大的瓶颈。所以,把你的数据变得紧凑会对这种情况非常有帮助,因为这减少了对硬盘的访问。

 

参看 MySQL 的文档 Storage Requirements 查看所有的数据类型。

 

如果一个表只会有几列罢了(比如说字典表,配置表),那么,我们就没有理由使用 INT 来做主键,使用 MEDIUMINT, SMALLINT 或是更小的 TINYINT 会更经济一些。如果你不需要记录时间,使用 DATE 要比 DATETIME 好得多。

 

当然,你也需要留够足够的扩展空间,不然,你日后来干这个事,你会死的很难看,参看Slashdot的例子(2009年11月06日),一个简单的ALTER TABLE语句花了3个多小时,因为里面有一千六百万条数据。

 

  19. 选择正确的存储引擎

 

在 MySQL 中有两个存储引擎 MyISAM 和 InnoDB,每个引擎都有利有弊。酷壳以前文章《MySQL: InnoDB 还是 MyISAM?》讨论和这个事情。

 

MyISAM 适合于一些需要大量查询的应用,但其对于有大量写操作并不是很好。甚至你只是需要update一个字段,整个表都会被锁起来,而别的进程,就算是读进程都 无法操作直到读操作完成。另外,MyISAM 对于 SELECT COUNT(*) 这类的计算是超快无比的。

 

InnoDB 的趋势会是一个非常复杂的存储引擎,对于一些小的应用,它会比 MyISAM 还慢。他是它支持“行锁” ,于是在写操作比较多的时候,会更优秀。并且,他还支持更多的高级应用,比如:事务。

 

下面是MySQL的手册

 

target=”_blank”MyISAM Storage Engine

 

InnoDB Storage Engine

 

  20. 使用一个对象关系映射器(Object Relational Mapper)

 

使用 ORM (Object Relational Mapper),你能够获得可靠的性能增涨。一个ORM可以做的所有事情,也能被手动的编写出来。但是,这需要一个高级专家。

 

ORM 的最重要的是“Lazy Loading”,也就是说,只有在需要的去取值的时候才会去真正的去做。但你也需要小心这种机制的副作用,因为这很有可能会因为要去创建很多很多小的查询反而会降低性能。

 

ORM 还可以把你的SQL语句打包成一个事务,这会比单独执行他们快得多得多。

 

目前,个人最喜欢的PHP的ORM是:Doctrine。

 

  21. 小心“永久链接”

 

“永久链接”的目的是用来减少重新创建MySQL链接的次数。当一个链接被创建了,它会永远处在连接的状态,就算是数据库操作已经结束了。而且,自从我 们的Apache开始重用它的子进程后——也就是说,下一次的HTTP请求会重用Apache的子进程,并重用相同的 MySQL 链接。

 

PHP手册:mysql_pconnect()

 

在理论上来说,这听起来非常的不错。但是从个人经验(也是大多数人的)上来说,这个功能制造出来的麻烦事更多。因为,你只有有限的链接数,内存问题,文件句柄数,等等。

 

而且,Apache 运行在极端并行的环境中,会创建很多很多的了进程。这就是为什么这种“永久链接”的机制工作地不好的原因。在你决定要使用“永久链接”之前,你需要好好地考虑一下你的整个系统的架构。

mysql db优化

1. 简介

在Web应用程序体系架构中,数据持久层(通常是一个关系数据库)是要害的核心部分,它对系 统的性能有非常重要的影响。MySQL是目前使用最多的开源数据库,但是MySQL数据库的默认设置性能非常的差,仅仅是一个玩具数据库。因此在产品中使 用MySQL数据库必须进行必要的优化。

优化是一个复杂的任务,本文描述MySQL相关的数据库设计和查询优化,服务器端优化,存储引擎优化。

2. 数据库设计和查询优化

在MySQL Server性能调优中,首先要考虑的就是Database Schema设计,这一点是非常重要的。一个糟糕的Schema设计即使在性能调优的MySQL Server上运行,也会表现出很差的性能;和Schema相似,查询语句的设计也会影响MySQL的性能,应该避免写出低效的SQL查询。这一节将具体 讨论这两方面的优化。

2.1 Schema Design

Schema的优化取决于将要运行什么样的query,不同的query会有不同的Schema优化方案。2.2节将介绍Query Design的优化。Schema设计同样受到预期数据集大小的影响。Schema设计时主要考虑:标准化,数据类型,索引。

2.1.1 标准化

标准化是在数据库中组织数据的过程。其中包括,根据设计规则创建表并在这些表间建立关系;通 过取消冗余度与不一致相关性,该设计规则可以同时保护数据并提高数据的灵活性。通常数据库标准化是让数据库设计符合某一级别的范式,通常满足第三范式即 可。也有第四范式(也称为 Boyce Codd范式,BCNF))与第五范式存在,但是在实际设计中很少考虑。忽视这些规则可能使得数据库的设计不太完美,但这不应影响功能。

标准化的特点:

1) 所有的“对象”都在它自己的table中,没有冗余。2) 数据库通常由E-R图生成。

3) 简洁,更新属性通常只需要更新很少的记录。

4) Join操作比较耗时。

5) Select,sort优化措施比较少。

6) 适用于OLTP应用。

非标准化的特点:

1) 在一张表中存储很多数据,数据冗余。2) 更新数据开销很大,更新一个属性可能会更新很多表,很多记录。

3) 在删除数据是有可能丢失数据。

4) Select,order有很多优化的选择。

5) 适用于DSS应用。

标准化和非标准化都有各自的优缺点,通常在一个数据库设计中可以混合使用,一部分表格标准化,一部分表格保留一些冗余数据:

1) 对OLTP使用标准化,对DSS使用非标准化2) 使用物化视图。MySQL不直接支持该数据库特性,但是可以用MyISAM表代替。

3) 冗余一些数据在表格中,例如将ref_id和name存在同一张表中。但是要注重更新问题。

4) 对于一些简单的对象,直接使用value作为建。例如IP address等

5) Reference by PRIMARY/UNIQUE KEY。MySQL可以优化这种操作,例如:

java 代码

 

  1. select city_name
  2. from city,state
  3. where state_id=state.id and state.code=‘CA’” converted to “select city_name from city where state_id=12

2.1.2 数据类型

最基本的优化之一就是使表在磁盘上占据的空间尽可能小。这能带来性能非常大的提升,因为数据小,磁盘读入较快,并且在查询过程中表内容被处理所占用的内存更少。同时,在更小的列上建索引,索引也会占用更少的资源。

可以使用下面的技术可以使表的性能更好并且使存储空间最小:

1) 使用正确合适的类型,不要将数字存储为字符串。2) 尽可能地使用最有效(最小)的数据类型。MySQL有很多节省磁盘空间和内存的专业化类型。

3) 尽可能使用较小的整数类型使表更小。例如,MEDIUMINT经常比INT好一些,因为MEDIUMINT列使用的空间要少25%。

4) 假如可能,声明列为NOT NULL。它使任何事情更快而且每列可以节省一位。注重假如在应用程序中确实需要NULL,应该毫无疑问使用它,只是避免 默认地在所有列上有它。

5) 对于MyISAM表,假如没有任何变长列(VARCHAR、TEXT或BLOB列),使用固定尺寸的记录格式。这比较快但是不幸地可能会浪费一些空间。即 使你已经用CREATE选项让VARCHAR列ROW_FORMAT=fixed,也可以提示想使用固定长度的行。

6) 使用sample character set,例如latin1。尽量少使用utf-8,因为utf-8占用的空间是latin1的3倍。可以在不需要使用utf-8的字段上面使用latin1,例如mail,url等。

2.1.3 索引

所有MySQL列类型可以被索引。对相关列使用索引是提高SELECT操作性能的最佳途径。使用索引应该注重以下几点:

1) MySQL只会使用前缀,例如key(a, b) …where b=5 将使用不到索引。2) 要选择性的使用索引。在变化很少的列上使用索引并不是很好,例如性别列。

3) 在Unique列上定义Unique index。

4) 避免建立使用不到的索引。

5) 在Btree index中(InnoDB使用Btree),可以在需要排序的列上建立索引。

6) 避免反复的索引。

7) 避免在已有索引的前缀上建立索引。例如:假如存在index(a,b)则去掉index(a)。

8) 控制单个索引的长度。使用key(name(8))在数据的前面几个字符建立索引。

9) 越是短的键值越好,最好使用integer。

10) 在查询中要使用到索引(使用explain查看),可以减少读磁盘的次数,加速读取数据。

11) 相近的键值比随机好。Auto_increment就比uuid好。

12) Optimize table可以压缩和排序index,注重不要频繁运行。

13) Analyze table可以更新数据。

2.2 Designing queries

查询语句的优化是一个Case by case的问题,不同的sql有不同的优化方案,在这里我只列出一些通用的技巧。

1) 在有index的情况下,尽量保证查询使用了正确的index。可以使用EXPLAIN select …查看结果,分析查询。2) 查询时使用匹配的类型。例如select * from a where id=5, 假如这里id是字符类型,同时有index,这条查询则使用不到index,会做全表扫描,速度会很慢。正确的应该是 … where id=”5” ,加上引号表明类型是字符。

3) 使用–log-slow-queries –long-query-time=2查看查询比较慢的语句。然后使用explain分析查询,做出优化。

3. 服务器端优化

3.1 MySQL安装

MySQL有很多发行版本,最好使用MySQL AB发布的二进制版本。也可以下载源代码进行编译安装,但是编译器和类库的一些bug可能会使编译完成的MySQL存在潜在的问题。

假如安装MySQL的服务器使用的是Intel公司的处理器,可以使用intel c++编译的版本,在Linux World2005的一篇PPT中提到,使用intel C++编译器编译的MySQL查询速度比正常版本快30%左右。Intel c++编译版本可以在MySQL官方网站下载。

3.2 服务器设置优化

MySQL默认的设置性能很差,所以要做一些参数的调整。这一节介绍一些通用的参数调整,不涉及具体的存储引擎(主要指MyISAM,InnoDB,相关优化在4中介绍)。

–character-set:假如是单一语言使用简单的character set例如latin1。尽量少用Utf-8,utf-8占用空间较多。–memlock:锁定MySQL只能运行在内存中,避免swapping,但是假如内存不够时有可能出现错误。

–max_allowed_packet:要足够大,以适应比较大的SQL查询,对性能没有太大影响,主要是避免出现packet错误。

–max_connections:server答应的最大连接。太大的话会出现out of memory。

–table_cache:MySQL在同一时间保持打开的table的数量。打开table开销比较大。一般设置为512。

–query_cache_size: 用于缓存查询的内存大小。

–datadir:mysql存放数据的根目录,和安装文件分开在不同的磁盘可以提高一点性能。

4. 存储引擎优化

MySQL支持不同的存储引擎,主要使用的有MyISAM和InnoDB。

4.1 MyISAM

MyISAM管理非事务表。它提供高速存储和检索,以及全文搜索能力。MyISAM在所有MySQL配置里被支持,它是默认的存储引擎,除非配置MySQL默认使用另外一个引擎。

4.1.1 MyISAM特性

4.1.1.1 MyISAM Properties

1) 不支持事务,宕机会破坏表2) 使用较小的内存和磁盘空间

3) 基于表的锁,并发更新数据会出现严重性能问题

4) MySQL只缓存Index,数据由OS缓存

4.1.1.2 Typical MyISAM usages

1) 日志系统2) 只读或者绝大部分是读操作的应用

3) 全表扫描

4) 批量导入数据

5) 没有事务的低并发读/写

4.1.2 MyISAM优化要点

1) 声明列为NOT NULL,可以减少磁盘存储。2) 使用optimize table做碎片整理,回收空闲空间。注重仅仅在非常大的数据变化后运行。

3) Deleting/updating/adding大量数据的时候禁止使用index。使用ALTER TABLE t DISABLE KEYS。

4) 设置myisam_max_[extra]_sort_file_size足够大,可以显著提高repair table的速度。

4.1.3 MyISAM Table Locks

1) 避免并发insert,update。2) 可以使用insert delayed,但是有可能丢失数据。

3) 优化查询语句。

4) 水平分区。

5) 垂直分区。

6) 假如都不起作用,使用InnoDB。

4.1.4 MyISAM Key Cache

1) 设置key_buffer_size variable。MyISAN最主要的cache设置,用于缓存MyISAM表格的index数据,该参数只对MyISAM有影响。通常在只使用MyISAM的Server中设置25-33%的内存大小。2) 可以使用几个不同的Key Caches(对一些hot data)。

 

a) SET GLOBAL test.key_buffer_size=512*1024;b) CACHE INDEX t1.i1, t2.i1, t3 IN test;

2) Preload index到Cache中可以提高查询速度。因为preloading index是顺序的,所以非常快。

a) LOAD INDEX INTO CACHE t1, t2 IGNORE LEAVES;

4.2 InnoDB

InnoDB给MySQL提供了具有提交,回滚和崩溃恢复能力的事务安全(ACID兼容)存 储引擎。InnoDB提供row level lock,并且也在SELECT语句提供一个Oracle风格一致的非锁定读。这些特色增加了多用户部署和性能。没有在InnoDB中扩大锁定的需要,因 为在InnoDB中row level lock适合非常小的空间。InnoDB也支持FOREIGN KEY约束。在SQL查询中,你可以自由地将InnoDB类型的表与其它MySQL的表的类型混合起来,甚至在同一个查询中也可以混合。

InnoDB是为在处理巨大数据量时获得最大性能而设计的。它的CPU使用效率非常高。

InnoDB存储引擎已经完全与MySQL服务器整合,InnoDB存储引擎为在内存中缓存 数据和索引而维持它自己的缓冲池。 InnoDB存储它的表&索引在一个表空间中,表空间可以包含数个文件(或原始磁盘分区)。这与MyISAM表不同,比如在MyISAM表中每个表被存在 分离的文件中。InnoDB 表可以是任何大小,即使在文件尺寸被限制为2GB的操作系统上。

许多需要高性能的大型数据库站点上使用了InnoDB引擎。闻名的Internet新闻站点 Slashdot.org运行在InnoDB上。 Mytrix, Inc.在InnoDB上存储超过1TB的数据,还有一些其它站点在InnoDB上处理平均每秒800次插入/更新的负荷。

4.2.1 InnoDB特性

4.2.1.1 InnoDB Properties

1) 支持事务,ACID,外键。2) Row level locks。

3) 支持不同的隔离级别。

4) 和MyISAM相比需要较多的内存和磁盘空间。

5) 没有键压缩。

6) 数据和索引都缓存在内存hash表中。

4.2.1.2 InnoDB Good For

1) 需要事务的应用。2) 高并发的应用。

3) 自动恢复。

4) 较快速的基于主键的操作。

4.2.2 InnoDB优化要点

1) 尽量使用short,integer的主键。2) Load/Insert数据时按主键顺序。假如数据没有按主键排序,先排序然后再进行数据库操作。

3) 在Load数据是为设置SET UNIQUE_CHECKS=0,SET FOREIGN_KEY_CHECKS=0,可以避免外键和唯一性约束检查的开销。

4) 使用prefix keys。因为InnoDB没有key压缩功能。

4.2.3 InnoDB服务器端设定

innodb_buffer_pool_size:这是InnoDB最重要的设置,对InnoDB性能有决定性的影响。 默认的设置只有8M,所以默认的数据库设置下面InnoDB性能很差。在只有InnoDB存储引擎的数据库服务器上面,可以设置60-80%的内存。更精 确一点,在内存容量答应的情况下面设置比InnoDB tablespaces大10%的内存大小。innodb_data_file_path:指定表数据和索引存储的空间,可以是一个或者 多个文件。最后一个数据文件必须是自动扩充的,也只有最后一个文件答应自动扩充。这样,当空间用完后,自动扩充数据文件就会自动增长(以8MB为单位)以 容纳额外的数据。例如: innodb_data_file_path=/disk1 /ibdata1:900M;/disk2/ibdata2:50M:autoextend两个数据文件放在不同的磁盘上。数据首先放在ibdata1 中,当达到900M以后,数据就放在ibdata2中。一旦达到50MB,ibdata2将以8MB为单位自动增长。假如磁盘满了,需要在另外的磁盘上面 增加一个数据文件。

innodb_autoextend_increment: 默认是8M, 假如一次insert数据量比较多的话, 可以适当增加.innodb_data_home_dir:放置表空间数据的目录,默认在mysql的数据目录,设置到和MySQL安装文件不同的分区可以提高性能。

innodb_log_file_size:该参数决定了recovery speed。太大的话recovery就会比较慢,太小了影响查询性能,一般取256M可以兼顾性能和recovery的速度

innodb_log_buffer_size:磁盘速度是很慢的,直接将log写道磁盘会影响InnoDB的性能,该参数设定了log buffer的大小,一般4M。假如有大的blob操作,可以适当增大。

innodb_flush_logs_at_trx_commit=2: 该参数设定了事务提交时内存中log信息的处理。

 

1) =1时,在每个事务提交时,日志缓冲被写到日志文件,对日志文件做到磁盘操作的刷新。Truly ACID。速度慢。2) =2时,在每个事务提交时,日志缓冲被写到文件,但不对日志文件做到磁盘操作的刷新。只有操作系统崩溃或掉电才会删除最后一秒的事务,不然不会丢失事务。

3) =0时, 日志缓冲每秒一次地被写到日志文件,并且对日志文件做到磁盘操作的刷新。任何mysqld进程的崩溃会删除崩溃前最后一秒的事务

innodb_file_per_table:可以存储每个InnoDB表和它的索引在它自己的文件中。transaction-isolation=READ-COMITTED: 假如应用程序可以运行在READ-COMMITED隔离级别,做此设定会有一定的性能提升。

innodb_flush_method: 设置InnoDB同步IO的方式:

 

1) Default – 使用fsync()。2) O_SYNC 以sync模式打开文件,通常比较慢。

3) O_DIRECT,在Linux上使用Direct IO。可以显著提高速度,非凡是在RAID系统上。避免额外的数据复制和double buffering(mysql buffering 和OS buffering)。

innodb_thread_concurrency: InnoDB kernel最大的线程数。

1) 最少设置为(num_disks+num_cpus)*2。2) 可以通过设置成1000来禁止这个限制

5. 缓存

缓存有很多种,为应用程序加上适当的缓存策略会显著提高应用程序的性能。由于应用缓存是一个比较大的话题,所以这一部分还需要进一步调研。

 

 

1、定期分析表和检查表

分析表的语法如下:

引用

ANALYZE [LOCAL | NO_WRITE_TO_BINLOG] TABLE tb1_name[, tbl_name]…

以上语句用于分析和存储表的要害字分布,分析的结果将可以使得系统得到精确的统计信息,使得SQL能够生成正确的执行计划。假如用户感觉实际执行计划并不 是预期的执行计划,执行一次分析表可能会解决问题。在分析期间,使用一个读取锁定对表进行锁定。这对于MyISAM,DBD和InnoDB表有作用。

例如分析一个数据表

引用

analyze table table_name

检查表的语法如下:

引用

CHECK TABLE tb1_name[,tbl_name]…[option]…option = {QUICK | FAST | MEDIUM | EXTENDED | CHANGED}

检查表的作用是检查一个或多个表是否有错误,CHECK TABLE 对MyISAM  和 InnoDB表有作用,对于MyISAM表,要害字统计数据被更新

 

CHECK TABLE 也可以检查视图是否有错误,比如在视图定义中被引用的表不存在。

2. 定期优化表

优化表的语法如下:

引用

OPTIMIZE [LOCAL | NO_WRITE_TO_BINLOG] TABLE tb1_name [,tbl_name]…

假如删除了表的一大部分,或者假如已经对含有可变长度行的表(含有 VARCHAR、BLOB或TEXT列的表)进行更多更改,则应使用OPTIMIZE TABLE命令来进行表优化。这个命令可以将表中的空间碎片进行合并,并且可以消除由于删除或者更新造成的空间浪费,但OPTIMIZE TABLE 命令只对MyISAM、 BDB 和InnoDB表起作用。

例如: optimize table table_name

注重: analyze、check、optimize执行期间将对表进行锁定,因此一定注重要在数据库不繁忙的时候执行相关的操作。

常用的SQL优化

我们在开发的时候经常用到的SQL语句,无非是INSERT、GROUPBY等等。对于这些SQL语句,我们怎么进行优化?

1. 大批量插入数据

当用load命令导入数据的时候,适当的设置可以提高导入的速度。

对于MyISAM存储引擎的表,可以通过如下方式快速的导入大量的数据

引用

ALTER TABLE tb1_name DISABLE KEYS;

loading the data

ALTER TABLE tb1_name ENABLE KEYS;

DISABLE KEYS 和 ENABLE KEYS 用来打开或者关闭MyISAM表非唯一索引的更新。在导入大量的数据到一个非空的MyISAM表时,通过设置这两个命令,可以提高导入的效率。

对于导入大量的数据到一个空的MyISAM表时,默认就是先导入数据然后才创建索引的,索引不用进行设置。

引用

load data infile ‘/home/mysql/text_txt’ into table text

对于InnoDB类型的表,这种方式不能提高导入数据的效率,但也有几种针对InnoDB类型的表进行优化的方式。

1. 因为InnoDB类型的表式按照主键的顺序保存的,所以将导入的数据按照主键的顺序排序,可以有效提高导入数据的效率。

2. 在导入数据前执行 SET UNIQUE_CHECKS=0,关闭唯一性校验,在导入结束后执行SET UNIQUE_CHECKS=1,恢复唯一性校验,可以提高导入的效率。

3. 假如应用使用自动提交的方式,建议在导入前执行SET AUTOCOMMIT=0,关闭自动提交,导入结束后执行SET AUTOCOMMIT=1,打开自动提交,也可以提高导入效率。

优化INSERT语句

当进行数据INSERT的时候,可以考虑采用以下几种方式进行优化

1. 假如同时从一个客户插入很多行,尽量使用多个值表的INSERT语句,这种方式将大大缩短客户端与数据库的链接、关闭等消耗,使得效率比分开执行的单个INSERT语句快.

例如:

insert into test values(1,2)

insert into test values(3,4)

insert into test values(5,6)

将上面三句改为:insert into test values(1,2),(3,4),(5,6)……

2. 假如从不同客户插入很多行,能通过使用INSERT DELAYED 语句得到更高的速度。

DELAYED 的含义是让INSERT 语句连忙执行,其实数据都被放在内存的队列中,并没有真正写入磁盘,这比每条语句分别插入要快得多;LOW_PRIORITY刚好相反,在所有其他用户对表的读写完后才进行插入。

3. 将索引文件和数据文件分在不同的磁盘上存放

4. 假如进行批量插入,可以增加bulk_insert_buffer_size变量值的方法来提高速度,但是,这只能对于MyISAM表使用。

5. 当从一个文本文件中装载一个表时,使用LOAD DATA INFILE。 这通常比使用很多insert语句快20倍左右。

linux下删除目录下所有CVS目录

find . -name ‘CVS’ -exec rm -rf {} \;
find . -name ‘.cvsignore’ -exec rm -rf {} \;

linux下删除项目下的

CVS目录及.cvsignore文件。

mysql使用optimize优化表提示错误

mysql 使用 optimize 指令进行优化表操作时,提示以下信息:

Table does not support optimize, doing recreate + analyze instead

 

在网上查找后了解到,需要在mysql启动时指定–skip-new或者–safe-mode选项来支持optimize功能。

mysql设置表的自增长id的初始值

设置mysql中的auto_increment键的自增长的初始值。

以下SQL修改users表从1001开始增长。

ALTER TABLE users AUTO_INCREMENT = 1001; 

mysqlreport mysql性能分析脚本

安装:

wget hackmysql.com/scripts/mysqlreport

如果提示错误:

Can’t locate DBI.pm in @INC (@INC contains: /usr/lib64/perl5/site_perl/5.8.8/x86_64-linux-thread-multi /usr/lib/perl5/site_perl/5.8.8 /usr/lib/perl5/site_perl /usr/lib64/perl5/vendor_perl/5.8.8/x86_64-linux-thread-multi /usr/lib/perl5/vendor_perl/5.8.8 /usr/lib/perl5/vendor_perl /usr/lib64/perl5/5.8.8/x86_64-linux-thread-multi /usr/lib/perl5/5.8.8 .) at ./mysqlreport line 24.

需要安装:perl dbd

yum -y install perl-DBD-MySQL

 

mysql查询两个日期相关的天数

datediff函数


Warning: Use of undefined constant XML - assumed 'XML' (this will throw an Error in a future version of PHP) in /opt/wordpress/wp-content/plugins/wp-syntaxhighlighter/wp-syntaxhighlighter.php on line 1048