二、优化数据库对象

1、优化表的数据类型

      应用设计的时候需要考虑字段的长度留有一定的冗余，但不推荐很多字段都留有大量的冗余，这样既浪费磁盘空间，也在应用操作时浪费物理内存。

      在MySQL中，可以使用函数PROCEDURE ANALYSE()对表进行分析，给出优化建议。(16,  256)是指不为包含的值多于16或者256字节的ENUM类型提出建议。

      Optimal_fieldtype为优化建议，可以通过alter修改字段类型：ALTER TABLE TAB_NAME MODIFY COLUMN Optimal_fieldtype_VALUE;

2、逆规范化

      反规划的好处是降低连接操作的需求、降低外码和索引的数目、减少表的数目，带来的问题可能会出现数据的完整性问题，虽然查询加快，但是会降低修改速度。在进行反规范操作之前，要充分考虑数据的存取需求、常用表的大小、一些特殊的计算、数据的物理存储位置。常用的反规范技术如下：

      – 增加冗余列：指在多个表中具有相同的列，它常用来查询时避免连接操作。

      – 增加派生列：指增加的列来自其他表中的数据，由其他表中的数据经过计算生成，作用是减少连接操作，避免使用集函数。

      – 重新组表：指如果许多用户需要查看两个表连接出来的结果数据，则把这两个表重新组成一个表来减少连接而提高性能。

      – 分库分表：https://www.cnblogs.com/dukuan/p/9480610.html

3、使用中间表提高统计查询速度

      对于数据量较大的表，在其上进行统计查询通常会效率很低，并且还会对线上应用产生负面影响。此种情况下可以使用中间表提高统计查询的效率。

      一般步骤：创建表结构和原表结构相同的表，迁移数据需要统计的数据，进行统计。

      中间表在统计查询中的优点：

          – 中间表复制源表数据，并且与源表相“隔离”，在中间表上做统计查询不会对线上应用产生负面影响。

          – 中间表上可以灵活的添加索引或增加临时用的新字段，从而达到提高统计查询效率和辅助统计查询作用。 

三、锁问题

1、锁概述

      MyISAM和MEMORY存储引擎采用表级锁，BDB存储引擎(MySQL5.1后不直接支持此存储引擎)采用的页面锁，也支持表级锁，InnoDB支持行级锁和表级锁，默认是行级。

      – 表级锁：开销小，加锁快，不会出现死锁，锁定粒度大，发生锁冲突的概率最高，并发度最低。

      – 行级锁：开销大，加锁慢，会出现死锁，锁定粒度小，发生冲突的概率最低，并发度也最高。

      – 页面锁：开销和加锁时间界于表锁和行锁之间，会出现死锁，锁定粒度界于表锁和行锁之间，并发度一般。

      表级锁更适合以查询为主，只有少量按索引条件更新数据的应用，如Web应用。而行级锁更适合有大量按索引条件并发更新少量不同数据，同时又有并发查询的应用，如在线事物处理系统。

2、MyISAM表锁

      MyISAM只支持表锁。

2.1 查询表级锁争用情况

      Table_locks_immediate：产生表级锁定的次数。

      如果Table_locks_waited比较高，说明存在着严重的表级锁争用情况。

2.2 MySQL表级锁的锁模式

      表级锁分为表共享读锁和表独占写锁。兼容性如下：

      对于MyISAM表的读操作，不会阻塞其他用户对同一表的读请求，但会阻塞对同一个表的写请求。对表的写操作，会阻塞同一表的读和写。MyISAM读操作和写操作以及写操作之间是串行的。

2.3 如何加锁表

      MyISAM在执行SELECT、UPDATE、DELETE、INSERT前，会自动给涉及的表加锁，无需用户干预。

      显式加锁情况：比如同时要查询或者比对两个表中的内容，为防止在查其中一个时另一个有更新或者新数据，此时需要显式的为两个表加锁。

      加锁命令：LOCK TABLES tab_name READ LOCAL, tab_name2 READ LOCAL;  — LOCAL表示允许其他用户在MyISAM表尾并发插入记录。使用显式加锁时，必须同时取得所有涉及表的锁，而且加锁后只能访问加锁的这些表，不能访问其他表。并且如果加的是读锁，那么只能执行查询操作。并且加锁时需要对别名也要加锁。

2.4 MyISAM并发插入

      MyISAM通过concurrent_insert参数决定是否允许并发插入

      – 0：不允许并发插入

      – 1：MyISAM表中无空洞，允许读的同时在表末尾插入记录。默认设置

      – 2：无论是否有无空洞，都能插入。

      可以利用并发插入特性来解决应用中对同一表查询和插入的锁争用。同时定期在系统空闲时整理空间碎片，收回因删除记录而产生的中间空洞。

      注意：只能insert不能update和delete。且锁表的session不能获取到新插入到的数据。

2.5 MyISAM的锁调度

      同一时刻请求的写锁和读锁，MySQL会优先处理写进程。即使是读请求先到等待队列，写锁也会插入到读锁请求之前，这也是MyISAM表不太适合于有大量更新操作和查询操作应用的原因。

      调节MyISAM的调度行为：

      – 通过制定启动参数low-priority-updates， 使MyISAM引擎默认给予读请求以优先的权利。

      – 通过执行命令 SET LOW_PRIORITY_UPDATES = 1，来降低更新请求的优先级。

      – 通过制定INSERT、UPDATE、DELETE语句的LOW_PRIORITY属性，降低该语句的优先级。

      MySQL也提供了一种折中的办法，即给系统参数max_write_lock_count设置一个合适的值，当一个表的读锁达到这个值后，MySQL就暂时将写请求的优先级降低。

3、InnoDB锁问题

3.1 背景知识

3.1.1 事务及其ACID属性

      事务是由一组SQL语句组成的逻辑处理单元，具有以下4个属性，通常简称为事务的ACID属性。

      – 原子性：事务是一个原子操作单元，其对数据的修改，要么全部执行，要么全都不执行。

      – 一致性：在事务开始和完成时，数据都必须保持一致状态。这意味着所有相关的数据规则都必须应用于事务的修改，以保持数据的完整性；事务结束时，所有的内部数据结构也都必须是正确的。

      – 隔离性：数据库系统提供一定的隔离机制，保证事务在不受外部并发操作影响的独立环境执行。

      – 持久性：事务完成之后，它对于数据的修改是永久性的，即使出现系统故障也能够保持。

3.1.2 并发事务处理的问题

      相对于串行处理来说，并发事务处理能大大增加数据库资源利用率，提供吞吐量，但会引起下列问题：

      – 更新丢失：两个或多个事务同时操作同一行，会覆盖其他事务的更新。

      – 脏读：当一个事务在对一条记录做修改未完成并提交前，另一个事务来读取同一条记录，这时读取到的数据叫脏读。

      – 不可重复读：一个事务在读取某些数据后的某个时间，再次读取，发现读出的数据已经发生了改变或某些记录已经被删除了。

      – 幻读：一个事务按相同的查询条件重新读取以前检索过的数据，其他事务插入了满足其条件的新数据。

3.1.3 事务隔离级别

      线上业务应完全避免更新丢失，但是避免此情况需要应用程序对要更新的数据加必要的锁来解决。但是关于读一致性，必须由数据库提供一定的事务隔离机制来解决。数据库事务隔离的方式，基本上可分为以下两种：

      – 在读取数据之前，对其加锁。

      – 使用数据多版本并发控制(MVCC/MCC)，按照请求时间点创建快照。

      数据库的事务隔离越严格，并发副作用越小，相应的代价也就越大，因为事务隔离实质是进行”串行化”。

      为了解决隔离和并发的矛盾，ISO/ANSI SQL92定义了4个事务隔离级别。应用可以根据自己的业务逻辑要求，选择不同的隔离级别来平衡隔离和并发的矛盾。

3.2 获取InnoDB行锁争用情况

      如果Innodb_row_lock_waits和Innodb_row_lock_time_avg的值比较高，则争用比较严重。

      此时可以通过查询information_schema数据库中的表来查看锁情况，或者通过设置InnoDB Monitors来观察发生锁冲突的表、数据行等。

      – 通过information_schema

        SELECT * FROM innodb_locks;

        SELECT * FROM innodb_lock_waits;

      – 通过InnoDB Monitors

        CREATE TABLE innodb_monitor(a INT) ENGINE = INNODB;

        然后通过：SHOW ENGINE INNODB STATUS查看

        关闭监视器：DROP TABLE innodb_monitor;

3.3 InnoDB行锁模式及加锁方法

      InnoDB实现了两种类型的行锁：

      – 共享锁：允许另一个事务也获得共享锁，但是阻止其他事务获得相同数据集的排他锁。

      – 排他锁：允许获得排他锁的事务更新数据，阻止其他事务取得相同数据集的共享读锁和排他写锁。

      事务获取锁的方式：

      – 共享锁：SELECT … WHERE … LOCK IN SHARE MODE;

      – 排他锁：SELECT … WHERE … FOR UPDATE;

      对于锁定行后需要进行更新操作的应用，用过使用排他锁。

3.4 InnoDB行锁实现方式

      InnoDB行锁是通过索引上的索引项加锁来实现的，如果没有索引，InnoDB将通过隐藏的聚簇索引来记录加锁。分为3种情形：

      – Record lock：对索引项加锁。

      – Gap lock：对索引项之间的“间隙”、第一条记录前的“间隙”或最后一条记录后的“间隙”加锁。

      – Next-key lock：前两种的组合，对记录及其前面的间隙加锁。

      注意：如果不通过索引条件检索数据，那么InnoDB将对表中的所有记录加锁，等同于表锁，生产环境中需要注意这一特性防止导致大量的锁冲突，从而影响并发性能。

      由于MySQL的行锁是针对索引加的锁，不是针对记录加的锁，所以虽然是访问不同行的记录，但是如果使用相同的索引建，会出现锁冲突。

      当表有多个索引的时候，不同的事务可以使用不同的索引锁定不同的行，但是当不同的session查询相同的数据时，同样会阻塞。

      当表的数据较少，此时MySQL可能会全盘扫描，此时会导致不使用索引查询，进而导致全表加锁。

      MySQL检索的数据类型与索引字段不同，会进行数据转换，但却不会使用索引，所以会导致InnoDB对所有的记录加锁。

3.5 Next-Key锁

      当我们使用范围查询，并请求共享或排他锁时，InnoDB会给符合条件的所有索引项加锁，对于在范围内但是不存在的记录，叫做间隙GAP，同时也会被加锁，这个锁叫做Next-Key锁。Next-Key锁时为了防止幻读。

      当使用范围检索并锁定记录时，InnoDB会阻塞条件范围内键值的并发插入，这往往会造成严重的锁等待。因此，在实际应用开发中，尤其是并发插入比较多的应用，尽量使用相等条件来访问更新数据，避免使用范围条件。

 3.6 什么时候使用行级锁

      对于InnoDB，绝大部分情况下都应该使用行级锁，个别特殊事务中，可以考虑使用表级锁。

      – 事务需要更新大部分或全部数据，表比较大，如果使用默认的行锁，会造成事务执行效率低，而且可能造成其他事务长时间锁等待和锁冲突。这种情况考虑使用表锁来提高事务的执行速度。

      – 事务设计多个表，比较复杂，很可能引起死锁，造成大量事务回滚，此时可考虑使用表锁避免死锁，减少数据库因事务回滚带来的开销。

      当然，生产环境中最好不要出现这两种事务，否则就应该考虑MyISAM了。

      表锁注意事项：

      – 表锁不是由InnoDB存储引擎管理的，而是由MySQL Server负责的，仅当autocommit=0，innodb_table_locas=1(缺省值)时，InnoDB才能知道MySQL加的表锁，也才能感知InnoDB加的行锁， 这种情况下，InnoDB才能自动识别涉及表级锁的死锁，否则InnoDB将无法自动检测并处理这种死锁。

      – 在用LOCK TABLES对InnoDB加锁时，需要将AUTOCOMMIT设为0，否则不会给表加锁；事务结束前，不要用UNLOCKS TABLES释放表锁，因为UNLOCK TABLES会隐含提交事务；COMMIT或ROLLBACK并不能释放用LOCK TABLES加的表级锁，必须用UNLOCK TABLES释放表锁。

        方式如下：写表t1并从表t2读

        SET AUTOCOMMIT = 0;

        LOCK TABLES t1 WRITE, t2 READ;

        [do something..] 

        COMMIT;

        UNLOCK TABLES;

3.7 关于死锁

      MyISAM表锁是一次获得所需全部锁，要么全部满足，要么等待，因为不会出现死锁。但InnoDB锁是逐步获得的，所以InnoDB会发生死锁的可能。

      比如：session1正在对table_1进行 select for update(获得tb1排他锁) ，此时session2对table_2进行select for update(获得tb2排他锁)，如果此时session1对tb2进行select for update，会出现等待，直到session2释放，但是如果session2没有释放并且又请求tb1进行select for update，那么此时会出现死锁。

      发生死锁后，InnoDB一般都能自动检测到，然后释放一个事务锁并回退，另一个事务获得锁继续完成事务。但在涉及外部锁或涉及锁的情况下，InnoDB并不能完全自动检测到死锁，这需要通过设置锁超时参数innodb_lock_wait_timeout来解决，但这个参数并不是用来解决死锁问题，在并发访问比较高的情况下，如果大量事务因无法立即获得所需的锁而挂起，会拖垮数据库，设置合适的值可以避免或者减少此种情况的发生。

      通常来说，死锁都是应用设计的问题，通过调整业务流程、数据库对象设计、事务大小，以及访问数据库的SQL语句，绝大部分死锁都可以避免。

      避免死锁的常用方法：

      – 程序并发存取多个表，尽量约定相同的顺序来访问量。        

      – 程序批量处理数据的时候，事先对数据排序，保证每个线程按固定的顺序来处理记录。

      – 在事务中，如果要更新记录，应该直接申请足够级别的排他锁，而不是先申请共享锁，后申请排他锁。要不然其他事务可能已经获得了相同的共享锁，从而造成锁冲突。

      – 在REPEATABLE-READ隔离级别下，如果两个线程同时对相同条件记录用SELECT FOR UPDATE加排他锁，在没有符合条件的记录的情况下，两个线程都会加锁成功。因为两个线程查询均无此记录，便会尝试插入一条新纪录，如果两个线程都这么做，就会出现死锁。这种情况将隔离级别改成READ COMMITTED就可避免。