MySQL高性能優化規範、SQL處理、分區表、主主/從複製架構

MySQL SQL 數據庫大數據設計物理 emoji IT技術分享 2019-05-27

數據庫命令規範

所有數據庫對象名稱必須使用小寫字母並用下劃線分割

所有數據庫對象名稱禁止使用mysql保留關鍵字（如果表名中包含關鍵字查詢時，需要將其用單引號括起來）

數據庫對象的命名要能做到見名識意，並且最後不要超過32個字符

臨時庫表必須以tmp_為前綴並以日期為後綴，備份表必須以bak_為前綴並以日期(時間戳)為後綴

所有存儲相同數據的列名和列類型必須一致（一般作為關聯列，如果查詢時關聯列類型不一致會自動進行數據類型隱式轉換，會造成列上的索引失效，導致查詢效率降低）

數據庫基本設計規範

1. 所有表必須使用Innodb存儲引擎

沒有特殊要求（即Innodb無法滿足的功能如：列存儲，存儲空間數據等）的情況下，所有表必須使用Innodb存儲引擎（mysql5.5之前默認使用Myisam，5.6以後默認的為Innodb）

Innodb 支持事務，支持行級鎖，更好的恢復性，高併發下性能更好

2. 數據庫和表的字符集統一使用UTF8

兼容性更好，統一字符集可以避免由於字符集轉換產生的亂碼，不同的字符集進行比較前需要進行轉換會造成索引失效，如果數據庫中有存儲emoji表情的需要，字符集需要採用utf8mb4字符集

3. 所有表和字段都需要添加註釋

使用comment從句添加表和列的備註

從一開始就進行數據字典的維護

4. 儘量控制單表數據量的大小，建議控制在500萬以內

500萬並不是Mysql數據庫的限制，過大會造成修改表結構，備份，恢復都會有很大的問題

可以用歷史數據歸檔（應用於日誌數據），分庫分表（應用於業務數據）等手段來控制數據量大小

5. 謹慎使用Mysql分區表

分區表在物理上表現為多個文件，在邏輯上表現為一個表

謹慎選擇分區鍵，跨分區查詢效率可能更低

建議採用物理分表的方式管理大數據

6. 儘量做到冷熱數據分離，減小表的寬度

Mysql限制每個表最多存儲4096列，並且每一行數據的大小不能超過65535字節

減少磁盤IO,保證熱數據的內存緩存命中率（表越寬，把表裝載進內存緩衝池時所佔用的內存也就越大,也會消耗更多的IO）

更有效的利用緩存，避免讀入無用的冷數據

經常一起使用的列放到一個表中（避免更多的關聯操作）

7. 禁止在表中建立預留字段

預留字段的命名很難做到見名識義

預留字段無法確認存儲的數據類型，所以無法選擇合適的類型

對預留字段類型的修改，會對錶進行鎖定

8. 禁止在數據庫中存儲圖片，文件等大的二進制數據

通常文件很大，會短時間內造成數據量快速增長，數據庫進行數據庫讀取時，通常會進行大量的隨機IO操作，文件很大時，IO操作很耗時

通常存儲於文件服務器，數據庫只存儲文件地址信息

9. 禁止在線上做數據庫壓力測試

10. 禁止從開發環境，測試環境直接連接生成環境數據庫

數據庫字段設計規範

1. 優先選擇符合存儲需要的最小的數據類型

原因是：列的字段越大，建立索引時所需要的空間也就越大，這樣一頁中所能存儲的索引節點的數量也就越少也越少，在遍歷時所需要的IO次數也就越多，

索引的性能也就越差

方法：

將字符串轉換成數字類型存儲，如：將IP地址轉換成整形數據

mysql提供了兩個方法來處理ip地址

inet_aton 把ip轉為無符號整型(4-8位)

inet_ntoa 把整型的ip轉為地址

插入數據前，先用inet_aton把ip地址轉為整型，可以節省空間

顯示數據時，使用inet_ntoa把整型的ip地址轉為地址顯示即可。

對於非負型的數據（如自增ID、整型IP）來說，要優先使用無符號整型來存儲

因為：無符號相對於有符號可以多出一倍的存儲空間

SIGNED INT -2147483648~2147483647

UNSIGNED INT 0~4294967295

VARCHAR(N)中的N代表的是字符數，而不是字節數

使用UTF8存儲255個漢字 Varchar(255)=765個字節

過大的長度會消耗更多的內存

2. 避免使用TEXT、BLOB數據類型，最常見的TEXT類型可以存儲64k的數據

建議把BLOB或是TEXT列分離到單獨的擴展表中

Mysql內存臨時表不支持TEXT、BLOB這樣的大數據類型，如果查詢中包含這樣的數據，在排序等操作時，就不能使用內存臨時表，必須使用磁盤臨時表進行，而且對於這種數據，Mysql還是要進行二次查詢，會使sql性能變得很差，但是不是說一定不能使用這樣的數據類型

如果一定要使用，建議把BLOB或是TEXT列分離到單獨的擴展表中，查詢時一定不要使用select * 而只需要取出必要的列，不需要TEXT列的數據時不要對該列進行查詢

TEXT或BLOB類型只能使用前綴索引

因為MySQL對索引字段長度是有限制的，所以TEXT類型只能使用前綴索引，並且TEXT列上是不能有默認值的

3. 避免使用ENUM類型

修改ENUM值需要使用ALTER語句

ENUM類型的ORDER BY操作效率低，需要額外操作

禁止使用數值作為ENUM的枚舉值

4. 儘可能把所有列定義為NOT NULL

原因：索引NULL列需要額外的空間來保存，所以要佔用更多的空間

進行比較和計算時要對NULL值做特別的處理

5. 使用TIMESTAMP（4個字節）或DATETIME類型（8個字節）存儲時間

TIMESTAMP 存儲的時間範圍 1970-01-01 00:00:01 ~ 2038-01-19-03:14:07

TIMESTAMP 佔用4字節和INT相同，但比INT可讀性高

超出TIMESTAMP取值範圍的使用DATETIME類型存儲

經常會有人用字符串存儲日期型的數據（不正確的做法）

缺點1：無法用日期函數進行計算和比較

缺點2：用字符串存儲日期要佔用更多的空間

6. 同財務相關的金額類數據必須使用decimal類型

非精準浮點：float,double

精準浮點：decimal

Decimal類型為精準浮點數，在計算時不會丟失精度

佔用空間由定義的寬度決定，每4個字節可以存儲9位數字，並且小數點要佔用一個字節

可用於存儲比bigint更大的整型數據

索引設計規範

1. 限制每張表上的索引數量，建議單張表索引不超過5個

索引並不是越多越好！索引可以提高效率同樣可以降低效率

索引可以增加查詢效率，但同樣也會降低插入和更新的效率，甚至有些情況下會降低查詢效率

因為mysql優化器在選擇如何優化查詢時，會根據統一信息，對每一個可以用到的索引來進行評估，以生成出一個最好的執行計劃，如果同時有很多個

索引都可以用於查詢，就會增加mysql優化器生成執行計劃的時間，同樣會降低查詢性能

2. 禁止給表中的每一列都建立單獨的索引

5.6版本之前，一個sql只能使用到一個表中的一個索引，5.6以後，雖然有了合併索引的優化方式，但是還是遠遠沒有使用一個聯合索引的查詢方式好

3. 每個Innodb表必須有個主鍵

Innodb是一種索引組織表：數據的存儲的邏輯順序和索引的順序是相同的

每個表都可以有多個索引，但是表的存儲順序只能有一種

Innodb是按照主鍵索引的順序來組織表的

不要使用更新頻繁的列作為主鍵，不適用多列主鍵（相當於聯合索引）

不要使用UUID,MD5,HASH,字符串列作為主鍵（無法保證數據的順序增長）

主鍵建議使用自增ID值

常見索引列建議

出現在SELECT、UPDATE、DELETE語句的WHERE從句中的列

包含在ORDER BY、GROUP BY、DISTINCT中的字段，並不要將符合1和2中的字段的列都建立一個索引，通常將1、2中的字段建立聯合索引效果更好

多表join的關聯列

如何選擇索引列的順序

建立索引的目的是：希望通過索引進行數據查找，減少隨機IO，增加查詢性能，索引能過濾出越少的數據，則從磁盤中讀入的數據也就越少

區分度最高的放在聯合索引的最左側（區分度=列中不同值的數量/列的總行數）

儘量把字段長度小的列放在聯合索引的最左側（因為字段長度越小，一頁能存儲的數據量越大，IO性能也就越好）

使用最頻繁的列放到聯合索引的左側（這樣可以比較少的建立一些索引）

避免建立冗餘索引和重複索引（增加了查詢優化器生成執行計劃的時間）

重複索引示例：primary key(id)、index(id)、unique index(id)

冗餘索引示例：index(a,b,c)、index(a,b)、index(a)

對於頻繁的查詢優先考慮使用覆蓋索引

覆蓋索引：就是包含了所有查詢字段(where,select,ordery by,group by包含的字段)的索引

覆蓋索引的好處：

避免Innodb表進行索引的二次查詢

Innodb是以聚集索引的順序來存儲的，對於Innodb來說，二級索引在葉子節點中所保存的是行的主鍵信息，

如果是用二級索引查詢數據的話，在查找到相應的鍵值後，還要通過主鍵進行二次查詢才能獲取我們真實所需要的數據

而在覆蓋索引中，二級索引的鍵值中可以獲取所有的數據，避免了對主鍵的二次查詢，減少了IO操作，提升了查詢效率

可以把隨機IO變成順序IO加快查詢效率

由於覆蓋索引是按鍵值的順序存儲的，對於IO密集型的範圍查找來說，對比隨機從磁盤讀取每一行的數據IO要少的多，

因此利用覆蓋索引在訪問時也可以把磁盤的隨機讀取的IO轉變成索引查找的順序IO

索引SET規範

儘量避免使用外鍵約束

不建議使用外鍵約束（foreign key），但一定要在表與表之間的關聯鍵上建立索引

外鍵可用於保證數據的參照完整性，但建議在業務端實現

外鍵會影響父表和子表的寫操作從而降低性能

數據庫SQL開發規範

1. 建議使用預編譯語句進行數據庫操作

預編譯語句可以重複使用這些計劃，減少SQL編譯所需要的時間，還可以解決動態SQL所帶來的SQL注入的問題

只傳參數，比傳遞SQL語句更高效

相同語句可以一次解析，多次使用，提高處理效率

2. 避免數據類型的隱式轉換

隱式轉換會導致索引失效

如: select name,phone from customer where id = '111';

3. 充分利用表上已經存在的索引

避免使用雙%號的查詢條件。

如 a like '3%'，（如果無前置%,只有後置%，是可以用到列上的索引的）

一個SQL只能利用到複合索引中的一列進行範圍查詢

如有 a,b,c列的聯合索引，在查詢條件中有a列的範圍查詢，則在b,c列上的索引將不會被用到，

在定義聯合索引時，如果a列要用到範圍查找的話，就要把a列放到聯合索引的右側

使用left join 或 not exists 來優化not in 操作

因為not in 也通常會使用索引失效

4. 數據庫設計時，應該要對以後擴展進行考慮

5. 程序連接不同的數據庫使用不同的賬號，進制跨庫查詢

為數據庫遷移和分庫分表留出餘地

降低業務耦合度

避免權限過大而產生的安全風險

6. 禁止使用SELECT * 必須使用SELECT <字段列表> 查詢

原因：

消耗更多的CPU和IO以網絡帶寬資源

無法使用覆蓋索引

可減少表結構變更帶來的影響

7. 禁止使用不含字段列表的INSERT語句

如： insert into values ('a','b','c');

應使用 insert into t(c1,c2,c3) values ('a','b','c');

8. 避免使用子查詢，可以把子查詢優化為join操作

通常子查詢在in子句中，且子查詢中為簡單SQL(不包含union、group by、order by、limit從句)時,才可以把子查詢轉化為關聯查詢進行優化

子查詢性能差的原因：

子查詢的結果集無法使用索引，通常子查詢的結果集會被存儲到臨時表中，不論是內存臨時表還是磁盤臨時表都不會存在索引，所以查詢性能會受到一定的影響

特別是對於返回結果集比較大的子查詢，其對查詢性能的影響也就越大

由於子查詢會產生大量的臨時表也沒有索引，所以會消耗過多的CPU和IO資源，產生大量的慢查詢

9. 避免使用JOIN關聯太多的表

對於Mysql來說，是存在關聯緩存的，緩存的大小可以由join_buffer_size參數進行設置

在Mysql中，對於同一個SQL多關聯（join）一個表，就會多分配一個關聯緩存，如果在一個SQL中關聯的表越多，

所佔用的內存也就越大

如果程序中大量的使用了多表關聯的操作，同時join_buffer_size設置的也不合理的情況下，就容易造成服務器內存溢出的情況，

就會影響到服務器數據庫性能的穩定性

同時對於關聯操作來說，會產生臨時表操作，影響查詢效率

Mysql最多允許關聯61個表，建議不超過5個

10. 減少同數據庫的交互次數

數據庫更適合處理批量操作

合併多個相同的操作到一起，可以提高處理效率

11. 對應同一列進行or判斷時，使用in代替or

in 的值不要超過500個

in 操作可以更有效的利用索引，or大多數情況下很少能利用到索引

12. 禁止使用order by rand() 進行隨機排序

會把表中所有符合條件的數據裝載到內存中，然後在內存中對所有數據根據隨機生成的值進行排序，並且可能會對每一行都生成一個隨機值，如果滿足條件的數據集非常大，

就會消耗大量的CPU和IO及內存資源

推薦在程序中獲取一個隨機值，然後從數據庫中獲取數據的方式

13. WHERE從句中禁止對列進行函數轉換和計算

對列進行函數轉換或計算時會導致無法使用索引

不推薦：

wheredate(create_time)='20190101'

MySQL高性能優化規範、SQL處理、分區表、主主/從複製架構

相關推薦