「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

前文是「mysql優化專題」主從複製面試寶典!面試官都沒你懂得多!(11),沒看過的可以先看下。不可避免的是,使用MySQL時隨著時間的增長,用戶量以及數據量的逐漸增加,訪問量更是劇增,最終將會使MySQL達到某個瓶頸,那麼MySQL的性能將會大大降低。怎麼辦?前面已經講過十一篇優化方案,接下來我將講解MySQL高可用負載均衡這一方法。其中實現高可用負載均衡的方法有很多,例如LVS+keepalived組合實現、haproxy+keepalived組合實現等等,目前用mycat的越來越多,這裡我們採用HAProxy + MyCat組合實現MySQL高可用負載均衡這一技術。堅持到文末,有黃圖喲。

一、為什麼需要mysql集群?

一個龐大的分佈式系統的性能瓶頸中,最脆弱的就是連接。連接有兩個,一個是客戶端與後端的連接,另一個是後端與數據庫的連接。簡單如圖下兩個藍色框框(其實,這張圖是我在悟空問答解答別人的時候用Windows的自帶畫板畫的,勿噴啊..)

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

版權歸作者所有,哈哈

在客戶端與後端中可以利用類似nginx的負載均衡解決(本專題是mysql優化,後面出高併發專題再詳細講解連接1的負載均衡),而數據庫層是最脆弱的一層,一般在應用設計時在上游就需要把請求攔截掉,數據庫層只承擔“能力範圍內”的訪問請求,所以,我們通過在服務層引入隊列和緩存,讓最底層的數據庫高枕無憂。

但是,如果請求激增,還是有大量的查詢壓力到MySQL怎麼辦呢?

無所不能的程序員還是要想辦法解決MySQL的瓶頸。這時候,集群出現了。在後端與數據庫中我們可以利用類似mycat的負載均衡實現mysql集群,提高mysql的總體性能。(可用組合很多,如LVS+keepalived組合、haproxy+keepalived組合)

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

一、基本軟件 版本

操作系統:CentOS-6.6-x86_64

JDK版本:jdk1.7.0_72

HAProxy版本:haproxy-1.5.16.tar.gz

MyCat版本:Mycat-server-1.4-release-20151019230038-linux.tar.gz

MySQL版本:mysql-5.6.26.tar.gz

二、部署環境規劃:

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

三、集群部署架構圖如下:

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

圖解說明:

HAProxy負責將請求分發到MyCat上,起到負載均衡的作用,同時HAProxy也能檢測到MyCat是否存活,HAProxy只會將請求轉發到存活的MyCat上。如果一臺MyCat服務器宕機,HAPorxy轉發請求時不會轉發到宕機的MyCat上,所以MyCat依然可用。

五、MyCat節點2的部署

MyCat主機2(edu-mycat-02,192.168.1.204)(上一篇主從複製部署,這麼快就忘了的可以看看,文末有連接)

注意:edu-mycat-01(192.168.1.203)和 edu-mycat-02(192.168.1.204) 中都要加上(或更新)主機名映射配置。

# vi /etc/hosts

192.168.1.203 edu-mycat-01

192.168.1.204 edu-mycat-02

192.168.1.205 edu-mysql-01

192.168.1.206 edu-mysql-02

六、配置MyCat狀態檢查服務(在MyCat節點主機上配置)

MyCat服務主機(edu-mycat-01、edu-mycat-02)上需要增加mycat服務的狀態檢測腳本,並開放相應的檢測端口,以提供給HAProxy對MyCat的服務狀態進行檢測判斷。可以使用xinetd來實現,通過xinetd,HAProxy可以用httpchk來檢測MyCat的存活狀態。(xinetd即extended internet daemon,xinetd是新一代的網絡守護進程服務程序,又叫超級Internet服務器。經常用來管理多種輕量級Internet服務。xinetd提供類似於inetd+tcp_wrapper的功能,但是更加強大和安全。xinetd為linux系統的基礎服務)

1、如果xinetd還沒有安裝,可使用如下命令安裝:

# yum install xinetd

2、檢查/etc/xinetd.conf的末尾是否有 includedir /etc/xinetd.d ,沒有就加上

# vi /etc/xinetd.conf

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

3、檢查 /etc/xinetd.d 目錄是否存在,不存在剛創建

# mkdir /etc/xinetd.d/

4、增加MyCat存活狀態檢測服務配置

# touch /etc/xinetd.d/mycat_status

# vi /etc/xinetd.d/mycat_status

增加以下內容:

service mycat_status

{

flags = REUSE

## 使用該標記的socket_type為stream,需要設置wait為no

socket_type = stream ## 封包處理方式,Stream為TCP數據包

port = 48700 ## 服務監聽端口

wait = no ## 表示不需等待,即服務將以多線程的方式運行

user = root ## 執行此服務進程的用戶

server =/usr/local/bin/mycat_status ## 需要啟動的服務腳本

log_on_failure += USERID ## 登錄失敗記錄的內容

disable = no ## 要啟動服務,將此參數設置為no

}

5、添加 /usr/local/bin/mycat_status 服務腳本

# touch /usr/local/bin/mycat_status

# vi /usr/local/bin/mycat_status

增加以下內容:

#!/bin/bash

#/usr/local/bin/mycat_status.sh

# This script checks if a mycat server is healthy running on localhost.

# It will return:

# "HTTP/1.x 200 OK\r" (if mycat is running smoothly)

# "HTTP/1.x 503 Internal Server Error\r" (else)

mycat=`/usr/local/mycat/bin/mycat status | grep 'not running' | wc -l`

if [ "$mycat" = "0" ]; then

/bin/echo -e "HTTP/1.1 200 OK\r\n"

else

/bin/echo -e "HTTP/1.1 503 Service Unavailable\r\n"

fi

6、給新增腳本賦予可執行權限

# chmod a+x /usr/local/bin/mycat_status

7、在 /etc/services 中加入 mycat_status 服務

# vi /etc/services

在末尾加入:

mycat_status 48700/tcp # mycat_status

保存後,重啟xinetd服務

# service xinetd restart

8、驗證mycat_status服務是否成功啟動

# netstat -antup|grep 48700

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

能看到上圖這樣的信息,說明服務配置成功。

9、MyCat服務主機的防火牆上打開 48700端口

# vi /etc/sysconfig/iptables

增加:

-A INPUT -m state --state NEW -m tcp -p tcp --dport 48700 -j ACCEPT

保存後重啟防火牆

# service iptables restart

腳本測試:

# /usr/local/bin/mycat_status

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

真長!中場休息會,一起左三圈右三圈吧。看不下去的可以先收藏關注哈。

七、HAProxy介紹(官網://www.haproxy.org/)

HAProxy 是一款提供高可用性、負載均衡以及基於TCP(第四層)和HTTP(第七層)應用的代理軟件,支持虛擬主機,它是免費、快速並且可靠的一種解決方案。

HAProxy目前主要有三個版本:1.4、1.5、1.6,CentOS6.6自帶的RPM包為1.5的。

HAProxy1.5版開始,支持SSL、DDoS防護等功能,可看官網說明:

version 1.5 : the most featureful version, supports SSL, IPv6, keep-alive, DDoS protection, etc...

MyCat官方推薦使用HAProxy做MyCat的高可用負載均衡代理。

八、HAProxy的安裝(192.168.1.191)

1、下載(或上傳) haproxy-1.5.16.tar.gz 到 /usr/local/src,解壓安裝

[root@edu-haproxy-01 src]# cd /usr/local/src/

#wget //www.haproxy.org/download/1.5/src/haproxy-1.5.16.tar.gz

[root@edu-haproxy-01 src]# tar -zxvf haproxy-1.5.16.tar.gz

[root@edu-haproxy-01 src]# cd haproxy-1.5.16

2、如需瞭解安裝注意點,可查看HAProxy的軟件說明

[root@edu-haproxy-01 haproxy-1.5.16]# less README

3、安裝編譯所需的依賴包

# yum install gcc gcc-c++ pcre pcre-devel zlib zlib-devel openssl openssl-devel

4、編譯

# make TARGET=linux2628 ARCH=x86_64 USE_PCRE=1 USE_OPENSSL=1 USE_ZLIB=1 PREFIX=/usr/local/haproxy

## TARGET是指定內核版本,高於2.6.28的建議設置為linux2628,Linux操作系統內核版本查看命令# uname -r, ARCH指定系統架構,openssl pcre zlib 這三個包需要安裝不然不支持

5、創建安裝目錄 /usr/local/haproxy

# mkdir /usr/local/haproxy

6、執行安裝

[root@edu-haproxy-01 haproxy-1.5.16]# make install PREFIX=/usr/local/haproxy

install -d "/usr/local/haproxy/sbin"

install haproxy "/usr/local/haproxy/sbin"

install -d "/usr/local/haproxy/share/man"/man1

install -m 644 doc/haproxy.1 "/usr/local/haproxy/share/man"/man1

install -d "/usr/local/haproxy/doc/haproxy"

for x in configuration architecture haproxy-en haproxy-fr; do \

install -m 644 doc/$x.txt "/usr/local/haproxy/doc/haproxy" ; \

done

7、創建配置文件目錄

# mkdir -p /usr/local/haproxy/conf

# mkdir -p /etc/haproxy/

8、從配置文件模版複製配置文件,並添加配置文件軟連接

# cp /usr/local/src/haproxy-1.5.16/examples/haproxy.cfg /usr/local/haproxy/conf/

# ln -s /usr/local/haproxy/conf/haproxy.cfg /etc/haproxy/haproxy.cfg

9、拷貝錯誤頁面,並添加目錄軟連接(HTTP模式選配)

# cp -r /usr/local/src/haproxy-1.5.16/examples/errorfiles /usr/local/haproxy/

# ln -s /usr/local/haproxy/errorfiles /etc/haproxy/errorfiles

10、拷貝開機啟動文件,並賦予可執行權限

# cp /usr/local/src/haproxy-1.5.16/examples/haproxy.init /etc/rc.d/init.d/haproxy

# chmod +x /etc/rc.d/init.d/haproxy

11、添加haproxy命令腳本軟連接

# ln -s /usr/local/haproxy/sbin/haproxy /usr/sbin

12、設置HAProxy開機啟動

# chkconfig --add haproxy

# chkconfig haproxy on

九、HAProxy配置MyCat負載均衡集群

HAProxy支持TCP(第四層)和HTTP(第七層)應用的代理,本節課程我們使用HAProxy來做MyCat的負載均衡代理使用的是TCP模式。在4層模式下HAProxy僅在客戶端和服務器之間轉發雙向流量。HAProxy配置簡單,擁有非常不錯的服務器健康檢查功能,當其代理的後端服務器出現故障,HAProxy會自動將該服務器摘除,故障恢復後會自動將該服務器加入進來。

1、修改haproxy.cfg 配置文件

具體參數說明可參考官方配置文檔 /usr/local/haproxy/doc/haproxy/configuration.txt

或GitHub連接://cbonte.github.io/haproxy-dconv/configuration-1.5.html

# vi /usr/local/haproxy/conf/haproxy.cfg

## global配置中的參數為進程級別的參數,通常與其運行的操作系統有關

global

log 127.0.0.1 local0 info ## 定義全局的syslog服務器,最多可以定義2個

### local0是日誌設備,對應於/etc/rsyslog.conf中的配置,默認回收info的日誌級別

#log 127.0.0.1 local1 info

chroot /usr/share/haproxy ## 修改HAProxy的工作目錄至指定的目錄並在放棄權限之前執行

### chroot() 操作,可以提升 haproxy 的安全級別

group haproxy ## 同gid,不過這裡為指定的用戶組名

user haproxy ## 同uid,但這裡使用的為用戶名

daemon ## 設置haproxy後臺守護進程形式運行

nbproc 1 ## 指定啟動的haproxy進程個數,

### 只能用於守護進程模式的haproxy;默認為止啟動1個進程,

### 一般只在單進程僅能打開少數文件描述符的場中中才使用多進程模式

maxconn 4096 ## 設定每個haproxy進程所接受的最大併發連接數,

### 其等同於命令行選項"-n","ulimit-n"自動計算的結果正式參照從參數設定的

# pidfile /var/run/haproxy.pid ## 進程文件(默認路徑 /var/run/haproxy.pid)

node edu-haproxy-01 ## 定義當前節點的名稱,用於HA場景中多haproxy進程共享同一個IP地址時

description edu-haproxy-01 ## 當前實例的描述信息

## defaults:用於為所有其他配置段提供默認參數,這默認配置參數可由下一個"defaults"所重新設定

defaults

log global ## 繼承global中log的定義

mode http ## mode:所處理的模式 (tcp:四層 , 七層 , health:狀態檢查,只會返回OK)

### tcp: 實例運行於純tcp模式,在客戶端和服務器端之間將建立一個全雙工的連接,

#### 且不會對7層報文做任何類型的檢查,此為默認模式

### 實例運行於http模式,客戶端請求在轉發至後端服務器之前將被深度分析,

#### 所有不與RFC模式兼容的請求都會被拒絕

### health:實例運行於health模式,其對入站請求僅響應“OK”信息並關閉連接,

#### 且不會記錄任何日誌信息 ,此模式將用於相應外部組件的監控狀態檢測請求

option httplog

retries 3

option redispatch ## serverId對應的服務器掛掉後,強制定向到其他健康的服務器

maxconn 2000 ## 前端的最大併發連接數(默認為2000)

### 其不能用於backend區段,對於大型站點來說,可以儘可能提高此值以便讓haproxy管理連接隊列,

### 從而避免無法應答用戶請求。當然,此最大值不能超過“global”段中的定義。

### 此外,需要留心的是,haproxy會為每個連接維持兩個緩衝,每個緩存的大小為8KB,

### 再加上其他的數據,每個連接將大約佔用17KB的RAM空間,這意味著經過適當優化後 ,

### 有著1GB的可用RAM空間時將維護40000-50000併發連接。

### 如果指定了一個過大值,極端場景中,其最終所佔據的空間可能會超過當前主機的可用內存,

### 這可能會帶來意想不到的結果,因此,將其設定一個可接受值放為明智絕對,其默認為2000

timeout connect 5000ms ## 連接超時(默認是毫秒,單位可以設置us,ms,s,m,h,d)

timeout client 50000ms ## 客戶端超時

timeout server 50000ms ## 服務器超時

## HAProxy的狀態信息統計頁面

listen admin_stats

bind :48800 ## 綁定端口

stats uri /admin-status ##統計頁面

stats auth admin:admin ## 設置統計頁面認證的用戶和密碼,如果要設置多個,另起一行寫入即可

mode http

option httplog ## 啟用日誌記錄HTTP請求

## listen: 用於定義通過關聯“前端”和“後端”一個完整的代理,通常只對TCP流量有用

listen mycat_servers

bind :3306 ## 綁定端口

mode tcp

option tcplog ## 記錄TCP請求日誌

option tcpka ## 是否允許向server和client發送keepalive

option httpchk OPTIONS * HTTP/1.1\r\nHost:\ www ## 後端服務狀態檢測

### 向後端服務器的48700端口(端口值在後端服務器上通過xinetd配置)發送 OPTIONS 請求

### (原理請參考HTTP協議) ,HAProxy會根據返回內容來判斷後端服務是否可用.

### 2xx 和 3xx 的響應碼錶示健康狀態,其他響應碼或無響應表示服務器故障。

balance roundrobin ## 定義負載均衡算法,可用於"defaults"、"listen"和"backend"中,默認為輪詢方式

server mycat_01 192.168.1.203:8066 check port 48700 inter 2000ms rise 2 fall 3 weight 10

server mycat_02 192.168.1.204:8066 check port 48700 inter 2000ms rise 2 fall 3 weight 10

## 格式:server <name> <address>[:[port]] [param*]

### serser 在後端聲明一個server,只能用於listen和backend區段。

### <name>為此服務器指定的內部名稱,其將會出現在日誌及警告信息中

### <address>此服務器的IPv4地址,也支持使用可解析的主機名,但要在啟動時需要解析主機名至響應的IPV4地址

### [:[port]]指定將客戶端連接請求發往此服務器時的目標端口,此為可選項

### [param*]為此server設定的一系列參數,均為可選項,參數比較多,下面僅說明幾個常用的參數:

#### weight:權重,默認為1,最大值為256,0表示不參與負載均衡

#### backup:設定為備用服務器,僅在負載均衡場景中的其他server均不可以啟用此server

#### check:啟動對此server執行監控狀態檢查,其可以藉助於額外的其他參數完成更精細的設定

#### inter:設定監控狀態檢查的時間間隔,單位為毫秒,默認為2000,

##### 也可以使用fastinter和downinter來根據服務器端專題優化此事件延遲

#### rise:設置server從離線狀態轉換至正常狀態需要檢查的次數(不設置的情況下,默認值為2)

#### fall:設置server從正常狀態轉換至離線狀態需要檢查的次數(不設置的情況下,默認值為3)

#### cookie:為指定server設定cookie值,此處指定的值將會在請求入站時被檢查,

##### 第一次為此值挑選的server將會被後續的請求所選中,其目的在於實現持久連接的功能

#### maxconn:指定此服務器接受的最大併發連接數,如果發往此服務器的連接數目高於此處指定的值,

#####其將被放置於請求隊列,以等待其他連接被釋放

注意:多節點部署時node 、 description的值要做相應調整。

2、根據以上HAProxy配置文件要求做以下配置

(1)添加haproxy用戶組和用戶

# groupadd haproxy

# useradd -g haproxy haproxy

(2)創建chroot運行的路徑

# mkdir /usr/share/haproxy

(3)防火牆中打開3306端口和48800端口

# vi /etc/sysconfig/iptables

-A INPUT -m state --state NEW -m tcp -p tcp --dport 3306 -j ACCEPT

-A INPUT -m state --state NEW -m tcp -p tcp --dport 48800 -j ACCEPT

重啟防火牆

# service iptables restart

3、開啟rsyslog的haproxy日誌記錄功能

默認情況下 haproxy是不記錄日誌的,如果需要記錄日誌,還需要配置系統的syslog,在linux系統中是rsyslog服務。syslog服務器可以用作一個網絡中的日誌監控中心,rsyslog是一個開源工具,被廣泛用於Linux系統以通過TCP/UDP協議轉發或接收日誌消息。安裝配置rsyslog服務:

# yum install rsyslog ## 沒安裝的情況下執行安裝

# vi /etc/rsyslog.conf

把 $ModLoad imudp 和 $UDPServerRun 514前面的 # 去掉

$ModLoad imudp ## 是模塊名,支持UDP協議

$UDPServerRun 514

##允許514端口接收使用UDP和TCP協議轉發過來的日誌,

##而rsyslog在默認情況下,正是在514端口監聽UDP

確認 #### GLOBAL DIRECTIVES #### 段中是否有 $IncludeConfig /etc/rsyslog.d/*.conf沒有則增加上此配置,增加後的效果:

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

# cd /etc/rsyslog.d/ ## rsyslog服務會來此目錄加載配置

# touch haproxy.conf ## 創建haproxy的日誌配置文件

# vi /etc/rsyslog.d/haproxy.conf

增加以下內容:

local0.* /var/log/haproxy.log

&~

##如果不加上面的的"&~"配置則除了在/var/log/haproxy.log中寫入日誌外,也會寫入/var/log/message文件中

配置保存後重啟rsyslog服務

# service rsyslog restart

Shutting down system logger: [ OK ]

Starting system logger: [ OK ]

(等到HAProxy服務啟動後,就能在/var/log/haproxy.log中看到日誌了)

4、配置系統內核的IP包轉發功能

# vi /etc/sysctl.conf

net.ipv4.ip_forward = 1

使配置生效

# sysctl -p

5、啟動HAProxy

# service haproxy start

# ps -ef | grep haproxy

haproxy 23921 1 0 23:27 ? 00:00:00 /usr/sbin/haproxy -D -f /etc/haproxy/haproxy.cfg -p /var/run/haproxy.pid

root 23924 23179 0 23:27 pts/1 00:00:00 grep haproxy

6、使用MySQL客戶端通過HAProxy連接MyCat

E:\MySQL-5.6.17-winx64\bin>mysql -uuser2 -proncoo.2 -h192.168.1.191 -P3306

mysql> show databases;

mysql> use rc_schema2;

mysql> show tables;

mysql> select * from edu_user;

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

寫數據測試

mysql> insert into edu_user (userName, pwd) values('吳水成', 'roncoo.com');

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

然後查看MySQL中的數據庫插入及數據同步情況。

8、登錄HAProxy的狀態信息統計頁面

//192.168.1.191:48800/admin-status

用戶名和密碼都是admin,對應的haproxy.cfg配置片段

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

「mysql優化專題」高可用性、負載均衡的mysql集群解決方案(12)

背景真的很黃

【mysql優化專題】到了這裡基本完結了,我會在一萬粉絲的時候出一篇終極總結篇(因為一萬粉絲才能進行推送文章給每個粉絲,這樣大家就只需要收藏好終極篇,就可以有鏈接跳到前面的十二篇),以及會在上面提及一些面試技巧。目前才7000粉絲,不夠給力啊。來個關注喲。

相關推薦

推薦中...