99热在线精品一区二区三区_国产伦精品一区二区三区女破破_亚洲一区二区三区无码_精品国产欧美日韩另类一区

本篇內(nèi)容介紹了“MySQL分庫分表的方法介紹”的有關(guān)知識，在實(shí)際案例的操作過程中，不少人都會遇到這樣的困境，接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧！希望大家仔細(xì)閱讀，能夠?qū)W有所成！

成都創(chuàng)新互聯(lián)是一家專注于網(wǎng)站設(shè)計制作、做網(wǎng)站與策劃設(shè)計,仙居網(wǎng)站建設(shè)哪家好?成都創(chuàng)新互聯(lián)做網(wǎng)站,專注于網(wǎng)站建設(shè)十多年,網(wǎng)設(shè)計領(lǐng)域的專業(yè)建站公司;建站業(yè)務(wù)涵蓋:仙居等地區(qū)。仙居做網(wǎng)站價格咨詢:13518219792

1.為什么要分表：

當(dāng)一張表的數(shù)據(jù)達(dá)到幾千萬時，你查詢一次所花的時間會變多，如果有聯(lián)合查詢的話，我想有可能會死在那兒了。分表的目的就在于此，減小數(shù)據(jù)庫的負(fù)擔(dān)，縮短查詢時間。

mysql中有一種機(jī)制是表鎖定和行鎖定，是為了保證數(shù)據(jù)的完整性。表鎖定表示你們都不能對這張表進(jìn)行操作，必須等我對表操作完才行。行鎖定也一樣，別的sql必須等我對這條數(shù)據(jù)操作完了，才能對這條數(shù)據(jù)進(jìn)行操作。

2. mysql proxy：amoeba

做mysql集群,利用amoeba。

從上層的java程序來講，不需要知道主服務(wù)器和從服務(wù)器的來源，即主從數(shù)據(jù)庫服務(wù)器對于上層來講是透明的。可以通過amoeba來配置。

3.大數(shù)據(jù)量并且訪問頻繁的表，將其分為若干個表。

比如對于某網(wǎng)站平臺的數(shù)據(jù)庫表-公司表，數(shù)據(jù)量很大，這種能預(yù)估出來的大數(shù)據(jù)量表，我們就事先分出個N個表，這個N是多少，根據(jù)實(shí)際情況而定。

某網(wǎng)站現(xiàn)在的數(shù)據(jù)量至多是5000萬條，可以設(shè)計每張表容納的數(shù)據(jù)量是500萬條，也就是拆分成10張表。

那么如何判斷某張表的數(shù)據(jù)是否容量已滿呢？可以在程序段對于要新增數(shù)據(jù)的表，在插入前先做統(tǒng)計表記錄數(shù)量的操作，當(dāng)<500萬條數(shù)據(jù)，就直接插入，當(dāng)已經(jīng)到達(dá)閥值，可以在程序段新創(chuàng)建數(shù)據(jù)庫表（或者已經(jīng)事先創(chuàng)建好），再執(zhí)行插入操作。

4. 利用merge存儲引擎來實(shí)現(xiàn)分表

如果要把已有的大數(shù)據(jù)量表分開比較痛苦，最痛苦的事就是改代碼，因?yàn)槌绦蚶锩娴膕ql語句已經(jīng)寫好了。用merge存儲引擎來實(shí)現(xiàn)分表, 這種方法比較適合。

舉例子：

數(shù)據(jù)庫架構(gòu)

1、簡單的MySQL主從復(fù)制:

MySQL的主從復(fù)制解決了數(shù)據(jù)庫的讀寫分離，并很好的提升了讀的性能，其圖如下：

其主從復(fù)制的過程如下圖所示：

但是，主從復(fù)制也帶來其他一系列性能瓶頸問題：

1. 寫入無法擴(kuò)展

2. 寫入無法緩存

3. 復(fù)制延時

4. 鎖表率上升

5. 表變大，緩存率下降

那問題產(chǎn)生總得解決的，這就產(chǎn)生下面的優(yōu)化方案，一起來看看。

2、MySQL垂直分區(qū)

如果把業(yè)務(wù)切割得足夠獨(dú)立，那把不同業(yè)務(wù)的數(shù)據(jù)放到不同的數(shù)據(jù)庫服務(wù)器將是一個不錯的方案，而且萬一其中一個業(yè)務(wù)崩潰了也不會影響其他業(yè)務(wù)的正常進(jìn)行，并且也起到了負(fù)載分流的作用，大大提升了數(shù)據(jù)庫的吞吐能力。經(jīng)過垂直分區(qū)后的數(shù)據(jù)庫架構(gòu)圖如下：

然而，盡管業(yè)務(wù)之間已經(jīng)足夠獨(dú)立了，但是有些業(yè)務(wù)之間或多或少總會有點(diǎn)聯(lián)系，如用戶，基本上都會和每個業(yè)務(wù)相關(guān)聯(lián)，況且這種分區(qū)方式，也不能解決單張表數(shù)據(jù)量暴漲的問題，因此為何不試試水平分割呢？

3、MySQL水平分片（Sharding）

這是一個非常好的思路，將用戶按一定規(guī)則（按id哈希）分組，并把該組用戶的數(shù)據(jù)存儲到一個數(shù)據(jù)庫分片中，即一個sharding，這樣隨著用戶數(shù)量的增加，只要簡單地配置一臺服務(wù)器即可，原理圖如下：

如何來確定某個用戶所在的shard呢，可以建一張用戶和shard對應(yīng)的數(shù)據(jù)表，每次請求先從這張表找用戶的shard id，再從對應(yīng)shard中查詢相關(guān)數(shù)據(jù)，如下圖所示：

單庫單表
單庫單表是最常見的數(shù)據(jù)庫設(shè)計，例如，有一張用戶(user)表放在數(shù)據(jù)庫db中，所有的用戶都可以在db庫中的user表中查到。 

單庫多表
隨著用戶數(shù)量的增加，user表的數(shù)據(jù)量會越來越大，當(dāng)數(shù)據(jù)量達(dá)到一定程度的時候?qū)ser表的查詢會漸漸的變慢，從而影響整個DB的性能。如果使用mysql, 還有一個更嚴(yán)重的問題是，當(dāng)需要添加一列的時候，mysql會鎖表，期間所有的讀寫操作只能等待。 

可以通過某種方式將user進(jìn)行水平的切分，產(chǎn)生兩個表結(jié)構(gòu)完全一樣的user_0000,user_0001等表，user_0000 + user_0001 + …的數(shù)據(jù)剛好是一份完整的數(shù)據(jù)。 

多庫多表
隨著數(shù)據(jù)量增加也許單臺DB的存儲空間不夠，隨著查詢量的增加單臺數(shù)據(jù)庫服務(wù)器已經(jīng)沒辦法支撐。這個時候可以再對數(shù)據(jù)庫進(jìn)行水平區(qū)分。 

分庫分表規(guī)則
設(shè)計表的時候需要確定此表按照什么樣的規(guī)則進(jìn)行分庫分表。例如，當(dāng)有新用戶時，程序得確定將此用戶信息添加到哪個表中；同理，當(dāng)?shù)卿浀臅r候我們得通過用戶的賬號找到數(shù)據(jù)庫中對應(yīng)的記錄，所有的這些都需要按照某一規(guī)則進(jìn)行。 

路由
通過分庫分表規(guī)則查找到對應(yīng)的表和庫的過程。如分庫分表的規(guī)則是user_id mod 4的方式，當(dāng)用戶新注冊了一個賬號，賬號id的123,我們可以通過id mod 4的方式確定此賬號應(yīng)該保存到User_0003表中。當(dāng)用戶123登錄的時候，我們通過123 mod 4后確定記錄在User_0003中。 
分庫分表產(chǎn)生的問題，及注意事項(xiàng) 

1.分庫分表維度的問題
假如用戶購買了商品,需要將交易記錄保存取來，如果按照用戶的緯度分表，則每個用戶的交易記錄都保存在同一表中，所以很快很方便的查找到某用戶的 購買情況，但是某商品被購買的情況則很有可能分布在多張表中，查找起來比較麻煩。反之，按照商品維度分表，可以很方便的查找到此商品的購買情況，但要查找 到買人的交易記錄比較麻煩。 

所以常見的解決方式有： 

1. 通過掃表的方式解決，此方法基本不可能，效率太低了。 

2. 記錄兩份數(shù)據(jù)，一份按照用戶緯度分表，一份按照商品維度分表。 

通過搜索引擎解決，但如果實(shí)時性要求很高，又得關(guān)系到實(shí)時搜索。 

2.聯(lián)合查詢的問題
聯(lián)合查詢基本不可能，因?yàn)殛P(guān)聯(lián)的表有可能不在同一數(shù)據(jù)庫中。 

3.避免跨庫事務(wù)
避免在一個事務(wù)中修改db0中的表的時候同時修改db1中的表，一個是操作起來更復(fù)雜，效率也會有一定影響。 

4.盡量把同一組數(shù)據(jù)放到同一DB服務(wù)器上
例如將賣家a的商品和交易信息都放到db0中，當(dāng)db1掛了的時候，賣家a相關(guān)的東西可以正常使用。也就是說避免數(shù)據(jù)庫中的數(shù)據(jù)依賴另一數(shù)據(jù)庫中的數(shù)據(jù)。 

一主多備
在實(shí)際的應(yīng)用中，絕大部分情況都是讀遠(yuǎn)大于寫。Mysql提供了讀寫分離的機(jī)制，所有的寫操作都必須對應(yīng)到Master，讀操作可以在 Master和Slave機(jī)器上進(jìn)行，Slave與Master的結(jié)構(gòu)完全一樣，一個Master可以有多個Slave,甚至Slave下還可以掛 Slave,通過此方式可以有效的提高DB集群的 QPS.                                                       

所有的寫操作都是先在Master上操作，然后同步更新到Slave上，所以從Master同步到Slave機(jī)器有一定的延遲，當(dāng)系統(tǒng)很繁忙的時候，延遲問題會更加嚴(yán)重，Slave機(jī)器數(shù)量的增加也會使這個問題更加嚴(yán)重。 

此外，可以看出Master是集群的瓶頸，當(dāng)寫操作過多，會嚴(yán)重影響到Master的穩(wěn)定性，如果Master掛掉，整個集群都將不能正常工作。 

所以

1. 當(dāng)讀壓力很大的時候，可以考慮添加Slave機(jī)器的分式解決，但是當(dāng)Slave機(jī)器達(dá)到一定的數(shù)量就得考慮分庫了。

2. 當(dāng)寫壓力很大的時候，就必須得進(jìn)行分庫操作。 

MySQL使用為什么要分庫分表
可以用說用到MySQL的地方,只要數(shù)據(jù)量一大, 馬上就會遇到一個問題,要分庫分表。

這里引用一個問題為什么要分庫分表呢?MySQL處理不了大的表嗎? 

其實(shí)是可以處理的大表的。我所經(jīng)歷的項(xiàng)目中單表物理上文件大小在80G多,單表記錄數(shù)在5億以上，而且這個表 屬于一個非常核用的表:朋友關(guān)系表。

但這種方式可以說不是一個最佳方式。因?yàn)槊媾R文件系統(tǒng)如Ext3文件系統(tǒng)對大于大文件處理上也有許多問題。

這個層面可以用xfs文件系統(tǒng)進(jìn)行替換。但MySQL單表太大后有一個問題是不好解決: 表結(jié)構(gòu)調(diào)整相關(guān)的操作基本不在可能。所以大項(xiàng)在使用中都會面監(jiān)著分庫分表的應(yīng)用。

從Innodb本身來講數(shù)據(jù)文件的Btree上只有兩個鎖, 葉子節(jié)點(diǎn)鎖和子節(jié)點(diǎn)鎖,可以想而知道,當(dāng)發(fā)生頁拆分或是添加新葉時都會造成表里不能寫入數(shù)據(jù)。

所以分庫分表還就是一個比較好的選擇了。

那么分庫分表多少合適呢?
經(jīng)測試在單表1000萬條記錄一下,寫入讀取性能是比較好的. 這樣在留點(diǎn)buffer,那么單表全是數(shù)據(jù)字型的保持在800萬條記錄以下, 有字符型的單表保持在500萬以下。

如果按 100庫100表來規(guī)劃,如用戶業(yè)務(wù): 
500萬*100*100 = 50000000萬 = 5000億記錄。

心里有一個數(shù)了，按業(yè)務(wù)做規(guī)劃還是比較容易的。

“Mysql分庫分表的方法介紹”的內(nèi)容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識可以關(guān)注創(chuàng)新互聯(lián)網(wǎng)站，小編將為大家輸出更多高質(zhì)量的實(shí)用文章！

名稱欄目：Mysql分庫分表的方法介紹
當(dāng)前URL：http://ef60e0e.cn/article/ghoggp.html