紹興分布式存儲(chǔ)系統(tǒng)架構(gòu)

隨著企業(yè)數(shù)字化轉(zhuǎn)型的深入，分布式存儲(chǔ)由初的開(kāi)發(fā)測(cè)試、桌面云等非關(guān)鍵應(yīng)用，逐步走向生產(chǎn)應(yīng)用。生產(chǎn)應(yīng)用除了上述可靠性SLA要求之外，對(duì)分布式存儲(chǔ)的性能，尤其是數(shù)據(jù)訪問(wèn)的穩(wěn)定低時(shí)延提出了更嚴(yán)苛的要求。軟硬件解耦的分布式存儲(chǔ)在性能設(shè)計(jì)上存在兩大天然缺陷：標(biāo)準(zhǔn)服務(wù)器不具備機(jī)房突然斷電時(shí)保護(hù)內(nèi)存數(shù)據(jù)的電池（BBU），所以只能用SSD卡/盤(pán)來(lái)做數(shù)據(jù)緩存。SSD的時(shí)延遠(yuǎn)高于內(nèi)存，導(dǎo)致業(yè)界絕大多數(shù)的軟硬解耦的分布式存儲(chǔ)時(shí)延無(wú)法和生產(chǎn)存儲(chǔ)媲美。單獨(dú)采購(gòu)的分布式存儲(chǔ)軟件無(wú)法和第三方服務(wù)器的SSD盤(pán)緊密配合，從而無(wú)法像業(yè)界先進(jìn)的全閃存存儲(chǔ)一樣實(shí)現(xiàn)全局垃圾回收，控制數(shù)量眾多的SSD盤(pán)各自的垃圾回收導(dǎo)致的生產(chǎn)應(yīng)用時(shí)延波動(dòng)。 分布式存儲(chǔ)是未來(lái)數(shù)字產(chǎn)業(yè)生態(tài)系統(tǒng)構(gòu)建與新基建的重要引擎。紹興分布式存儲(chǔ)系統(tǒng)架構(gòu)

分布式存儲(chǔ)系統(tǒng)中還可能使用基于寫(xiě)多個(gè)存儲(chǔ)節(jié)點(diǎn)的復(fù)制協(xié)議（Replicated-writeprotocol）。比如Dynamo系統(tǒng)中的NWR復(fù)制協(xié)議，其中，N為副本數(shù)量，W為寫(xiě)操作的副本數(shù)，R為讀操作的副本數(shù)。NWR協(xié)議中多個(gè)副本不再區(qū)分主和備，客戶(hù)端根據(jù)一定的策略往其中的W個(gè)副本寫(xiě)入數(shù)據(jù)，讀取其中的R個(gè)副本。只要W+R＞N，可以保證讀到的副本中至少有一個(gè)包含了的更新。然而，這種協(xié)議的問(wèn)題在于不同副本的操作順序可能不一致，從多個(gè)副本讀取時(shí)可能出現(xiàn)。這種方式在實(shí)際系統(tǒng)中比較少見(jiàn)，不建議使用。 金華大數(shù)據(jù)分布式存儲(chǔ)的一般架構(gòu)為了保證分布式存儲(chǔ)系統(tǒng)的高可靠和高可用，數(shù)據(jù)在系統(tǒng)中一般存儲(chǔ)多個(gè)副本。

自誕生以來(lái)，分布式存儲(chǔ)就被視為存儲(chǔ)的未來(lái)，被萬(wàn)眾期待。然而分布式存儲(chǔ)起步于寒門(mén)，早應(yīng)用于互聯(lián)網(wǎng)日志、企業(yè)備份歸檔、開(kāi)發(fā)測(cè)試等場(chǎng)景，追求極zhi成本，性能和可靠性卻不敢恭維。但它還算爭(zhēng)氣，憑借多年的打怪練級(jí)，越來(lái)越多地開(kāi)始承載自動(dòng)駕駛研發(fā)、超高清編輯、運(yùn)營(yíng)商5G網(wǎng)絡(luò)云等企業(yè)的關(guān)鍵業(yè)務(wù)，走上變成高富帥、贏取白富美的道路。正所謂人紅是非多，存儲(chǔ)領(lǐng)域也是一樣，坊間一直流傳著關(guān)于分布式存儲(chǔ)的各種流言蜚語(yǔ)。好事的筆者現(xiàn)今就來(lái)探尋一番，揭開(kāi)謊言背后的真相。

    得益于合理的分布式架構(gòu)，分布式存儲(chǔ)可預(yù)估并且彈性擴(kuò)展計(jì)算、存儲(chǔ)容量和性能。分布式存儲(chǔ)的水平擴(kuò)展有以下幾個(gè)特性：1)節(jié)點(diǎn)擴(kuò)展后，舊數(shù)據(jù)會(huì)自動(dòng)遷移到新節(jié)點(diǎn)，實(shí)現(xiàn)負(fù)載均衡，避點(diǎn)過(guò)熱的情況出現(xiàn);2)水平擴(kuò)展只需要將新節(jié)點(diǎn)和原有集群連接到同一網(wǎng)絡(luò)，整個(gè)過(guò)程不會(huì)對(duì)業(yè)務(wù)造成影響;3)當(dāng)節(jié)點(diǎn)被添加到集群，集群系統(tǒng)的整體容量和性能也隨之線性擴(kuò)展，此后新節(jié)點(diǎn)的資源就會(huì)被管理平臺(tái)接管，被用于分配或者回收。隨著分布式存儲(chǔ)的發(fā)展，存儲(chǔ)行業(yè)的標(biāo)準(zhǔn)化進(jìn)程也不斷推進(jìn)，分布式存儲(chǔ)優(yōu)先采用行業(yè)標(biāo)準(zhǔn)接口進(jìn)行存儲(chǔ)接入。在平臺(tái)層面，通過(guò)將異構(gòu)存儲(chǔ)資源進(jìn)行抽象化，將傳統(tǒng)的存儲(chǔ)設(shè)備級(jí)的操作封裝成面向存儲(chǔ)資源的操作，從而簡(jiǎn)化異構(gòu)存儲(chǔ)基礎(chǔ)架構(gòu)的操作，以實(shí)現(xiàn)存儲(chǔ)資源的集中管理，并能夠自動(dòng)執(zhí)行創(chuàng)建、變更、回收等整個(gè)存儲(chǔ)生命周期流程，從而降低了存儲(chǔ)采購(gòu)和管理成本。 分布式存儲(chǔ)將如何挑戰(zhàn)互聯(lián)網(wǎng)巨頭?

說(shuō)到分布式存儲(chǔ)，我們先來(lái)看一下傳統(tǒng)的存儲(chǔ)是怎么個(gè)樣子。傳統(tǒng)的存儲(chǔ)也稱(chēng)為集中式存儲(chǔ)，從概念上可以看出來(lái)是具有集中性的，也就是整個(gè)存儲(chǔ)是集中在一個(gè)系統(tǒng)中的，但集中式存儲(chǔ)并不是一個(gè)單獨(dú)的設(shè)備，是集中在一套系統(tǒng)當(dāng)中的多個(gè)設(shè)備，比如下圖中的EMC存儲(chǔ)就需要幾個(gè)機(jī)柜來(lái)存放。在這個(gè)存儲(chǔ)系統(tǒng)中包含很多組件，除了核xin的機(jī)頭（控制器）、磁盤(pán)陣列和交換機(jī)等設(shè)備外，還有管理設(shè)備等輔助設(shè)備。結(jié)構(gòu)中包含一個(gè)機(jī)頭，這個(gè)是存儲(chǔ)系統(tǒng)中為核xin的部件。通常在機(jī)頭中有包含兩個(gè)控制器，互為備用，避免硬件故障導(dǎo)致整個(gè)存儲(chǔ)系統(tǒng)的不可用。 分布式存儲(chǔ)系統(tǒng)中的多臺(tái)服務(wù)器通過(guò)網(wǎng)絡(luò)進(jìn)行連接。蕪湖數(shù)據(jù)分布式存儲(chǔ)系統(tǒng)原理解析

分布式存儲(chǔ)能夠?qū)崿F(xiàn)內(nèi)容感知，配合前端應(yīng)用對(duì)海量數(shù)據(jù)進(jìn)行大數(shù)據(jù)分析和價(jià)值挖掘。紹興分布式存儲(chǔ)系統(tǒng)架構(gòu)

為了保證分布式存儲(chǔ)系統(tǒng)的高可靠和高可用，數(shù)據(jù)在系統(tǒng)中一般存儲(chǔ)多個(gè)副本。當(dāng)某個(gè)副本所在的存儲(chǔ)節(jié)點(diǎn)出現(xiàn)故障時(shí)，分布式存儲(chǔ)系統(tǒng)能夠自動(dòng)將服務(wù)切換到其他的副本，從而實(shí)現(xiàn)自動(dòng)容錯(cuò)。分布式存儲(chǔ)系統(tǒng)通過(guò)復(fù)制協(xié)議將數(shù)據(jù)同步到多個(gè)存儲(chǔ)節(jié)點(diǎn)，并確保多個(gè)副本之間的數(shù)據(jù)一致性?？蛻?hù)端將寫(xiě)請(qǐng)求發(fā)送給主副本，主副本將寫(xiě)請(qǐng)求復(fù)制到其他備副本，常見(jiàn)的做法是同步操作日志（CommitLog）。主副本首先將操作日志同步到備副本，備副本回放操作日志，完成后通知主副本。接著，主副本修改本機(jī)，等到所有的操作都完成后再通知客戶(hù)端寫(xiě)成功。下圖中的復(fù)制協(xié)議要求主備同步成功才可以返回客戶(hù)端寫(xiě)成功，這種協(xié)議稱(chēng)為強(qiáng)同步協(xié)議。 紹興分布式存儲(chǔ)系統(tǒng)架構(gòu)

江蘇魏晉元興智能科技有限公司致力于數(shù)碼、電腦，是一家貿(mào)易型公司。公司業(yè)務(wù)分為網(wǎng)絡(luò)安全，VR,MR，VR，AI，視頻監(jiān)控安防，出入口門(mén)禁失控制等，目前不斷進(jìn)行創(chuàng)新和服務(wù)改進(jìn)，為客戶(hù)提供良好的產(chǎn)品和服務(wù)。公司將不斷增強(qiáng)企業(yè)重點(diǎn)競(jìng)爭(zhēng)力，努力學(xué)習(xí)行業(yè)知識(shí)，遵守行業(yè)規(guī)范，植根于數(shù)碼、電腦行業(yè)的發(fā)展。魏晉元興智能秉承“客戶(hù)為尊、服務(wù)為榮、創(chuàng)意為先、技術(shù)為實(shí)”的經(jīng)營(yíng)理念，全力打造公司的重點(diǎn)競(jìng)爭(zhēng)力。