淮安數(shù)據(jù)分布式存儲的一般架構(gòu)

來源: 發(fā)布時(shí)間:2021-10-22

為了保證分布式存儲系統(tǒng)的高可靠和高可用,數(shù)據(jù)在系統(tǒng)中一般存儲多個(gè)副本。當(dāng)某個(gè)副本所在的存儲節(jié)點(diǎn)出現(xiàn)故障時(shí),分布式存儲系統(tǒng)能夠自動將服務(wù)切換到其他的副本,從而實(shí)現(xiàn)自動容錯(cuò)。分布式存儲系統(tǒng)通過復(fù)制協(xié)議將數(shù)據(jù)同步到多個(gè)存儲節(jié)點(diǎn),并確保多個(gè)副本之間的數(shù)據(jù)一致性??蛻舳藢懻埱蟀l(fā)送給主副本,主副本將寫請求復(fù)制到其他備副本,常見的做法是同步操作日志(CommitLog)。主副本首先將操作日志同步到備副本,備副本回放操作日志,完成后通知主副本。接著,主副本修改本機(jī),等到所有的操作都完成后再通知客戶端寫成功。下圖中的復(fù)制協(xié)議要求主備同步成功才可以返回客戶端寫成功,這種協(xié)議稱為強(qiáng)同步協(xié)議。 超大規(guī)模時(shí)空數(shù)據(jù)的分布式存儲與應(yīng)用?;窗矓?shù)據(jù)分布式存儲的一般架構(gòu)

說到分布式存儲,我們可能都會聯(lián)想到軟件定義存儲(SoftwareDefinedStorage,即SDS)。代biao全球存儲廠商的權(quán)wei協(xié)會SNIA(全球網(wǎng)絡(luò)存儲工業(yè)協(xié)會)對SDS定義:軟件定義存儲包括管理面的標(biāo)準(zhǔn)接口和自動化,以及數(shù)據(jù)面Scale-out的塊、文件和對象存儲服務(wù)?;蛟S我們需要把鏡頭投向21世紀(jì)初期,Google提出分布式存儲架構(gòu)的概念并予以實(shí)踐,在其強(qiáng)大的技術(shù)和維護(hù)團(tuán)隊(duì)支撐下,實(shí)現(xiàn)了基于在標(biāo)準(zhǔn)服務(wù)器上部署自研分布式存儲軟件,構(gòu)建成大規(guī)模存儲集群,以應(yīng)對其互聯(lián)網(wǎng)搜索業(yè)務(wù)帶來的海量數(shù)據(jù)流。 淮安數(shù)據(jù)分布式存儲的一般架構(gòu)布式存儲幫助企業(yè)打造智能化的數(shù)據(jù)治理平臺。

目測分布式存儲領(lǐng)域有兩個(gè)派系,一派是SDS(軟件定義存儲),一派是軟硬一體。前者以vSAN、Ceph為代biao,以軟件廠商為主在推廣。分布式存儲軟件+通用服務(wù)器組合,打著重定義存儲市場的旗幟,頗有“有王侯將相寧有種乎”的氣勢;另一派是存儲老牌存儲玩家的產(chǎn)品,他們以軟硬一體為主,如Isilon、HCP等。誰主沉浮很難判斷,不過我們不妨從產(chǎn)業(yè)動態(tài)窺見一斑。雖然用過的客戶都詬病分布式存儲軟件+服務(wù)器的方式存在各種兼容性、可靠性、可維護(hù)性的問題,但筆者認(rèn)為SDS這種模式會長期存在,尤其是在傳統(tǒng)的低端領(lǐng)域,如備份歸檔、開發(fā)測試環(huán)境。而越往高duan走,軟硬一體越是占據(jù)主流。業(yè)界主流廠商也在持續(xù)推出軟硬一體的產(chǎn)品:

分布式存儲是一種數(shù)據(jù)存儲技術(shù),通過網(wǎng)絡(luò)使用企業(yè)中的每臺機(jī)器上的磁盤空間,并將這些分散的存儲資源構(gòu)成一個(gè)虛擬的存儲設(shè)備,數(shù)據(jù)分散的存儲在企業(yè)的各個(gè)角落。分布式存儲系統(tǒng),是將數(shù)據(jù)分散存儲在多個(gè)du立的設(shè)備上。傳統(tǒng)的網(wǎng)絡(luò)存儲系統(tǒng)采用集中的存儲服務(wù)器存放所有數(shù)據(jù),存儲服務(wù)器成為系統(tǒng)性能的瓶頸,也是可靠性和安全性的焦點(diǎn),不能滿足大規(guī)模存儲應(yīng)用的需要。分布式網(wǎng)絡(luò)存儲系統(tǒng)采用可擴(kuò)展的系統(tǒng)結(jié)構(gòu),利用多臺存儲服務(wù)器分擔(dān)存儲負(fù)荷,利用位置服務(wù)器定位存儲信息,它不但提高了系統(tǒng)的可靠性、可用性和存取效率,還易于擴(kuò)展。 集中式存儲和分布式存儲的區(qū)別在哪里?

分布式存儲系統(tǒng)中還可能使用基于寫多個(gè)存儲節(jié)點(diǎn)的復(fù)制協(xié)議(Replicated-writeprotocol)。比如Dynamo系統(tǒng)中的NWR復(fù)制協(xié)議,其中,N為副本數(shù)量,W為寫操作的副本數(shù),R為讀操作的副本數(shù)。NWR協(xié)議中多個(gè)副本不再區(qū)分主和備,客戶端根據(jù)一定的策略往其中的W個(gè)副本寫入數(shù)據(jù),讀取其中的R個(gè)副本。只要W+R>N,可以保證讀到的副本中至少有一個(gè)包含了的更新。然而,這種協(xié)議的問題在于不同副本的操作順序可能不一致,從多個(gè)副本讀取時(shí)可能出現(xiàn)。這種方式在實(shí)際系統(tǒng)中比較少見,不建議使用。 布式存儲可實(shí)現(xiàn)集群的健康監(jiān)測,在故障潛伏期即可實(shí)現(xiàn)故障提醒?;窗泊笠?guī)模分布式存儲原理

常見的幾種分布式存儲以及應(yīng)用場景。淮安數(shù)據(jù)分布式存儲的一般架構(gòu)

    一般分布式存儲的MDC采用的是數(shù)據(jù)庫或內(nèi)存儲數(shù)據(jù)庫來記錄數(shù)據(jù)塊和物理位置關(guān)系。客戶端向MDC發(fā)出詢問位置的請求,MDC查詢數(shù)據(jù)庫后返回請求數(shù)據(jù)的存儲位置。這種方法存儲訪問的速度較慢,而且MDC作為交通的“樞紐”,是整個(gè)存儲的核xin,當(dāng)MDC發(fā)生故障,會導(dǎo)致整個(gè)存儲都不能使用。但是采取這個(gè)方式,也有好處,比如可以根據(jù)不同需求設(shè)置不同的副本策略等。對象存儲對象存儲是在同樣容量下提供的存儲性能比文件存儲更好,又能像文件存儲一樣有很好的共享性。實(shí)際使用中,性能不是對象存儲關(guān)注的問題,需要高性能可以用塊存儲,容量才是對象存儲關(guān)注的問題。所以對象存儲的持久化層的硬盤數(shù)量更多,單盤的容量也更大。對象存儲的數(shù)據(jù)的安全性保障也各式各樣,可以是單機(jī)raid或網(wǎng)絡(luò)raid,也可以副本。Ceph和google基于GFS的存儲就是典型的對象存儲。 淮安數(shù)據(jù)分布式存儲的一般架構(gòu)

江蘇魏晉元興智能科技有限公司擁有智能技術(shù)、計(jì)算機(jī)技術(shù)研發(fā)、技術(shù)咨詢,技術(shù)轉(zhuǎn)讓:軟件開 發(fā)、銷售;信息系統(tǒng)集成服務(wù):機(jī)電產(chǎn)品、計(jì)算機(jī)及配件、 電線電纜、儀器儀表、電子元器件、機(jī)械設(shè)備、機(jī)電設(shè)備 節(jié)能設(shè)備、辦公用品、攝影器材、文化用品、通訊設(shè)備、體 育器材、消防器材銷售;綜合布線工程、水電工程、園林綠 化工程、室內(nèi)裝飾工程、土石方工程設(shè)計(jì)、施工,提供勞務(wù) 服務(wù);企業(yè)形象策劃:企業(yè)管理咨詢:家用電器銷售、維 修;文化藝術(shù)交流活動組織、 策劃。( 依法須經(jīng)批準(zhǔn)的項(xiàng) 目,經(jīng)相關(guān)部門批準(zhǔn)后方可開展經(jīng)營活動)等多項(xiàng)業(yè)務(wù),主營業(yè)務(wù)涵蓋網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門禁失控制。目前我公司在職員工以90后為主,是一個(gè)有活力有能力有創(chuàng)新精神的團(tuán)隊(duì)。江蘇魏晉元興智能科技有限公司主營業(yè)務(wù)涵蓋網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門禁失控制,堅(jiān)持“質(zhì)量保證、良好服務(wù)、顧客滿意”的質(zhì)量方針,贏得廣大客戶的支持和信賴。公司憑著雄厚的技術(shù)力量、飽滿的工作態(tài)度、扎實(shí)的工作作風(fēng)、良好的職業(yè)道德,樹立了良好的網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門禁失控制形象,贏得了社會各界的信任和認(rèn)可。