浙江魏晉元興分布式存儲(chǔ)系統(tǒng)原理

來(lái)源: 發(fā)布時(shí)間:2022-01-16

隨著企業(yè)數(shù)字化轉(zhuǎn)型的深入,分布式存儲(chǔ)由初的開(kāi)發(fā)測(cè)試、桌面云等非關(guān)鍵應(yīng)用,逐步走向生產(chǎn)應(yīng)用。生產(chǎn)應(yīng)用除了上述可靠性SLA要求之外,對(duì)分布式存儲(chǔ)的性能,尤其是數(shù)據(jù)訪問(wèn)的穩(wěn)定低時(shí)延提出了更嚴(yán)苛的要求。軟硬件解耦的分布式存儲(chǔ)在性能設(shè)計(jì)上存在兩大天然缺陷:標(biāo)準(zhǔn)服務(wù)器不具備機(jī)房突然斷電時(shí)保護(hù)內(nèi)存數(shù)據(jù)的電池(BBU),所以只能用SSD卡/盤(pán)來(lái)做數(shù)據(jù)緩存。SSD的時(shí)延遠(yuǎn)高于內(nèi)存,導(dǎo)致業(yè)界絕大多數(shù)的軟硬解耦的分布式存儲(chǔ)時(shí)延無(wú)法和生產(chǎn)存儲(chǔ)媲美。單獨(dú)采購(gòu)的分布式存儲(chǔ)軟件無(wú)法和第三方服務(wù)器的SSD盤(pán)緊密配合,從而無(wú)法像業(yè)界先進(jìn)的全閃存存儲(chǔ)一樣實(shí)現(xiàn)全局垃圾回收,控制數(shù)量眾多的SSD盤(pán)各自的垃圾回收導(dǎo)致的生產(chǎn)應(yīng)用時(shí)延波動(dòng)。 難言之隱,分布式存儲(chǔ)軟硬件解耦究竟難在哪里?浙江魏晉元興分布式存儲(chǔ)系統(tǒng)原理

    一般分布式存儲(chǔ)的MDC采用的是數(shù)據(jù)庫(kù)或內(nèi)存儲(chǔ)數(shù)據(jù)庫(kù)來(lái)記錄數(shù)據(jù)塊和物理位置關(guān)系??蛻?hù)端向MDC發(fā)出詢(xún)問(wèn)位置的請(qǐng)求,MDC查詢(xún)數(shù)據(jù)庫(kù)后返回請(qǐng)求數(shù)據(jù)的存儲(chǔ)位置。這種方法存儲(chǔ)訪問(wèn)的速度較慢,而且MDC作為交通的“樞紐”,是整個(gè)存儲(chǔ)的核xin,當(dāng)MDC發(fā)生故障,會(huì)導(dǎo)致整個(gè)存儲(chǔ)都不能使用。但是采取這個(gè)方式,也有好處,比如可以根據(jù)不同需求設(shè)置不同的副本策略等。對(duì)象存儲(chǔ)對(duì)象存儲(chǔ)是在同樣容量下提供的存儲(chǔ)性能比文件存儲(chǔ)更好,又能像文件存儲(chǔ)一樣有很好的共享性。實(shí)際使用中,性能不是對(duì)象存儲(chǔ)關(guān)注的問(wèn)題,需要高性能可以用塊存儲(chǔ),容量才是對(duì)象存儲(chǔ)關(guān)注的問(wèn)題。所以對(duì)象存儲(chǔ)的持久化層的硬盤(pán)數(shù)量更多,單盤(pán)的容量也更大。對(duì)象存儲(chǔ)的數(shù)據(jù)的安全性保障也各式各樣,可以是單機(jī)raid或網(wǎng)絡(luò)raid,也可以副本。Ceph和google基于GFS的存儲(chǔ)就是典型的對(duì)象存儲(chǔ)。 宿遷大數(shù)據(jù)分布式存儲(chǔ)數(shù)據(jù)庫(kù)分布式存儲(chǔ)系統(tǒng),分布式存儲(chǔ)架構(gòu)及原理。

正所謂長(zhǎng)江后浪推前浪,分布式存儲(chǔ)快速增長(zhǎng)是不可否認(rèn)的,這從各大廠商的業(yè)績(jī)報(bào)告和分析師報(bào)告就能看出來(lái),但想要把企業(yè)外置存儲(chǔ)這個(gè)前浪拍死在沙灘上還是步子邁太大,不現(xiàn)實(shí)。企業(yè)外置存儲(chǔ)在相當(dāng)長(zhǎng)的一段時(shí)間內(nèi),仍然是主流。它主要面向企業(yè)傳統(tǒng)應(yīng)用如ERP/CRM/HIS等,數(shù)據(jù)量不大但對(duì)可靠性、性能有極zhi要求,如銀行Core-Banking,從可靠性、生態(tài)層面,分布式存儲(chǔ)都不是比較好選擇。分布式存儲(chǔ)主要面向海量數(shù)據(jù)、新興業(yè)務(wù)場(chǎng)景,如HPC/EDA、大數(shù)據(jù),這類(lèi)場(chǎng)景以二進(jìn)制文件、視頻、圖片等非結(jié)構(gòu)化數(shù)據(jù)為主,數(shù)據(jù)量極大。所以從場(chǎng)景來(lái)看,二者場(chǎng)景是有明確區(qū)隔的,按場(chǎng)景并存是比較好的選擇。

    分布式存儲(chǔ)系統(tǒng)具有如下特性:數(shù)據(jù)分為多個(gè)分片存儲(chǔ)在多臺(tái)服務(wù)節(jié)點(diǎn)上。每個(gè)分片有多個(gè)副本,存儲(chǔ)在不同的服務(wù)節(jié)點(diǎn)上。許多客戶(hù)端并發(fā)訪問(wèn)系統(tǒng),執(zhí)行讀寫(xiě)操作,每個(gè)讀寫(xiě)操作在系統(tǒng)中需要花費(fèi)不等的時(shí)間。除非下文中特別注明和討論,讀寫(xiě)操作是原子的。與數(shù)據(jù)庫(kù)事務(wù)一致性的區(qū)別:數(shù)據(jù)庫(kù)事務(wù)的ACID的中也有一個(gè)一致性(consistency),但彼一致性非此一致性。ACID中的一致性是指,數(shù)據(jù)庫(kù)的事務(wù)的執(zhí)行,或者說(shuō)事務(wù)觀察到的數(shù)據(jù),總是要滿足某些全局的一致性約束條件,如性約束,外鍵約束等。這個(gè)概念和數(shù)據(jù)庫(kù)的數(shù)據(jù)是否多副本沒(méi)關(guān)系。而本文的一致性在多副本的語(yǔ)境下才有意義。所以,數(shù)據(jù)庫(kù)事務(wù)的一致性,是指數(shù)據(jù)項(xiàng)之間總是滿足某些約束條件,或者說(shuō)整個(gè)數(shù)據(jù)庫(kù)在滿足約束條件的意義上是正確的。 三萬(wàn)英尺看分布式存儲(chǔ)中本地存儲(chǔ)引擎。

分布式存儲(chǔ)傳統(tǒng)數(shù)據(jù)存儲(chǔ)模型需要支持盡可能多的應(yīng)用,因此需要具備較好的通用性。大數(shù)據(jù)具有大規(guī)模、高動(dòng)態(tài)及快速處理等特性,通用的數(shù)據(jù)存儲(chǔ)模型通常并不是能提高應(yīng)用性能的模型.而大數(shù)據(jù)存儲(chǔ)系統(tǒng)對(duì)上層應(yīng)用性能的關(guān)注遠(yuǎn)遠(yuǎn)超過(guò)對(duì)通用性的追求。針對(duì)應(yīng)用和負(fù)載來(lái)優(yōu)化存儲(chǔ),就是將數(shù)據(jù)存儲(chǔ)與應(yīng)用耦合。簡(jiǎn)化或擴(kuò)展分布式文件系統(tǒng)的功能,根據(jù)特定應(yīng)用、特定負(fù)載、特定的計(jì)算模型對(duì)文件系統(tǒng)進(jìn)行定制和深度優(yōu)化,使應(yīng)用達(dá)到比較好性能。這類(lèi)優(yōu)化技術(shù)在谷歌、Facebook等互聯(lián)網(wǎng)公司的內(nèi)部存儲(chǔ)系統(tǒng)上,管理超過(guò)千萬(wàn)億字節(jié)級(jí)別的大數(shù)據(jù),能夠達(dá)到非常高的性能。 關(guān)于分布式存儲(chǔ),你需要知道的真相。溫州大數(shù)據(jù)分布式存儲(chǔ)有哪些

常見(jiàn)的幾種分布式存儲(chǔ)以及應(yīng)用場(chǎng)景。浙江魏晉元興分布式存儲(chǔ)系統(tǒng)原理

無(wú)論如何波折,分布式存儲(chǔ)未來(lái)可期:正所謂不管白貓、黑貓,抓到老鼠的就是好貓。我們相信在較長(zhǎng)一段時(shí)間內(nèi),分布式存儲(chǔ)軟硬件一體和軟硬件解耦會(huì)長(zhǎng)期共存。總體而言,筆者認(rèn)為隨著數(shù)據(jù)價(jià)值的增高,場(chǎng)景對(duì)數(shù)據(jù)可靠性的要求隨之會(huì)越來(lái)越嚴(yán)苛,市場(chǎng)的天平就會(huì)更多偏向軟硬件一體;與此相反,場(chǎng)景對(duì)數(shù)據(jù)可靠性的敏感度越低、短期成本敏感度越高,市場(chǎng)的天平就會(huì)更多的偏向軟硬件解耦。分布式存儲(chǔ)的發(fā)展歷程無(wú)論如何波折,我們更愿意相信它終會(huì)是部正劇,在整個(gè)存儲(chǔ)市場(chǎng)中占據(jù)海量數(shù)據(jù)承載的主力軍位置,鏗鏘而立,并給人以無(wú)窮回味!浙江魏晉元興分布式存儲(chǔ)系統(tǒng)原理

江蘇魏晉元興智能科技有限公司致力于數(shù)碼、電腦,以科技創(chuàng)新實(shí)現(xiàn)***管理的追求。魏晉元興智能擁有一支經(jīng)驗(yàn)豐富、技術(shù)創(chuàng)新的專(zhuān)業(yè)研發(fā)團(tuán)隊(duì),以高度的專(zhuān)注和執(zhí)著為客戶(hù)提供網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門(mén)禁失控制。魏晉元興智能繼續(xù)堅(jiān)定不移地走高質(zhì)量發(fā)展道路,既要實(shí)現(xiàn)基本面穩(wěn)定增長(zhǎng),又要聚焦關(guān)鍵領(lǐng)域,實(shí)現(xiàn)轉(zhuǎn)型再突破。魏晉元興智能始終關(guān)注數(shù)碼、電腦行業(yè)。滿足市場(chǎng)需求,提高產(chǎn)品價(jià)值,是我們前行的力量。