江蘇四大開源分布式存儲(chǔ)系統(tǒng)原理解析

來源: 發(fā)布時(shí)間:2022-01-22

    軟硬件解耦的分布式存儲(chǔ)在性能設(shè)計(jì)上存在兩大天然缺陷:標(biāo)準(zhǔn)服務(wù)器不具備機(jī)房突然斷電時(shí)保護(hù)內(nèi)存數(shù)據(jù)的電池(BBU),所以只能用SSD卡/盤來做數(shù)據(jù)緩存。SSD的時(shí)延遠(yuǎn)高于內(nèi)存,導(dǎo)致業(yè)界絕大多數(shù)的軟硬解耦的分布式存儲(chǔ)時(shí)延無法和生產(chǎn)存儲(chǔ)媲美。單獨(dú)采購的分布式存儲(chǔ)軟件無法和第三方服務(wù)器的SSD盤緊密配合,從而無法像業(yè)界先進(jìn)的全閃存存儲(chǔ)一樣實(shí)現(xiàn)全局垃圾回收,控制數(shù)量眾多的SSD盤各自的垃圾回收導(dǎo)致的生產(chǎn)應(yīng)用時(shí)延波動(dòng)。軟硬件一體的分布式存儲(chǔ)有機(jī)會(huì)克服如上兩大缺陷。我們看到業(yè)界先進(jìn)的分布式存儲(chǔ)產(chǎn)品,采用了類似于全閃存存儲(chǔ)的電池保護(hù)(BBU)、系統(tǒng)級(jí)全局垃圾回收,達(dá)到了媲美傳統(tǒng)生產(chǎn)存儲(chǔ)的高并發(fā)壓力下的1ms穩(wěn)定時(shí)延,從而為分布式存儲(chǔ)進(jìn)入企業(yè)生產(chǎn)應(yīng)用提供了性能的SLA保障。 分布式存儲(chǔ)系統(tǒng)中的多臺(tái)服務(wù)器通過網(wǎng)絡(luò)進(jìn)行連接。江蘇四大開源分布式存儲(chǔ)系統(tǒng)原理解析

    分布式存儲(chǔ)的重要性:從單機(jī)單用戶到單機(jī)多用戶,再到現(xiàn)在的網(wǎng)絡(luò)時(shí)代,應(yīng)用系統(tǒng)發(fā)生了很多的變化。而分布式系統(tǒng)依然是目前很熱門的討論話題,那么,分布式系統(tǒng)給我們帶來了什么,或者說是為什么要有分布式系統(tǒng)呢?(1)升級(jí)單機(jī)處理能力的性價(jià)比越來越低;企業(yè)發(fā)現(xiàn)通過更換硬件做垂直擴(kuò)展的方式來提升性能會(huì)越來越不劃算;(2)單機(jī)處理能力存在瓶頸;某個(gè)固定時(shí)間點(diǎn),單顆處理器有自己的性能瓶頸,也就說即使愿意花更多的錢去買計(jì)算能力也買不到了;(3)出于穩(wěn)定性和可用性的考慮如果采用單擊系統(tǒng),那么在這臺(tái)機(jī)器正常的時(shí)候一切OK,一旦出問題,那么系統(tǒng)就完全不能用了。當(dāng)然,可以考慮做容災(zāi)備份等方案,而這些方案就會(huì)讓系統(tǒng)演變?yōu)榉植际较到y(tǒng)了。 江蘇四大開源分布式存儲(chǔ)系統(tǒng)原理解析分布式存儲(chǔ)與數(shù)據(jù)庫選型**整理分享。

開源分布式存儲(chǔ)軟件的出現(xiàn),一定程度上降低了存儲(chǔ)的門檻,小公司可快速包裝出存儲(chǔ)產(chǎn)品,帶動(dòng)服務(wù)器銷售。但產(chǎn)品同質(zhì)化問題是所有開源不得不面臨的問題,由于架構(gòu)限制,很難在不動(dòng)架構(gòu)的情況下,真正做出差異化競爭力?;ヂ?lián)網(wǎng)類公司、部分科研機(jī)構(gòu),以及有技術(shù)情結(jié)和充足資金投入的客戶可能選擇開源,而對(duì)于金融、電信運(yùn)營商、大企業(yè)商用HPC、有關(guān)部門等對(duì)可靠性、性能、安全合規(guī)有要求的企業(yè),開源從來不是第yi選擇,因?yàn)閿?shù)據(jù)太重要了。(聽說,國內(nèi)某知ming銀行曾經(jīng)投入500人基于開源軟件搭建分布式存儲(chǔ),投入巨大且無法達(dá)銀行業(yè)務(wù)對(duì)性能、可靠性、易運(yùn)維訴求,終于2年后放棄。)

分布式存儲(chǔ)的重要性:云存儲(chǔ)和大數(shù)據(jù)是構(gòu)建在分布式存儲(chǔ)之上的應(yīng)用。移動(dòng)終端的計(jì)算能力和存儲(chǔ)空間有限,而且有在多個(gè)設(shè)備之間共享資源的強(qiáng)烈的需求,這就使得網(wǎng)盤、相冊(cè)等云存儲(chǔ)應(yīng)用很快流行起來。然而,萬變不離其宗,云存儲(chǔ)的核xin還是后端的大規(guī)模分布式存儲(chǔ)系統(tǒng)。大數(shù)據(jù)則更近一步,不僅需要存儲(chǔ)海量數(shù)據(jù),還需要通過合適的計(jì)算框架或者工具對(duì)這些數(shù)據(jù)進(jìn)行分析,抽取其中有價(jià)值的部分。如果沒有分布式存儲(chǔ),便談不上對(duì)大數(shù)據(jù)進(jìn)行分析。仔細(xì)分析還會(huì)發(fā)現(xiàn),分布式存儲(chǔ)技術(shù)是互聯(lián)網(wǎng)后端架構(gòu)的神器,掌握了這項(xiàng)技能,以后理解其他技術(shù)的本質(zhì)會(huì)變得非常容易。 分布式存儲(chǔ)系統(tǒng)需要使用多臺(tái)服務(wù)器共同存儲(chǔ)數(shù)據(jù),隨著服務(wù)器數(shù)量的增加,出現(xiàn)故障的概率也在不斷增加。

分布式存儲(chǔ)通過將熱點(diǎn)區(qū)域內(nèi)數(shù)據(jù)映射到高速存儲(chǔ)中,來提高系統(tǒng)響應(yīng)速度。一旦這些區(qū)域不再是熱點(diǎn),那么存儲(chǔ)系統(tǒng)會(huì)將它們移出高速存儲(chǔ)。而寫緩存技術(shù)則可使配合高速存儲(chǔ)來明顯改變整體存儲(chǔ)的性能,按照一定的策略,先將數(shù)據(jù)寫入高速存儲(chǔ),再在適當(dāng)?shù)臅r(shí)間進(jìn)行同步落盤。由于通過網(wǎng)絡(luò)進(jìn)行松耦合鏈接,分布式存儲(chǔ)允許高速存儲(chǔ)和低速存儲(chǔ)分開部署,或者任意比例混布。在不可預(yù)測的業(yè)務(wù)環(huán)境或者敏捷應(yīng)用情況下,分層存儲(chǔ)的優(yōu)勢可以發(fā)揮到比較好。解決了目前緩存分層存儲(chǔ)比較大的問題是當(dāng)性能池讀不命中后,從冷池提取數(shù)據(jù)的粒度太大,導(dǎo)致延遲高,從而給造成整體的性能的抖動(dòng)的問題。 分布式存儲(chǔ)將如何挑戰(zhàn)互聯(lián)網(wǎng)巨頭?合肥什么是分布式存儲(chǔ)數(shù)據(jù)庫

。一個(gè)令人滿意的情況是,當(dāng)一個(gè)網(wǎng)絡(luò)因?yàn)楣收隙纸鉃槎鄠€(gè)部分的時(shí)候,分布式存儲(chǔ)系統(tǒng)仍然能夠工作。江蘇四大開源分布式存儲(chǔ)系統(tǒng)原理解析

    Ceph:目前應(yīng)用廣的開源分布式存儲(chǔ)系統(tǒng),已得到眾多廠商的支持,許多超融合系統(tǒng)的分布式存儲(chǔ)都是基于Ceph深度定制。而且Ceph已經(jīng)成為LINUX系統(tǒng)和OpenStack的“標(biāo)配”,用于支持各自的存儲(chǔ)系統(tǒng)。Ceph可以提供對(duì)象存儲(chǔ)、塊設(shè)備存儲(chǔ)和文件系統(tǒng)存儲(chǔ)服務(wù)。同時(shí)支持三種不同類型的存儲(chǔ)服務(wù)的特性,在分布式存儲(chǔ)系統(tǒng)中,是很少見的。a、Ceph沒有采用HDFS的元數(shù)據(jù)尋址的方案,而且采用CRUSH算法,數(shù)據(jù)分布均衡,并行度高。而且在支持塊存儲(chǔ)特性上,數(shù)據(jù)可以具有強(qiáng)一致性,可以獲得傳統(tǒng)集中式存儲(chǔ)的使用體驗(yàn)。b、對(duì)象存儲(chǔ)服務(wù),Ceph支持Swift和S3的API接口。在塊存儲(chǔ)方面,支持精簡配置、快照、克隆。在文件系統(tǒng)存儲(chǔ)服務(wù)方面,支持Posix接口,支持快照。但是目前Ceph支持文件的性能相當(dāng)其他分布式存儲(chǔ)系統(tǒng),部署稍顯復(fù)雜,性能也稍弱,一般都將Ceph應(yīng)用于塊和對(duì)象存儲(chǔ)。c、Ceph是去中心化的分布式解決方案,需要提前做好規(guī)劃設(shè)計(jì),對(duì)技術(shù)團(tuán)隊(duì)的要求能力比較高。特別是在Ceph擴(kuò)容時(shí),由于其數(shù)據(jù)分布均衡的特性。 江蘇四大開源分布式存儲(chǔ)系統(tǒng)原理解析

江蘇魏晉元興智能科技有限公司致力于數(shù)碼、電腦,是一家貿(mào)易型公司。公司業(yè)務(wù)分為網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門禁失控制等,目前不斷進(jìn)行創(chuàng)新和服務(wù)改進(jìn),為客戶提供良好的產(chǎn)品和服務(wù)。公司將不斷增強(qiáng)企業(yè)重點(diǎn)競爭力,努力學(xué)習(xí)行業(yè)知識(shí),遵守行業(yè)規(guī)范,植根于數(shù)碼、電腦行業(yè)的發(fā)展。在社會(huì)各界的鼎力支持下,持續(xù)創(chuàng)新,不斷鑄造***服務(wù)體驗(yàn),為客戶成功提供堅(jiān)實(shí)有力的支持。