很多人可能對(duì)分布式存儲(chǔ)耳熟能詳，但是，大多數(shù)人對(duì)其概念或者知識(shí)點(diǎn)卻了解得都過(guò)于分散，看了很多卻“只見(jiàn)樹(shù)木，不見(jiàn)森林”，學(xué)了很多往往只能“知其然，卻不能知其所以然”。因此，有必要對(duì)分布式存儲(chǔ)的概念、問(wèn)題和矛盾進(jìn)行一下分析和解讀。實(shí)際上，如果可能，應(yīng)該是盡量不使用分布式的，因?yàn)檫@會(huì)增加系統(tǒng)的復(fù)雜度和管理難度，然而，雖然是這樣，但這些終歸是可以通過(guò)其他技術(shù)來(lái)解決，而如果不使用分布式，系統(tǒng)的可用性、穩(wěn)定性都無(wú)法保證，更談不上系統(tǒng)的高性能了。因此，說(shuō)分布式是被迫使用的，一點(diǎn)也不夸張。 分布式存儲(chǔ)將如何挑戰(zhàn)互聯(lián)網(wǎng)巨頭?南通集中式分布式存儲(chǔ)企業(yè)
什么是分布式存儲(chǔ)呢？如果一個(gè)存儲(chǔ)系統(tǒng)，不管是對(duì)象、塊、文件、kv、log、olap、oltp，只要對(duì)所管理的數(shù)據(jù)做了Partitioning&Replication，不管姿勢(shì)對(duì)不對(duì)，其實(shí)都可以歸納于分布式存儲(chǔ)。分布式存儲(chǔ)就是：Partitioning以多機(jī)scale，Replication以災(zāi)備容錯(cuò)。復(fù)制是解決可用性，可擴(kuò)展性和高性能的關(guān)鍵。為了災(zāi)備，數(shù)據(jù)需要冗余存儲(chǔ)；為了高可用，服務(wù)需要hotstandby。缺乏災(zāi)備的系統(tǒng)難以在生產(chǎn)環(huán)境使用。元數(shù)據(jù)和數(shù)據(jù)的維護(hù)均離不開(kāi)復(fù)制，復(fù)制可轉(zhuǎn)移而不可消除。復(fù)制引出了多副本一致性問(wèn)題，而一致性保證需要考慮各種軟件和硬件故障，以及誤操作。 宿遷數(shù)據(jù)分布式存儲(chǔ)架構(gòu)實(shí)戰(zhàn)分布式存儲(chǔ)在數(shù)據(jù)治理場(chǎng)景中的價(jià)值定位及優(yōu)勢(shì)解讀。
分布式存儲(chǔ)包含的種類(lèi)繁多，除了傳統(tǒng)意義上的分布式文件系統(tǒng)、分布式塊存儲(chǔ)和分布式對(duì)象存儲(chǔ)外，還包括分布式數(shù)據(jù)庫(kù)和分布式緩存等，但其中架構(gòu)無(wú)外乎于三種；以Ceph為代biao的架構(gòu)是其典型的代biao。在該架構(gòu)中與HDFS不同的地方在于該架構(gòu)中沒(méi)有中心節(jié)點(diǎn)。客戶(hù)端是通過(guò)一個(gè)設(shè)備映射關(guān)系計(jì)算出來(lái)其寫(xiě)入數(shù)據(jù)的位置，這樣客戶(hù)端可以直接與存儲(chǔ)節(jié)點(diǎn)通信，從而避免中心節(jié)點(diǎn)的性能瓶頸。以Ceph為代biao的架構(gòu)是其典型的代biao。在該架構(gòu)中與HDFS不同的地方在于該架構(gòu)中沒(méi)有中心節(jié)點(diǎn)。客戶(hù)端是通過(guò)一個(gè)設(shè)備映射關(guān)系計(jì)算出來(lái)其寫(xiě)入數(shù)據(jù)的位置，這樣客戶(hù)端可以直接與存儲(chǔ)節(jié)點(diǎn)通信，從而避免中心節(jié)點(diǎn)的性能瓶頸。
從技術(shù)的角度，分布式存儲(chǔ)的發(fā)力點(diǎn)在大規(guī)模的擴(kuò)展性，基于此逐步優(yōu)化性能、可靠性，讓海量數(shù)據(jù)存得下、用得起；集中式存儲(chǔ)的技術(shù)方向在于保持穩(wěn)定性的基礎(chǔ)上，利用更快的介質(zhì)、更低時(shí)延的網(wǎng)絡(luò)為核xin業(yè)務(wù)提供加速，讓業(yè)務(wù)更穩(wěn)、效率更高。因此，從技術(shù)方向上來(lái)看，二者也是各有側(cè)重的。云和分布式存儲(chǔ)一樣，這些年正在大行其道、炙手可熱。CloudFirst、AllinCloud、CloudNative等概念風(fēng)靡業(yè)界，CIO見(jiàn)面不提云貌似都不好意思打招呼。早期人們也習(xí)慣把分布式存儲(chǔ)叫做“云存儲(chǔ)”，那么分布式存儲(chǔ)和云是什么關(guān)系？筆者認(rèn)為，分布式存儲(chǔ)是一種技術(shù)架構(gòu)，而云是一種商業(yè)模式。分布式存儲(chǔ)可以被用作各種云的數(shù)據(jù)底座，也可以單獨(dú)成為數(shù)據(jù)底座，是配合的關(guān)系，而非替換和包含關(guān)系。 分布式存儲(chǔ)能夠?qū)崿F(xiàn)內(nèi)容感知，配合前端應(yīng)用對(duì)海量數(shù)據(jù)進(jìn)行大數(shù)據(jù)分析和價(jià)值挖掘。
隨著網(wǎng)絡(luò)帶寬的高速增長(zhǎng)，在軟件上的消耗已成為網(wǎng)絡(luò)性能的瓶頸，而通過(guò)繞過(guò)CPU實(shí)現(xiàn)高性能傳輸?shù)腞DMA網(wǎng)絡(luò)成為分布式存儲(chǔ)不錯(cuò)的選擇。RDMA（RemoteDirectMemoryAccess），可以簡(jiǎn)單理解為網(wǎng)卡完全繞過(guò)CPU實(shí)現(xiàn)兩個(gè)服務(wù)器之間的內(nèi)存數(shù)據(jù)交換。其作為一種硬件實(shí)現(xiàn)的網(wǎng)絡(luò)傳輸技術(shù)，可以大幅提升網(wǎng)絡(luò)傳輸效率，幫助網(wǎng)絡(luò)IO密集的業(yè)務(wù)（比如分布式存儲(chǔ)、分布式數(shù)據(jù)庫(kù)等）獲得更低的時(shí)延以及更高的吞吐。初的RDMA是實(shí)現(xiàn)在IB（Infiniband）上，由于其新的硬件技術(shù)棧成本比較高，主要用于HPC（高性能計(jì)算）等少數(shù)場(chǎng)景。而新的技術(shù)發(fā)展下，能夠?qū)崿F(xiàn)在以太網(wǎng)上使用RDMA。 淺談分布式存儲(chǔ)中的網(wǎng)絡(luò)通信。南通集中式分布式存儲(chǔ)企業(yè)
分布式存儲(chǔ)在數(shù)據(jù)治理過(guò)程中的定位。南通集中式分布式存儲(chǔ)企業(yè)
Ceph：目前應(yīng)用廣的開(kāi)源分布式存儲(chǔ)系統(tǒng)，已得到眾多廠商的支持，許多超融合系統(tǒng)的分布式存儲(chǔ)都是基于Ceph深度定制。而且Ceph已經(jīng)成為L(zhǎng)INUX系統(tǒng)和OpenStack的“標(biāo)配”，用于支持各自的存儲(chǔ)系統(tǒng)。Ceph可以提供對(duì)象存儲(chǔ)、塊設(shè)備存儲(chǔ)和文件系統(tǒng)存儲(chǔ)服務(wù)。同時(shí)支持三種不同類(lèi)型的存儲(chǔ)服務(wù)的特性，在分布式存儲(chǔ)系統(tǒng)中，是很少見(jiàn)的。a、Ceph沒(méi)有采用HDFS的元數(shù)據(jù)尋址的方案，而且采用CRUSH算法，數(shù)據(jù)分布均衡，并行度高。而且在支持塊存儲(chǔ)特性上，數(shù)據(jù)可以具有強(qiáng)一致性，可以獲得傳統(tǒng)集中式存儲(chǔ)的使用體驗(yàn)。b、對(duì)象存儲(chǔ)服務(wù)，Ceph支持Swift和S3的API接口。在塊存儲(chǔ)方面，支持精簡(jiǎn)配置、快照、克隆。在文件系統(tǒng)存儲(chǔ)服務(wù)方面，支持Posix接口，支持快照。但是目前Ceph支持文件的性能相當(dāng)其他分布式存儲(chǔ)系統(tǒng)，部署稍顯復(fù)雜，性能也稍弱，一般都將Ceph應(yīng)用于塊和對(duì)象存儲(chǔ)。c、Ceph是去中心化的分布式解決方案，需要提前做好規(guī)劃設(shè)計(jì)，對(duì)技術(shù)團(tuán)隊(duì)的要求能力比較高。特別是在Ceph擴(kuò)容時(shí)，由于其數(shù)據(jù)分布均衡的特性。 南通集中式分布式存儲(chǔ)企業(yè)
江蘇魏晉元興智能科技有限公司致力于數(shù)碼、電腦，是一家貿(mào)易型公司。公司業(yè)務(wù)分為網(wǎng)絡(luò)安全，VR,MR，VR，AI，視頻監(jiān)控安防，出入口門(mén)禁失控制等，目前不斷進(jìn)行創(chuàng)新和服務(wù)改進(jìn)，為客戶(hù)提供良好的產(chǎn)品和服務(wù)。公司將不斷增強(qiáng)企業(yè)重點(diǎn)競(jìng)爭(zhēng)力，努力學(xué)習(xí)行業(yè)知識(shí)，遵守行業(yè)規(guī)范，植根于數(shù)碼、電腦行業(yè)的發(fā)展。在社會(huì)各界的鼎力支持下，持續(xù)創(chuàng)新，不斷鑄造***服務(wù)體驗(yàn)，為客戶(hù)成功提供堅(jiān)實(shí)有力的支持。