在分布式存儲系統(tǒng)（包括OceanBase這樣的分布式數(shù)據(jù)庫）的使用中，我們經(jīng)常會提到“一致性”這個詞，但是這個術(shù)語在不同的系統(tǒng)、不同人的心目中有不同的內(nèi)涵，很容易造成混淆。想象一個簡單的存儲系統(tǒng)，只有一個客戶端（單進程）和一個服務(wù)端（單進程服務(wù)）。客戶端順序發(fā)起讀寫操作，服務(wù)端也順序處理每個請求，那么無論從服務(wù)器視角還是從客戶端視角，后一個操作都可以看到前一個操作的結(jié)果。然后，系統(tǒng)變的復(fù)雜一些，系統(tǒng)還是單個服務(wù)進程（單副本），但是有多個客戶端并發(fā)進行操作。這個模型下，多個客戶端的操作會互相影響，比如一個客戶端會讀到不是自己寫的數(shù)據(jù)（另一個客戶端寫入的）。一般單機并發(fā)程序就是這樣的模...

分布式存儲早期主要用于互聯(lián)網(wǎng)日志、企業(yè)備份歸檔、開發(fā)測試等場景，這些場景無疑是低價值場景，成本是第yi訴求甚至訴求。然此一時彼一時，士別三日也當(dāng)刮目相看。首先是分布式存儲產(chǎn)品能力已今非昔比，逐漸具備了承載企業(yè)高價值業(yè)務(wù)的關(guān)鍵能力，例如毫秒級時延、TB/s級帶寬、雙活/3DC業(yè)務(wù)級容災(zāi)、端到端DIF等，無論是結(jié)構(gòu)化數(shù)據(jù)還是非結(jié)構(gòu)化數(shù)據(jù)的承載，功能完備性的比較大短板早已補齊。其次，分布式存儲已走入眾多高價值關(guān)鍵業(yè)務(wù)，如運營商BOM業(yè)務(wù)、金融渠道類業(yè)務(wù)以及超算、油藏探測HPC等高價值業(yè)務(wù)，通過大規(guī)模應(yīng)用實踐來檢驗成色。（小道消息，某些高價值場景全閃出貨價達到1000美金/TB以上啦）看完...

正所謂長江后浪推前浪，分布式存儲快速增長是不可否認的，這從各大廠商的業(yè)績報告和分析師報告就能看出來，但想要把企業(yè)外置存儲這個前浪拍死在沙灘上還是步子邁太大，不現(xiàn)實。企業(yè)外置存儲在相當(dāng)長的一段時間內(nèi)，仍然是主流。它主要面向企業(yè)傳統(tǒng)應(yīng)用如ERP/CRM/HIS等，數(shù)據(jù)量不大但對可靠性、性能有極zhi要求，如銀行Core-Banking，從可靠性、生態(tài)層面，分布式存儲都不是比較好選擇。分布式存儲主要面向海量數(shù)據(jù)、新興業(yè)務(wù)場景，如HPC/EDA、大數(shù)據(jù)，這類場景以二進制文件、視頻、圖片等非結(jié)構(gòu)化數(shù)據(jù)為主，數(shù)據(jù)量極大。所以從場景來看，二者場景是有明確區(qū)隔的，按場景并存是比較好的選擇。 分布式存儲“避...

分布式存儲包含的種類繁多，除了傳統(tǒng)意義上的分布式文件系統(tǒng)、分布式塊存儲和分布式對象存儲外，還包括分布式數(shù)據(jù)庫和分布式緩存等，但其中架構(gòu)無外乎于三種；以Ceph為代biao的架構(gòu)是其典型的代biao。在該架構(gòu)中與HDFS不同的地方在于該架構(gòu)中沒有中心節(jié)點?？蛻舳耸峭ㄟ^一個設(shè)備映射關(guān)系計算出來其寫入數(shù)據(jù)的位置，這樣客戶端可以直接與存儲節(jié)點通信，從而避免中心節(jié)點的性能瓶頸。以Ceph為代biao的架構(gòu)是其典型的代biao。在該架構(gòu)中與HDFS不同的地方在于該架構(gòu)中沒有中心節(jié)點?？蛻舳耸峭ㄟ^一個設(shè)備映射關(guān)系計算出來其寫入數(shù)據(jù)的位置，這樣客戶端可以直接與存儲節(jié)點通信，從而避免中心節(jié)點的性能瓶頸。 分...

分布式存儲傳統(tǒng)數(shù)據(jù)存儲模型需要支持盡可能多的應(yīng)用，因此需要具備較好的通用性。大數(shù)據(jù)具有大規(guī)模、高動態(tài)及快速處理等特性，通用的數(shù)據(jù)存儲模型通常并不是能提高應(yīng)用性能的模型．而大數(shù)據(jù)存儲系統(tǒng)對上層應(yīng)用性能的關(guān)注遠遠超過對通用性的追求。針對應(yīng)用和負載來優(yōu)化存儲，就是將數(shù)據(jù)存儲與應(yīng)用耦合。簡化或擴展分布式文件系統(tǒng)的功能，根據(jù)特定應(yīng)用、特定負載、特定的計算模型對文件系統(tǒng)進行定制和深度優(yōu)化，使應(yīng)用達到比較好性能。這類優(yōu)化技術(shù)在谷歌、Facebook等互聯(lián)網(wǎng)公司的內(nèi)部存儲系統(tǒng)上，管理超過千萬億字節(jié)級別的大數(shù)據(jù)，能夠達到非常高的性能。 相較于傳統(tǒng)存儲黑盒子的管理方式，分布式存儲實現(xiàn)了標(biāo)準(zhǔn)硬件的交付，標(biāo)準(zhǔn)硬件...

很多人可能對分布式存儲耳熟能詳，但是，大多數(shù)人對其概念或者知識點卻了解得都過于分散，看了很多卻“只見樹木，不見森林”，學(xué)了很多往往只能“知其然，卻不能知其所以然”。因此，有必要對分布式存儲的概念、問題和矛盾進行一下分析和解讀。實際上，如果可能，應(yīng)該是盡量不使用分布式的，因為這會增加系統(tǒng)的復(fù)雜度和管理難度，然而，雖然是這樣，但這些終歸是可以通過其他技術(shù)來解決，而如果不使用分布式，系統(tǒng)的可用性、穩(wěn)定性都無法保證，更談不上系統(tǒng)的高性能了。因此，說分布式是被迫使用的，一點也不夸張。 分布式存儲在企業(yè)數(shù)據(jù)治理體系中，無疑扮演著重要角色。浙江大道云行分布式存儲原理 由于異常的存在，分布式存儲...

說到分布式存儲，我們可能都會聯(lián)想到軟件定義存儲（SoftwareDefinedStorage，即SDS）。代biao全球存儲廠商的權(quán)wei協(xié)會SNIA（全球網(wǎng)絡(luò)存儲工業(yè)協(xié)會）對SDS定義：軟件定義存儲包括管理面的標(biāo)準(zhǔn)接口和自動化，以及數(shù)據(jù)面Scale-out的塊、文件和對象存儲服務(wù)?；蛟S我們需要把鏡頭投向21世紀(jì)初期，Google提出分布式存儲架構(gòu)的概念并予以實踐，在其強大的技術(shù)和維護團隊支撐下，實現(xiàn)了基于在標(biāo)準(zhǔn)服務(wù)器上部署自研分布式存儲軟件，構(gòu)建成大規(guī)模存儲集群，以應(yīng)對其互聯(lián)網(wǎng)搜索業(yè)務(wù)帶來的海量數(shù)據(jù)流。 淺談分布式存儲中的網(wǎng)絡(luò)通信。江蘇什么是分布式存儲設(shè)備 面對海量數(shù)據(jù)的存儲需求，分布...

分布式云閃塊存儲系統(tǒng)將具有本地存儲資源的標(biāo)準(zhǔn)服務(wù)器硬件，用高速網(wǎng)絡(luò)連接，并通過分布式軟件，聚合多個物理機上的存儲空間并對外提供具有大帶寬、并行I/O、水平擴展、容錯以及強一致性的數(shù)據(jù)存儲系統(tǒng)，魏晉元興智能科技做為大道云行總代理,提供全國行業(yè)的分布式全閃塊存儲備份系統(tǒng)解決方案。分布式云閃塊存儲系統(tǒng)將具有本地存儲資源的標(biāo)準(zhǔn)服務(wù)器硬件，用高速網(wǎng)絡(luò)連接，并通過分布式軟件，聚合多個物理機上的存儲空間并對外提供具有大帶寬、并行I/O、水平擴展、容錯以及強一致性的數(shù)據(jù)存儲系統(tǒng)，魏晉元興智能科技做為大道云行總代理,提供全國行業(yè)的分布式全閃塊存儲備份系統(tǒng)解決方案。分布式云閃塊存儲系統(tǒng)將具有本地存儲資源的標(biāo)準(zhǔn)...

軟硬件解耦的分布式存儲在性能設(shè)計上存在兩大天然缺陷：標(biāo)準(zhǔn)服務(wù)器不具備機房突然斷電時保護內(nèi)存數(shù)據(jù)的電池（BBU），所以只能用SSD卡/盤來做數(shù)據(jù)緩存。SSD的時延遠高于內(nèi)存，導(dǎo)致業(yè)界絕大多數(shù)的軟硬解耦的分布式存儲時延無法和生產(chǎn)存儲媲美。單獨采購的分布式存儲軟件無法和第三方服務(wù)器的SSD盤緊密配合，從而無法像業(yè)界先進的全閃存存儲一樣實現(xiàn)全局垃圾回收，控制數(shù)量眾多的SSD盤各自的垃圾回收導(dǎo)致的生產(chǎn)應(yīng)用時延波動。軟硬件一體的分布式存儲有機會克服如上兩大缺陷。我們看到業(yè)界先進的分布式存儲產(chǎn)品，采用了類似于全閃存存儲的電池保護（BBU）、系統(tǒng)級全局垃圾回收，達到了媲美傳統(tǒng)生產(chǎn)存儲的高并發(fā)壓力下...

分布式存儲架構(gòu)由三個部分組成：客戶端、元數(shù)據(jù)服務(wù)器和數(shù)據(jù)服務(wù)器?？蛻舳素撠?zé)發(fā)送讀寫請求，緩存文件元數(shù)據(jù)和文件數(shù)據(jù)。元數(shù)據(jù)服務(wù)器負責(zé)管理元數(shù)據(jù)和處理客戶端的請求，是整個系統(tǒng)的核xin組件。數(shù)據(jù)服務(wù)器負責(zé)存放文件數(shù)據(jù)，保證數(shù)據(jù)的可用性和完整性。該架構(gòu)的好處是性能和容量能夠同時拓展，系統(tǒng)規(guī)模具有很強的伸縮性。分布式存儲分為文件存儲、對象存儲和塊存儲，但它們?nèi)N存儲方式的基本架構(gòu)都是大同小異的。即客戶端或應(yīng)用端、元數(shù)據(jù)（MDS）服務(wù)器和數(shù)據(jù)節(jié)點服務(wù)器。客戶端和元數(shù)據(jù)服務(wù)器之間交互是“信令交互”，而客戶端到數(shù)據(jù)節(jié)點是“媒體交互”。元數(shù)據(jù)服務(wù)器或通過數(shù)據(jù)節(jié)點服務(wù)器獲取各節(jié)點服務(wù)器的基本配置情況和狀態(tài)信...

分布式存儲包含的種類繁多，除了傳統(tǒng)意義上的分布式文件系統(tǒng)、分布式塊存儲和分布式對象存儲外，還包括分布式數(shù)據(jù)庫和分布式緩存等，但其中架構(gòu)無外乎于三種；以Ceph為代biao的架構(gòu)是其典型的代biao。在該架構(gòu)中與HDFS不同的地方在于該架構(gòu)中沒有中心節(jié)點?？蛻舳耸峭ㄟ^一個設(shè)備映射關(guān)系計算出來其寫入數(shù)據(jù)的位置，這樣客戶端可以直接與存儲節(jié)點通信，從而避免中心節(jié)點的性能瓶頸。以Ceph為代biao的架構(gòu)是其典型的代biao。在該架構(gòu)中與HDFS不同的地方在于該架構(gòu)中沒有中心節(jié)點?？蛻舳耸峭ㄟ^一個設(shè)備映射關(guān)系計算出來其寫入數(shù)據(jù)的位置，這樣客戶端可以直接與存儲節(jié)點通信，從而避免中心節(jié)點的性能瓶頸。 五...

在分布式存儲系統(tǒng)（包括OceanBase這樣的分布式數(shù)據(jù)庫）的使用中，我們經(jīng)常會提到“一致性”這個詞，但是這個術(shù)語在不同的系統(tǒng)、不同人的心目中有不同的內(nèi)涵，很容易造成混淆。想象一個簡單的存儲系統(tǒng)，只有一個客戶端（單進程）和一個服務(wù)端（單進程服務(wù)）。客戶端順序發(fā)起讀寫操作，服務(wù)端也順序處理每個請求，那么無論從服務(wù)器視角還是從客戶端視角，后一個操作都可以看到前一個操作的結(jié)果。然后，系統(tǒng)變的復(fù)雜一些，系統(tǒng)還是單個服務(wù)進程（單副本），但是有多個客戶端并發(fā)進行操作。這個模型下，多個客戶端的操作會互相影響，比如一個客戶端會讀到不是自己寫的數(shù)據(jù)（另一個客戶端寫入的）。一般單機并發(fā)程序就是這樣的模...

在分布式存儲的容災(zāi)中，一個重要的手段就是多時間點快照技術(shù)，使得用戶生產(chǎn)系統(tǒng)能夠?qū)崿F(xiàn)一定時間間隔下的各版本數(shù)據(jù)的保存。特別值得一提的是，多時間點快照技術(shù)支持同時提取多個時間點樣本同時恢復(fù)，這對于很多邏輯錯誤的災(zāi)難定位十分有用，如果用戶有多臺服務(wù)器或虛擬機可以用作系統(tǒng)恢復(fù)，通過比照和分析，可以快速找到哪個時間點才是需要回復(fù)的時間點，降低了故障定位的難度，縮短了定位時間。這個功能還非常有利于進行故障重現(xiàn)，從而進行分析和研究，避免災(zāi)難在未來再次發(fā)生。多副本技術(shù)，數(shù)據(jù)條帶化放置，多時間點快照和周期增量復(fù)制等技術(shù)為分布式存儲的高可靠性提供了保障。 布式存儲幫助企業(yè)打造智能化的數(shù)據(jù)治理平臺。蕪湖大規(guī)模分...

分布式存儲系統(tǒng)，是將數(shù)據(jù)分散存儲在多個du立的設(shè)備上。傳統(tǒng)的網(wǎng)絡(luò)存儲系統(tǒng)采用集中的存儲服務(wù)器存放所有數(shù)據(jù)，存儲服務(wù)器成為系統(tǒng)性能的瓶頸，也是可靠性和安全性的焦點，不能滿足大規(guī)模存儲應(yīng)用的需要。分布式網(wǎng)絡(luò)存儲系統(tǒng)采用可擴展的系統(tǒng)結(jié)構(gòu)，利用多臺存儲服務(wù)器分擔(dān)存儲負荷，利用位置服務(wù)器定位存儲信息，它不但提高了系統(tǒng)的可靠性、可用性和存取效率，還易于擴展。分布式存儲系統(tǒng)需要使用多臺服務(wù)器共同存儲數(shù)據(jù)，而隨著服務(wù)器數(shù)量的增加，服務(wù)器出現(xiàn)故障的概率也在不斷增加。為了保證在有服務(wù)器出現(xiàn)故障的情況下系統(tǒng)仍然可用。一般做法是把一個數(shù)據(jù)分成多份存儲在不同的服務(wù)器中。但是由于故障和并行存儲等情況的存在，同...

隨著網(wǎng)絡(luò)帶寬的高速增長，在軟件上的消耗已成為網(wǎng)絡(luò)性能的瓶頸，而通過繞過CPU實現(xiàn)高性能傳輸?shù)腞DMA網(wǎng)絡(luò)成為分布式存儲不錯的選擇。RDMA（RemoteDirectMemoryAccess），可以簡單理解為網(wǎng)卡完全繞過CPU實現(xiàn)兩個服務(wù)器之間的內(nèi)存數(shù)據(jù)交換。其作為一種硬件實現(xiàn)的網(wǎng)絡(luò)傳輸技術(shù)，可以大幅提升網(wǎng)絡(luò)傳輸效率，幫助網(wǎng)絡(luò)IO密集的業(yè)務(wù)（比如分布式存儲、分布式數(shù)據(jù)庫等）獲得更低的時延以及更高的吞吐。初的RDMA是實現(xiàn)在IB（Infiniband）上，由于其新的硬件技術(shù)棧成本比較高，主要用于HPC（高性能計算）等少數(shù)場景。而新的技術(shù)發(fā)展下，能夠?qū)崿F(xiàn)在以太網(wǎng)上使用RDMA。 分布式存儲的基本...

分布式存儲傳統(tǒng)數(shù)據(jù)存儲模型需要支持盡可能多的應(yīng)用，因此需要具備較好的通用性。大數(shù)據(jù)具有大規(guī)模、高動態(tài)及快速處理等特性，通用的數(shù)據(jù)存儲模型通常并不是能提高應(yīng)用性能的模型．而大數(shù)據(jù)存儲系統(tǒng)對上層應(yīng)用性能的關(guān)注遠遠超過對通用性的追求。針對應(yīng)用和負載來優(yōu)化存儲，就是將數(shù)據(jù)存儲與應(yīng)用耦合。簡化或擴展分布式文件系統(tǒng)的功能，根據(jù)特定應(yīng)用、特定負載、特定的計算模型對文件系統(tǒng)進行定制和深度優(yōu)化，使應(yīng)用達到比較好性能。這類優(yōu)化技術(shù)在谷歌、Facebook等互聯(lián)網(wǎng)公司的內(nèi)部存儲系統(tǒng)上，管理超過千萬億字節(jié)級別的大數(shù)據(jù)，能夠達到非常高的性能。 可以從兩方面來理解分布式存儲：用戶側(cè)和實現(xiàn)側(cè)。鹽城視頻分布式存儲哪家好 ...

什么是分布式存儲呢？如果一個存儲系統(tǒng)，不管是對象、塊、文件、kv、log、olap、oltp，只要對所管理的數(shù)據(jù)做了Partitioning&Replication，不管姿勢對不對，其實都可以歸納于分布式存儲。分布式存儲就是：Partitioning以多機scale，Replication以災(zāi)備容錯。復(fù)制是解決可用性，可擴展性和高性能的關(guān)鍵。為了災(zāi)備，數(shù)據(jù)需要冗余存儲；為了高可用，服務(wù)需要hotstandby。缺乏災(zāi)備的系統(tǒng)難以在生產(chǎn)環(huán)境使用。元數(shù)據(jù)和數(shù)據(jù)的維護均離不開復(fù)制，復(fù)制可轉(zhuǎn)移而不可消除。復(fù)制引出了多副本一致性問題，而一致性保證需要考慮各種軟件和硬件故障，以及誤操作。 分布式存儲是...

分布式存儲的重要性：從單機單用戶到單機多用戶，再到現(xiàn)在的網(wǎng)絡(luò)時代，應(yīng)用系統(tǒng)發(fā)生了很多的變化。而分布式系統(tǒng)依然是目前很熱門的討論話題，那么，分布式系統(tǒng)給我們帶來了什么，或者說是為什么要有分布式系統(tǒng)呢？（1）升級單機處理能力的性價比越來越低；企業(yè)發(fā)現(xiàn)通過更換硬件做垂直擴展的方式來提升性能會越來越不劃算；（2）單機處理能力存在瓶頸；某個固定時間點，單顆處理器有自己的性能瓶頸，也就說即使愿意花更多的錢去買計算能力也買不到了；（3）出于穩(wěn)定性和可用性的考慮如果采用單擊系統(tǒng)，那么在這臺機器正常的時候一切OK，一旦出問題，那么系統(tǒng)就完全不能用了。當(dāng)然，可以考慮做容災(zāi)備份等方案，而這些方案就會讓系...

Ceph：目前應(yīng)用廣的開源分布式存儲系統(tǒng)，已得到眾多廠商的支持，許多超融合系統(tǒng)的分布式存儲都是基于Ceph深度定制。而且Ceph已經(jīng)成為LINUX系統(tǒng)和OpenStack的“標(biāo)配”，用于支持各自的存儲系統(tǒng)。Ceph可以提供對象存儲、塊設(shè)備存儲和文件系統(tǒng)存儲服務(wù)。同時支持三種不同類型的存儲服務(wù)的特性，在分布式存儲系統(tǒng)中，是很少見的。a、Ceph沒有采用HDFS的元數(shù)據(jù)尋址的方案，而且采用CRUSH算法，數(shù)據(jù)分布均衡，并行度高。而且在支持塊存儲特性上，數(shù)據(jù)可以具有強一致性，可以獲得傳統(tǒng)集中式存儲的使用體驗。b、對象存儲服務(wù)，Ceph支持Swift和S3的API接口。在塊存儲方面，支持精...

分布式存儲早是由谷歌提出的，其目的是通過廉價的服務(wù)器來提供使用與大規(guī)模，高并發(fā)場景下的Web訪問問題。它采用可擴展的系統(tǒng)結(jié)構(gòu)，利用多臺存儲服務(wù)器分擔(dān)存儲負荷，利用位置服務(wù)器定位存儲信息，它不但提高了系統(tǒng)的可靠性、可用性和存取效率，還易于擴展。分布式存儲的興起與互聯(lián)網(wǎng)的發(fā)展密不可分，互聯(lián)網(wǎng)公司由于其數(shù)據(jù)量大而資本積累少，而通常都使用大規(guī)模分布式存儲系統(tǒng)。與傳統(tǒng)的高duan服務(wù)器、高duan存儲器和高duan處理器不同的是，互聯(lián)網(wǎng)公司的分布式存儲系統(tǒng)由數(shù)量眾多的、低成本和高性價比的普通PC服務(wù)器通過網(wǎng)絡(luò)連接而成。 布式存儲幫助企業(yè)打造智能化的數(shù)據(jù)治理平臺。杭州全閃塊分布式存儲有哪些 ...

與傳統(tǒng)的存儲架構(gòu)使用RAID模式來保證數(shù)據(jù)的可靠性不同，分布式存儲采用了多副本備份機制。在存儲數(shù)據(jù)之前，分布式存儲對數(shù)據(jù)進行了分片，分片后的數(shù)據(jù)按照一定的規(guī)則保存在集群節(jié)點上。為了保證多個數(shù)據(jù)副本之間的一致性，分布式存儲通常采用的是一個副本寫入，多個副本讀取的強一致性技術(shù)，使用鏡像、條帶、分布式校驗等方式滿足租戶對于可靠性不同的需求。在讀取數(shù)據(jù)失敗的時候，系統(tǒng)可以通過從其他副本讀取數(shù)據(jù)，重新寫入該副本進行恢復(fù)，從而保證副本的總數(shù)固定。當(dāng)數(shù)據(jù)長時間處于不一致狀態(tài)時，系統(tǒng)會自動數(shù)據(jù)重建恢復(fù)，同時租戶可設(shè)定數(shù)據(jù)恢復(fù)的帶寬規(guī)則，小化對業(yè)務(wù)的影響。 可以從兩方面來理解分布式存儲：用戶側(cè)和實現(xiàn)側(cè)。金華...

分布式存儲的興起與互聯(lián)網(wǎng)的發(fā)展密不可分，互聯(lián)網(wǎng)公司由于其數(shù)據(jù)量大而資本積累少，而通常都使用大規(guī)模分布式存儲系統(tǒng)。與傳統(tǒng)的高duan服務(wù)器、高duan存儲器和高duan處理器不同的是，互聯(lián)網(wǎng)公司的分布式存儲系統(tǒng)由數(shù)量眾多的、低成本和高性價比的普通PC服務(wù)器通過網(wǎng)絡(luò)連接而成。其主要原因有以下三點（1）互聯(lián)網(wǎng)的業(yè)務(wù)發(fā)展很快，而且注意成本消耗，這就使得存儲系統(tǒng)不能依靠傳統(tǒng)的縱向擴展的方式，即先買小型機，不夠時再買中型機，甚至大型機?；ヂ?lián)網(wǎng)后端的分布式系統(tǒng)要求支持橫向擴展，即通過增加普通PC服務(wù)器來提高系統(tǒng)的整體處理能力。（2）普通PC服務(wù)器性價比高，故障率也高，需要在軟件層面實現(xiàn)自動容錯，...

很多人可能從來沒有考慮過這個問題，為什么需要分布式存儲？實際上，使用分布式存儲是“被迫”的，因為隨著互聯(lián)網(wǎng)的飛速發(fā)展、應(yīng)用越來越豐富、用戶數(shù)量越來越多、數(shù)據(jù)也成幾何級增長，海量數(shù)據(jù)的存儲給本地存儲帶了巨大壓力，存儲系統(tǒng)已經(jīng)不堪重負，處于崩潰的邊緣，因此，必須通過其他手段分散存儲系統(tǒng)壓力，分布式存儲和分布式文件系統(tǒng)應(yīng)運而生。實際上，如果可能，應(yīng)該是盡量不使用分布式的，因為這會增加系統(tǒng)的復(fù)雜度和管理難度，然而，雖然是這樣，但這些終歸是可以通過其他技術(shù)來解決，而如果不使用分布式，系統(tǒng)的可用性、穩(wěn)定性都無法保證，更談不上系統(tǒng)的高性能了。因此，說分布式是被迫使用的，一點也不夸張。 分布式存儲系統(tǒng)通過...

自誕生以來，分布式存儲就被視為存儲的未來，被萬眾期待。然而分布式存儲起步于寒門，早應(yīng)用于互聯(lián)網(wǎng)日志、企業(yè)備份歸檔、開發(fā)測試等場景，追求極zhi成本，性能和可靠性卻不敢恭維。但它還算爭氣，憑借多年的打怪練級，越來越多地開始承載自動駕駛研發(fā)、超高清編輯、運營商5G網(wǎng)絡(luò)云等企業(yè)的關(guān)鍵業(yè)務(wù)，走上變成高富帥、贏取白富美的道路。正所謂人紅是非多，存儲領(lǐng)域也是一樣，坊間一直流傳著關(guān)于分布式存儲的各種流言蜚語。好事的筆者現(xiàn)今就來探尋一番，揭開謊言背后的真相。 如何保證分布式存儲系統(tǒng)的高性能與高可用性呢？寧波集中式分布式存儲 為了保證分布式存儲系統(tǒng)的高可靠和高可用，數(shù)據(jù)在系統(tǒng)中一般存儲多個副本。當(dāng)某個副本...

分布式存儲系統(tǒng)中的多臺服務(wù)器通過網(wǎng)絡(luò)進行連接。但是我們無法保證網(wǎng)絡(luò)是一直通暢的，分布式系統(tǒng)需要具有一定的容錯性來處理網(wǎng)絡(luò)故障帶來的問題。一個令人滿意的情況是，當(dāng)一個網(wǎng)絡(luò)因為故障而分解為多個部分的時候，分布式存儲系統(tǒng)仍然能夠工作。分布式存儲系統(tǒng)需要使用多臺服務(wù)器共同存儲數(shù)據(jù)，而隨著服務(wù)器數(shù)量的增加，服務(wù)器出現(xiàn)故障的概率也在不斷增加。為了保證在有服務(wù)器出現(xiàn)故障的情況下系統(tǒng)仍然可用。一般做法是把一個數(shù)據(jù)分成多份存儲在不同的服務(wù)器中。但是由于故障和并行存儲等情況的存在，同一個數(shù)據(jù)的多個副本之間可能存在不一致的情況。這里稱保證多個副本的數(shù)據(jù)完全一致的性質(zhì)為一致性。 分布式存儲與數(shù)據(jù)庫選型**整理分享...

分布式存儲的重要性：云存儲和大數(shù)據(jù)是構(gòu)建在分布式存儲之上的應(yīng)用。移動終端的計算能力和存儲空間有限，而且有在多個設(shè)備之間共享資源的強烈的需求，這就使得網(wǎng)盤、相冊等云存儲應(yīng)用很快流行起來。然而，萬變不離其宗，云存儲的核xin還是后端的大規(guī)模分布式存儲系統(tǒng)。大數(shù)據(jù)則更近一步，不僅需要存儲海量數(shù)據(jù)，還需要通過合適的計算框架或者工具對這些數(shù)據(jù)進行分析，抽取其中有價值的部分。如果沒有分布式存儲，便談不上對大數(shù)據(jù)進行分析。仔細分析還會發(fā)現(xiàn)，分布式存儲技術(shù)是互聯(lián)網(wǎng)后端架構(gòu)的神器，掌握了這項技能，以后理解其他技術(shù)的本質(zhì)會變得非常容易。 分布式存儲還能夠容忍服務(wù)器故障，存儲系統(tǒng)依然穩(wěn)定可用，可靠性更優(yōu)。安徽什...

隨著企業(yè)數(shù)字化轉(zhuǎn)型的深入，分布式存儲由初的開發(fā)測試、桌面云等非關(guān)鍵應(yīng)用，逐步走向生產(chǎn)應(yīng)用。生產(chǎn)應(yīng)用除了上述可靠性SLA要求之外，對分布式存儲的性能，尤其是數(shù)據(jù)訪問的穩(wěn)定低時延提出了更嚴苛的要求。軟硬件解耦的分布式存儲在性能設(shè)計上存在兩大天然缺陷：標(biāo)準(zhǔn)服務(wù)器不具備機房突然斷電時保護內(nèi)存數(shù)據(jù)的電池（BBU），所以只能用SSD卡/盤來做數(shù)據(jù)緩存。SSD的時延遠高于內(nèi)存，導(dǎo)致業(yè)界絕大多數(shù)的軟硬解耦的分布式存儲時延無法和生產(chǎn)存儲媲美。單獨采購的分布式存儲軟件無法和第三方服務(wù)器的SSD盤緊密配合，從而無法像業(yè)界先進的全閃存存儲一樣實現(xiàn)全局垃圾回收，控制數(shù)量眾多的SSD盤各自的垃圾回收導(dǎo)致的生產(chǎn)應(yīng)用時延...

為了保證分布式存儲系統(tǒng)的高可靠和高可用，數(shù)據(jù)在系統(tǒng)中一般存儲多個副本。當(dāng)某個副本所在的存儲節(jié)點出現(xiàn)故障時，分布式存儲系統(tǒng)能夠自動將服務(wù)切換到其他的副本，從而實現(xiàn)自動容錯。分布式存儲系統(tǒng)通過復(fù)制協(xié)議將數(shù)據(jù)同步到多個存儲節(jié)點，并確保多個副本之間的數(shù)據(jù)一致性?？蛻舳藢懻埱蟀l(fā)送給主副本，主副本將寫請求復(fù)制到其他備副本，常見的做法是同步操作日志（CommitLog）。主副本首先將操作日志同步到備副本，備副本回放操作日志，完成后通知主副本。接著，主副本修改本機，等到所有的操作都完成后再通知客戶端寫成功。下圖中的復(fù)制協(xié)議要求主備同步成功才可以返回客戶端寫成功，這種協(xié)議稱為強同步協(xié)議。 分布式存儲能夠?qū)?..

分布式存儲早是由谷歌提出的，其目的是通過廉價的服務(wù)器來提供使用與大規(guī)模，高并發(fā)場景下的Web訪問問題。它采用可擴展的系統(tǒng)結(jié)構(gòu)，利用多臺存儲服務(wù)器分擔(dān)存儲負荷，利用位置服務(wù)器定位存儲信息，它不但提高了系統(tǒng)的可靠性、可用性和存取效率，還易于擴展。分布式存儲的興起與互聯(lián)網(wǎng)的發(fā)展密不可分，互聯(lián)網(wǎng)公司由于其數(shù)據(jù)量大而資本積累少，而通常都使用大規(guī)模分布式存儲系統(tǒng)。與傳統(tǒng)的高duan服務(wù)器、高duan存儲器和高duan處理器不同的是，互聯(lián)網(wǎng)公司的分布式存儲系統(tǒng)由數(shù)量眾多的、低成本和高性價比的普通PC服務(wù)器通過網(wǎng)絡(luò)連接而成。 分布式存儲是未來數(shù)字產(chǎn)業(yè)生態(tài)系統(tǒng)構(gòu)建與新基建的重要引擎。南通全閃塊分布式存儲原理...

一般分布式存儲的MDC采用的是數(shù)據(jù)庫或內(nèi)存儲數(shù)據(jù)庫來記錄數(shù)據(jù)塊和物理位置關(guān)系。客戶端向MDC發(fā)出詢問位置的請求，MDC查詢數(shù)據(jù)庫后返回請求數(shù)據(jù)的存儲位置。這種方法存儲訪問的速度較慢，而且MDC作為交通的“樞紐”，是整個存儲的核xin，當(dāng)MDC發(fā)生故障，會導(dǎo)致整個存儲都不能使用。但是采取這個方式，也有好處，比如可以根據(jù)不同需求設(shè)置不同的副本策略等。對象存儲對象存儲是在同樣容量下提供的存儲性能比文件存儲更好，又能像文件存儲一樣有很好的共享性。實際使用中，性能不是對象存儲關(guān)注的問題，需要高性能可以用塊存儲，容量才是對象存儲關(guān)注的問題。所以對象存儲的持久化層的硬盤數(shù)量更多，單盤的容量也更大...