常州什么是分布式存儲的一般架構

來源: 發(fā)布時間:2022-01-13

與傳統(tǒng)的存儲架構使用RAID模式來保證數(shù)據(jù)的可靠性不同,分布式存儲采用了多副本備份機制。在存儲數(shù)據(jù)之前,分布式存儲對數(shù)據(jù)進行了分片,分片后的數(shù)據(jù)按照一定的規(guī)則保存在集群節(jié)點上。為了保證多個數(shù)據(jù)副本之間的一致性,分布式存儲通常采用的是一個副本寫入,多個副本讀取的強一致性技術,使用鏡像、條帶、分布式校驗等方式滿足租戶對于可靠性不同的需求。在讀取數(shù)據(jù)失敗的時候,系統(tǒng)可以通過從其他副本讀取數(shù)據(jù),重新寫入該副本進行恢復,從而保證副本的總數(shù)固定。當數(shù)據(jù)長時間處于不一致狀態(tài)時,系統(tǒng)會自動數(shù)據(jù)重建恢復,同時租戶可設定數(shù)據(jù)恢復的帶寬規(guī)則,小化對業(yè)務的影響。 分布式存儲還能夠容忍服務器故障,存儲系統(tǒng)依然穩(wěn)定可用,可靠性更優(yōu)。常州什么是分布式存儲的一般架構

分布式存儲分為文件存儲、對象存儲和塊存儲,但它們三種存儲方式的基本架構都是大同小異的。即客戶端或應用端、元數(shù)據(jù)(MDS)服務器和數(shù)據(jù)節(jié)點服務器。客戶端和元數(shù)據(jù)服務器之間交互是“信令交互”,而客戶端到數(shù)據(jù)節(jié)點是“媒體交互”。元數(shù)據(jù)服務器或通過數(shù)據(jù)節(jié)點服務器獲取各節(jié)點服務器的基本配置情況和狀態(tài)信息。比如,客戶端需要讀取某一個文件的信息,客戶端會將相應的要求發(fā)給元數(shù)據(jù)服務器:“喂!我需要XXX,存在哪里了”,元數(shù)據(jù)服務器查詢后回答“你到xxx服務器的xxx地址+xxx服務器的xxx地址取”。客戶端拿到這個指示后,向這2臺服務器發(fā)出指令,數(shù)據(jù)節(jié)點獲得指令后,將相應的數(shù)據(jù)返回給客戶端。 衢州分布式存儲哪家好布式存儲幫助企業(yè)打造智能化的數(shù)據(jù)治理平臺。

在分布式存儲的容災中,一個重要的手段就是多時間點快照技術,使得用戶生產(chǎn)系統(tǒng)能夠實現(xiàn)一定時間間隔下的各版本數(shù)據(jù)的保存。特別值得一提的是,多時間點快照技術支持同時提取多個時間點樣本同時恢復,這對于很多邏輯錯誤的災難定位十分有用,如果用戶有多臺服務器或虛擬機可以用作系統(tǒng)恢復,通過比照和分析,可以快速找到哪個時間點才是需要回復的時間點,降低了故障定位的難度,縮短了定位時間。這個功能還非常有利于進行故障重現(xiàn),從而進行分析和研究,避免災難在未來再次發(fā)生。多副本技術,數(shù)據(jù)條帶化放置,多時間點快照和周期增量復制等技術為分布式存儲的高可靠性提供了保障。

    由于異常的存在,分布式存儲系統(tǒng)設計時往往會將數(shù)據(jù)冗余存儲多份,每一份稱為一個副本)。這樣,當某一個節(jié)點出現(xiàn)故障時,可以從其他副本上讀到數(shù)據(jù)??梢赃@么認為,副本是分布式存儲系統(tǒng)容錯技術的手段。由于多個副本的存在,如何保證副本之間的一致性是整個分布式系統(tǒng)的理論核xin。數(shù)據(jù)一致性這個單詞在平常開發(fā)中,或者各種文章中都能經(jīng)常看見,我們常常聽見什么東西數(shù)據(jù)不一致了,造成了一定的損失,趕快修復一下。那有幾種一致性呢?a、時間一致性:要求所有數(shù)據(jù)組件的數(shù)據(jù)在任意時刻都是完全一致的;b、事物一致性:事務一致性只能存在在事務開始前的和事務完成之后,在事務過程中數(shù)據(jù)有可能不一致,比如A轉100元給B,A扣減100,B加上100,在事務開始前和事務完成之后都能保證他們的帳是對上的,那么這就是事務一致性。但是在事務過程中有可能會出現(xiàn)A扣減了100元,B沒有加上100元的情況,這就是不一致c、在應用程序中涉及多個不同的單機事務,只有在所有的單機事務完成之前和完成之后,數(shù)據(jù)是完全一致的。 可以從兩方面來理解分布式存儲:用戶側和實現(xiàn)側。

隨著網(wǎng)絡帶寬的高速增長,在軟件上的消耗已成為網(wǎng)絡性能的瓶頸,而通過繞過CPU實現(xiàn)高性能傳輸?shù)腞DMA網(wǎng)絡成為分布式存儲不錯的選擇。RDMA(RemoteDirectMemoryAccess),可以簡單理解為網(wǎng)卡完全繞過CPU實現(xiàn)兩個服務器之間的內存數(shù)據(jù)交換。其作為一種硬件實現(xiàn)的網(wǎng)絡傳輸技術,可以大幅提升網(wǎng)絡傳輸效率,幫助網(wǎng)絡IO密集的業(yè)務(比如分布式存儲、分布式數(shù)據(jù)庫等)獲得更低的時延以及更高的吞吐。初的RDMA是實現(xiàn)在IB(Infiniband)上,由于其新的硬件技術棧成本比較高,主要用于HPC(高性能計算)等少數(shù)場景。而新的技術發(fā)展下,能夠實現(xiàn)在以太網(wǎng)上使用RDMA。 五大主流分布式存儲技術對比分析,你 pick 哪一種?連云港集中式分布式存儲技術有哪些

分布式存儲系統(tǒng),分布式存儲架構及原理。常州什么是分布式存儲的一般架構

隨著企業(yè)數(shù)字化轉型的深入,分布式存儲由初的開發(fā)測試、桌面云等非關鍵應用,逐步走向生產(chǎn)應用。生產(chǎn)應用除了上述可靠性SLA要求之外,對分布式存儲的性能,尤其是數(shù)據(jù)訪問的穩(wěn)定低時延提出了更嚴苛的要求。軟硬件解耦的分布式存儲在性能設計上存在兩大天然缺陷:標準服務器不具備機房突然斷電時保護內存數(shù)據(jù)的電池(BBU),所以只能用SSD卡/盤來做數(shù)據(jù)緩存。SSD的時延遠高于內存,導致業(yè)界絕大多數(shù)的軟硬解耦的分布式存儲時延無法和生產(chǎn)存儲媲美。單獨采購的分布式存儲軟件無法和第三方服務器的SSD盤緊密配合,從而無法像業(yè)界先進的全閃存存儲一樣實現(xiàn)全局垃圾回收,控制數(shù)量眾多的SSD盤各自的垃圾回收導致的生產(chǎn)應用時延波動。 常州什么是分布式存儲的一般架構

江蘇魏晉元興智能科技有限公司致力于數(shù)碼、電腦,是一家貿(mào)易型的公司。魏晉元興智能致力于為客戶提供良好的網(wǎng)絡安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門禁失控制,一切以用戶需求為中心,深受廣大客戶的歡迎。公司從事數(shù)碼、電腦多年,有著創(chuàng)新的設計、強大的技術,還有一批**的專業(yè)化的隊伍,確保為客戶提供良好的產(chǎn)品及服務。在社會各界的鼎力支持下,持續(xù)創(chuàng)新,不斷鑄造***服務體驗,為客戶成功提供堅實有力的支持。