寧波魏晉元興分布式存儲架構(gòu)實戰(zhàn)

來源: 發(fā)布時間:2021-12-02

在分布式存儲的容災(zāi)中,一個重要的手段就是多時間點快照技術(shù),使得用戶生產(chǎn)系統(tǒng)能夠?qū)崿F(xiàn)一定時間間隔下的各版本數(shù)據(jù)的保存。特別值得一提的是,多時間點快照技術(shù)支持同時提取多個時間點樣本同時恢復(fù),這對于很多邏輯錯誤的災(zāi)難定位十分有用,如果用戶有多臺服務(wù)器或虛擬機可以用作系統(tǒng)恢復(fù),通過比照和分析,可以快速找到哪個時間點才是需要回復(fù)的時間點,降低了故障定位的難度,縮短了定位時間。這個功能還非常有利于進行故障重現(xiàn),從而進行分析和研究,避免災(zāi)難在未來再次發(fā)生。多副本技術(shù),數(shù)據(jù)條帶化放置,多時間點快照和周期增量復(fù)制等技術(shù)為分布式存儲的高可靠性提供了保障。 淺談分布式存儲中的網(wǎng)絡(luò)通信。寧波魏晉元興分布式存儲架構(gòu)實戰(zhàn)

在整個結(jié)構(gòu)中,機頭中是整個分布式存儲系統(tǒng)的核xin部件,整個存儲系統(tǒng)的高級功能都在其中實現(xiàn)??刂破髦械能浖崿F(xiàn)對磁盤的管理,將磁盤抽象化為存儲資源池,然后劃分為LUN提供給服務(wù)器使用。這里的LUN其實就是在服務(wù)器上看到的磁盤。當(dāng)然,一些集中式存儲本身也是文件服務(wù)器,可以提供共享文件服務(wù)。無論如何,從上面我們可以看出集中式存儲比較大的特點是有一個統(tǒng)一的入口,所有數(shù)據(jù)都要經(jīng)過這個入口,這個入口就是存儲系統(tǒng)的機頭。這也就是集中式存儲區(qū)別于分布式存儲明顯的特點。 浙江聯(lián)想分布式存儲的一般架構(gòu)分布式存儲在數(shù)據(jù)治理過程中的定位。

自誕生以來,分布式存儲就被視為存儲的未來,被萬眾期待。然而分布式存儲起步于寒門,早應(yīng)用于互聯(lián)網(wǎng)日志、企業(yè)備份歸檔、開發(fā)測試等場景,追求極zhi成本,性能和可靠性卻不敢恭維。但它還算爭氣,憑借多年的打怪練級,越來越多地開始承載自動駕駛研發(fā)、超高清編輯、運營商5G網(wǎng)絡(luò)云等企業(yè)的關(guān)鍵業(yè)務(wù),走上變成高富帥、贏取白富美的道路。正所謂人紅是非多,存儲領(lǐng)域也是一樣,坊間一直流傳著關(guān)于分布式存儲的各種流言蜚語。好事的筆者現(xiàn)今就來探尋一番,揭開謊言背后的真相。

分布式存儲是一種數(shù)據(jù)存儲技術(shù),通過網(wǎng)絡(luò)使用企業(yè)中的每臺機器上的磁盤空間,并將這些分散的存儲資源構(gòu)成一個虛擬的存儲設(shè)備,數(shù)據(jù)分散的存儲在企業(yè)的各個角落。分布式存儲系統(tǒng),是將數(shù)據(jù)分散存儲在多個du立的設(shè)備上。傳統(tǒng)的網(wǎng)絡(luò)存儲系統(tǒng)采用集中的存儲服務(wù)器存放所有數(shù)據(jù),存儲服務(wù)器成為系統(tǒng)性能的瓶頸,也是可靠性和安全性的焦點,不能滿足大規(guī)模存儲應(yīng)用的需要。分布式網(wǎng)絡(luò)存儲系統(tǒng)采用可擴展的系統(tǒng)結(jié)構(gòu),利用多臺存儲服務(wù)器分擔(dān)存儲負荷,利用位置服務(wù)器定位存儲信息,它不但提高了系統(tǒng)的可靠性、可用性和存取效率,還易于擴展。 對于保證分布式存儲系統(tǒng)的高可靠和高可用,數(shù)據(jù)在系統(tǒng)中一般存儲多個副本。

    Ceph:目前應(yīng)用廣的開源分布式存儲系統(tǒng),已得到眾多廠商的支持,許多超融合系統(tǒng)的分布式存儲都是基于Ceph深度定制。而且Ceph已經(jīng)成為LINUX系統(tǒng)和OpenStack的“標(biāo)配”,用于支持各自的存儲系統(tǒng)。Ceph可以提供對象存儲、塊設(shè)備存儲和文件系統(tǒng)存儲服務(wù)。同時支持三種不同類型的存儲服務(wù)的特性,在分布式存儲系統(tǒng)中,是很少見的。a、Ceph沒有采用HDFS的元數(shù)據(jù)尋址的方案,而且采用CRUSH算法,數(shù)據(jù)分布均衡,并行度高。而且在支持塊存儲特性上,數(shù)據(jù)可以具有強一致性,可以獲得傳統(tǒng)集中式存儲的使用體驗。b、對象存儲服務(wù),Ceph支持Swift和S3的API接口。在塊存儲方面,支持精簡配置、快照、克隆。在文件系統(tǒng)存儲服務(wù)方面,支持Posix接口,支持快照。但是目前Ceph支持文件的性能相當(dāng)其他分布式存儲系統(tǒng),部署稍顯復(fù)雜,性能也稍弱,一般都將Ceph應(yīng)用于塊和對象存儲。c、Ceph是去中心化的分布式解決方案,需要提前做好規(guī)劃設(shè)計,對技術(shù)團隊的要求能力比較高。特別是在Ceph擴容時,由于其數(shù)據(jù)分布均衡的特性。 可以從兩方面來理解分布式存儲:用戶側(cè)和實現(xiàn)側(cè)。徐州數(shù)據(jù)分布式存儲系統(tǒng)原理

萬萬沒想到,分布式存儲系統(tǒng)的一致性是......!寧波魏晉元興分布式存儲架構(gòu)實戰(zhàn)

隨著企業(yè)數(shù)字化轉(zhuǎn)型的深入,分布式存儲由初的開發(fā)測試、桌面云等非關(guān)鍵應(yīng)用,逐步走向生產(chǎn)應(yīng)用。生產(chǎn)應(yīng)用除了上述可靠性SLA要求之外,對分布式存儲的性能,尤其是數(shù)據(jù)訪問的穩(wěn)定低時延提出了更嚴(yán)苛的要求。軟硬件解耦的分布式存儲在性能設(shè)計上存在兩大天然缺陷:標(biāo)準(zhǔn)服務(wù)器不具備機房突然斷電時保護內(nèi)存數(shù)據(jù)的電池(BBU),所以只能用SSD卡/盤來做數(shù)據(jù)緩存。SSD的時延遠高于內(nèi)存,導(dǎo)致業(yè)界絕大多數(shù)的軟硬解耦的分布式存儲時延無法和生產(chǎn)存儲媲美。單獨采購的分布式存儲軟件無法和第三方服務(wù)器的SSD盤緊密配合,從而無法像業(yè)界先進的全閃存存儲一樣實現(xiàn)全局垃圾回收,控制數(shù)量眾多的SSD盤各自的垃圾回收導(dǎo)致的生產(chǎn)應(yīng)用時延波動。 寧波魏晉元興分布式存儲架構(gòu)實戰(zhàn)

江蘇魏晉元興智能科技有限公司致力于數(shù)碼、電腦,是一家貿(mào)易型的公司。公司業(yè)務(wù)分為網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門禁失控制等,目前不斷進行創(chuàng)新和服務(wù)改進,為客戶提供良好的產(chǎn)品和服務(wù)。公司從事數(shù)碼、電腦多年,有著創(chuàng)新的設(shè)計、強大的技術(shù),還有一批**的專業(yè)化的隊伍,確保為客戶提供良好的產(chǎn)品及服務(wù)。在社會各界的鼎力支持下,持續(xù)創(chuàng)新,不斷鑄造***服務(wù)體驗,為客戶成功提供堅實有力的支持。