基于RDMA的高性能分布式文件存儲


RDMA是一種直接內(nèi)存訪問技術(shù),它將數(shù)據(jù)直接從一臺計(jì)算機(jī)的內(nèi)存?zhèn)鬏數(shù)搅硪慌_計(jì)算機(jī),無需雙方操作系統(tǒng)的介入。RDMA最早在Infiniband傳輸網(wǎng)絡(luò)上實(shí)現(xiàn),后來業(yè)界廠家把RDMA移植到傳統(tǒng)Ethernet以太網(wǎng)上,降低了RDMA的使用成本,推動RDMA技術(shù)普及。
然而,在Ethernet以太網(wǎng)上,根據(jù)協(xié)議棧融合度的差異,分為iWARP和RoCE兩種技術(shù),而RoCE又包括RoCEv1和RoCEv2兩個版本(RoCEv2的最大改進(jìn)是支持IP路由)。
隨著高性能計(jì)算、大數(shù)據(jù)分析、人工智能以及物聯(lián)網(wǎng)等技術(shù)的飛速發(fā)展,集中式存儲、分布式存儲以及云數(shù)據(jù)庫的普及等原因,業(yè)務(wù)應(yīng)用有越來越多的數(shù)據(jù)需要從網(wǎng)絡(luò)中獲取,這對數(shù)據(jù)中心網(wǎng)絡(luò)的交換速度和性能要求越來越高。
傳統(tǒng)的 TCP/IP 軟硬件架構(gòu)及應(yīng)用存在著網(wǎng)絡(luò)傳輸和數(shù)據(jù)處理的延遲過大、存在多次數(shù)據(jù)拷貝和中斷處理、復(fù)雜的 TCP/IP 協(xié)議處理等問題。RDMA(Remote Direct Memory Access,遠(yuǎn)程直接內(nèi)存訪問)是一種為了解決網(wǎng)絡(luò)傳輸中服務(wù)器端數(shù)據(jù)處理延遲而產(chǎn)生的技術(shù)。
RDMA 將用戶應(yīng)用中的數(shù)據(jù)直接傳入服務(wù)器的存儲區(qū),通過網(wǎng)絡(luò)將數(shù)據(jù)從一個系統(tǒng)快速傳輸?shù)竭h(yuǎn)程系統(tǒng)的存儲器中,消除了傳輸過程中多次數(shù)據(jù)復(fù)制和文本交換的操作,降低了 CPU 的負(fù)載。RDMA技術(shù)的原理及其與TCP/IP架構(gòu)的對比如下圖所示。

RDMA 技術(shù)實(shí)現(xiàn)了在網(wǎng)絡(luò)傳輸過程中兩個節(jié)點(diǎn)之間數(shù)據(jù)緩沖區(qū)數(shù)據(jù)的直接傳遞,在本節(jié)點(diǎn)可以直接將數(shù)據(jù)通過網(wǎng)絡(luò)傳送到遠(yuǎn)程節(jié)點(diǎn)的內(nèi)存中,繞過操作系統(tǒng)內(nèi)的多次內(nèi)存拷貝,相比于傳統(tǒng)的網(wǎng)絡(luò)傳輸,RDMA 無需操作系統(tǒng)和TCP/IP 協(xié)議的介入,可以輕易的實(shí)現(xiàn)超低延時的數(shù)據(jù)處理、超高吞吐量傳輸,不需要遠(yuǎn)程節(jié)點(diǎn) CPU 等資源的介入,不必因?yàn)閿?shù)據(jù)的處理和遷移耗費(fèi)過多的資源。
本文重點(diǎn)介紹<基于RDMA的高性能分布式文件存儲>,全文下載鏈接:基于RDMA的高性能分布式文件存儲。

















1、超算現(xiàn)狀及報告
2、程序自動并行化與二進(jìn)制翻譯技術(shù)
3、高性能計(jì)算分析
4、面向眾核系統(tǒng)的編譯優(yōu)化
5、中國超算產(chǎn)業(yè)發(fā)展現(xiàn)狀分析
6、阿里云彈性高性能計(jì)算
7、超級計(jì)算的應(yīng)用挑戰(zhàn)
8、基于CPU GPU異構(gòu)平臺的第一性原理密度泛函理論高性能計(jì)算
9、基于RDMA的高性能分布式文件存儲
10、基于GPU加速的矩陣離散元方法原理與實(shí)現(xiàn)
1、超級計(jì)算的應(yīng)用挑戰(zhàn)
2、超級計(jì)算機(jī)研究報告
3、超算現(xiàn)狀及報告
4、高性能計(jì)算分析
5、中國超算產(chǎn)業(yè)發(fā)展現(xiàn)狀分析
6、高性能計(jì)算現(xiàn)狀和未來

免責(zé)申明:本號聚焦相關(guān)技術(shù)分享,內(nèi)容觀點(diǎn)不代表本號立場,可追溯內(nèi)容均注明來源,發(fā)布文章若存在版權(quán)等問題,請留言聯(lián)系刪除,謝謝。
電子書<服務(wù)器基礎(chǔ)知識全解(終極版)>更新完畢,知識點(diǎn)深度講解,提供182頁完整版下載。
獲取方式:點(diǎn)擊“閱讀原文”即可查看PPT可編輯版本和PDF閱讀版本詳情。
溫馨提示:
請搜索“AI_Architect”或“掃碼”關(guān)注公眾號實(shí)時掌握深度技術(shù)分享,點(diǎn)擊“閱讀原文”獲取更多原創(chuàng)技術(shù)干貨。

