---
# System prepended metadata

title: RDMA(紀見如)
tags: [Session TWO]

---

---
title: RDMA(紀見如)
tags: Session TWO
---
# Remote Direct Memory Access (RDMA)
#### RDMA可以簡單理解利用相關的硬件和網路技術，服務器1的網卡可以直接讀寫服務器2的内存，最终達到高頻寬、低延遲和低資源利用率的效果

### 特性
 + 無需涉及遠端作業系統和 CPU
 + 更低的延遲、更低的 CPU 負載和更高的頻寬提高網路和主機性能
 + TCP/IP 通信通常需要複製操作，這增加了延遲並消耗了大量 CPU 和記憶體資源。
 + 允許網路中的計算機在主記憶體中交換數據，而無需涉及兩台電腦的處理器、緩存或操作系統

### 益處
+ low latency(低延遲)
+ high bandwidth(提高輸送量)
+ no unnecessary data copy 

![](https://i.imgur.com/GQLsrHC.jpg)
![](https://i.imgur.com/WTH46pc.png)


### RoCE

+ 支援 RDMA 的網路協定
+ 定義其在此類環境中的性能，使 RDMA 能夠通過乙太網網路實現 RDMA。

![](https://i.imgur.com/AgTHoUI.png)
![](https://i.imgur.com/6ePKP3l.png)

# GPUDirect
+ 通過直接將數據複製到/從固定的 GPU 記憶體中複製，避免不必要的系統記憶體副本和 CPU 開銷
+ 使用 GPU 直接 RDMA，GPU 記憶體可用於遠端直接記憶體訪問 （RDMA），從而實現更高效的應用

![](https://i.imgur.com/hJXU0ks.png)
![](https://i.imgur.com/Kol3t5i.png)

+ 測試
![](https://i.imgur.com/C7fmbOe.png)
![](https://i.imgur.com/zzL7pCt.png)
![](https://i.imgur.com/2uQ0Xkp.png)








