--- title: RDMA(紀見如) tags: Session TWO --- # Remote Direct Memory Access (RDMA) #### RDMA可以簡單理解利用相關的硬件和網路技術,服務器1的網卡可以直接讀寫服務器2的内存,最终達到高頻寬、低延遲和低資源利用率的效果 ### 特性 + 無需涉及遠端作業系統和 CPU + 更低的延遲、更低的 CPU 負載和更高的頻寬提高網路和主機性能 + TCP/IP 通信通常需要複製操作,這增加了延遲並消耗了大量 CPU 和記憶體資源。 + 允許網路中的計算機在主記憶體中交換數據,而無需涉及兩台電腦的處理器、緩存或操作系統 ### 益處 + low latency(低延遲) + high bandwidth(提高輸送量) + no unnecessary data copy ![](https://i.imgur.com/GQLsrHC.jpg) ![](https://i.imgur.com/WTH46pc.png) ### RoCE + 支援 RDMA 的網路協定 + 定義其在此類環境中的性能,使 RDMA 能夠通過乙太網網路實現 RDMA。 ![](https://i.imgur.com/AgTHoUI.png) ![](https://i.imgur.com/6ePKP3l.png) # GPUDirect + 通過直接將數據複製到/從固定的 GPU 記憶體中複製,避免不必要的系統記憶體副本和 CPU 開銷 + 使用 GPU 直接 RDMA,GPU 記憶體可用於遠端直接記憶體訪問 (RDMA),從而實現更高效的應用 ![](https://i.imgur.com/hJXU0ks.png) ![](https://i.imgur.com/Kol3t5i.png) + 測試 ![](https://i.imgur.com/C7fmbOe.png) ![](https://i.imgur.com/zzL7pCt.png) ![](https://i.imgur.com/2uQ0Xkp.png)