--- title: In-Network Aggregation and Reduction Protocal (羅君瑜) tags: Session TWO --- # Scalable Hierarchical Aggregation and Reduction Protocol (SHARP) ## Introduction 可擴展分層聚合和縮減協定 * SHARP技術是 In-Network computing 的主要元素之一。 ![](https://i.imgur.com/FisTc96.png) * 每個 Host 都連接 Switch,這些 Switch 又連接著其他層的 Switch。 * 有更多的 Host ,需要更多的 Switch ,也需要更多層,同時也會增加延遲。 ![](https://i.imgur.com/oTRx2W0.png) * Switch 可在資料經過網路時聚合數據 * 減少穿越網路的資料量 * 它會減少延遲,因為數據會通過更短的路徑 * 釋放CPU/GPU,操作會被完全的Offloaded ## Switch 交換器 * 是一種網路硬體負責傳遞網路封包,通過 Messages switching(數據交換的方式之一) 接收和轉發資料到目標裝置,它能夠在電腦網路上連接不同的裝置。 * 可以想像交換器就像是控制器,讓連上網路的裝置能夠有效率地相互通訊。 * Mellanox 提供的交換器,並透過 Mellanox SHARP 技術啟用網路內運算 ![](https://i.imgur.com/7jujmme.png) ![](https://i.imgur.com/0wFCQex.png) ## Advantages * Software VS SHARP 的延遲 ![](https://i.imgur.com/F9Acjqn.png) ![](https://i.imgur.com/PRAIc4B.png) ![](https://i.imgur.com/BQnbsqw.png) * Infiniband SHARP * 增加系統性能 * 更好的可擴展性 * 減少大量資料橫跨網路 (Infiniband - 超級電腦常用的互聯技術,用於HPC的computer network communicating standard,具有極高的流通量和極低的延遲。) ![](https://i.imgur.com/31CUOYo.png) ![](https://i.imgur.com/L9qPn2w.png)