lpu演算法原理

IPU是一種可程式網路裝置，旨在使雲和通訊服務提供商減少在中央處理器 (CPU) 方面的開銷，並充分釋放效能價值。利用 IPU，客戶能夠部署安全穩定且可程式的解決方案，從而更好地利用資源，平衡資料處理與儲存的工作負載。

IPU裡面有1216個核，我們稱之為Tile，每個Tile裡都有計算單元和記憶體。由於同時有上千個處理器工作，所以單個IPU的儲存頻寬能達到45TB，比效能最快的HBM提升了50倍以上，在相同算力下，功耗也降低了一半。