(資料圖片僅供參考)
本周二,AMD在數據中心與AI技術首映式上展示了最新Instinct MI300X GPU。AMD在主題演講中并未透露更多細節。然而,Hoang Anh Phu稍后發現MI300X(192 GB HBM3,OAM模塊)的總功耗(TBP)為750W,而其上一代MI250X的TBP僅為500-560W。
MI300X是一款純GPU版本,采用AMD CDNA 3技術,使用高達192GB的HBM3高帶寬內存來加速大型語言模型和生成式AI計算。MI300X及其CDNA架構專為處理大型語言模型和其他先進AI模型而設計,將12個5nm chiplets封裝在一起,共有1530億顆晶體管。這款全新的AI芯片放棄了APU的24個Zen內核和I/O芯片,轉而采用更多的CDNA 3 GPU和更大的192GB HBM3,提供5.2TB/s的內存帶寬和896GB/s的無限帶寬。
關鍵詞: