大模型與生成式AI應用的快速發展,持續推升高性能計算需求。面對日益復雜的大規模訓練與推理任務,GPU服務器作為核心基礎設施,正向更高性能與更優能效加速演進。安擎新一代6U GPU服務器EG8621G4應勢而生,以突破性硬件架構為高負載AI計算提供堅實底座。
圖1-1:EG8621G4后置8 GPU配置
EG8621G4是安擎自主研發的新一代6U高密度GPU服務器。基于Intel Eagle Stream平臺,支持搭載兩顆英特爾?至強?第四代或第五代可擴展處理器(最高TDP 385W)。服務器提供16個內存通道,最多可配置32條DDR5內存。通過直通拓撲設計,最大支持11個標準PCIe 5.0擴展插槽,兼容多種形態的新一代600W高性能GPU。EG8621G4集卓越算力、極致擴展性與靈活部署能力于一身,為AI云計算、深度學習、AIGC、視頻加速等高性能AI業務場景提供堅實的硬件基礎。
圖1-2:EG8621G4前置4 GPU+后置4 GPU配置
豐富擴展,靈活適配
GPU支持: 模組化設計靈活搭配不同寬度的加速卡,最大支持8塊雙槽位或4槽位的最新600W功耗GPU。
存儲靈活: 提供多種存儲配置選項,前置可選支持8/16/24個2.5英寸熱插拔硬盤 或 12個3.5英寸熱插拔硬盤;后置可選支持4/6個2.5英寸熱插拔硬盤(搭配4槽位GPU)。
靈活拓撲,高效互聯
高速擴展能力:采用直通拓撲設計,可配置 9至11個標準PCIe 5.0擴展插槽。
模組化兼容設計: 搭配4槽位GPU時,其中最多5個PCIe 5.0插槽可靈活調整為前置。
澎湃性能,多元適配
異構計算支持: 適配多種高性能GPU,提供強大的計算能力,滿足訓練、推理等多樣化AI應用需求。
智能網絡擴展: 提供多種網卡選配方案,支持擴展智能網卡,滿足智算云平臺對高效網絡傳輸的要求。
同時,EG8621G4服務器在算力、通信效率、功耗控制與系統可靠性方面實現顯著提升,為高負載計算場景提供堅實基礎:
高密度算力: 搭載8塊主流GPU加速卡,提供3.35P FLOPS FP16算力(Tensor核心加速)及256GB GDDR7顯存,滿足百億參數模型的推理需求。
通信加速: 深度優化NCCL性能,實測alltoall_perf busbw總線帶寬達37.5 GB/s(較上一代主流GPU提升98%),allreduce_perf busbw總線帶寬達41.1 GB/s(提升90%),還在持續優化中。
智能功耗管理: BMC支持依據環境溫度與GPU負載動態調節風扇轉速,在確保GPU穩定運行的同時,有效降低整機功耗與TCO。
增強可靠性: 每路GPU供電配備獨立Efuse芯片,可在供電線路異常時實現毫秒級響應并精準切斷對應GPU電源。
產品規格