据悉,继此前正式公布新一代AI加速芯片 Gaudi 3 之后,英特尔拟另准备针对中国市场推出“特供版”Gaudi 3,包括名为HL-328的OAM相容夹层卡(Mezzanine Card )和名为HL-388的PCle加速卡两种硬件形态。
报道指出,英特尔在其Gaudi 3白皮书中披露了上述信息,其中HL-328将于6月24日推出,HL-388将于9月24日推出。根据英特尔公布的资料显示,Gaudi 3在FP16/BF16上可以达到1835 TFLOPS,相比英伟达H100在大模型训练方面快40%、推理能效高50%。
具体硬件规格方面,中国特供版的Gaudi 3与原版相比,具有相同的96MB SRAM片上存储,128GB HBM2e高带宽存储,带宽为3.7TB/s,拥有PCIe 5.0 x16介面和解码标准。但由于美国对于AI芯片的出口管制规则限制,使得这类高性能AI的综合运算性能(TPP)需要低于4800才能出口到中国,这意味中国特供版的Gaudi 3的16bit性能不能超过150 TFLOPS。
显然,中国特供版的Gaudi 3 需要大幅降低AI性能,才能合规出口到中国。因此中国特供版Gaudi 3 需要大幅削减内核数量(原版拥有8个矩阵数学引擎和64个张量内核)和工作频率,最终可能需要其AI性能降低约92%才能符合美国的出口管制要求。
由于中国特供版Gaudi 3 AI性能的降低,这也将使得其TDP(热设计功耗)大幅降低。根据曝光的资料显示,中国特供版Gaudi 3的OAM卡和PCIe卡的TDP均为450瓦,而原版PCIe卡(HL-338)的TDP高达600瓦,原版OAM卡(HL-325L、HL-335)的TDP更是高达900瓦。
可以预见的是,英特尔专为中国市场推出的“特供版”Gaudi 3的OAM兼容夹层卡(HL-328)和PCle加速卡(HL-388)的AI性能将会与英伟达针对中国市场推出的AI加速卡H20相当,它具有 148 TFLOPS 的 FP16/ BF16 性能,略低于 150 TFLOPS 的限制。但是,在HBM容量及带宽上,英特尔中国特供版Gaudi 3将低于英伟达H20,这也使得其在与英伟达H20的竞争当中可能将处于劣势,当然具体也要看定价是否有优势。
在线留言询价
型号 | 品牌 | 询价 |
---|---|---|
MC33074DR2G | onsemi | |
RB751G-40T2R | ROHM Semiconductor | |
CDZVT2R20B | ROHM Semiconductor | |
TL431ACLPR | Texas Instruments | |
BD71847AMWV-E2 | ROHM Semiconductor |
型号 | 品牌 | 抢购 |
---|---|---|
BU33JA2MNVX-CTL | ROHM Semiconductor | |
STM32F429IGT6 | STMicroelectronics | |
IPZ40N04S5L4R8ATMA1 | Infineon Technologies | |
TPS63050YFFR | Texas Instruments | |
ESR03EZPJ151 | ROHM Semiconductor | |
BP3621 | ROHM Semiconductor |
AMEYA360公众号二维码
识别二维码,即可关注