英伟达针对AI市场推出双GPU产品 H100 NVL

发布时间：2023-03-23 09:59
作者：AMEYA360
来源：网络
阅读量：2010

　　据最新报道，英伟达在 GTC Spring 2023 主题演讲中，针对不断增长的 AI 市场，推出了全新的双 GPU 产品 H100 NVL。H100 NVL 在顶部配备了 3 个 NVLink 连接器，使用两个相邻的 PCIe 显卡插槽。

英伟达针对AI市场推出双GPU产品 H100 NVL

　　英伟达表示在运行大型语言模型（LLM）时，常规显卡的显存无法驾驭庞大的数据流。因此本次推出的 H100 NVL 最高可以提供 188GB HBM3 显存，单卡显存容量 94GB。

　　的功耗略高于 H100 PCIe，每个 GPU 为 350-400 瓦（可配置），增加了 50W。总性能实际上是 H100 SXM 的两倍：FP64 为 134 teraflops，TF32 为 1979 teraflops，FP8 为 7916 teraflops，INT8 为 7916 teraops。

　　内存带宽也比 H100 PCIe 高很多，每个 GPU 为 3.9 TB / s，总和为 7.8 TB / s（H100 PCIe 为 2 TB / s，H100 SXM 为 3.35 TB / s）。


（备注：文章来源于网络，信息仅供参考，不代表本网站观点，如有侵权请联系删除！）

上一篇：海凌科推出支持手势和人体距离识别24G雷达模块HLK-LD2411

下一篇：李彦宏：重做 ChatGPT没多大意义，中国基本不会再出一个OpenAI

在线留言询价

相关阅读
传英伟达将推出
行业新闻

传英伟达将推出"中国特供版"AI芯片！

　　近日，据路透社援引知情人士的消息报道称，英伟达(NVIDIA)正在开发面向中国市场的基于全新Blackwell GPU架构的AI芯片版本，型号暂定为“B20”，该版本将符合美国之前的出口管制政策。　　根据美国2022年10月推出的出口管制的政策，英伟达对华出口的GPU 的 TPP(总处理能力)需要低于 4800 分。最初的 A100/H100 就是超出了这个限制，因此也导致了英伟达被迫推出了经过“阉割”的A800/H800。　　随后在2023年10月17日，美国政府又推出了新的限制规则，进一步收紧了限制范围：　　(1)ECCN 3A090a针对最高性能芯片，集成电路中包含一个或多个处理单元达到以下任一标准：a) 综合运算性能(Total Processing Performance，TPP)达到4800，或b) 综合运算性能达到1600，同时“性能密度”(Performance Density，PD)达到5.92。　　2)ECCN 3A090b针对次高性能芯片，集成电路中包含一个或多个处理单元达到以下任一标准：a) 综合运算性能达到2400但低于4800，性能密度达到1.6但低于5.92;b) 综合运算性能达到1600，性能密度达到3.2但低于5.92。　　但凡只要在上述两项性能标准范围内的美国芯片都将会受到限制。这也直接导致了英伟达针对中国市场推出的A800和H800芯片的对华出口受限。此外，英伟达L40S、高端显卡RTX 4090等产品也受到了限制。　　为了解决合规问题，英伟达随后又推出了针对中国市场“特供”的新的H20 GPU和RTX 4090D游戏显卡，其中H20相对于原来的H100的AI性能降低了近85%，RTX 4090D相对于RTX 4090也降低了约10%。　　虽然英伟达H20初期不被市场看好，但由于国产AI芯片与之相比仍有一定差距，且供应能力有限，这也导致国内不少厂商依然选择了采用H20。根据市场研究机构SemiAnalysis的最新预测数据显示，AI芯片大厂英伟达今年将向中国市场运送超过100万颗新的NVIDIA H20加速芯片，预计每颗芯片成本在12,000美元至13,000美元之间，这预计将为英伟达公司带来超过120亿美元的收入。　　今年3月，英伟达发布了其新一代的基于“Bl­a­c­k­w­ell”架构的B200系列芯片，其晶体管数量达到了2080亿个，是H100/H200的800亿个晶体管两倍多，其20 petaflops性能达到了H100(4 petaflops)的5倍。据了解，B200将于今年晚些时候量产。　　同样，英伟达也计划针对中国市场推出基于B200的“阉割版本”——B20，但是鉴于美国出口管制政策的限制，英伟达B20性能相对于B200也将会大幅削减，相对于H20来说，其性能可能也不会带来多大的提升，不过其HBM的容量有望进一步提升，这对于AI训练和推理来说有着很大的助力。预计也将于今年晚些时候投入生产。
2024-07-24 13:33 阅读量：495
英伟达“携手”戴尔AI电脑：这是扩张的关键
行业新闻

英伟达“携手”戴尔AI电脑：这是扩张的关键

　　在戴尔推出新款AI电脑、并与英伟达达成合作后，英伟达首席执行官周一表示，该公司与戴尔科技公司的合作将把人工智能(AI)传播给更广泛的客户，帮助企业和组织创建自己的“人工智能工厂”。　　他在接受采访时表示：“我们希望将这种生成式人工智能能力带给世界上的每一家公司。这不仅仅是提供一个盒子，而是提供整个基础设施。这是一个极其复杂的基础设施。”　　戴尔发布AI电脑　　同日，戴尔推出了五款全新的增强型AI电脑。据了解，新品全系列都搭载了高通Snapdragon X系列芯片，且内置的神经处理单元(NPU)能加速AI任务，如运行聊天机器人。而且，新电脑配有专用按键，可以一键启动微软的AI Copilot服务，后者能自动完成总结文档和撰写备忘录等任务。　　通过发布最新系列AI电脑，戴尔押注它们将帮助重振长期陷入困境的业务。该公司表示，其中两台电脑已经可供预订，其余电脑将在未来几个月内推出。　　戴尔的五款AI电脑包括XPS 13、Inspiron 14 Plus、Inspiron 14、Latitude 7455和Latitude 5455。　　其中，XPS 13和Inspiron 14 Plus现已开始接受预订，起价分别为1299美元和1099美元，而Latitude 7455、Latitude 5455和Inspiron 14预计将在未来几个月内上市。　　XPS 13是戴尔首款配备由Snapdragon X Elite提供支持的Copilot+的XPS。XPS 13是戴尔最薄、最轻的XPS，现在拥有长达27小时的多天电池续航时间，非常适合日常生产力和内容创作。　　戴尔首席执行官Michael Dell在接受采访时表示：“尽管AI优化的电脑起初会作为更高端的产品出现，但它们将迅速占领主流市场。今年我们将大批量交付新款电脑，并预计到明年，这些AI电脑将成为标准配置。”　　英伟达借势扩张　　尽管英伟达的销售额在过去一年大幅增长，但它的增长主要依赖于一小部分客户：被称为超大规模的数据中心运营商。　　根据媒体汇编的数据，微软、Meta、亚马逊和谷歌母公司Alphabet是其最大的客户，戴尔紧随其后。　　英伟达的扩张计划取决于让机构和企业开发自己的人工智能能力，从而刺激对其产品的需求。为此，他们需要戴尔提供的存储、网络和计算设备。　　他正在推动英伟达更深入地进入软件工具、计算机设计和人工智能模型领域，帮助将该公司的技术推广到从药物发现到造船等各个领域。戴尔则表示，英伟达之所以取得成功，是因为它为向人工智能的转变做好了准备，并在创新方面超越了所有竞争对手。
2024-05-21 14:38 阅读量：581
英伟达市值全球第三！
行业新闻

英伟达市值全球第三！

　　3月5日消息，英伟达实现新的里程碑，继市值超越了谷歌、亚马逊等巨头后，最新又超过沙特阿美，成为全球第三大公司!　　尽管去年在AI的热潮下，英伟达全年累计暴涨约240%，但今年这一涨势仍未熄火，2024年仅两个月略多的时间，英伟达实现了惊人的约70%涨幅，市值增加约8800亿美元，凶猛涨势在超大型科技股中，仅前几年的特斯拉疯狂能与之相比。　　英伟达飙涨背后，是其强劲的业绩支撑。上个月，英伟达公布的财报显示，四季度营收、利润、一季度指引均超预期。英伟达营收和利润已连续三个季度创历史纪录，2024全财年营收增长126%。英伟达最大的营收来源数据中心部门，四季度营收达到184亿美元，同比暴增409%。黄仁勋称生成式人工智能已触及“引爆点”。CFO称，公司下一代产品的市场需求远超过供给水平。
2024-03-05 13:21 阅读量：2194
英伟达一降再降的“中国特供”芯片，阿里、腾讯看不上了
行业新闻

英伟达一降再降的“中国特供”芯片，阿里、腾讯看不上了

　　英伟达降级版芯片。2024年1月7日，美国《华尔街日报》发布报道：英伟达的“阉割版”芯片，正在遭到中国用户抵制。　　对于黄仁勋而言，英伟达作为一家为了做生意而建立的公司，必须尽可能与所有人做生意。“我们必须开发出符合出口管制规定的新芯片，一旦满足要求，我们就会回到中国销售。”然而由于美国的限制举措步步紧逼，英伟达为满足要求一再降级芯片性能，国内厂商不愿买单了。　　据国内媒体援引知情人士消息，自去年11月以来，阿里巴巴集团、腾讯等中国大型云计算公司一直在测试英伟达的特供芯片样本。他们已向英伟达表明，今年向英伟达订购的芯片数量将远远少于此前原计划购买的、已经被禁的英伟达高性能芯片。　　知情人士表示，阿里和腾讯正在将一些先进的半导体订单转移给本土公司，并且更多地依赖公司内部开发的芯片。另外两大芯片买家百度、字节跳动也是如此。　　2022年10月，美国政府突然宣布对华半导体出口管制新规，规定高性能计算芯片出口必须低于4800 TOPS算力上限和600 GB/s的带宽上限，直接导致NVIDIA A100/H100系列和AMD MI200/300系列AI芯片无法对华出售。当时国内许多高端场景和主流厂商都采用NVIDIA A100，也预定了大批计划下半年发货的H100，猝不及防的限制使得英伟达和国内厂商陷入两难境地。　　但一个月后，英伟达就宣布推出符合美国出口规则的“中国特供版”A800和H800。A800将NVLink传输速率由A100的600GB/s降至400GB/s，其它参数基本保持不变，H800则把芯片间数据传输速度改为H100的一半。据悉，BAT和字节等国内大厂都已用上了800系列产品。　　在享受AI大模型带来的红利时，英伟达赚得盆满钵满，其市值更是突破万亿美元。不过，在坐享红利的同时，美国AI监管政策显然对英伟达的市场扩张带来了负面影响。　　过去一年，黄仁勋为了不失去中国市场做了不少努力，他曾当面警告华盛顿决策层，认为制裁会造成严重代价。同时，他还不忘敦促美国半导体行业协会发表谴责声明，强调进一步限制将损害行业的竞争力。2023年7月，黄仁勋和英特尔CEO帕特·基辛格、高通CEO克里斯蒂亚诺·安蒙齐聚华盛顿，警告拜登政府尽快收手，放弃对中国芯片出口的更多限制。　　但显然美国决策层没有听取其本土厂商们的劝告，2023年10月17日美国再次升级限制，更新出口管制标准，要求先进芯片性能超过特定阈值，即需要申请出口许可。在严苛的限制条件下，英伟达针对中国市场的特供版H800、A800两款芯片也面临禁售。　　在美国实施技术管制新规后，英伟达仍未放弃中国市场，依然坚持为中国开发合规的“特供版”芯片。据消息称，“特供版”芯片分别为HGX H20、L20 PCle和L2 PCle，这三款AI芯片产品分别适用于云端训练、云端推理以及边缘推理，均基于H100改良而来，以迎合收紧后的新规。　　HGX H20 - L20 PCIe - L2 PCIe - 产品规格　　根据专业人士的分析，集群综合算力方面，H100/H800目前是AIDC算力集群的顶流部署;其中H100理论扩容极限是5万张卡集群，最多可达10万P算力;H800最大集群是2-3万张卡，合计4万P算力;A100最大集群是1.6万张卡，合计9600P算力。然而对于H20，其集群的理论扩容极限是5万张卡，以单卡算力0.148P(FP16/BF16)计算，集群合计提供7400P算力，远低于H100/H800/A100。　　简而言之，H20的基本规格方面，算力水平约等于50%A100和15%H100，而H20的渠道单价可能与H100/H800处于相近水平。　　这或许也是国内厂商不愿买单的原因之一，技术完整性是首要担忧。特供芯片的性能是否能够满足阿里巴巴、腾讯等大型企业的技术要求，是一个大问题。性能不达标，国内企业必然会寻找其他替代方案，或者转向自主研发。　　此外，供应链的安全性则是另一个核心问题。在当前的全球政治经济环境下，中美之间的贸易紧张局势给供应链带来了不确定性。国内大厂也会担心，过于依赖英伟达的芯片可能会使他们的业务陷入风险。如果供应链出现问题，他们需要有足够的备选方案来确保业务的连续性。　　事实上，由于美国对中国半导体的打压导致中国市场的AI算力步步吃紧，寻求算力的国产化机遇再次崛起。中国算力供应链主要参与者有华为、寒武纪以及诸多其他算力芯片公司，比如燧原科技、沐曦、壁仞科技、天数智芯等。　　目前多家A股上市公司已经提前采用本土的算力芯片进行AI推理与训练的应对。此外，还有诸多云厂商、算力租赁厂商，他们购买芯片搭建算力中心，用来提供云服务或者对外出租，提供给诸多不愿意自建算力中心的客户使用。　　说回英伟达，其在满足美国监管机构要求和为中国客户提供需要的芯片之间寻求平衡变得愈发困难。根据行业分析机构TrendForce数据，在中国云计算公司目前使用的高端AI芯片中，大约80%来自英伟达，未来五年这一比例可能会降至50%-60%。　　从长远来看，禁止向中国销售人工智能芯片或许真的将导致美国芯片行业失去更多。正如英伟达法律顾问Tim Teter曾这样警告华盛顿：你冒的风险是刺激了一个由竞争对手主导的生态系统的发展，这可能会对美国在半导体、先进技术和人工智能领域的领导地位产生非常负面的影响。
2024-02-28 10:54 阅读量：593
热门分类
盒子，外壳，机架 电缆，电线 电路保护 连接器，互连器件 开发套件 机电产品 嵌入式解决方案 风扇，热管理 光电元件 其它 无源元件 电源 半导体 传感器，变送器 测试与测量
  • 一周热料
  • 紧缺物料秒杀
型号 品牌 询价
TL431ACLPR Texas Instruments
RB751G-40T2R ROHM Semiconductor
MC33074DR2G onsemi
CDZVT2R20B ROHM Semiconductor
BD71847AMWV-E2 ROHM Semiconductor
型号 品牌 抢购
TPS63050YFFR Texas Instruments
IPZ40N04S5L4R8ATMA1 Infineon Technologies
STM32F429IGT6 STMicroelectronics
BU33JA2MNVX-CTL ROHM Semiconductor
BP3621 ROHM Semiconductor
ESR03EZPJ151 ROHM Semiconductor
热门标签
ROHM
Aavid
Averlogic
开发板
SUSUMU
NXP
PCB
传感器
半导体
原厂授权品牌
更多授权品牌>>
资讯排行榜
  • 周排行榜
  • 月排行榜

相关百科
关于我们
AMEYA360微信服务号 AMEYA360微信服务号
AMEYA360商城(www.ameya360.com)上线于2011年，现 有超过3500家优质供应商，收录600万种产品型号数据，100 多万种元器件库存可供选购，产品覆盖MCU+存储器+电源芯 片+IGBT+MOS管+运放+射频蓝牙+传感器+电阻电容电感+ 连接器等多个领域,平台主营业务涵盖电子元器件现货销售、 BOM配单及提供产品配套资料等，为广大客户提供一站式购 销服务。