ChatGPT运行需要3万块A100显卡

发布时间：2023-03-08 09:16
作者：Ameya360
来源：网络
阅读量：3075

　　据3月7日消息，市场调查机构 TrendForce 集邦咨询公布的最新报告指出，如果以英伟达 A100 显卡的处理能力计算，运行 ChatGPT 将需要使用到 30000 块英伟达 GPU。

ChatGPT运行需要3万块A100显卡

　　调查机构 TrendForce 在报告中指出，预估 ChatGPT 需要 20000 块显卡来处理训练数据。随着 OpenAI 继续在商业上部署 ChatGPT 和该公司的生成式 GPT 模型，可能需要超过 30000 块显卡。

　　目前英伟达 A100 显卡的售价在 10000-15000 美元之间，该售价取决于 OpenAI 需要多少显卡，以及英伟达是否会为 AI 公司提供订单折扣。TrendForce 预估英伟达可以赚取超过 3 亿美元（当前约 20.82 亿元人民币）收入。

　　英伟达还将 A100 作为 DGX A100 系统的一部分进行销售，该系统具有八个加速器，售价高达 199,000 美元。鉴于 OpenAI 的运营规模，该公司可能会单独购买 A100 并将它们堆叠成集群。


（备注：文章来源于网络，信息仅供参考，不代表本网站观点，如有侵权请联系删除！）

上一篇：海凌科3W系列AC/DC电源模组产品介绍

下一篇：宝马下一代电动汽车将采用安森美Elite SiC技术

在线留言询价

相关阅读
ChatGPT刺激对芯片需求，订单激增显示全球AI芯片竞赛升温
行业新闻

ChatGPT刺激对芯片需求，订单激增显示全球AI芯片竞赛升温

　　根据瑞银集团的一项研究，自2022年11月推出以来，ChatGPT已有上亿人使用，成为历史上增长快速的消费者应用程序。日本芯片测试设备供应商Advantest联合首席战略官Yasuo Mihashi表示，开发强大的计算集群和下一代AI训练系统的全球竞赛正在促使芯片制造商购买更多该企业的芯片测试工具。当下，消费电子产品需求低迷。但根据彭博汇编数据，AI激增正在推动英伟达和AMD的订单增加，这两家公司提供关键的人工智能训练芯片，并依赖Advantest作为其主要测试工具供应商。　　ChatGPT刺激对芯片需求　　Advantest的股价在今年飙升了36%，接近历史新高，因为ChatGPT和其他旨在让互联网服务更智能、更人性化的产品的承诺吸引了全世界的想象力。预计该公司截至3月的财政年度营业利润将增长48%至1700亿日元（13亿美元）。　　微软公司和Alphabet旗下的谷歌率先将生成式AI集成到他们的网络工具中，而在全球其他国家和地区，打造生成式AI的竞赛也在进行之中。　　简单而言，数据中心对于训练和操作AI模型至关重要，这些模型可以为从自动驾驶到高级聊天机器人助手的一切提供信息。这需要访问数以万计的图形处理单元，这些单元是目前实时分析数据的最佳硬件。　　“对数据中心GPU和测试仪的需求肯定会快速增长。”Ichiyoshi Research Institute分析师Mitsuhiro Osawa表示：“硬件是自动驾驶和AI等下一代社会基础设施所必需的，这些技术是世界各国都在大力投资的。”
2023-04-24 10:41 阅读量：3315
突发！ChatGPT致三星半导体机密泄漏
行业新闻

突发！ChatGPT致三星半导体机密泄漏

　　提起ChatGPT，想必大家都不陌生。面世两个月，月活用户量就迅速过亿，ChatGPT爆火全球的速度让人又惊又喜。写论文、写小说、写代码、找bug、编剧本、画漫画……简直没有它干不了的事！　　不过，随着ChatGPT等大型人工智能模型的兴起，一些问题也逐渐暴露了出来。　　三星被曝机密数据泄漏　　近日，有媒体报道称，三星电子引入ChatGPT不到20天，就曝出3起内部机密资料外泄事故。其中，2起跟半导体设备有关，1起跟会议内容有关。目前，这些机密资料可能已被存入ChatGPT的数据库中，随时都面临着被泄露的风险。　　据了解，这3起事故分别为：　　1）三星DS设备解决方案部门的员工，在操作半导体测试设备下载软件的过程中，发现复制有问题，于是便将有问题的代码复制到ChatGPT中寻找答案，这就有可能让ChatGPT把三星的机密信息当作训练资料来使用；　　2）同样是该部门员工，本想用ChatGPT来优化代码，可这些代码是涉及芯片良率的；　　3）三星内部人员想让ChatGPT记录会议内容，虽然不是技术机密，但也可能导致其它机密外泄。　　该报道指出，为杜绝类似事故再发生，三星正在制定相关保护措施。若之后又发生类似事故，三星内部可能会切断ChatGPT服务。　　值得注意的是，三星存储事业部内的“运算新事业组”正在开发与ChatGPT相关的超大型AI用“定制款新一代存储器”。　　据悉，“运算新事业组”是存储事业部中的先行事业开发组织，负责人为首席金镇贤，此前该部门集中研发具运算能力的存储处理器（Processing In Memory，PIM）。PIM除了可以存储数据之外，还能在存储器内对数据进行整合和运算。　　如果三星内部决定切断ChatGPT服务，届时“运算新事业组”所研发的“定制款新一代存储器”可能也将被叫停。　　据了解，三星从今年3月11日才允许DS部门员工使用ChatGPT，而对DX装置体验部门员工仍然禁用ChatGPT。结果，还不到一个月就出现了3次意外，这也证实了先前部分观点对ChatGPT的担忧。　　对此，三星透过公告叮嘱员工要注意ChatGPT的使用方式，并提醒使用者在ChatGPT输入内容后，相关数据都将传送到外部服务器。由于三星无法回收这些外流数据，因此如果让ChatGPT学习三星内部数据，可能会让敏感内容外流。　　ChatGPT引发学术界担忧　　事实上，这并不是ChatGPT第一次陷入“泄露”风波。此前，Redis的开源库bug就曾导致ChatGPT发生故障和数据泄露，造成了部分用户可以看见其他用户的个人信息和聊天查询内容。　　同样，OpenAI的ChatGPT由于开源库中的一个错误，也导致了部分用户信息泄露，其中包括订阅者的姓名、电子邮件地址、支付地址、信用卡号后四位数字等个人隐私。　　然而，人们对于ChatGPT的担忧，还远不止“信息泄漏”这一点。尽管ChatGPT在回复时经常会带有一种异常坚定的语气，但这个回复却可能存在大量的常识性错误。如果仅仅是常识性错误，还比较容易鉴别，可一旦涉及到比较专业的问题，非相关专业人士就很可能被ChatGPT带入歧途。　　比如，有人就曾利用ChatGPT搜索“Cr-Zr近共晶点行为特征”，ChatGPT给出的回复乍一看有理有据，甚至还有参考文献。可一旦深究就会发现，这些参考文献完全是ChatGPT伪造的。　　浙江大学医学院附属第一医院，更是在研究ChatGPT时发现，其医学专业知识根本不及格。　　在一次测试中，该医院人员从2020年临床执业医师资格考试真题库中筛选出100道单选题，结果ChatGPT仅仅答出56分的成绩，就连一些书上有标准答案的基础题，ChatGPT也会出错。　　对此，该医院人员分析认为，可能是ChatGPT从网上学到了错误的答案。同时，该医院人员发现，ChatGPT存在严重的偏科现象，比如内科领域准确率仅20%，而微生物学则能够达到70%。　　意大利成首个封禁ChatGPT的国家　　那么，在信息安全威胁下，我们还能安心使用ChatGPT吗？近日来，反AI浪潮声四起，继马斯克等千人联名呼吁之后，意大利准备全面封杀ChatGPT。　　当地时间3月31日，意大利个人数据保护局宣布，暂时禁止使用人工智能软件ChatGPT，限制其开发公司OpenAI处理意大利用户信息，并开始立案调查。该机构认为，OpenAI公司非法收集用户个人数据，且没有设置年龄验证系统防止未成年人接触非法材料，因此将采取限制措施“直到ChatGPT尊重隐私”。　　至此，意大利成为了首个封禁ChatGPT的国家！　　该机构称，3月20日ChatGPT平台出现用户对话数据和付款服务信息丢失。此外，该平台没有就收集处理用户信息进行告知，且缺乏大量收集和存储个人信息的法律依据。因此，意大利监管机构要求OpenAI公司必须在20天通报采取了哪些措施来确保用户数据隐私，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。　　随后，OpenAI表示已在意大利将ChatGPT下线。但OpenAI首席执行官Sam Altman回应称，其工作是“为了在训练ChatGPT等人工智能系统时减少个人数据，因为我们希望我们的人工智能了解世界，而不是了解个人”。　　Sam Altman认为，公司并没有违反任何规定，愿与意大利个人数据保护局密切合作。　　其实，任何事情都具有两面性。作为颠覆性科技，ChatGPT为人类带来了前所未有的机遇，但因其产生的安全隐患也不容忽视。对此，我们应该理性对待，更多的监管与限制也应同步跟上，提高驾驭ChatGPT的能力，让ChatGPT成为人类的好助手。
2023-04-03 10:46 阅读量：3956
李彦宏：重做 ChatGPT没多大意义，中国基本不会再出一个OpenAI
行业新闻

李彦宏：重做 ChatGPT没多大意义，中国基本不会再出一个OpenAI

　　由于 ChatGPT 大火，AI 领域的创业也变得炙手可热了起来，现在很多公司和机构都想打造一个国产版的 OpenAI 及 ChatGPT，然而百度创始人李彦宏表示中国基本不会再出现一个像 OpenAI 这样的公司了。　　上周百度正式发布了自己的 AI 产品“文心一言”，李彦宏现在也接受了华尔街见闻的采访，并回应了多个大家都很关心的问题。　　对于中国会不会再出现一个类似 OpenAI 的组织并且打造出 ChatGPT。李彦宏认为基本不会了。　　李彦宏称，OpenAI 之所以诞生是因为美国大厂都不看好这个方向（所以没人竞争），但现在中国大厂都看好 AI 大模型，所以都在做这个方向。他表示，创业公司重新做一个 ChatGPT 没有多大意义，基于大语言模型开发应用机会很大，所以没有必要再重新发明一遍轮子。　　对于 AI 代替人类工作的问题，李彦宏认为：不管有多少工作被替代，这只是整个图景的一部分，另外一部分是，存在我们现在甚至无法想象的更多新机会。他预测，十年后，全世界有 50% 的工作会是提示词工程，不会写提示词的人会被淘汰。他认为，未来十年中可能诞生价值十倍于微信、抖音、淘宝这些应用的机会。　　对于上周的文心一言发布会为何要用录屏，李彦宏回答说，他是希望能现场演示的，因为人机对话产品具有极强交互属性，但后来有两个因素让他改变了主意：　　一是生成式 AI 每次给出的答案不一定一样，会带来不确定性。第二，也是真正说服我的理由是，全球所有类似发布会，没有一个是现场演示的，都是录好的。如果大家都可以，那百度也 OK。　　值得一提的是，百度上周四发布文心一言当天港股盘中重挫近 10%，收跌 6%。但次日飙升 15%，创下一个多月来的最大单日涨幅，并推动人工智能板块相关标的全线上涨。
2023-03-23 09:52 阅读量：3191
带你揭秘ChatGPT背后的超级计算机
行业新闻

带你揭秘ChatGPT背后的超级计算机

　　ChatGPT 一经推出便火爆全球，它之所以能够如此智能，是因为背后依托的是微软公司为它打造的一台昂贵的超级计算机！　　就在今日，微软发文透露其斥资数亿美元帮助 OpenAI 组装了一台 AI 超级计算机，以帮助开发爆火的聊天机器人 ChatGPT，这台超算使用了数万个英伟达图形芯片 A100，这使得 OpenAI 能够训练越来越强大的 AI 模型。　　这些模型正在吸收更多的数据，学习越来越多的参数，这些参数是 AI 系统通过训练和再培训找出的变量，这意味着，OpenAI 需要很长时间才能获得强大的云计算服务支持。　　为应对这一挑战，当微软于 2019 年向 OpenAI 投资 10 亿美元时，该公司同意为这家 AI 研究初创公司组装一台巨大的尖端超级计算机。但问题在于，微软没有任何 OpenAI 所需的东西，也不确定能否不破坏 Azure 云服务的情况下构建如此庞大的设备。　　为此，微软不得不想方设法将英伟达的数万个 A100 图形芯片全部连接起来，并改变服务器在机架上的放置方式以防止断电，这就使得英伟达A100 图形芯片是培训 AI 模型的重要主力军。　　微软 Azure AI 基础设施总经理尼迪 · 卡佩尔说：" 我们构建了一个系统构架，它可以在非常大的范围内运行且十分可靠，这是 ChatGPT 成功的重要原因，这只是我们从中得出的一个模式，还会有许许多多其他的模型。"
2023-03-15 09:57 阅读量：3129
热门分类
盒子，外壳，机架 电缆，电线 电路保护 连接器，互连器件 开发套件 机电产品 嵌入式解决方案 风扇，热管理 光电元件 其它 无源元件 电源 半导体 传感器，变送器 测试与测量
  • 一周热料
  • 紧缺物料秒杀
型号 品牌 询价
MC33074DR2G onsemi
BD71847AMWV-E2 ROHM Semiconductor
CDZVT2R20B ROHM Semiconductor
RB751G-40T2R ROHM Semiconductor
TL431ACLPR Texas Instruments
型号 品牌 抢购
STM32F429IGT6 STMicroelectronics
TPS63050YFFR Texas Instruments
BU33JA2MNVX-CTL ROHM Semiconductor
BP3621 ROHM Semiconductor
IPZ40N04S5L4R8ATMA1 Infineon Technologies
ESR03EZPJ151 ROHM Semiconductor
热门标签
ROHM
Aavid
Averlogic
开发板
SUSUMU
NXP
PCB
传感器
半导体
原厂授权品牌
更多授权品牌>>
资讯排行榜
  • 周排行榜
  • 月排行榜

相关百科
关于我们
AMEYA360微信服务号 AMEYA360微信服务号
AMEYA360商城(www.ameya360.com)上线于2011年，现 有超过3500家优质供应商，收录600万种产品型号数据，100 多万种元器件库存可供选购，产品覆盖MCU+存储器+电源芯 片+IGBT+MOS管+运放+射频蓝牙+传感器+电阻电容电感+ 连接器等多个领域,平台主营业务涵盖电子元器件现货销售、 BOM配单及提供产品配套资料等，为广大客户提供一站式购 销服务。