谷歌开放TPU芯片,每小时6.5美元

发布时间：2018-02-14 00:00
作者：
来源：网络整理
阅读量：1462

谷歌TPU首次对外全面开放

谷歌在一篇博客文章中正式宣布，将以“有限数量”向谷歌云客户开放张量处理器（Tensor Processing Unit，简称TPU）服务。

谷歌传奇工程师 Jeff Dean在推特上宣布谷歌TPU首次对外全面开放，这也意味着TPU的商业化正在加速。

“我们对此感到非常兴奋，因为许多研究人员和工程师在进行机器学习时都遇见了计算力不足的问题，而我们认为这（即 Cloud TPU）将是一个很好的解决方案。举例来说，我们一个 Cloud TPU 设备可以在 24 小时内将运行在 resnet-50 上的模型的识别精度训练到 75%。”Jeff Dean 在推特上兴奋地表示。

谷歌开放TPU芯片,每小时6.5美元

TPU是谷歌为机器学习而设计的人工智能定制芯片。将TPU开放，对于选择在谷歌云平台上运行机器学习模型的客户来说，可谓好事一桩。但谷歌这次开放的TPU数量有限，而且按时收费，每小时成本为6.50美元。

TPU是谷歌为机器学习而设计的人工智能定制芯片，是一种ASIC（专用集成电路）。是谷歌为机器学习而设计的人工智能定制芯片，第一代TPU于2016年低调推出，广泛应用在AlphaGo、搜索、翻译、相册等背后的机器学习模型中。在AlphaGo战胜李世石的系列赛中，TPU能让AlphaGo“思考”更快，“想”到更多棋招、更好地预判局势。

第二代TPU是在2017年5月18日的Google I/O 大会上推出，也称为云TPU。云TPU对推理和训练都进行了优化，每个 Cloud TPU 包含 4 个定制化的 ASIC，每个 Cloud TPU 的计算能力达到每秒 180 万亿次浮点运算（180 teraflops），并提供有 64GB 的高带宽内存。另外，这些电路卡即可以单独使用，也可以通过超高速专用网络连接起来，形成一个多层次的机器学习超级计算器，谷歌将之称为“TPU pod”。谷歌预计今年晚些时候，将会开始供应这种更大的超级计算器，并表示训练的时间-精度比将得到显着提升。

TPU专用于人工智能和机器学习，可为谷歌带来两大好处：

首先，利用自主研发的芯片，谷歌可以在核心的计算基础设施方面更便宜、更有效地减少对英特尔、英伟达等芯片制造商的依赖。拥有自己的硬件使谷歌能够更快地进行实验。

其次，新的TPU也为谷歌的云计算业务带来额外收入，现在，谷歌云平台（GCP）和谷歌的业务应用程序GSuite每季度可超过10亿美元收入。

谷歌目前允许公司租用单个TPU板卡，今年晚些时候，将允许企业租用多个板卡，并连接成名为TPU pod的超级计算机网络。后面谷歌会开源更多的 ML 模型。

芯片提供的是人工智能三要素中的计算力，如今TPU的全面开放，可为中小AI公司在2018年的商业化应用落地提供硬件上的强大支撑。但也有业内人士评论称“TPU只能通过云获取是一大障碍，英伟达在硬件方面还是碾压谷歌”，并且认为“TPU对固定算法还是有要求，目前应用范围最广还是GPU。”

（备注：文章来源于网络，信息仅供参考，不代表本网站观点，如有侵权请联系删除！）

上一篇：2018年1月份国内手机出货量同比下降16.6%

下一篇：必看!iPhone X突破性技术供应商,不只光学系统

在线留言询价

相关阅读
从TPU v1到Trillium TPU，苹果等科技公司使用谷歌TPU进行AI计算
行业新闻

从TPU v1到Trillium TPU，苹果等科技公司使用谷歌TPU进行AI计算

　　7月30日消息，苹果公司周一在一篇技术论文中表示，支撑其人工智能系统Apple Intelligence的两个人工智能模型是在谷歌设计的云端芯片上进行预训练的。这表明，在训练尖端人工智能方面，大型科技公司正在寻找英伟达以外的替代品。　　不断迭代的谷歌TPU芯片　　随着机器学习算法，特别是深度学习算法在各个领域的广泛应用，对于高效、低功耗的AI计算硬件需求日益增长。传统的CPU和GPU在处理这些算法时存在效率较低的问题，促使谷歌等科技巨头开始探索专用AI加速芯片的研发。       谷歌在2015年左右开始规划开发新的专用架构处理器，旨在优化机器学习算法中的张量运算执行过程。经过快速迭代和研发，谷歌于2016年发布了首个TPU版本(TPU v1)，专门用于大规模机器学习加速。       TPU v1部署于数据中心，用于加速神经网络的推理阶段。拥有65536个8-bit MAC(矩阵乘单元)，峰值性能为92 TOPS(每秒万亿次操作)，以及28 MiB的片上内存空间。相比于CPU和GPU，TPU v1在响应时间和能效比上表现出色，能够显著提升神经网络的推理速度。       随着技术的不断进步，谷歌相继推出了多个TPU版本，不断提升性能和功能。例如，TPU v2和TPU v3被设计为服务端AI推理和训练芯片，支持更复杂的AI任务。TPU v4则进一步增强了扩展性和灵活性，支持大规模AI计算集群的构建。       在面对争议和质疑后，谷歌推出了TPU v5e版本。TPU v5e在架构上进行了调整，采用单TensorCore架构，并在INT8峰值算力上有所提升。尽管在BF16峰值算力上略低于前代版本，但TPU v5e更适用于推理任务，并体现了谷歌在AI算力服务市场的战略选择。       在今年5月的I/O开发者大会上，谷歌又发布了第六代张量处理单元 (TPU) ，称为Trillium。Trillium TPU 可以更快地训练下一波基础模型，并以更少的延迟和更低的成本为这些模型提供服务。至关重要的是，Trillium TPU 的能效比 TPU v5e 高出 67% 以上。       值得一提的是，Trillium 可以在单个高带宽、低延迟 Pod 中扩展到多达 256 个 TPU。除了这种 Pod 级可扩展性之外，借助多切片技术和Titanium 智能处理单元 (IPU )，Trillium TPU 还可以扩展到数百个 Pod，从而连接建筑物级超级计算机中的数万个芯片，这些芯片通过每秒数 PB 的速度互连数据中心网络。       谷歌表示，Trillium TPU 将为下一波 AI 模型和代理提供动力，包括自动驾驶汽车公司Nuro、药物发现公司Deep Genomics、德勤等企业也采用其TPU产品进行应用。　　越来越多企业使用谷歌TPU芯片满足AI计算　　据谷歌官方信息，其最新TPU的运行成本每小时不足2美元，但客户需提前三年预订以确保使用。自2015年专为内部工作负载设计的TPU问世以来，谷歌于2017年将其向公众开放，如今，TPU已成为人工智能领域最为成熟和先进的定制芯片之一。       谷歌在其多个设施中使用了自研的TPU(Tensor Processing Unit)芯片。谷歌云平台广泛使用了TPU芯片来支持其AI基础设施。这些芯片被用于加速机器学习模型的训练和推理过程，提供高性能和高效的计算能力。通过谷歌云平台，用户可以访问到基于TPU芯片的虚拟机实例(VM)，用于训练和部署自己的机器学习模型。       除此之外，已经有多家公司使用谷歌的TPU芯片，如苹果，苹果在最新发表的技术论文中承认，公司采用了谷歌张量处理单元(TPU)训练其人工智能模型。       在周一发布的技术论文中，苹果详细介绍为支持苹果个人智能化系统Apple Intelligence而开发了一些基础语言模型，包括一个用于在设备上高效运行的约30亿参数模型——端侧“苹果基础模型”(AFM)，以及一个为苹果云端AI架构“私有云计算”(Private Cloud Compute)而设计的大型服务器语言模型——服务器AFM。       苹果披露，训练模型采用了谷歌研发的第四代AI ASIC芯片TPUv4和更新一代的芯片TPUv5。苹果在8192块TPUv4 芯片上从无到有训练服务器AFM，使用4096的序列长度和4096个序列的批量大小，进行6.3万亿token训练。端侧AFM在2048块TPUv5p芯片上进行训练。       此外，Anthropic这家被誉为“OpenAI劲敌”的人工智能初创公司，据悉是谷歌TPU芯片的早期用户之一。Anthropic使用谷歌Cloud TPU v5e芯片为其大语言模型(LLM)Claude提供硬件支持，以加速模型的训练和推理过程。Hugging Face和AssemblyAI这两家同样在人工智能领域备受瞩目的初创公司也在大规模使用谷歌TPU芯片来支持其AI应用。       另外，许多科研机构也在使用谷歌TPU芯片来支持其AI相关的研究项目。这些机构可以利用TPU芯片的高性能计算能力来加速实验过程，推动科研进展。一些教育机构也将谷歌TPU芯片用于教学和培训目的，帮助学生和研究人员学习和掌握机器学习技术。　　写在最后　　长期以来，英伟达的高性能GPU在高端人工智能模型训练市场占据主导地位，包括OpenAI、微软、Anthropic在内的多家科技公司纷纷采用其GPU来加速模型训练。但在过去几年里，英伟达GPU始终供不应求，为此谷歌、Meta、甲骨文及特斯拉等企业都在自研芯片，以满足各自人工智能系统与产品开发的需求。       不仅如此，如谷歌，虽然TPU最初是为内部工作负载而创建，而其凭借着诸多优势，现在正得到更广泛的应用。随着人工智能技术的不断发展和市场的不断扩大，未来可能会有更多的企业选择使用谷歌TPU芯片来满足其AI计算需求。
2024-07-31 10:54 阅读量：391
谷歌宣布推出Arm架构AI芯片Axion
行业新闻

谷歌宣布推出Arm架构AI芯片Axion

　　人工智能热潮加剧，科技巨头正在寻找人工智能所需的稀缺芯片，摆脱依赖，加速竞争。谷歌近日透露新款数据中心AI芯片的详细讯息，并宣布推出一款基于Arm架构的中央处理器Axion，可支持搜寻引擎运行及AI相关任。　　首先是推出了一款基于Arm架构的数据中心芯片Axion。谷歌表示，Axion芯片的性能比通用Arm芯片高出30%，比英特尔当前一代的芯片高出50%，预计这款芯片将于今年晚些时候上市。通过推出基于Arm的定制芯片，谷歌也希望能让其云计算业务更加经济适用，以此来和亚马逊以及微软竞争。　　据悉，2022年谷歌占到云计算市场份额的7.5%，而与此同时亚马逊和微软加在一起占到了61.5%的市场份额。　　近来谷歌在消费者AI产品方面频频遭遇挫折，但随后迅速调整策略，将重心转向企业用户市场，并发布了一系列针对企业用户的AI产品更新。在当前生成式AI热潮中，谷歌相对于其他科技巨头稍显滞后，分析人士指出，谷歌最新举措显示出其希望向市场展示在AI领域的实力。
2024-04-12 09:19 阅读量：530
是否要回归办公室？谷歌高管远程办公政策激怒员工
行业新闻

是否要回归办公室？谷歌高管远程办公政策激怒员工

近期谷歌不透明的远程办公政策正在引起员工的愤怒。上周，谷歌高管乌尔斯·霍尔泽（Urs Holzle）宣布，他将前往新西兰办公。然而谷歌员工认为，这是一种给高管的特殊待遇。 目前，全球各地的谷歌员工正在制定疫情后的工作计划。过去几个月，资深的现场可靠性工程师劳拉·德维辛（Laura De Vesine）一直在与公司争论调整办公地点的问题。在受够了谷歌僵化的政策之后，她提交了辞呈。她的最后办公日是本周五。 在德维辛看来，谷歌试图在远程办公的一年后将员工重新集中到办公室，这是一种毫无决断、走回头路的行为。去年秋季，她的团队被告知需要从加州太阳谷办公室搬迁到北卡罗来纳州。避开旧金山湾区高昂的房价，不再需要长途通勤，这对她来说很有吸引力。然而，这一搬迁将伴随15%的降薪。而到3月底，团队被进一步告知降薪比例会达到25%。大约1个月之后，搬迁计划被整体取消。 德维辛说：“我实际上不可能在离开湾区的情况下为谷歌工作，这种感觉足以让我离开。这是因为，谷歌没有把人的需求放在首位。我们在工作之外有自己的生活，人们实际上都有家庭。” 远程办公潮流正在席卷美国大公司，Twitter和Reddit已全面接受远程办公的模式，但谷歌一直不愿永久实施远程办公政策。面对员工关于远程办公日益强烈的需求，谷歌也不是唯一一家遭遇问题的公司。苹果也面临着员工的强烈抗议，而Facebook刚刚把远程办公选项扩大至所有员工。然而，谷歌在处理这方面问题时的方式引起了特别的关注。 今年5月，谷歌CEO桑达尔·皮查伊（Sundar Pichai）宣布了“混合”办公环境的计划。从9月份开始，大部分员工将需要每周至少在办公室工作3天。在新的框架下，20%的员工将远程办公，另20%员工可以在新的地点工作。选择搬迁的员工需要根据当地市场行情调整薪酬。谷歌的大部分团队仍然需要返回他们之前的办公室。 谷歌的员工表示，随着公司试图厘清，哪些员工在哪里办公，获得多少薪酬，关于调动、薪酬调整和远程办公的紧张局势已经爆发。关于办公地点调动的竞争以及降薪的可能性正在引发愤怒。谷歌的每个人都在被卷入办公政策的争议中。 谷歌发给员工的电子邮件显示，上周，谷歌最资深的高管之一乌尔斯·霍尔泽宣布将前往新西兰远程办公，引发了普通员工的进一步不满。霍尔泽的计划激怒了普通员工，他们认为这是公司领导层享受的特殊待遇。对低级别员工来说，他们不得不经历艰难、漫长而不确定的申请流程。 谷歌发言人拒绝让霍尔泽接受采访。该发言人称，霍尔泽的搬迁申请是去年提交并获得批准的，当时谷歌的回归办公室政策尚未确定。但由于疫情带来的旅行限制，他实际的搬迁时间被推迟了。 此前，谷歌员工在抗议公司领导层方面已经有过很多经验，针对的问题包括打击性骚扰的政策，以及是否应该开除批评公司人工智能系统的研究员。远程办公政策正在制造新的矛盾。 实际上，最终受影响的可能并不只是谷歌。20多年来，这家搜索巨头奠定了硅谷总体的办公室文化，例如开创了免费食品和健身房等员工福利。谷歌远程办公政策的影响可能非常深远，许多其他公司将谷歌的做法视为指南。 Sparkx5与企业客户合作，改善公司文化。该公司CEO安德里亚·瓦纳克（Andrea Vanacker）说：“谷歌在行业中扮演着非常关键的角色。许多组织可能会被谷歌的做法鼓舞，他们会认为，‘非常有趣，我们应该做同样的事。’” 新西兰的“试验”霍尔泽是谷歌负责技术基础设施的高级副总裁，也是公司内备受尊重的人物。他是谷歌的首批10名员工之一，被认为奠定了谷歌服务器和网络的技术基础。然而在许多谷歌员工看来，他6月29日发送的搬迁电子邮件表明，公司的远程办公政策存在明显的不公。 霍尔泽在邮件中写道：“在美国生活30年之后，我和妻子都觉得，是时候考虑换个地方了。我们决定在新西兰住一年，看看是否喜欢。需要明确的是，我不是退休，只是换个地方工作。” 在电子邮件中，他称此举是一次试验，并表示继续在太平洋时区工作对他而言不成问题，因为他是“早起的人”。在邮件的结尾，他还用新西兰毛利语对员工表示祝福。 然而谷歌的两名员工表示，霍尔泽的情况反映了公司的“虚伪”政策。他们抱怨称，公司采取双重标准，高级管理者适用于不同的规则。目前正在申请远程办公的谷歌员工被告知，公司最早要到8月份才会做出决定。然而，霍尔泽的申请在整体流程开始前就获得了批准。 员工们认为，霍尔泽的决定特别令人迷惑，因为他一直反对远程办公。辞职员工德维辛表示，霍尔泽的政策就是不支持远程办公，除非他们被被动地分配到某个其他办公室。此外他还认为，只有达到一定资历的员工才适合远程办公。 谷歌发言人拒绝对这些说法做出回应，但表示每个员工都有资格申请远程办公，无论他们所在的团队或部门。在相关报道发表后，该发言人补充称，在霍尔泽所管理的部门，所有级别的员工都有资格申请远程办公或调动。 目前尚不清楚，霍尔泽本人的薪酬是否会根据市场水平来调整，就像其他搬迁的员工一样。谷歌发言人拒绝就霍尔泽的薪酬情况作出回应。如果新政策也适用于霍尔泽，那么他应该会被降薪。Expatistan的数据显示，谷歌总部加州山景城的房价比新西兰最大城市奥克兰的房价高出18%。 “必须辞职”谷歌在降薪方面的立场在公司内部遭到了强烈反对。Reddit等其他科技公司表示，无论员工是在旧金山还是纽约工作，都会正常向员工支付薪酬。然而，谷歌在调薪方面采取了更强硬的立场。上月，谷歌发布了一个内部工具，让员工自己评估，如果搬迁薪酬会受到怎样的影响。 一名常驻旧金山的谷歌员工表示，他们希望从加州离开，和家人住在一起。谷歌在他希望生活的城市没有办公室，因此这名员工申请了远程办公。但根据薪酬工具的评估，他将遭遇25%的降薪。 这名员工在接受采访时表示，这种情况让他们考虑离开公司。“我不会选择谷歌，而不是家人。如果我既无法和经理一起工作，也没有其他办法，那么就只能辞职。谷歌也没有那么好。” 谷歌的远程办公政策也在对员工的家人造成影响。一名谷歌员工的家属在接受采访时表示，该员工在疫情期间搬到了美国东海岸，从而可以和她住在一起。现在，随着这名员工可能于9月份返回旧金山湾区，他们可能会结束目前的关系。 一些员工在猜测，谷歌为什么要坚持线下集中办公。谷歌对办公室进行了大笔投资，一些项目仍在开发中。如果员工大规模远程办公，那么这些办公室投资就将失去价值。今年5月，加州圣何塞批准了占地80英亩的谷歌新园区计划，其中包括办公楼、公寓和零售店。华盛顿大学圣路易斯分校研究劳动力薪酬的教授杰克·罗森菲尔德（Jack Rosenfeld）表示，谷歌的形象就包括奢华的办公设施和新奇的文化，因此关于调动和调薪的严格政策可能会鼓励员工留在原地。 罗森菲尔德说：“这可能是为了阻止人们搬迁。如果想要鼓励员工，而不被视为强制或违背原先的承诺，那么一种方法就是引入调薪机制。” 员工们表示，回到办公室工作最困难的问题之一就是无法与家人一起规划未来。一位谷歌员工表示，在今年的大部分时间里，公司对于相关流程都是“含糊其辞，毫无帮助”。这意味着员工无法决定如何规划未来，包括孩子的上学问题以及租房问题。 德维辛说：“对我来说，最大的痛点就是不确定性。谷歌的管理层一直不愿给出明确的政策，以及现实可行的政策。”备注：图文源自网络，如有侵权请联系删除！
2021-07-09 00:00 阅读量：2178
谷歌欲天价”收购Salesforce，要从亚马逊、微软手里抢云计算的市场？
行业新闻

谷歌欲天价”收购Salesforce，要从亚马逊、微软手里抢云计算的市场？

谷歌欲出 2500 亿美元的“天价”收购 Salesforce，这也是继 oracle 和微软之后，又一家巨头参与到竞逐当中，这一价格相比两年前 Oracle 的 440 亿美元更有吸引力，也是最接近收购的一次。 目前，亚马逊云服务（AWS）在云计算市场中占据了 47%的市场份额，排名第一，微软 Azure 以 16%的市场份额位居第二位，而谷歌则以 4%的份额排名第三。 由此可见，在公共云市场，谷歌云的最大竞争对手就是亚马逊的 AWS 和微软的 Azure。因为不管是市场份额也好，还是增长率也好，谷歌云都低于亚马逊 AWS 和微软 Azure。 为了缩小与亚马逊和微软的差距，壮大实力，谷歌云计算部门采取了并购战略。比如，去年 2 月，外媒报道称，谷歌计划收购云服务初创公司 Alooma；去年 6 月份，该公司以 26 亿美元的全现金收购数据分析公司 Looker；去年 7 月份，该公司曾宣布将收购云存储服务商 Elastifile。 现在，谷歌可能以 2500 亿美元收购 Salesforce，以更好地与亚马逊和微软竞争。 据业内人士分析，Salesforce 对于谷歌而言的确有弯道超车的可能，但是也有翻车的可能。 第一、  Salesforce 这么多年积累的确可以让谷歌一夜之间实现反超。 第二、  多年来 Salesforce 一直与 AWS 保持战略关系，甚至 Salesforce 高管说过，AWS 在哪我们就把 Salesforce 布到哪，如果被谷歌纳入囊中，伙伴和用户都会面临的迁移二选一，这样很可能会破坏原有 Salesforce 的运营法则。 第三、  Salesforce 真的能成为谷歌反超微软和 AWS 的一剂良药吗？这里还要打个问号，从整个市场的分析来看，非常不看好这次收购的大有人在。认为谷歌云计算业务没有做起来要从自身找原因，为什么接连被 AWS 和微软云超过值得 Google 内部反思。 Salesforce 创立于 1999 年，总部位于美国旧金山，该公司创始人马克·贝尼奥夫（Marc Benioff）是前甲骨文高管。该公司是企业客户关系管理软件提供商，它提供基于云计算的先进 CRM（客户关系管理）解决方案。该公司旗下比较受欢迎的产品包括销售云（帮助销售人员提高工作效率）、Desk.com（为小企业和其消费者提供在线支持解决方案），以及 Chatter（企业内部社交网络）。
2020-01-13 00:00 阅读量：1531
热门分类
盒子，外壳，机架 电缆，电线 电路保护 连接器，互连器件 开发套件 机电产品 嵌入式解决方案 风扇，热管理 光电元件 其它 无源元件 电源 半导体 传感器，变送器 测试与测量
  • 一周热料
  • 紧缺物料秒杀
型号 品牌 询价
BD71847AMWV-E2 ROHM Semiconductor
CDZVT2R20B ROHM Semiconductor
TL431ACLPR Texas Instruments
MC33074DR2G onsemi
RB751G-40T2R ROHM Semiconductor
型号 品牌 抢购
BU33JA2MNVX-CTL ROHM Semiconductor
STM32F429IGT6 STMicroelectronics
TPS63050YFFR Texas Instruments
BP3621 ROHM Semiconductor
ESR03EZPJ151 ROHM Semiconductor
IPZ40N04S5L4R8ATMA1 Infineon Technologies
热门标签
ROHM
Aavid
Averlogic
开发板
SUSUMU
NXP
PCB
传感器
半导体
原厂授权品牌
更多授权品牌>>
资讯排行榜
  • 周排行榜
  • 月排行榜

相关百科
关于我们
AMEYA360微信服务号 AMEYA360微信服务号
AMEYA360商城(www.ameya360.com)上线于2011年，现 有超过3500家优质供应商，收录600万种产品型号数据，100 多万种元器件库存可供选购，产品覆盖MCU+存储器+电源芯 片+IGBT+MOS管+运放+射频蓝牙+传感器+电阻电容电感+ 连接器等多个领域,平台主营业务涵盖电子元器件现货销售、 BOM配单及提供产品配套资料等，为广大客户提供一站式购 销服务。