谷歌刚发布的 AI 芯片 TPU v4 有多强:单个 Pod 性能是世界第一超算的两倍

2021/5/19 23:19:04 来源:雷锋网 作者:吴优 责编:姜戈

谷歌 I/O 开发者大会去年因为疫情而取消,今年采取线上形式强势回归。在没有开发者在场的谷歌园区内,谷歌 CEO 桑达尔・皮查伊(Sundar Pichai)宣布推出多项全新技术,除了能够帮助用户实现“空间瞬移”的全息视频聊天技术 Project Starling 让人耳目一新,还有最新一代 AI 芯片 TPU v4

“这是我们在 谷歌 上部署的最快的系统,对我们来说是一个具有历史意义的里程碑。”皮查伊这样介绍到。

最强 TPU,速度提升 2 倍,性能提升 10 倍

谷歌官方介绍,在相同的 64 芯片规模下,不考虑软件带来的改善,TPU v4 相较于上一代 TPU v3 性能平均提升 2.7 倍

在实际应用中,TPU v4 主要与 Pod 相连发挥作用,每一个 TPU v4 Pod 中有 4096 个 TPU v4 单芯片,得益于其独特的互连技术,能够将数百个独立的处理器转变为一个系统,互连带宽在规模上是其他任何网络技术的 10 倍,每一个 TPU v4 Pod 就能达到 1 exaFlOP 级的算力,实现每秒 10 的 18 次方浮点运算。这甚至是全球最快的超级计算机“富岳”的两倍性能

“如果现在有 1 千万人同时使用笔记本电脑,所有这些计算机累加的计算能力,刚好就能够达到 1 exaFLOP 的算力。而之前要达到 1 exaFLOP,可能需要专门定制一个超级计算机。”皮查伊如是说。

今年的 MLPerf 结果表明,谷歌 TPU v4 的实力不容小觑,在使用 ImageNet 数据集的图像分类训练测试(准确度至少 75.90%),256 个 TPU v4 在 1.82 分钟内完成了这一任务,这几乎与 768 个 Nvidia A100 图形卡、192 个 AMD Epyc 7742 内核(1.06 分钟)、512 个华为 AI 优化的 Ascend910 芯片以及 128 个英特尔 Xeon Platinum 8168 内核(1.56 分钟)组合在一起的速度一样快

当负责在大型维基百科语料库上训练基于 Transform 的阅读理解 BERT 模型时,TPU v4 的得分也很高。使用 256 个 TPU v4 进行训练需要 1.82 分钟,比使用 4096 TPU v3 进行训练所需的 0.39 分钟要慢 1 分多钟。同时,如果想要使用 Nvidia 的硬件达到 0.81 分钟的训练时间,需要 2048 张 A100 卡和 512 个 AMD Epyc 7742 CPU 内核。

谷歌 同样在 I/O 大会上展示了能够用到 TPU v4 的具体 AI 实例,包括能够同时处理网页、图像等多种数据的 MUM 模型(Multitask Unified Model,多任务统一模型)和专为对话打造的 LaMDA 都是能够用到 TPU v4 的场景模型,前者比阅读理解模型 BERT 强 1000 倍,适合赋能搜索引擎帮助用户更加高效地得到自己想要的信息,后者则可以与人类进行不间断的对话交流。

这一并不向外出售的 TPU,很快将在被部署在谷歌的数据中心,且 90% 左右的 TPU v4 Pod 都将使用绿色能源。另外,谷歌也表示,将在今年晚些时候开放给谷歌 Cloud 的客户。

谷歌 自研 TPU,五年更新四代

谷歌 最早于 2016 年宣布首款内部定制的 AI 芯片,区别于训练和部署 AI 模型的最常见的组合架构,即 CPU 和 GPU 组合,第一代 TPU 在那场世界著名的人机围棋大战助力 AlphaGo 打败李世石“一战成名”,宣告并不是只有 GPU 才能做训练和推理。

谷歌 第一代 TPU 采用 28nm 工艺制程,功耗大约 40w,仅适用于深度学习推理,除了 AlphaGo,也用在谷歌搜索、翻译等机器学习模型中。

2017 年 5 月,谷歌发布了能够实现机器学习模型训练和推理的 TPU v2,达到 180TFLOPs 浮点运算能力,同时内存带宽也得以提升,比同期推出的 CPU AI 工作负载提升 30 倍,比 GPU AI 工作负载提升 15 倍,被基于 4 块 TPU v2 的 AlphaGo 击败的世界围棋冠军柯洁最直观地感受了这一切

2018 年 5 月,谷歌又发布第三代 TPU,性能是上一代 TPU 的两倍,实现 420TFLOPs 浮点运算,以及 128GB 的高带宽内存。

按照一年一次迭代更新的节奏,谷歌理应在 2019 年推出第四代 TPU,不过这一年的 I/O 大会上,谷歌推出的是第二代和第三代 TPU Pod,可以配置超过 1000 颗 TPU,大大缩短了在进行复杂的模型训练时所需耗费的时间。

在 AI 芯片发展史上,无论是从片上内存上,还是从可编程能力来看,谷歌 TPU 都是不可多得的技术创新,打破 GPU 的“垄断”地位,且打开云端 AI 芯片的新竞争格局

发展五年的谷歌 TPU 在今天依然保持着强劲的竞争力,未来的世界是什么样的?谷歌 TPU 已经告诉了我们一小部分答案。

相关文章

关键词:芯片谷歌人工智能AI训练tpu

软媒旗下网站: IT之家 辣品 - 超值导购,优惠券 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 魔方 旗鱼浏览器(极速内核) 云日历 酷点桌面 Win7优化大师 Win10优化大师 软媒手机APP应用