注意!我们熟知的“摩尔定律”被废了

前言

天气渐冷,约了一位在银行工作的老友小酌相聚,酒过三巡,老友便开始了吐槽,说现在的银行都在开展数字化转型,纷纷开展各种人工智能项目。我正纳闷这不是蒸蒸日上与时俱进有什么好吐槽的呢,老友又说道头痛的是行里GPU资源有限,每个部门都抢的头破血流…

我瞬间想到了NVIDIA创始人黄仁勋提出的黄氏定律对AI性能的提升曾作出的精准预测,预测GPU将推动AI性能实现逐年翻倍!

注意!我们熟知的“摩尔定律”被废了

也就是在前天,NVIDIA GTC CHINA 2020线上大会上,NVIDIA首席科学家Bill Dally在大会上重点介绍了公司在AI方面的进展,他以三个项目为例,结合著名的黄氏定律,大胆表示GPU将持续推动AI性能每年翻一番。他认为在提高计算机性能方面,黄氏定律就是一项重要的指标,就像曾经的”摩尔定律”一样,黄氏定律可能在未来的很长一段时间都适用

注意!我们熟知的“摩尔定律”被废了

摩尔定律

摩尔定律,是由Intel的联合创始人Gordon Moore在20世纪60年代提出,当时他表示计算机芯片上的晶体管数量大约每两年会翻一番,这也意味着这些芯片及其供电的计算机的性能在大致相同的时间表上将会大幅提高。

注意!我们熟知的“摩尔定律”被废了

Gordon Moore原话:The complexity for minimum component costs has increased at a rate of roughly a factor of two per year

在随后的半个世纪里,摩尔定律一直被认为是有效的,但是随着芯片制造厂商达到原子级电路和电子物理的极限,摩尔定律慢慢的有点跟不上时代的步伐,就在这个时候,以NVIDIA创始人黄仁勋命名的黄氏定律逐渐步入大众的视野。

黄氏定律

注意!我们熟知的“摩尔定律”被废了

黄氏定律和摩尔定律有类似的说法,表示支持AI 人工智能的芯片效能会每两年增加一倍,效能提升主要是由于软硬体随着时间而做出的改进。

这次大会Bill Dally主要介绍的三个项目分别是:

  • MAGNet

NVIDIA开了一个名为MAGNet的工具,MAGNet采用了NVIDIA独有的新技术来协调并控制通过设备的信息流,最大程度地减少数据传输及带来的消耗,使其生成的AI推理加速器在模拟测试中,能够达到100TOPS/W(每瓦特100万亿次操作)的推理能力,比目前市场上顶级的的商用芯片仍高出一个数量级。

注意!我们熟知的“摩尔定律”被废了
  • 光链路

NVIDIA的另一个项目,目标就是以更快速的光链路取代现有系统内的电气链路,这个项目是NVIDIA与哥伦比亚大学一起合作,共同研究如何利用电信供应商在其核心网络中所采用的技术,通过一条光纤来传输数十路信号。目前他们正努力尝试在一毫米大小的芯片上实现Tb/s级数据的传输,如果真的成功,将是目前互连密度的十倍。

在大会上Bill Dally也展示了最新的NVIDIA DGX系统模型,该模型采用最新的光链路技术,集中了160多颗GPU,实现超高速的数据传输。

注意!我们熟知的“摩尔定律”被废了
  • Legate

为了能最大程度的利用光链路的能力,NVIDIA特地研究了全新的编程系统原型Legate。Legate可以帮助开发者在任何规模的系统上运行针对单一GPU编写的程序,甚至对于 Selene这种搭载数千个GPU的巨型超级计算机一样适用。

注意!我们熟知的“摩尔定律”被废了

Bill Dally还强调,GPU是黄氏定律的基础,GPU当下的成功以及未来的发展对黄氏定律来说尤其重要。

当然,现实中是否真的能如他所说,实现并延续黄氏定律,仅仅依靠一两家公司是不可能的,还需要整个行业对AI能力的诉求以及大胆创新。为此,NVIDIA 正在构建AI生态,大会上NVIDIA 也展示了12家从他的初创加速计划候选名单中筛选出来的AI初创公司。这些公司涵盖了会话人工智能、智慧医疗/零售、消费者互联网/行业应用、深度学习应用/加速数据科学、自主机器/IOT/工业制造、自动驾驶汽车等各种未来AI大展拳脚的行业。

摩尔定律的成功曾为现代计算带来第一个时代,也有知乎网友曾表示:

摩尔定律首先是一条经济上的定律,然后才是工程科学方面的定律。集成电路从设计到生产,其指挥棒都是以盈利为目标的。芯片集成度翻倍,成本减半,在系统集成商的角度就是性能翻倍,器件集成度翻番,价格减半在消费者眼里就是从大哥大到小灵通再到智能手机,越来越物美价廉。芯片的系统集成产品是以PC,手机,平板等等为代表的消费电子。如果从小灵通到现在还是一直都是小灵通,没有其它可替代产品,那小灵通的市场早就饱和了,产能过剩,企业难以为继。实际上,平均每两年就会出一代新芯片,集成度翻倍,成本减半。使得消费电子越来越物美价廉,刺激消费。Intel每两年出一代产品,十年出五代产品,就能赚五倍。在市场上的产品饱和前,下一代产品即使已经研发出来,也要等市场上的产品把玛丽赚干净了,才会投入市场。【这里有个证据,2007年3月,INTEL宣布在大连投资25亿$建立一个12inch的90nm晶圆工厂,2009年6月,INTEL宣布大连芯片厂将以65nm制造工艺替代90nm工艺,原因是此时国内已经开始了65nm的晶圆制造,so,不是INTEL没有更先进的制程,只是人家在利用旧制程把市场上该吸的血吸干净前,根本没有必要推出新工艺】所以,芯片必然要以每两年(一年半)集成度翻倍,价格减半来迎合市场,太慢了市场已饱和,公司收支不平衡,会引起财务上的问题。太快了,一是这一款芯片没有最大化他的盈利能力,二是在技术上研发跨越不了一代一代之间的积累。在摩尔定律失效后,集成电路产业会成为传统制造业,盈利的驱动力转变为新应用。(来自知乎网友PNJunction)

现在这个盈利的驱动力转变为的新应用,似乎就是指黄氏定律和GPU,那么黄氏定律能否成功仍需时间的检验。但不可否认的是NVIDIA 正在努力实现黄氏定律,同时借AI生态的打造想要更深远的影响AI发展。

你是否觉得黄氏定律也会和摩尔定律一样,大杀四方?欢迎说出你的想法!

发表评论

Fill in your details below or click an icon to log in:

WordPress.com 徽标

您正在使用您的 WordPress.com 账号评论。 登出 /  更改 )

Google photo

您正在使用您的 Google 账号评论。 登出 /  更改 )

Twitter picture

您正在使用您的 Twitter 账号评论。 登出 /  更改 )

Facebook photo

您正在使用您的 Facebook 账号评论。 登出 /  更改 )

Connecting to %s