IEEE访谈：从Meta AR原型芯片看模拟电路的革命
IEEE Spectrum两名资深编辑的对话
（映维网Nweon 2024年04月01日）美国电气电子工程师学会的旗舰出版物IEEE Spectrum专为引领变革的先锋人士和积极探索问题解决方案的进步人士而设计，并旨在探讨未来技术发展趋势及其对社会和商业的影响。对于IEEE Spectrum的播客Fixing the Future，团队一直在与科技领域最聪明的人士谈论应对重大挑战的具体解决方案。
如果大家有印象，IEEE Spectrum早前介绍了Meta的AR原型芯片通过3D芯片技术获得了巨大的性能提升，而在新一期的节目中，Fixing the Future的主持人斯蒂芬·卡斯（Stephen Cass）和IEEE Spectrum负责半导体方向的资深编辑塞缪尔·摩尔（Samuel K. Moore）共同探讨了芯片领域的发展，以及Meta的AR芯片等等。
下面相关对话的整理：
斯蒂芬·卡斯：大家好，欢迎来到EEE Spectrum的播客Fixing the Future。在这里我们将探讨重大问题的具体解决方案。我是主持人斯蒂芬·卡斯，IEEE Spectrum的资深编辑。今天我们要和塞缪尔·摩尔谈谈。塞缪尔，欢迎来到我们的节目。
塞缪尔·摩尔：谢谢你，斯蒂芬。非常高兴来到这里。
卡斯：你最近参加了半导体研究界的ISSCC大会。这到底是什么，为什么这么重要？
摩尔：嗯，除了是一个难以发音的首字母缩略词外，它实际上代表了IEEE国际固态电路会议。这是半导体研究领域的三大领域之一。它已经有70多年的历史。如果你在做电路研究的话，这确实是一次精英大会。大会谈论了大约200个关于处理器、存储器、无线电电路、电源电路、脑机接口的话题。
卡斯：哪些是真正吸引你眼球的话题？
摩尔：好吧。所以我要告诉你们一些事情。首先，模拟电路的一场潜在革命正在酝酿之中。有一款很酷的芯片即将问世，它可以通过混合内存和计算资源来超级高效地执行人工智能。我们已经看到了Meta的未来AR眼镜或者说它们的芯片。最后，有一堆非常酷的安全设备，包括一个自毁电路。
卡斯：哦，听起来非常酷。好吧，我们先从模拟电路开始。
摩尔：来自荷兰的专家布拉姆·诺塔（Bram Nauta）认为，“我们做得都不对”。基本上，摩尔定律对数字电路非常有用，但对模拟电路却不是十分有用。它们只是没有前进。他们已经在计算部分使用了超级先进的处理器，在四到五代了依然是使用相同的I/O芯片。
卡斯：就像你的智能手机，它需要转换器来将你的声音数字化，同时要处理无线电信号等等。
摩尔：没错。完全正确。正如他们所说，世界是模拟的。你必须让它数字化才能在上面进行计算。所以你说的无线电电路实际上是一个非常好的例子，因为你有天线，然后你必须放大，你必须混合载波信号和其他，但你必须放大。你必须非常好地进行线性放大。然后你把它输入到你的模数转换器。正如诺塔指出，放大器无法做得更好，但它将继续消耗比任何数字电路都多几十倍或数百倍的功率。所以他的想法是去掉它。不再使用线性放大器。相反，他建议我们发明一种不需要放大器的模数转换器。
卡斯：嗯，为什么我们以前没有这样做过呢？这听起来显而易见。你不喜欢一个组件。你把它丢掉。所以，如何用纯模数转换器来弥补差异呢？
摩尔:嗯，我无法完全告诉你这是如何完成，特别是因为他依然在努力之中。但他的计算基本上是正确的。这真的是一个问题，这真的是摩尔定律的问题。并不是说“我们现在在做什么?”而是“未来我们能做什么?”
卡西：但这里是否存在某种权衡？
摩尔：有。现在，你有一个消耗毫瓦的线性放大器和一个可以利用摩尔定律的模数转换器。所以他的意思是，“我们会让模数转换器变得更糟。它会消耗更多的能量。但如果你把系统看作一个整体，整个系统的能耗会更低。”问题的一部分是，衡量线性放大器有多好的指标，实际上只是关于线性放大器，而不是担心“好吧，整个系统消耗了什么？”如果你关心整个系统，它就不再有意义了。
卡斯：这听起来也更接近于纯软件定义无线电的梦想。
摩尔：没错。这是正确的。数字化可以利用摩尔定律。摩尔定律依然在继续。它正在放缓，但依然在继续。事情就是这样慢慢发展。现在它终于到了边缘，到了第一个放大器。诺塔对这次演讲有点担心，因为实际上在这次会议，很多事情都是一团糟。所以他告诉我，他实际上非常紧张。但这引起了一定的兴趣。我的意思是，有苹果的工程师和其他公司的人找到他说：“是的，这有道理。也许我们会看看这一点。”
卡斯：所以它似乎解决了这些瓶颈和线性放大器效率的瓶颈。但你提到了另一个瓶颈，亦即内存墙。
摩尔：是的。内存墙是计算领域长期存在的问题。特别是，它始于高性能计算，但它现在几乎应用于所有计算，从内存移动一个比特到CPU或GPU所需的时间和能量远远大于从GPU或CPU的一部分移动一个比特到GPU或CPU的另一部分所需的时间和能量。
卡斯：这就是为什么在传统的CPU中，你会有像缓存L1这样的东西。你会听到什么一级缓存，二级缓存，三级缓存。但远不止于此。你所谈论的远不止是在CPU附近拥有一小块内存。
摩尔：是的。一般的内存墙就是这个问题。人们一直在尝试用各种方法解决这个问题。最好的方法之一就是把计算放到内存中，这样你的位就不用移动太远了。有很多不同的，有一大堆不同的方法。当我在参会的时候，大概有九次关于这个话题的演讲，我们甚至在Spectrum介绍过非常酷的方法，你可以在内存中使用模拟进行人工智能计算。
卡斯：哦，所以现在我们又回到模拟了。
摩尔：我的意思是，很巧的是，乘法和累加任务，这是运行人工智能的所有矩阵的关键，基本上是欧姆定律和基尔霍夫定律。但这很麻烦。试图用模拟方式做任何事情都是。
卡斯：在数字计算机出现之前，比如一直到70年代，模拟计算机实际上非常具有竞争力，你可以用运算放大器来解决问题，这就是为什么它们被称为运算放大器。你把所有的方程都建立起来，然后得到结果。这基本上就像用一个模拟运算，其中组件的行为模拟了一个特定的数学方程。你需要一定的模拟计算，你把它放进去，因为它与人工智能中使用的一个特定计算相匹配。
摩尔：没错。所以这是一个非常富有成效的领域，人们依然在努力。我在ISSCC大会遇到一个人。他的名字是埃文盖洛斯·埃莱夫塞鲁（Evangelos Eleftheriou）。他是Axelera的首席技术官。他得出的结论是，这尚未成熟。所以埃文盖洛斯找到了一种在内存中进行人工智能计算的数字化方法。它基本上依赖于将计算与缓存紧密地交织在一起，使它们成为彼此的一部分。当然，这需要一种新型的SRAM，但对此他守口如瓶。另外还需要用整数数学来代替浮点数学。你在AI世界中看到的大多数企业，比如英伟达，他们的主要计算都是浮点数。现在，浮点数变得越来越小。他们可以在8位浮点数做越来越多的事情，但依然是浮点数。
卡斯：是的，实际上我喜欢整数数学，因为我做过很多这种逆向计算。事实是，你意识到，哦，Forth编程语言同样是出了名的基于整数。对于许多现实世界中的问题，你可以找到一个完全可以接受的比例因子，可允许你使用精度没有明显差异的整数。
摩尔：现在他们的目标是所谓的边缘计算机。它主要面向机器视觉。当运行一个典型的机器视觉基准时，它们能够每秒完成2500帧。所以可能会有非常多的摄像头。
卡斯：即便你采用标准的帧率，比如每秒20帧，你都要同时处理100台摄像头。
摩尔：是的。它们实际上能够做到每瓦353帧，这是一个非常好的数字。每瓦的性能才是真正推动一切的关键。如果你想把它装进汽车或任何一种移动的交通工具，每个人都在计算瓦特。这就是问题所在。不管怎样，我都会去看，去关注。他们稍后会推出一些芯片。可能会非常酷。
卡斯：说到这里，你和我在3D芯片技术方面发现了有趣的东西。
摩尔：是的，我非常喜欢3D芯片技术。3D芯片技术在先进的处理器中随处可见。如果你看看英特尔在超级计算机的人工智能加速器，如果你看看AMD，他们真的利用了能够将一个芯片堆叠在另一个芯片的优势。再一次，摩尔定律变慢。我们真的不能指望得到那么多。所以，如果你想要每平方毫米有更多的晶体管（这是你获得更多计算量的方式），你必须开始把一个芯片放在另一个芯片的上面。
卡斯：所以随着我们的发展，将来晶体管的数量将不再是每平方毫米，而是每立方毫米。
摩尔：你可以这样测量。谢天谢地，它们看起来和普通芯片的外形基本相同。所以这个3D技术是由一种叫做混合键合的东西提供动力。恐怕我根本不明白混合这个词的由来。但实际上，这是在一个芯片顶部的铜焊盘和另一个芯片的铜焊盘中进行冷焊。它是如何工作的。想象一下你在硅平面构建晶体管，然后你就有了一层又一层的互连。你的另一个芯片上有同样的东西。你要做的就是把它们面对面地放在一起，在一个铜板和另一个铜板之间会有一点空隙，但它们周围的绝缘层会粘在一起。然后你把它们稍微加热一下，铜就会膨胀，把自己挤在一起，粘在一起。
卡斯：哦，实际上就像钎焊一样。
摩尔：我相信你的话。但我真的不知道那是什么。
卡斯：我可能错了。但就像磁铁一样。你只需要嗖嗖一声，然后一切都粘在一起了。你不必使用烙铁来完成繁重的工作。
摩尔：没有焊料。这非常非常关键，因为这意味着密度几乎增加了一个数量级，你可以有这些连接。我们说的是每几微米就有一个连接。如果我没算错的话，每平方毫米就有20万个连接。实际上相当多。就好像它们都只是建立在一块硅上面一样。只是把它折叠起来，并且是同样的低能量/比特，同样的高延迟/比特。
卡斯：这就是Meta介入的地方。
摩尔：的。Meta经常出现在这个会议和其他会议。我注意到他们在小组讨论中谈到了他们对理想增强现实眼镜的芯片技术的期望。不管怎样，他们想要的是3D技术，因为它可以让他们在一个区域内容纳更多的性能，更多的硅性能，使其实际上可能适合像是一副眼镜的设备。再说一遍，这可能会减少芯片的功耗，而这一点非常重要，因为你不想让芯片太热。你希望它能持续很长时间。这样你就不需要一直充电。
摩尔：据我所知，这是Meta第一次展示他们的芯片。这是一个定制的机器学习芯片。它是用来执行增强现实中绝对需要的神经网络。他们有一个4毫米乘4毫米的芯片，而它实际上是由两个芯片混合键合在一起。
卡斯：你需要这些东西，因为你需要芯片能够做所有的计算机视觉处理，处理环境中正在发生的事情。这就是为什么机器学习如此重要的原因。
摩尔：没错。你需要人工智能就在你的眼镜里，而不是在云端或者说附近的服务器。在设备里面不会给你太多的延迟。总之，这个芯片实际上是两个3D堆叠芯片。很酷的一点是，他们真的做到了3D。因为他们有一个2D版本。他们测试了组合形态，也测试了只有一半的形态。最终，3D堆叠的效果要好得多。不仅仅只是两倍的好。
摩尔：基本上，在他们的测试中，他们追踪了两只手，而这对于增强现实来说显然是非常重要的事情。它必须知道你的手在哪里。这就是他们测试的项目。所以，3D芯片能够追踪两只手，而它在只追踪一只手时比普通的2D芯片消耗更少的能量。所以3D芯片显然是Meta的胜利。我们会看到最终的项目是什么样的，以及是否有人真的想使用它。但很明显，这是一项能帮助他们实现目标的技术。
