ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

算力饥渴的尽头:光子芯片与存算一体技术能否打破摩尔定律的AI瓶颈?

算力饥渴的尽头:光子芯片与存算一体技术能否打破摩尔定律的AI瓶颈? 这两年AI发展得有多快算力的缺口就有多大。不知道大家有没有这种感觉大模型参数越做越大训练一次要的算力越来越夸张动不动就是几千上万张GPU电费都得几百万。而且不光训练推理也费算力用户多问几句话服务器就扛不住了。但问题是传统芯片的性能提升越来越慢了。摩尔定律早就走到了尽头先进制程从7nm到5nm再到3nm每往前走一步都难如登天成本还越来越高。一边是AI对算力的需求指数级增长一边是传统芯片的性能提升越来越乏力这个矛盾怎么解最近这两年光子芯片和存算一体这两个技术方向特别火很多人说它们能打破摩尔定律的瓶颈成为AI算力的新希望。今天就跟大家聊聊这个话题说说我自己的看法。一、先搞懂AI的算力瓶颈到底卡在哪很多人对算力瓶颈的理解就是芯片不够快性能不够强。其实不完全是这样。现在的AI算力瓶颈很大程度上不是算不动而是数据搬不动。传统的计算机架构计算和存储是分开的。CPU/GPU负责计算内存/硬盘负责存储。计算的时候要把数据从存储搬到计算单元算完了再搬回去。这个数据搬运的过程其实比计算本身还要费时间、费能量。尤其是AI大模型参数动辄几十亿上百亿甚至上千亿。每次计算都要把大量的参数从内存搬到计算单元搬来搬去大部分时间和功耗都花在数据搬运上了真正用于计算的反而不多。这就是业内常说的内存墙和功耗墙。打个比方就像一个工厂生产线速度很快但原材料运不进来成品运不出去那生产线再快也没用大部分时间都在等货。现在的AI芯片大概就是这么个情况。而且传统的电子芯片还有个发热问题。晶体管越做越小密度越来越高发热越来越严重散热都成了大问题。你看现在的高端GPU功耗动不动就三四百瓦一个数据中心的电费和散热成本都是天文数字。所以说AI的算力瓶颈不是单一的问题是制程、功耗、内存墙、散热好几个问题叠在一起传统架构越来越难以为继了。二、光子芯片用光来计算听起来很美第一个热门方向就是光子芯片。简单说就是不用电子用光来做计算。光有什么好处首先是速度快光速嘛肯定比电子快。其次是功耗低光传输和计算的功耗比电子低很多发热也小。还有就是带宽大光可以用不同波长并行传输数据带宽比电子高得多。听起来是不是很美好如果真的能实现光子计算那算力直接就能上一个大台阶功耗还能降下来简直是完美的解决方案。但问题来了光子芯片说了这么多年为什么一直没大规模商用因为难度实在太大了。光子不像电子那么好控制。电子可以用晶体管很方便地开关、放大但光子不一样光的开关、调制、探测每一步都很难。而且光子器件的体积很难做小不像晶体管可以做到几纳米。还有就是光子计算适合做特定的运算比如矩阵乘法刚好是AI里用得最多的但通用计算就不太行了。现在的光子芯片更多还是在特定场景下的应用比如AI推理、通信这些领域离通用计算还差得远。而且很多技术还停留在实验室阶段真正量产商用的还不多。不过这两年进展确实挺快的国内外都有不少公司在做也有一些产品出来了主要用在数据中心的AI推理加速上。虽然还谈不上替代GPU但在某些特定场景下确实能做到性能更高、功耗更低。我的判断是光子芯片未来肯定是个重要方向但短期内还成不了主流更多是作为补充在特定场景下发挥作用。想要全面替代电子芯片至少还得二三十年。三、存算一体把计算和存储放一起更接地气第二个方向存算一体我觉得比光子芯片更接地气也更容易落地。什么是存算一体顾名思义就是把存储和计算放在一起不用再把数据搬来搬去了。刚才说了传统架构最大的问题就是数据搬运太费时间费功耗那存算一体直接从根上解决这个问题在存储单元里直接做计算数据不用搬就地就算了。这就好比把仓库和生产线合在一起原材料不用运来运去直接在仓库里加工效率肯定高多了。存算一体的技术路线也有好几种比如基于Flash的、基于RRAM的、基于MRAM的各有各的优缺点。但不管哪种路线核心思路都是一样的就是打破计算和存储的边界消除数据搬运的开销。这个方向为什么我觉得更靠谱因为它不需要颠覆现有的半导体产业更多是架构上的创新技术难度相对低一些落地也更快。事实上现在存算一体已经有不少商用产品了主要用在端侧AI推理上比如智能摄像头、可穿戴设备、物联网设备这些。这些场景对功耗要求高算力需求又不是特别大存算一体的优势特别明显。当然存算一体也有它的问题。比如精度问题存储单元做计算精度往往不如传统的数字电路对于高精度的训练场景还不太够用。还有就是软件生态的问题传统软件都是基于冯诺依曼架构写的要适配存算一体还得重新优化生态建立需要时间。但总的来说存算一体是目前来看解决AI算力瓶颈最现实、最有可能率先大规模落地的技术路线。尤其是在端侧和边缘侧未来几年应该会有很大的发展。四、这两个技术真的能打破摩尔定律吗说了这么多最后回到最开始的问题光子芯片和存算一体真的能打破摩尔定律的AI瓶颈吗我的看法是能缓解但谈不上打破。而且更重要的是它们不是替代关系而是互补关系未来大概率是多种技术并存的局面。为什么说能缓解因为这两个技术都是从不同角度解决传统架构的痛点。存算一体解决数据搬运的问题光子芯片解决速度和功耗的问题都能在现有基础上把算力再往上提一大截同时降低功耗。但为什么说谈不上打破因为摩尔定律的本质是每18个月性能翻一倍、价格降一半。不管是光子芯片还是存算一体都很难维持这样的指数级增长。它们更像是打开了一个新的空间让算力再上一个台阶但上去之后还是会遇到新的瓶颈增长还是会放缓。而且还有个很重要的点就是AI的算力需求增长太快了比芯片性能提升的速度快多了。就算芯片性能再翻十倍可能过两年又不够用了。技术进步永远追不上需求的增长这可能是个永恒的矛盾。所以我觉得未来的AI算力不会是某一种技术一统天下而是多种技术混合。传统的GPU/CPU负责通用计算存算一体负责端侧和边缘侧的推理光子芯片负责特定场景的加速大家各司其职一起满足AI对算力的巨大需求。五、最后说几句总的来说AI的算力瓶颈确实是个大问题而且会越来越突出。传统的摩尔定律路线已经走不动了必须找新的出路。光子芯片和存算一体都是很有希望的方向。存算一体更近一些未来几年应该会看到更多落地光子芯片更远一些但潜力更大。不过大家也不用太焦虑技术的发展总是波浪式前进的。一个方向遇到瓶颈了总会有新的方向冒出来。当年摩尔定律快不行的时候大家也担心过后来多核、GPU并行计算又把算力拉上去了。这次也一样。对于我们普通人来说关注技术趋势就好不用太纠结技术细节。可以确定的是算力会越来越便宜AI会越来越普及这是大趋势。本文为个人行业观察分享仅代表个人观点具体技术进展请以行业官方信息为准。
返回列表