封小韵：算力网罗，驱动AI发展的中枢能源
专题：2024中国高新手艺论坛
“2024 中国高新手艺论坛”于11月14日在深圳举行。念念科大中华区副总裁封小韵出席并演讲。
以下为演讲实录：
封小韵：刚才两位院士的先容非常精彩，给我至极至极大的压力。既然公共压力这样大，我但愿这部分跟公共的陈诉这个有点浮松也有点新的话题上给公共有一些新的感受。
我的题目是“算力网罗，驱动AI发展的中枢能源”。我知说念在座诸君都是各自行业的巨匠，是以你们可能不太招供凭什么说算力网罗是驱动AI发展的中枢能源。这就对了，我等于要把这个题目抛出来，想跟公共相通一下，但愿接下来这十几分钟公共在我的先容里有一些新的领路，跟正本不同样的观念，这是我此次但愿带给公共的一些新知。
公共要是对我刚才的不雅点有我方的观念，我是从公共都有共鸣的点初始讲。
AI三要素，可能公共都莫得什么异议，模子和诈欺，刚才刘院士讲了非常多本体场景的诈欺，数据和基础架构。这三点共鸣公共应该都痛快。
念念科是作念基础架构的，在基础架构里三个伏击构成部分：能源、工作器、芯片（GPU及网罗）。
网罗有什么了不得的？我援用了全球最顶级的作念大模子数据锻真金不怕火细腻东说念主对GPU和基础架构的观念。GPU像金子同样又贵又少，详情不可让它闲着，用什么来让它满负荷运转？那等于数据。怎么样材干作念到不休喂养数据给它让它满负荷运转？唯有网罗。AI的网罗跟传统所谓数据中心网罗有什么分别？上图讲到的是AI对网罗的三种不同诈欺。大畛域GPU并行狡计条件这个网罗是无损的，当今的GPU都是用O2O的采集通信神志，当今锻真金不怕火时条件每一个GPU锻真金不怕火出来的成果公共同步恭候，就有了蔓延褂讪需求。
这个图就不错看到，传统数据的流量方式在个体流量上是大批异步小带宽，重复之后变成平衡的流量成果，前边三个条件带来的都备不同样的模子瓦解。
小结：AI对网罗的条件就三个标识：00、++、--。00，对网罗的条件无损耗，不丢包；++，网罗带宽要越来越大；--，时延要越来越少，越来越减。什么样的网罗手艺材干高傲AI的算力网罗条件？鄙俚传统数据中心网罗流量跟AI网罗流量都备不同样，手艺层面上，这一两年可能公共在AI网罗上花的钱最多的是IB，用INFINIBAND来作念。我这张图是把传统以太网手艺跟IB关键手艺上的参数维度列出来。
红色代表的是以太网的上风，灰色代表的是IB的上风（见PPT）。一般关键身分上都是以太网全面早先，碾压性的早先。但为什么公共如故花这样多钱用IB更多？因为几个关键身分：带宽、时延、无损以及跟GPU尤其是英伟达我方的GPU的适配性，都是IB作念得更好，是以当今IB的价钱贵许多，IB的东说念主才非常少。IB的提高性以及弹性、可裁汰性非常有限，公共都是花大价钱作念这件事情。
某一个经过上讲，断绝了AI算力发展的，一方面是GPU像金子同样贵，另外是算力网罗使得这个算力的发展雪上加霜。
好音信是刚才我说到的几个关键身分里，以太网这一两年有了非常大的发展，在一些关键身分的弘扬上一经非常接近，致使不错说很快就要追上了。这个追逐的动作是怎么发生的？以太网凭什么能够在短时辰内有这些变化？
我但愿通过这三张图能够讲明刚才红圈部分的变化是怎么发生的。
左边的图不错看到，当今无论是前端如故后端，算力网罗上以太网的使用量一经跳动了IB。马斯克最近10万卡的集群，大批是用的以太网算力网罗来作念。为什么公共敢用以太网来作念？第二幅图红色部分不错看到，带宽和时延这几年的变化。以太网一经从某种经过上超过了IB。
刚才说到一个很伏击的原因，GPU的适配性，尤其是跟英伟达，业界俗称全家桶，它的GPU、IB一说念这样下来。本年超等以太网定约会发布怎么样让GPU和里面系统的Scale和解起来，通过以太网来完了，念念科亦然里面的首创成员。因为咱们以太网的发展有当今这三个不同的动作，使得刚才我说的那几个身分追得越来越近了。
我陈诉一下念念科当今的算力网罗好像作念到了什么经过。
曩昔跟念念科打过交说念的都知说念咱们传统作念系统包括软件，以及到光模块，全部居品都一经非常完善了。用念念科的AI算力网罗，价钱一经不错作念到非常低，跟IB比起来不错说是1：N之间的联系。
底下说说软件，基于AI网罗特质，有了一些软件和手艺上全调换的算法。我放了一张调换算法图，具体内容在白皮书里详备手艺先容，不错会后再相通。
AI算力网罗，除了刚才讲到的网罗流量自己，它还有好几个层面需要推敲。不同层面有一些不同的应酬神志，包括数据和安全。
我但愿刚才非常精简和快速的先容能跟公共陈诉一下最近咱们在以太网上的进展，怎么样跟IB作念追逐和匹配，使得公共作念AI算力网罗时易用性、适配性、价钱和普适经过，都能自便降下来，从而鼓励AI算力的发展。
临了，在这样多手艺巨匠跟前，我要讲一个小小的话题，亦然看成我今天这个内容的扫尾。
手艺的绝顶都是玄学，前段时辰诺贝尔奖得主Hintin讲他最自尊的事情是他的学生把西蒙干掉。（56：31）刻下咱们看到在硅谷AI进收支拨的东说念主员变更，许多时候都是这两派之争的成果，这里面的战术、理念包括他们的玄学念念想，深深影响当今的政策。这两派的竞争很热烈，但有几个点是共鸣的，包括AI对风险、伦理说念德以及全球协调上都要有干预、截至和共鸣。
为什么念念科要加入《东说念主工智能罗马倡议》以及以中国看成基地的寰球互联网大会刚刚建议的《发展负包袱的生成式东说念主工智能究诘评释及共鸣文献》，念念科都在里面积极参与。AI发展到临了如故要为东说念主类工作，要是AI发展得太快，对东说念主类酿成伤害或者一些不可逆转的成果，应该引起咱们的反念念，何况用咱们智商范围内好好念念考这些问题。
临了，但愿高交会办得越来越好，促进AI行业的发展，让AI发展的同期对东说念主类越来越好，谢谢诸君！
新浪声明：总共会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之策画，并不虞味着赞同其不雅点或证据其描画。
海量资讯、精确解读，尽在新浪财经APP
包袱裁剪：梁斌 SF055
上一篇：微盟集团：AI居品WIME受电商大促深爱，双十一月活提高20% 下一篇：2024年11月21日寰宇主要批发市集粳米(无为)价钱行情
