郑纬民谈国产AI芯片生态系统的完善

发表时间: 2024-07-09 11:27

新京报贝壳财经讯(记者罗亦丹)7月6日至8日,信百会研究院与清华大学经济管理学院在北京联合主办主题为“因‘智’生力,向‘数’而新——AI驱动数字经济新发展”的信百会2024年会。清华大学计算机系教授、中国工程院院士郑纬民进行了题为《算力和存储是人工智能大模型的基座》的发言,对如何在英伟达算力管制的前提下更好运用国内算力阐述了自己的观点。

郑纬民表示,算力是大模型产业的主要开销,占到了大模型训练成本的70%,大模型推理成本的95%。基于英伟达公司的GPU系统硬件性能好、生态好,而基于国产AI芯片的系统用户不太喜欢用,原因在于国产的生态系统不太好。

“国产AI芯片只要达到国外芯片60%的性能,如果生态做好了,客户也会满意。大多数任务不会因为芯片性能只有60%而有明显感知,大家感觉到的不好用还是生态不行。”郑纬民说。

什么叫生态好?郑纬民下了一个定义:如果原来用英伟达写了一个人工智能软件,现在很容易移植到国产系统上去,这叫生态好。如果移植起来没有这个库,没有一年、两年移不过来,生态就不好。

他表示,改变过程生态系统不好的局面,要做好十个软件:编程框架、并行加速、通信库、算子库、AI编译器、编程语言、调度器、内存分配系统、容错系统、存储系统。

编辑 岳彩周

校对 刘军