环球最资讯丨我国应加速构建新型智能计算中心

快讯 | 2023-03-31 11:01:44
时间:2023-03-31 11:01:44   /   来源: 中国电子报      /   点击数:()


(相关资料图)

伴随着AI算量需求急剧增加倒逼传统计算架构加速革新,数据成为关键的生产要素,算力时代悄然开启。业内人士普遍认为,算力的提升在拉动GDP方面有非常明显的效果。

实际上,早在2018年,中国科学院计算技术研究所研究员张云泉就首次提出了“算力经济”的概念,指出以计算为核心的算力经济将成为衡量一个地方数字经济发展程度的代表性指标和新旧动能转换的主要手段。经过五年的发展,当前的趋势已经充分表明,随着超算与云计算、大数据、人工智能的融合创新,算力成为当前整个数字经济社会发展的关键推动力。

伴随着算力经济的发展,超算技术和人工智能的融合创新让智能计算中心成为新基建热点。可以看到,当下智能计算中心越来越热,使得人工智能训练的效果特别好,除了写新闻,还可以编故事、聊天,做很多事情。

在摩尔定律放缓的情况下,以英伟达创始人黄仁勋名字命名的定律“黄氏定律”对AI性能的提升做出预测,每10年GPU性能增长1000倍。“未来GPT-4的参数规模或将达到数万亿,至少需要上万块的GPU,甚至连国家超算中心都无法满足其需求,建设新的智能计算平台将成为人工智能新的发展方向。”张云泉说道。

像GPT-3就带来了感知智能对超算的算力挑战。从GPT-3到ChatGPT的技术,实际上是“人工反馈(RLHF)训练机制+大数据+大算力”的集成。大模型带来巨大的AI算力需求缺口,呼唤新型智能计算中心的加速构建。

“为什么ChatGPT能从GPT-3演变过来,这是关键,也是中国人工智能之路和美国人工智能之路的分歧点。”张云泉指出,“这两年大模型国内有人做,但是我们追求的是参数量,从千亿级到万亿级训练参数的快速跃进,但是智能没有涌现。OpenAI走了另外一条路,利用人工反馈的训练机制,通过标注、对齐高质量数据,最后把这条路走通了,用千亿参数的大模型把通用智能挖掘出来了,这点值得反思。”

张云泉认为,未来算力经济市场会有三类公司参加,将出现类似发电厂的算力工厂,尤其是在东数西算西部新能源发达地区,而网络通信公司可通过实施算网融合战略转型为算力供应商,超算云公司、网络通信公司甚至国家电网等分别从不同的技术途径抢占算力服务市场,究竟鹿死谁手尚未可知。

张云泉建议,一是要在现有的大科学装置基础上,围绕“东数西算”重大任务目标增加建设一类算力网工程技术装置;二是要成立国家算网管理机构和专家委员会,建设国家级算力调度和交易平台;三是在智算中心建设过程中,依据自有品牌核心器件成熟度和应用效果,设置合理的核心器件采购比例,扶植和拉动本土算力设备的发展。

标签:

最近更新