以ldquo;超智融合rdquo;前瞻布局主权级大模型发布时间: 2024-07-25 来源:智能计算领域

  

以ldquo;超智融合rdquo;前瞻布局主权级大模型

  党的二十届三中全会审议通过的《中央关于进一步全面深化改革、推进中国式现代化的决定》提出,健全因地制宜发展新质生产力体制机制,催生新产业、新模式、新动能。深化科技体制改革,加强国家战略科技力量建设,发挥我国超大规模市场引领作用,加强创新资源统筹和力量组织,推动科学技术创新和产业创新融合发展。

  当前,高性能计算(HPC)和AI(AI)的快速融合,正成为计算技术革新的关键词。为把握超智融合技术路线的趋势与发展趋势,深入探讨算力发展驱动下新质生产力的形成机制,7月18日,由中国智能计算产业联盟与全国信标委算力标准工作组共同主办的2024中国算力发展专家研讨会在北京召开,众多计算产业链顶尖院士、专家齐聚一堂,启动成立主权级大模型创新联合体,共同探索超智融合技术的发展新路径。

  超智融合技术将超级计算能力与智能算法深层次地融合,实现了对海量数据的高效处理和深度挖掘,为解决复杂的科学问题、推动产业升级和创新提供了强大的支撑。顺应这一趋势,国家超算互联网于今年4月上线,标志着我国在超智融合领域迈出探索性步伐。

  今年5月,在德国汉堡举办的国际超算大会(ISC2024)上,聚焦重塑超算话题,超智融合的新趋势,也引发各界广泛关注。

  “超智融合在未来4-5年内将迎来井喷式爆发。而以此为契机,可推动计算芯片、应用、整机、系统协同创新,加快计算技术发展。”国家高性能计算机工程技术研究中心常务副主任何铁宁当时表示,超智融合是计算技术演进的里程碑,标志着从通用计算主导传统科学计算,过渡到异构加速的AI计算新时代。两者技术特性互补,将重新定义计算领域。

  在研讨会上,中国科学院计算技术研究所研究员张云泉在阐明研讨背景时指出,大模型的迅猛发展彰显出新质生产力的特质,但同时也凸显了算力瓶颈。鉴于中国在超算领域拥有深厚技术积累,今年业界聚焦超算融合,旨在及时响应大模型的算力需求,最大化利用超算技术优势破解当前挑战。

  与会专家一致认同,在摩尔定律逼近物理极限、单一计算架构难堪重负的背景下,超智融合是未来计算技术演进的必然趋势。而超智融合的真正的完成,需遵循循序渐进的原则进行有机融合。

  “超智融合是大势所趋,但要在基础理论层面寻求突破,实现深层次的有机融合,才能实现性能和效率的最大化。”中国科学院院士陈润生提出。

  中国科学院院士、超算互联网总体专家组组长钱德沛进一步提出了超智融合的发展路径。他认为,超智融合进程可以沿着超算支撑AI应用(for AI),用AI技术改进超算(by AI),超智实现内生融合(being AI)三个层面推进,从硬件到软件全方位地进化,以适应和推动人工智能技术的发展。

  “在超智融合技术的发展进程中,应用驱动成为技术演进的关键动力。”国家信息中心信息化和产业发展部主任单志广指出,超智融合的出现,首先源于当前应用侧对算力结构转型的迫切需求,多元算力融合可构建更加适应AI时代需求的新型算力生态系统。

  北京应用物理与计算数学研究所研究员袁国兴同样认为,不同应用需要不同的算法,对计算机有不同的要求,超智融合的根本价值在于与实际应用紧密结合,解决行业痛点。

  半导体工艺限制、复杂多变的国际形势、AI芯片供应不足、算法和数据缺乏算力支持、AI芯片企业缺少统一规划、生态和市场缺少投资建设研讨会上,参加会议的专家表示,一系列亟待解决的问题,成为中国应对大模型产业的发展的主要挑战。随着下一代人工智能蓝海奔涌而至,各国科技争相抢夺的大模型新高地,解决有关问题迫在眉睫。

  如何解决?研讨会上,主权级大模型创新联合体启动成立。中国智能计算产业联盟秘书长安静介绍,作为实现新质生产力的有效手段,发展主权级基础大模型的初衷就是要正面解决我国通用AGI发展面临的算力和智能挑战。

  在2024年全国两会上,作为全国政协委员的张云泉首次提出构建“主权级基础大模型”, 呼吁国家主导整合优质科研和产业力量,尽快训练出我国的“主权级大模型”,以提升国家竞争力,维护未来国家安全。

  张云泉现场解释说,“主权级大模型”是一个动态概念,指代一定时期内顶配水平的基础大模型,它的通用智能水平最高、对算力要求最高,是一个国家AI水平的体现。同时,基础大模型的技术水平也深刻影响着大模型技术在行业落地应用中的智能水平。

  中国工程院院士、清华大学计算机系教授郑纬民强调,现阶段不仅要充分的利用好国家超算中心资源,支撑大模型训练和优化,同时要围绕国产AI加速卡,开发编程框架、并行加速、通信库、算子库、AI编译器、编程语言、调度器、内存分配、容错系统、存储系统十大关键软件,逐步的提升自主生态发展水平。

  “超智融合在实践中正逐渐显现出其价值,技术革新、环境变迁与市场需求的转变推动了这一融合趋势,几乎每个超算中心都在融入智能计算芯片,未来可能会出现超智计算中心出现。”粤澳先进智能计算联合实验室主任邓练兵从两个方面分析了主权级大模型的意义:在技术层面,“超智中心”需解决技术融合难题,既要满足智能计算与AI算法的深度融合需求,又要打破不同厂商技术体系形成的“孤岛效应”。主权级大模型应用将推动各方合作,共建共享开放平台。在运营维护层面,通过国家引导或市场机制,围绕主权级大模型构建生态,可解决算力中心利用率低与中小企业算力需求难以满足的矛盾。

  “国家超算平台是打造主权级大模型的理想选择。”广东智能研究院副院长钱诚表示,未来基于国家超算平台打造的“根模型”赋能十几个国家的超算中心,继而赋能更多算力中心,最终落地到具体应用场景,可形成主权级大模型的完整生态体系。

  ①凡本站注明稿件来源为:中国高新技术产业导报、中国高新网、中高新传媒的所有文字、图片和音视频稿件,版权均属本网所有,任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经本网授权使用作品的,被授权人应在授权范围内使用,并注明“来源:中国高新网、中高新传媒或者中国高新技术产业导报”。违反上述声明者 ,本网将追究其有关规定法律责任。

  ② 任何单位或个人觉得本网站或本网站链接内容可能涉嫌侵犯其合法权益,应该及时向本网站书面反馈,并提供身份证明,权属证明及详细侵权情况证明,本网站在收到上述文件后,将会尽快移除被控侵权的内容或链接。