让国产算力用起来,首个国产算力PoC平台开放

日期:

“我们现在进入算力信创的2.0时代。”北电数智CMO、战略与市场负责人杨震说道。在AI迅速发展的浪潮下,对于算力的需求也发生新变化,算力已然成为了数字经济时代重要的战略资源。

11月21日,北电数智打造的首个国产算力PoC平台正式开放,并落地北京数字经济算力中心。

国产算力PoC平台依托于北电数智的前进·AI异构计算平台,为国产算力集群提供垂类场景评测、适配与验证服务的同时,为互联网、AI应用开发企业等垂类场景应用开发提供多种算力适配试验空间,实现从底层算力到业务场景驱动的双向链路打通。

杨震表示:“国产算力PoC平台的核心价值是以评促用,以真实场景带国产算力使用,加速国产算力的商业化进程。北电数智致力于打造的信创2.0时代,让算力的供需双方省心更省力。”

数字经济发展迅速,智能算力作为推动技术创新和经济增长的重要动力,有效支撑着各行各业升级转型。

近年来,国产算力芯片虽然发展速度快,但在真正大规模商业化落地上还有很长一段路。究其原因主要是缺乏足够全面的应用场景展示和切实有效的评测机制,多数算力应用方对国产算力的能力认知不够清晰。

传统以指数型评测指标为主的算力评测方案,仅能呈现国产芯片的理论参数,无法展现国产芯片在不同业务场景下的性能指标,使得算力使用方在购买前无法验证国产算力能否满足自身业务需要,对于是否选用更存在诸多顾虑。

“我们对国产芯片做了非常多的加速、混元、适配等工作,同时让它形成商业闭环,推动其不断迭代。”杨震说。

现实情况是算力中心为满足用户日益多元化的算力需求,需采购不同品牌的芯片产品,而多芯片混用的客观现实和建设需求,亦带来了不同芯片间软件不兼容、算力难打通、开发工具链统一管理难度大等难题。这些现实因素共同制约了国产芯片从底层算力到业务场景的商业闭环形成,阻碍了国产芯片的发展与普及。

在此背景下,北电数智想让国产算力厂商找到展示自己的平台,也找到自己迭代前进的方向。“国产芯片可以在自己强项的地方,把长板做得更长。”杨震说。

北电数智国产算力PoC平台能够有效降低国产算力芯片的验证成本,解决研发与应用脱节问题,对提高商业转化具有显著的促进作用。一方面,该项目可展示国产芯片在不同AI应用场景下的实际能力和性能表现,让大模型提供方和AI应用开发企业直观了解不同国产芯片的最佳应用场景;另一方面,也可为AI企业或互联网企业提供针对不同垂类场景的国产芯片性能评测验证服务,加速国产算力芯片在千行百业中的广泛渗透与应用。

简单来说,北电数智国产算力PoC平台就是将国产芯片放进所需的场景做测试,从而知晓实际表现情况如何,让不同的算力需求方在未来的实际业务中可以果断、快速地用国产算力。

用杨震的话来说,国产算力PoC平台基于北京数字经济算力中心,能够提供算力服务、提供模型服务、提供数据服务、提供高价值服务,让企业把智算中心当做AI工厂使用,享受即插即用的智算服务。同时,北电数智通过精细化运营的算力运营,把芯片里每一滴算力都充分压榨出来。

今年年底,北京数字经济算力中心即将完成基础设施建设,据北电数智介绍,截至目前,由北电数智统一规划建设与设计运营的北京数字经济算力中心已成功完成对近二十家知名国产算力芯片的部署测试。

杨震表示,“通过首个国产算力PoC平台,能够让大家在实际使用场景中充分认识国产芯片,把国产芯片用起来。”

据了解,国产算力PoC平台背后依托的前进·AI异构计算平台,是由北电数智牵头,联合业内头部科研团队及国内各大国产算力厂商共同构建,是全国首个在生产环境下可实现规模化测试的全栈迭代验证平台,具有多重优化功能,可通过模型量化加速、模型超参数调优、稀疏化推理等模型优化能力,算子融合加速、计算图优化、硬件访存优化等编译优化方式,加速单芯片的性能。

面向多芯片混元异构的未来趋势,前进·AI异构计算平台亦可以针对不同芯片特点,基于模型任务的不同调配合适的芯片算力,让合适的芯片做合适的事,提供具有性价比的高质量算力。

在大模型的浪潮下,北电数智也在不断布局大模型在应用层面解决方案,涉及到影视、金融、政务、工业等多个垂类场景。

以政务大模型场景为例,政务领域信息丰富,知识结构复杂,工作多以表格分析,政务文本撰写等,需要高准确性和适用性。北电数智与政府侧技术部门合作,通过数据获取、数据清洗、知识更新、表格内容提取等方式获取有效信息,建设行业知识库;再通过幻觉检测、安全围栏、数据可信空间等技术对数据进行有效分区,最终提供全栈国产化的整体解决方案。

在影视方面,北电数智正在面向影视文化产业的AIGC视听解决方案六艺多模态影视文化大模型,基于国产算力PoC平台,深度联合10余家相关AI明星企业,打造人物AI生成代理、剧情创作辅助工具等超级应用,助力推动影视及文化产业的数字化与智能化转型升级。

[ad_1]


[ad_2]

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Share post:

订阅

spot_imgspot_img

流行

相关文章
Related