在2025AI容器应用落地与发展论坛上,华为公司副总裁、数据存储产品线总裁周跃峰博士在论坛上正式发布AI容器技术——Flex:ai,同时 ,华为联合上海交通大学 、西安交通大学与厦门大学共同宣布,将此项产学合作成果向外界开源。
本次发布并开源的Flex:ai XPU池化与调度软件,是基于Kubernetes容器编排平台构建 ,通过对GPU、NPU等智能算力资源的精细化管理与智能调度,实现AI工作负载与算力资源的匹配,可大幅提升算力利用率。
当前 ,AI产业高速发展催生海量算力需求,但全球算力资源利用率偏低的问题日益凸显 。
有业内人士对《科创板日报》记者表示,行业内算力资源的平均利用率仅为30%至40% ,甚至低于30%。小模型任务独占整卡导致资源闲置,大模型任务单机算力不足难以支撑,大量缺乏GPU/NPU的通用服务器更是处于算力“休眠”状态。
AI时代如何唤醒并高效利用算力集群资源 ,成为整个行业一大难题 。而容器技术作为一种轻量级虚拟化技术,可以将模型代码、运行环境等打包成一个独立的 、轻量级的镜像,实现跨平台无缝迁移。容器还可以按需挂载GPU、NPU算力资源,按需分配和回收“资源” ,提升集群整体资源利用率。
Gartner的分析师表示,目前AI负载大多都已容器化部署和运行,据预测 ,到2027年,75%以上的AI工作负载将采用容器技术进行部署和运行 。
在AI容器领域,业界已经有多家企业推出了不同产品。此前 ,英伟达于以7亿美元(约合人民币49.7亿元)收购了以色列AI公司Run:ai。这家公司核心产品,正是基于Kubernetes构建的软件平台,用于调度GPU的计算资源 ,通过动态调度、池化 、分片等技术,实现GPU资源利用率的优化,让深度学习训练与推理任务在企业级环境中高效运行 。
本次华为发布并开源的Flex:ai XPU池化与调度软件 ,与Run:ai公司的核心产品相比,在虚拟化、智能调度等方面实现了突破。
具体来看,针对AI小模型训推场景中“一张卡跑一个任务 ”的资源浪费问题,华为与上海交通大学联合研发XPU池化框架 ,可将单张GPU或NPU算力卡切分为多份虚拟算力单元,切分粒度精准至10%。这一技术实现了单卡同时承载多个AI工作负载,且通过弹性灵活的资源隔离技术 ,可实现算力单元的按需切分,“用多少,切多少” ,使此类场景下的整体算力平均利用率提升30%,提高单卡服务能力 。
针对大量通用服务器因缺乏智能计算单元而无法服务于AI工作负载的问题,华为与厦门大学联合研发跨节点拉远虚拟化技术。该技术将集群内各节点的空闲XPU算力聚合形成“共享算力池” ,一方面为高算力需求的AI工作负载提供充足资源支撑;另一方面,可让不具备智能计算能力的通用服务器通过高速网络,可将AI工作负载转发到远端“资源池 ”中的GPU/NPU算力卡中执行 ,从而促进通用算力与智能算力资源融合。
面对算力集群中多品牌、多规格异构算力资源难以统一调度的痛点,华为与西安交通大学共同打造Hi Scheduler智能调度器。该调度器可自动感知集群负载与资源状态,结合AI工作负载的优先级 、算力需求等多维参数,对本地及远端的虚拟化GPU、NPU资源进行全局最优调度 ,实现AI工作负载分时复用资源 。
周跃峰介绍,Flex:ai的发布主要希望推动AI平民化。“此前AI行业化落地的时候,医院的某一个科室往往买8张卡 ,最多是16张卡。这样小集群就很难进行粗放的GPU或NPU利用和调度 。能不能把一张卡虚拟化成多张卡,以更小的算力单元进行调度,让每一张卡的算力能力能够充分释放出来 ,让AI能够平民化,这是Flex:ai软件希望解决的问题。”
周跃峰表示,Flex:ai将在发布后同步开源在魔擎社区中。此外 ,华为还希望通过开源推动形成以AI容器技术为载体的资源高效利用新范式 。开源的Flex:ai可以在产学研各界开发者的参与下,共同推动异构算力虚拟化与AI应用平台对接的标准构建,形成算力高效利用的标准化解决方案。
(文章来源:财联社)
股票手机怎么买:如何区分股票是什么板块的-阿里美团激战升级!高德10亿补贴杀入“到店”榜单 点评“重启”品质外卖
a股股票怎样加杠杆:股票如何开通手机炒股-麻省理工研究:中国在全球开源AI模型市场上首度超越美国
配资门户官网首页:如何区分股票是什么板块的-中信建投:重视锂电设备端投资机会
散户配资股票:如何区分股票是什么板块的-CRO龙头连涨10天!盘中一度复归“百元股” 近期连涨牛股扫描 这些高标频录涨停
配资平台app下载:如何买股票手机-黄仁勋:中国的开源AI是推动全球进步的催化剂 下一波浪潮是机器人
如何用手机买股票:配资网上开户-从币圈寒冬到AI盛宴:原比特币矿企获云服务巨头90亿收购
启泰网配资-最全面的配资平台_配资炒股公司_炒股杠杆平台收益提示:文章来自网络,不代表本站观点。
启泰网配资-最全面的配资平台_配资炒股公司_炒股杠杆平台收益⑯我们注重用户体验的持续提升,不断优化界面设计,提升平台的易用性和便捷性。
界面新闻记者|陈靖金融市场充满变数。年初至今,券商研究所分析师“转会”频频。过去三个月,券业并购下的...
消息面上,当地时间4月11日深夜,美国海关与边境保护局发布公告称,根据美国总统当天签署的备忘录,智能手机、路由器以及部分...
通过内容化表达,天猫服饰让直播间升级为承载品牌故事及理念的“数字枢纽”。传统秀场的物理边界正在逐步消解,把秀场直...
新开源在互动平台表示,美国业务约占3%-5%,目前关税对业务影响较小。...
记者辛圆为抵御外部冲击,商务部正在采取行动。商务部新闻发言人何咏前在周四的例行新闻发布会上表示...
记者辛圆据央视新闻周四发布消息,中国中小企业协会周四发布数据显示,2025年一季度,中国中小企业发展指...
苹果公司表示,即将面向开发者推出苹果智能模型;确认操作系统即将重新设计。 今年Apple智能将支持更多语言,同时苹...
记者从商务部了解到,截至目前,今年消费品以旧换新销售额已突破1万亿元。 今年以来,消费品以旧换新有力带动消费持续回...
截至2025年4月11日 10:03,中证机器人指数(H30590)上涨0.23%,成分股中大力德(002896)上涨6...
作者:ACE1.对于中国的互联网大亨来说,刚刚过去的2021年,是被载入史册的一年。只不过,载入...
布伦特原油自2021年2月以来首次跌破60美元,日内大跌近5%,现报59.8美元/桶。WTI原油期货跌幅扩大至5%,报5...
近期,多家汽车企业发起新一轮大范围降价。无序“价格战”等内卷式竞争,已成为汽车行业效益下降的重要因素。 中国汽车工...
【科创综指ETF鹏华(589680)份额再创新高,一键分享科创板成长红利】截至2025年4月11日 10:11,上证科创...
今日A股V型反弹,TMT行业探底回升。芯片50ETF(516920)探底回升,尾盘翻红收涨0.92%,资金连续涌入,近2...
3月25日消息,离岸人民币(CNH)兑美元北京时间04:59报7.2639元,较上周五纽约尾盘跌68点,日内整体交投于7...