11月21日下午,华为在上海举办“2025 AI容器应用落地与发展论坛” ,会上正式发布并开源了创新AI容器技术Flex:ai 。
目前,行业内算力资源的平均利用率仅为30%至40%,据华为介绍 ,Flex:ai通过算力切分技术,将单张GPU(图形处理器)/NPU(神经网络处理器)算力卡切分为多份虚拟算力单元,切分粒度精准至10%。此技术实现了单卡同时承载多个AI工作负载 ,在无法充分利用整卡算力的AI工作负载场景下,算力资源平均利用率可提升30%。
与英伟达旗下Run:ai只能绑定英伟达算力卡不同,华为AI容器技术Flex:ai通过软件创新,可实现对英伟达 、昇腾及其他第三方算力资源的统一管理和高效利用 ,有效屏蔽不同算力硬件之间的差异,为AI训练推理提供更高效的资源支持 。
大幅提升算力资源利用率
据介绍,华为Flex:ai是基于Kubernetes容器编排平台构建的XPU池化与调度软件 ,通过对GPU、NPU等智能算力资源的精细化管理与智能调度,实现AI工作负载与算力资源的“精准匹配 ”,大幅提升算力资源利用率。
据了解 ,容器技术作为一种轻量级虚拟化技术,可以将模型代码、运行环境等打包成一个独立的 、轻量级的镜像,实现跨平台无缝迁移 ,解决模型部署“环境配置不一致”的痛点。容器还可以按需挂载GPU、NPU算力资源,按需分配和回收“资源”,提升集群整体资源利用率 。
AI时代需要AI容器
根据Gartner的报告 ,目前AI负载大多都已容器化部署和运行,据预测,到2027年,75%以上的AI工作负载将采用容器技术进行部署和运行。
谈及为什么推出Flex:ai AI容器技术 ,华为公司副总裁、数据存储产品线总裁周跃峰表示,传统容器技术已无法完全满足AI工作负载需求,AI时代需要AI容器。
具体而言 ,周跃峰表示,首先,大型语言模型(LLM)的容器镜像轻松突破10GB ,多模态模型镜像甚至可达TB级别,传统容器无法支持超大镜像的快速拉起,环境构建时间往往长达数小时。
其次 ,传统容器主要针对CPU(中央处理器) 、内存等通用计算资源进行管理与调度,而AI大模型训练与推理还需大幅依赖GPU、NPU等智能算力资源,传统容器无法对异构智算资源做到算力细粒度切分与智能调度 ,导致即使很小的AI工作负载也独占整张算力卡,且无法进行远程调用 。
最后,传统容器的资源调度以固定分配、通用调度为主,而AI工作负载的资源调度需要以保障任务完成效率为目标 ,对不同任务的特性进行感知,实现动态弹性的资源分配。
据介绍,与英伟达今年年初收购的Run:ai公司的核心产品相比 ,华为Flex:ai在虚拟化、智能调度等方面具备独特优势。
具体来看,在本地虚拟化技术中,Flex:ai支持把单个物理GPU/NPU算力卡切割为数个虚拟算力单元 ,并通过弹性灵活的资源隔离技术,可实现算力单元的按需切分 。
同时,Flex:ai独有的“拉远虚拟化 ”技术 ,可以在不做复杂的分布式任务设置情况下,将集群内各节点的空闲XPU算力聚合形成“共享算力池”,此时不具备智能计算能力的通用服务器通过高速网络 ,可将AI工作负载转发到远端“资源池”中的GPU/NPU算力卡中执行,实现通用算力与智能算力资源融合。
在智能调度方面,Flex:ai的智能资源和任务调度技术,可自动感知集群负载与资源状态 ,结合AI工作负载的优先级 、算力需求等多维参数,对本地及远端的虚拟化GPU、NPU资源进行全局最优调度,满足不同AI工作负载对资源的需求。
加速AI行业化落地
周跃峰表示 ,Flex:ai将在发布后同步开源在魔擎社区中 。Flex:ai将与华为此前开源的Nexent智能体框架、AppEngine应用编排 、DataMate数据工程、UCM推理记忆数据管理器等AI工具共同组成完整的ModelEngine开源生态,加速赋能AI行业化落地。
周跃峰表示,不同行业、不同场景的AI工作负载差异较大 ,通过开源,Flex:ai可提供提升算力资源利用率的基础能力和部分优秀实践,与业界一道结合行业场景完成落地探索。
此外 ,华为还希望通过开源推动形成以AI容器技术为载体的资源高效利用新范式 。周跃峰说,开源的Flex:ai可以在产学研各界开发者的参与下,共同推动异构算力虚拟化与AI应用平台对接的标准构建 ,形成算力高效利用的标准化解决方案。
东财图解·加点干货玩股票的技巧:股票杠杆怎么做-未来10年算力总量增长10万倍!华为发布十大技术趋势
玩股如何加杠杆:股票网上开户怎么办理-消费领域利好来了!九部门重磅发布!
怎么选择股票技巧:利用杠杆原理的工具有-OpenAI发布ChatGPT智能体 能帮金融分析师做PPT和EXCEL
炒股杠杆是怎么申请的:股票的买入和卖出技巧-OpenAI推出更强大的GPT-5模型 适用于编码和写作
炒股票可以在手机上开户:股票怎么杠杆买入-阿里AI芯片概念曝光!这些股有望高成长
股票的杠杆怎么加:新股票买入技巧-特朗普称希望中国参与削减核武库 外交部:不合理也不现实
什么叫股票杠杆技术:网上开户买卖股票-你恐慌我贪婪!沪指冲到3700点 板块轮动到谁了?这些ETF正被主力大幅买入
股票交易杠杆原理:最安全的杠杆炒股平台-十五五规划建议发布:全链条推动集成电路、工业母机、高端仪器、基础软件、先进材料、生物制造等重点领域关键核心技术攻关取得决定性突破
启泰网配资-最全面的配资平台_配资炒股公司_炒股杠杆平台收益提示:文章来自网络,不代表本站观点。
启泰网配资-最全面的配资平台_配资炒股公司_炒股杠杆平台收益⑯我们注重用户体验的持续提升,不断优化界面设计,提升平台的易用性和便捷性。
界面新闻记者|陈靖金融市场充满变数。年初至今,券商研究所分析师“转会”频频。过去三个月,券业并购下的...
消息面上,当地时间4月11日深夜,美国海关与边境保护局发布公告称,根据美国总统当天签署的备忘录,智能手机、路由器以及部分...
通过内容化表达,天猫服饰让直播间升级为承载品牌故事及理念的“数字枢纽”。传统秀场的物理边界正在逐步消解,把秀场直...
新开源在互动平台表示,美国业务约占3%-5%,目前关税对业务影响较小。...
记者辛圆为抵御外部冲击,商务部正在采取行动。商务部新闻发言人何咏前在周四的例行新闻发布会上表示...
记者辛圆据央视新闻周四发布消息,中国中小企业协会周四发布数据显示,2025年一季度,中国中小企业发展指...
苹果公司表示,即将面向开发者推出苹果智能模型;确认操作系统即将重新设计。 今年Apple智能将支持更多语言,同时苹...
记者从商务部了解到,截至目前,今年消费品以旧换新销售额已突破1万亿元。 今年以来,消费品以旧换新有力带动消费持续回...
截至2025年4月11日 10:03,中证机器人指数(H30590)上涨0.23%,成分股中大力德(002896)上涨6...
作者:ACE1.对于中国的互联网大亨来说,刚刚过去的2021年,是被载入史册的一年。只不过,载入...
布伦特原油自2021年2月以来首次跌破60美元,日内大跌近5%,现报59.8美元/桶。WTI原油期货跌幅扩大至5%,报5...
近期,多家汽车企业发起新一轮大范围降价。无序“价格战”等内卷式竞争,已成为汽车行业效益下降的重要因素。 中国汽车工...
【科创综指ETF鹏华(589680)份额再创新高,一键分享科创板成长红利】截至2025年4月11日 10:11,上证科创...
今日A股V型反弹,TMT行业探底回升。芯片50ETF(516920)探底回升,尾盘翻红收涨0.92%,资金连续涌入,近2...
3月25日消息,离岸人民币(CNH)兑美元北京时间04:59报7.2639元,较上周五纽约尾盘跌68点,日内整体交投于7...