大模型应用加速落地,企业对算力的需求在性能、规模和供给方式上不断分化,AI 基础设施也逐步走向多元算力并行。不同芯片能否快速接入统一平台,并沿用既有的模型部署和运维体系,正在成为企业评估 AI 基础设施持续演进能力的重要因素。
910C 加速规模落地,ZStack AIOS 完成全链路适配
作为昇腾面向大模型训练与推理的新一代高端 AI 芯片,910C 正伴随 Atlas 900 A3 等产品进入规模应用,已成为当前国产 AI 算力市场中备受关注的主力选择之一。随着国产算力从项目验证走向生产部署,企业对 910C 的关注也开始从单点性能延伸到平台适配、模型兼容和持续运营。
芯片进入数据中心后,驱动、运行环境、推理框架和模型需要逐层匹配,算力资源还要接入统一的监控、巡检和故障定位体系。新硬件能否顺畅融入已有平台、快速形成稳定的模型服务,正在成为企业评估和使用 910C 的重要要求。
针对这一变化,ZStack AIOS 已完成华为昇腾 910C 适配,将其纳入统一的算力管理、模型部署、推理服务和运行维护流程。此次适配覆盖从硬件纳管到模型服务上线的完整链路,集中解决算力能否统一管理、模型能否顺利运行、业务能否持续接入三个关键问题。
算力管得住:统一纳管 910C 资源
新芯片进入数据中心后,首先要解决的是资源可见和统一管理。设备状态、资源使用情况与上层推理服务如果分散在不同工具中,管理员需要在多套界面之间切换,资源分配、日常巡检和问题定位的链路也会随之拉长。
ZStack AIOS 统一呈现 910C 设备及推理服务的运行信息,并将其纳入现有的资源分配、状态监控、巡检和异常定位体系。平台管理员无需增加独立的硬件管理入口,即可在统一视图中掌握新增 NPU 资源及其承载服务的运行状态。当 NVIDIA GPU、昇腾 NPU 等多种算力同时存在时,企业仍可沿用一套管理体系,避免硬件类型增加带来资源视图和运维流程的进一步分散。
模型跑得起:运行环境与框架统一交付
硬件完成纳管,并不意味着模型能够直接运行。驱动、运行环境、推理框架与模型之间需要形成匹配的版本组合;如果每个项目都在现场重新准备和核对,不仅拉长部署周期,也会增加环境差异带来的问题排查成本。
ZStack AIOS 将相关运行环境与推理框架随平台统一交付。用户可以通过统一入口选择模型、推理框架和 910C 算力或其他算力,创建并管理推理服务,无需单独拼装一套部署环境。平台同时支持离线部署,适用于对网络连接和数据安全有严格要求的企业现场,减少组件安装、依赖准备和版本核对等重复工作,缩短 910C 从资源接入到模型服务上线的路径。
业务接得稳:上层应用无需重复适配
企业应用通常通过模型服务调用底层算力。新芯片如果对应新的服务入口和接入方式,硬件调整就会继续向上传导,带来接口修改、联调测试和应用发布等额外工作,也会扩大一次算力变更所影响的团队与系统范围。
在 ZStack AIOS 中,底层算力调整后,上层应用仍可沿用原有的模型服务访问方式。应用团队无需随芯片变化重复改造接口,平台管理员、模型部署人员和应用开发人员也可以继续按照既有分工协作。企业能够将底层算力变化控制在平台内部,在保持业务接入连续性的同时,把 910C 更顺畅地纳入现有 AI 业务体系。
从纳管到推理运行:ZStack AIOS 完成 910C 大模型负载实测
将 910C 纳入统一管理后,ZStack AIOS 进一步通过真实模型负载测试,检验从运行环境、推理框架到模型服务的完整链路能否稳定工作,使 910C 的推理能力可以在平台中得到有效承载和调用。
本次测试采用 DeepSeek-V4-Flash 模型。在特定环境和负载条件下,16 个逻辑 NPU 设备在高并发测试中的输出吞吐最高达到 5,587 tokens/s;同时完成 64K 长上下文负载测试。
测试结果表明,ZStack AIOS 已打通从 910C 资源识别、运行环境交付到大模型推理服务的完整链路,可以承载高并发、长上下文等推理负载。企业引入 910C 后,可以基于已经适配的平台链路开展模型部署和业务验证,减少从硬件纳管到推理服务上线之间的集成工作。
注:以上结果来自特定测试环境与负载配置,实际性能会受到模型版本、量化方式、并发策略、输入输出长度及软硬件配置等因素影响。
规划企业 AI 基础设施,先回答这四个问题
当企业准备把大模型从试点推向生产,或正在规划国产算力、混合算力平台时,需要提前确认:
●现有与新增的 GPU、NPU 能否统一管理和运维?
●不同模型、推理框架与运行环境能否快速交付?
●底层算力变化后,上层应用是否需要重复适配?
●未来增加新的芯片和模型时,是否还要再建一套平台?
ZStack AIOS 以统一平台承载异构算力管理、模型部署和推理服务,帮助企业打通从资源接入到业务调用的完整链路,并保持管理方式与应用接口的连续性。
如果这些问题已经进入您的 AI 建设规划,欢迎联系 ZStack,帮您结合现有算力、模型和业务场景,评估适合的 AI 基础设施建设方案。
免责声明:本文为本网站出于传播商业信息之目的进行转载发布,不代表本网站的观点及立场。本文所涉文、图、音视频等资料之一切权力和法律责任归材料提供方所有和承担。本网站对此咨询文字、图片等所有信息的真实性不作任何保证或承诺,亦不构成任何购买、投资等建议,据此操作者风险自担。