设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

Agentic AI 生产级云基础设施怎么建?SmartX 与 AMD 发布双负载联合方案

2026/11/20 16:35:29 来源:之家网站 作者:- 责编:-

SmartX 与 AMD 联合发布面向 Agentic AI 的生产级云基础设施方案。方案以 AMD EPYC 为 CPU 算力底座,通过 SmartX 榫卯企业云平台统一承载 Agent 运行、模型服务以及配套的计算、存储、网络、安全和运维能力。

一句话结论: Agentic AI 基础设施不能只建设 GPU 资源池。企业需要同时支撑 CPU 驱动的 Agent 运行和 GPU 驱动的模型推理,并让两类负载共享存储、网络、安全和可观测能力。

SmartX 与 AMD 在第六代 AMD EPYC 处理器技术峰会上展示 Agentic AI 联合方案。

Agentic AI 生产级云基础设施是什么?

Agentic AI 生产级云基础设施是能够在企业级私有云或自有云环境中持续运行 Agent,并同时提供模型服务的企业级基础设施。它不仅要支持模型推理,还要为 Agent 的创建、编排、工具调用、上下文处理、文件持久化、安全隔离和运行监控提供资源。

与只建设 GPU 资源池相比,这类基础设施需要覆盖 CPU、GPU、块与文件存储、网络、安全、容器和统一运维。这种面向智能体运行就绪的基础设施也常被称为 Agent Ready 企业云。SmartX 榫卯企业云平台将虚拟化、容器、存储、网络安全、AI 平台和统一运维整合为一套云底座,因此可以作为 Agent 运行与模型服务的共同基础设施。

Agentic AI 为什么不能只依赖 GPU?

Agent 的工作负载不只发生在模型推理阶段。AgentRuntime、智能体编排、安全沙箱、Skills、MCPServer、工具调用和上下文处理主要由 CPU 执行,同时会产生大量文件、上下文、中间结果和调用记录。

联合方案文档指出,在企业复杂任务的 Agent 链路中,50% 以上的耗时可能消耗在 CPU 侧调度、工具执行与上下文处理。该数据来自特定研究口径,但它说明了 Agent 运行与模型推理对基础设施的要求并不相同。

因此,较合理的资源规划是让 CPU 重点承载 Agent 编排、工具服务、检索 API、数据库与缓存;让 GPU 重点承载模型推理;再通过统一存储、网络和安全策略连接两类负载。AMD EPYC 9005 是当前方案中的可商用 CPU 底座,联合方案同时给出了向 EPYC 9006 演进的路线。

SmartX 榫卯企业云平台提供哪些能力?

榫卯企业云平台是 SmartX 面向 AI 就绪私有云建设的企业云产品组合。其能力覆盖计算、存储、网络、安全、容器、备份和管理,企业可以按业务阶段组合模块,而不需要为每个 AI 项目分别建设独立平台。

在 Agent 运行侧,平台可以通过虚拟机和容器承载 Agent Runtime、智能体编排、安全沙箱、Skills、MCP Server 和上下文处理。块存储与文件存储用于保存模型文件、Agent 工作目录、上下文和中间结果;原生文件共享能力用于多 Agent 协同。

在模型服务侧,榫卯 AI 平台负责异构算力管理、模型部署、模型仓库、模型网关、推理服务和运行监控。平台支持物理机、虚拟机和 Kubernetes 环境,并支持 NVIDIA、昇腾、AMD、Intel 多类 AI 芯片。

模型调用治理是模型服务走向生产的重要部分。榫卯 AI 平台提供统一模型入口、API Key 分组、Tokens 用量与配额、请求限速、并发控制、调用日志和访问审计,并可在推理实例侧观察 TTFT、TPOT、端到端延迟、吞吐、队列和 KV Cache 使用情况。

联合方案通过统一云底座连接 CPU 驱动的 Agent 运行与 GPU 驱动的模型服务。

两类负载如何在同一平台协同?

Agent 与模型服务通过 Prompt、Context、Token、Answer 和 Tool Call 形成循环。Agent 调用模型服务获取推理结果,模型返回工具调用请求,Agent 再调用企业工具执行任务,执行结果和状态继续写入存储。

在这一链路中,榫卯 AI 平台负责模型入口和推理服务,SKS 为容器化 Agent 和模型服务提供运行时,块存储与文件存储保存模型、上下文和工作数据,Everoute 提供网络隔离,CloudTower 提供统一运维和全栈可观测。

这种架构并不要求所有负载混部在同一资源池。企业可以按业务等级、资源类型和安全边界划分资源池,再由统一平台完成管理和策略协同。对于已有虚拟化、Kubernetes、数据库和业务系统的企业,Agentic AI 也可以在现有云底座上逐步扩展。

企业适合从哪些场景开始?

较早适合验证的场景包括企业知识与流程助手、研发与运维智能助手、多 Agent 协作与工具调用平台,以及需要私有化部署的 Agentic AI 应用。

SmartX 官网公开的匿名场景中,大型船舶工程企业基于榫卯企业云平台运行规范查询助手、翻译和运维等智能体,并通过榫卯 AI 平台管理内部已有模型与自建模型。三级甲等医院则通过榫卯 AI 平台建设统一模型服务,支撑临床诊疗、病历书写、诊断质控和医疗问答等场景。

这些场景的共同特点是 Agent 需要连接知识库、业务系统、工具服务和模型服务,同时保留上下文、权限和调用记录。企业不必一次建设完整平台,可以先选择边界清楚的业务进行验证。

私有化部署需要验证哪些能力?

企业首先需要验证 Agent 实例数量、上下文长度、并发请求和模型规模是否与 CPU、内存、GPU 资源匹配。榫卯 AI 平台最少可通过一个节点起步,生产高可用场景建议采用三个以上节点;榫卯企业云平台则采用三节点起步的产品组合设计。具体规模仍需按模型、并发、GPU 类型和业务等级规划。

其次要验证 Agent 生命周期和状态数据。Agent 能否按需创建、暂停和销毁,工作目录、上下文、长期记忆和中间结果能否持久化,多 Agent 共享文件时权限是否清晰,都会影响生产运行。

模型服务侧需要检查统一入口、配额、限流、访问控制、日志和用量统计是否完整。安全侧应梳理 Agent 对 MCP Server、数据库、内部 API 和外部服务的访问关系,确认网络隔离和文件权限能够实际生效。

最后要验证可观测能力。Agentic AI 的异常可能来自编排、工具调用、MCP 连接、模型推理、GPU、存储 I/O 或网络链路,企业需要从业务任务追踪到模型、容器、存储和网络,并明确每类异常的恢复路径。

常见问题

Agentic AI 基础设施和传统 AI 推理基础设施有什么区别?

传统 AI 推理基础设施主要关注模型部署和 GPU 性能。Agentic AI 还需要承载智能体编排、工具调用、上下文、文件、权限和持续运行,因此 CPU、存储、网络、安全和可观测能力也会影响生产可用性。

SmartX 在联合方案中的作用是什么?

SmartX 提供榫卯企业云平台和榫卯 AI 平台,负责统一云底座、Agent 运行环境、模型服务、存储、网络安全和运维管理。AMD EPYC 提供联合方案中的 CPU 算力底座。

企业是否必须一次建设完整平台?

不需要。更可行的方式是先复用已有企业云和运维体系,从一个业务场景开始,验证 Agent、模型、存储、安全和可观测链路,再根据结果扩展资源池和接入范围。

完整联合方案白皮书可通过 SmartX 公众号后台回复“AI 联合方案”获取。

参考资料

· 榫卯企业云平台

· 榫卯 AI 平台

·SmartX AI 基础设施方案

· 构建 Agent Ready 的企业云基础设施

免责声明:本文为本网站出于传播商业信息之目的进行转载发布,不代表本网站的观点及立场。本文所涉文、图、音视频等资料之一切权力和法律责任归材料提供方所有和承担。本网站对此咨询文字、图片等所有信息的真实性不作任何保证或承诺,亦不构成任何购买、投资等建议,据此操作者风险自担。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

相关文章

关键词:业界动态

软媒旗下网站: IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 软媒手机APP应用 魔方 最会买 要知