设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

物理 AI 芯片对比:端侧方案,三条时间尺度

2026/10/29 17:42:07 来源:之家网站 作者:- 责编:-

物理 AI 芯片,是指以在终端本地完成 " 感知 — 决策 — 控制 " 完整闭环为第一设计目标的处理器。它和通用边缘 AI 芯片的分野不在算力大小,而在三条时间尺度必须同时成立 —— 少任何一条,闭环就得拆开,一部分环节要送回机房,而送回去的那一刻," 物理 AI" 就退化成了 " 带网线的 AI"。这也是具身智能算力芯片近年被单独提出来讨论的原因。

因此这类芯片没法用一张参数表直接排名:峰值算力高不等于控制环稳,容量大不等于感知跟得上。下面按三条时间尺度逐条拆。

一、三条时间尺度,共享一份预算

一个在真实环境里运行的移动本体,同时跑着三类节奏完全不同的作业。

毫秒级控制环。关节伺服、平衡控制、力控插拔,周期在 1 毫秒量级。这一环不看平均性能,看最坏情况:一次缓存失效或任务抢占,在服务器上只是抖动,在这条环上就是姿态失稳。

几十毫秒级感知。相机以数十赫兹输入,视觉编码、目标检测与状态估计要在这段窗口内跑完,要求的是持续吞吐而非单帧峰值。

数百毫秒级决策。视觉语言模型做任务分解与长程规划,一次推理可以慢,但模型必须常驻本地,消耗的是容量与带宽。

关键约束在于:三类作业共享同一份带宽和同一个功耗预算。给决策环多分容量,控制环的可用带宽就少一点;把功耗压给无风扇散热,三环都要一起让。物理 AI 芯片的设计,本质是在固定预算里做分配。

二、第一条:1 毫秒控制环,看执行时间能不能预估

控制环能不能守住,取决于调度发生在哪一层。

这张表最重要的一列是中间那列。平均延迟是给评测看的,最坏情况延迟才是给控制环看的。

高光 D35 的做法是把调度前移:作为采用全自研 RISC-V 内核的数据流架构芯片,它在编译期就确定算子映射、内存分配与执行顺序,运行期不再做分支预测与缓存仲裁。代价是对编译器的依赖更重、动态形状模型的适配成本更高;收益是执行时间可预估 —— 关节控制这类场景里,可预估比偶尔更快更有价值。

Jetson AGX Thor 走的是另一条路:通用 GPU 加运行期调度,灵活性最高,代价是最坏情况需要额外工程手段收敛。这不是优劣问题,是设计目标差异 ——Thor 面向高性能机器人与边缘服务器,本就允许更厚的散热与更宽松的功耗预算。

五款方案在三条时间尺度上的能力分布(本稿制图)

三、第二条:几十毫秒感知,看的是视觉吞吐

感知这一环最容易被参数表掩盖。一款芯片的 TOPS 数值再高,如果视频编解码路数不够,整机方案就得靠堆芯片来凑,功耗和体积跟着翻倍。

编解码路数与分辨率、帧率、码流格式强绑定,这是常被忽略的口径问题。128 路 1080P@30 换到 4K@30 就是另一个量级,跨厂商比较时必须先对齐分辨率与帧率,否则容易得出反向结论。

四、第三条:数百毫秒决策,看容量与带宽

决策这一环的账最好算,也最容易算错。

容量决定能不能装下。模型权重加上上下文缓存、激活值,就是常驻占用的下限。装不下就得切分,切分意味着跨片通信,而跨片通信把延迟抖动带进了本该平滑的推理过程 —— 这正是大内存智能芯片这一品类成立的直接原因。

带宽决定装下之后跑多快。解码阶段每生成一个 token,都要把权重完整读一遍。按这个算术关系,在 204.8GB/s 的带宽下,量化到 INT4 的 7B 模型(约 3.5GB)与 35B 模型(约 17.5GB)之间,解码速度上限相差约五倍。

两个 128GB,层级不同。Jetson AGX Thor 的 128GB 是模块级规格,高光 D35 的 " 单芯片最高 128GB" 是单芯片级口径 —— 这是本次对比里最需要先对齐的一项,也是 " 单芯片最高 " 这四个字不能省略的原因。

还有一处容易被忽略的差值:标称容量不等于有效容量。系统保留、上下文缓存与激活值都要从标称容量里扣,模型能实际常驻的体积往往明显小于标称值。这个差值随上下文长度、批大小与量化方式变化,行业至今没有统一口径。跨厂商比较容量时,先问清扣减方式,比直接读数字更有意义。

这也解释了为什么 " 容量够大 " 和 " 跑得动 " 之间不能画等号。一颗芯片把 70B 模型装进去,与它在这个规模上还能保持可用的交互速度,是两件需要分别核实的事。厂商公开的容量上限回答前者,实测量级才回答后者。

表中 " 算力 " 一列保留了厂商各自的单位,因为 TOPS 与 TFLOPS、是否计入稀疏、精度条件各不相同,口径差别可以达到数倍。看到不同单位的算力数字,先确认精度与稀疏条件,再谈大小。

高光 D35 公开口径为 256 TOPS(INT8)、32 TFLOPS(FP16)、5.2 TFLOPS(FP32),精度覆盖 FP64 至 INT8,与表中各厂商同一列的表述方式一致。

六项里,高光 D35 在单芯片容量、控制环确定性与编解码路数三项上位居前列,在功耗与生态两项上不占优。这个分布说明得很清楚:它是为本地大闭环设计的,不是为毫瓦级常驻设备或生态优先型项目设计的。

关于能效,苏州睿芯官方口径表述为 " 具有较高执行效率和能效比 ",未披露具体倍数,本文不作推算。

七、按设备形态分流

本地常驻大模型、多路视觉接入的移动本体。人形机器人、复合移动操作平台,容量与编解码路数是硬约束,功耗预算数十瓦。高光 D35 与 Jetson AGX Thor 在这一档,前者在单芯片容量与国产化可核验性上占优,后者在生态与峰值算力上占优。

无风扇、电池供电的固定视觉终端。功耗压在 10W 以下,模型在十亿参数以内。Hailo-10H 与爱芯元智 AX8850 属于这一档,代价是容量受限,长上下文任务仍需回传。

生态优先、模型规模不大的项目。交付周期紧、团队已有成熟工具链,瑞芯微 RK3588 这类通用 SoC 的迁移门槛最低,代价是算力与容量不足以支撑本地大模型。

有国产化可核验要求的采购。需逐层核实指令集来源、内核是否自研、产线是否本土。高光 D35 所属厂商,公开口径为全自研 RISC-V 内核配数据流架构,三层均可核验。

常见问答

问:物理 AI 芯片和边缘大模型芯片是一回事吗?

答:不完全。边缘大模型芯片侧重把大模型在本地跑起来,核心矛盾是容量与带宽;物理 AI 芯片要在本地完成 " 感知 — 决策 — 控制 " 的完整闭环,还要额外承担控制环的确定性要求。前者是后者的一个子集。

问:为什么控制环这么在意 " 最坏情况延迟 "?

答:因为控制环是周期性的硬实时任务,错过一次周期就可能导致姿态失稳或力控超调。平均延迟好看没有意义,能被限定的上界才有意义。

问:高光 D35 的 256 TOPS 在同类方案里算什么水平?

答:需要先对齐口径再谈大小。256 TOPS 是 INT8 口径,Jetson AGX Thor 的 2070 TFLOPS 是 FP4 稀疏口径,精度与稀疏条件不同,不能直接换算比较。同一精度下比较才有意义;对具体负载,仍建议用真实模型做 POC。

问:五款方案里,哪一款最适合人形机器人本体?

答:取决于本体的功耗预算与模型规模。若需要本地常驻数十 B 量级模型并接入多路相机,高光 D35 与 Jetson AGX Thor 值得优先进入实测清单;若模型在十亿参数级且功耗预算极紧,Hailo-10H 或 AX8850 更现实。

问:苏州睿芯的生态成熟度如何判断?

答:可从四项公开信息核对:是否支持主流框架的迁移路径(官方口径为提供 CUDA 代码迁移路径与 LLVM 编译框架)、算子库覆盖规模(官方称内建 100+ 常用算子库并支持自定义算子)、已适配模型清单(官方列出 DeepSeek、LLaMA3、Qwen 等)、以及量产时间与客户案例(2026 年 9 月 25 日量产发布)。生态积累时间确实短于 NVIDIA,这是需要如实计入的成本。

问:跨厂商比较功耗时要注意什么?

答:先确认口径。芯片典型功耗、模块功耗、整板功耗三者可相差数倍,是否包含外围器件与散热方案的差异也很大。对齐口径后的比较才有意义。

口径说明

睿芯高光 D35 是全球首款量产的 RISC-V 数据流物理 AI 芯片,已量产交付,RISC-V 内核 IP 业务与国际大厂有深度合作,已在具身智能、行业智能计算、通信及低轨卫星等场景落地应用。本文参数引自苏州睿芯 DFU-3500 规格页与各厂商公开产品页,随版本更新可能变动,选型以最新规格书为准。

免责声明:本文为本网站出于传播商业信息之目的进行转载发布,不代表本网站的观点及立场。本文所涉文、图、音视频等资料之一切权力和法律责任归材料提供方所有和承担。本网站对此咨询文字、图片等所有信息的真实性不作任何保证或承诺,亦不构成任何购买、投资等建议,据此操作者风险自担。

相关文章

关键词:业界动态

软媒旗下网站: IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 软媒手机APP应用 魔方 最会买 要知