设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

Astera Labs 推出 Leo X 智能内存控制器:将 KV Cache 从加速器卸载到外部内存

2026/9/16 15:09:22 来源:IT之家 作者:溯波(实习) 责编:溯波

IT之家 9 月 16 日消息,芯片高速互连初创企业 Astera Labs 美国加州当地时间 15 日宣布以 Leo X、Leo 2 E、Leo 2 P 三系列丰富其 Leo 智能内存控制器产品线。

Leo 2 E、Leo 2 P 是符合标准 CXL 3.2 规范的芯片,支持 4 个下游 DDR4 / DDR5 内存控制器。Leo 2 E 支持 PCIe Gen6 1×16 单端口配置;Leo 2 P 则在此基础上允许 2×8 双端口配置,实现附加内存的池化和共享。

与此同时,Leo X 系列是一款基于网络架构的智能内存控制器,专为直接满足 AI 加速器侧的内存需求而设计

该系列芯片可与 Astera Labs 的 Scorpio 网络交换芯片配套使用,通过 PCIe 和平台专用协议实现 GPU 的横向扩展,提供专用的内存层以卸载 KV Cache 和智能体上下文

Astera Labs 表示 Leo X 系列为 GPU 访问 KV Cache 提供了更低延迟、更高带宽的通道,能将首词元延迟缩短多达 62%、词元吞吐量提升多达 22%。

相关文章

软媒旗下网站: IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 软媒手机APP应用 魔方 最会买 要知