资讯池
元脑服务器推出支持Mooncake KV缓存共享的G3.5层全闪方案
日期: 2026-09-14 20:48来源: 财联社电报域名: cls.cn
溯源
重要性：背景级 · 50·对象槽：unmatched·对象关系：sector_transmission·影响对象：sector:大模型·来源/栏目：财联社·抓取时间：2026-09-14 21:12:02·信任分层：优先源
【元脑服务器推出支持Mooncake KV缓存共享的G3.5层全闪方案】财联社9月14日电，元脑服务器面向大模型推理场景，推出支持Mooncake KV缓存共享的G3.5层全闪方案。方案以元脑全闪服务器NF5286为核心，与Mooncake缓存组件、推理框架的缓存感知调度协同，为推理集群提供独立于计算节点、可按业务需求单独规划的KV Cache共享空间。当上下文需求增长时，可以单独扩展缓存资源；
当GPU节点扩容、调整或维护时，缓存资源也不必完全随计算节点变化