资讯池
SK海力士推出以内存为中心的AI机架级系统MARS
日期: 2026-10-14 09:14来源: 财联社域名: finance.eastmoney.com
溯源
重要性:背景级 · 53·对象槽:unmatched·对象关系:sector_transmission·影响对象:sector:AI·来源/栏目:东方财富·抓取时间:2026-10-14 09:15:07·信任分层:优先源
在2026年OCP全球峰会上, SK海力士 推出了MARS——一款以内存为中心的AI机架级系统,这是一种解耦式机架级架构,旨在无缝协调计算和内存资源。MARS能够将计算和内存协调到一个共享的基础设施中,多轮智能体推理产生的键值缓存存进共享内存池,不必反复重算,首个词元的生成时间最多可提升3至5倍,尾延迟压缩更明显