三星、SK海力士股价波动“原来是因为这个?”…谷歌“TurboQuant”引发半导体震动
发布AI内存节省技术论文
以“Transformer”开启AI时代的谷歌再推新技术
存储芯片股跌 CPU企业股涨
一直引领人工智能(AI)变革的谷歌,开始提出解决内存半导体短缺问题的方案。继图形处理器(GPU)之后,内存半导体短缺和瓶颈现象不断加剧,在此背景下新的破解方案出现,三星电子、SK海力士、英特尔(Intel)、超威半导体(AMD)等半导体企业的股价也立刻受到影响。
谷歌研究部门当地时间25日通过博客公开了关于全新AI压缩算法“TurboQuant”的论文。谷歌称,“TurboQuant将以极致压缩率重新定义AI效率”。其解释称,在不损失AI准确度的前提下,可以大幅降低内存使用量。
谷歌表示,TurboQuant在不损失准确度的情况下,将KV缓存压缩到3比特水平。对论文进行评价的外媒报道称,这一技术预计可将大型语言模型(LLM)的“KV缓存”内存占用至少缩减6倍,并最多带来8倍的速度提升。KV缓存是一种“临时记忆装置”,用于让大型语言模型在对话中持续保存以往的信息。
KV缓存的扩大会引发大幅增加AI硬件负担的“内存墙”(Memory wall)瓶颈现象。随着AI模型不断变大、推理需求不断上升,AI与用户之间交互对话的量急剧增加。对于大型LLM,仅KV缓存就需要海量内存。具备自主决策能力的Agent型AI也在不断要求更多内存。这正是自去年底以来三星电子、SK海力士股价一路高涨的原因。
信息技术专业媒体TechCrunch将TurboQuant评估为“一种新的AI内存压缩算法”。另一家IT专业媒体Ars Technica也评价称,由于可以大幅减少内存使用,这项技术有可能撼动既有AI基础设施的成本结构。
AI业界专家反应同样热烈。Cloudflare首席执行官(CEO)Matthew Prince在其X账号上,将此次案例形容为“谷歌的DeepSeek时刻”。
TurboQuant的发布立即对股市产生了影响。当日美国股市中,美光(Micron)、SanDisk等与内存相关的半导体企业股价集体下跌。26日,三星电子和SK海力士的股价也双双走弱。相反,英特尔和AMD等中央处理器(CPU)制造商的股价则大幅上涨,形成鲜明对比。
谷歌过去也多次撼动AI版图。尤其是Transformer在开启生成式AI时代方面发挥了引爆器的作用。谷歌还开发了可替代AI训练中必不可少的英伟达图形处理器(GPU)的张量处理器(TPU),并将其用于推出Gemini AI。
曾在谷歌担任访问学者的首尔大学AI研究院院长 Lee Jaewook 表示:“谷歌是一家每当出现技术瓶颈时,都会拿出替代方案的企业”,“在AI基础设施上,它的特点是不依赖某一种特定架构,而是不断寻找新的解决方案”。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。