存储芯片股集体下跌:闪迪跌5.2%,美光科技和希捷科技各跌4.5%,西部数据跌3.6%。
原因是谷歌研究团队推出了一种名为TurboQuant的新技术,能大幅压缩大语言模型运行时所需的缓存内存——在不降低精度的前提下,内存占用可减少至少六成,推理速度最高提升八倍,有望缓解AI应用中的内存压力。