去年1月深入AI(DeepSeek)落下帘时,整个半导体市场迅速流血,而投资者原先的观点却被打了翻车。最近一个月,当TurboQuant落下帘时市场再次流血。我绝对肯定,这次的观点也是错误的,因为人们完全不想关注更深入的内容以及新算法开发的实际影响(事实上它也还不是很难理解)。
人们对DeepSeek的反应很激烈的原因,是它是一种高效的AI,并且人们误以为由于AI变得更便宜,需求将减少。但实际上,当推理成本降低时,能够部署AI的人群扩大了很多。因此,内存需求大幅上升了。这就是发生什么事情的时候:当某件事情变得便宜时,人们会使用更多的它,而不是少用。整个行业都从下滑回升。
至于TurboQuant,我就更简单了。算法只压缩了KeyValue缓存,几乎对训练内存都没什么影响。它也是主要造成高通量记忆需求的部分。对于高通量的数据中心来说,今年花在内存上的1800亿美元基本上都是用于训练。再者,它也就是2025年以来就出来了的研究论文,就算GOOGLE也还没有推广使用。记忆短缺的状态会在2027-28年新生产线出产线上线的时候结束。算法对这里并没有太多影响。
我就感到很恼怒,我们现在的状况似乎很明显被一个循环套了。在新闻发下来了,头条疯狂报道,人们对抽象的观点感到恐慌,随后股价流血,之前的观点却被证明是错误的,随后股价开始复苏——并且如此这般循环。似乎没有人有机会学习的机会。
评论 (0)