我一直在思考AI泡沫的问题,以及围绕循环融资、芯片采购和维持这个生态系统所需持续流动的巨额资金所带来的种种担忧。

最近,我在新版Claude模型上注意到一些令我感到不安的现象。

即便我给出极其清晰的指引、详细的上下文背景,甚至明确告诉它不需要调查什么,我仍越来越多地看到它的推理轨迹偏离方向,自行验证我已经告知的信息——过程中不断消耗积分——最终才给出我要求的答案。
这或许只是新型推理模型训练方式带来的副作用。

但我总想起金融危机,以及金融机构为追求增长而暴露出的那些丑陋的创收行为。两者显然不完全相似,但当所有人都需要资金持续流动时,泡沫就会催生扭曲的激励机制。

于是,我越来越怀疑这样一个悲观的假设:
有没有可能,某些AI模型不仅被优化以生成更好的答案,还被优化成在生成答案的过程中消耗更多算力?

更多推理 → 更多积分 → 更多算力 → 更多芯片 → 更多“AI需求”。

我没有证据表明Anthropic在刻意训练Claude消耗积分。但当出售智能的公司同时决定回答你的问题需要消耗多少智能时,我认为这种激励机制本身就值得质疑。