AI 观点
算力经济学:不断下降的推理成本如何重塑 AI 初创公司

推理越来越便宜,而前沿训练越来越昂贵。这种分化对初创公司的利润率和战略意味着什么。
两条成本曲线定义了 AI 经济。训练前沿模型的成本正急剧上升,而运行特定能力水平所需的成本——推理成本——持续下降。
对初创公司来说,这种分化是好消息。构建在模型之上的产品会继承下降的成本,因此智能体工作流的利润率会随时间提升,无需额外工程投入。去年还不划算的任务,今年就能盈利。
战略上的启示是为模型可移植性而设计。能够在多家供应商和开放权重模型之间调度工作的团队,可以享受成本曲线红利、避免锁定,并抵御芯片市场的供应冲击。
常见问题
AI 推理成本在下降吗?
是的。提供特定水平 AI 能力的成本稳步下降,提升了在模型之上构建产品的公司的利润率。