你在聊天框里敲下一句话,等上几十毫秒,屏幕上便会出现一段看似流畅的回答。对绝大多数用户来说,这是一个十分轻量化的过程。可到了付款页面,许多用户会有一种遭到“背刺”的感觉——输入多少百万Token、输出多少百万Token、上下文多长、缓存是否命中。
这时,很多人会有这样的疑问:为什么一个看不见、摸不着的回答,要按量收费?为什么AI公司不能像卖传统软件那样,一次授权、无限复制?
这里至少有三张不同的账单。一张是生产成本:造出一个Token,底层到底消耗了多少电力、芯片、机房和工程资源;另一张是市场价格:模型厂商向外报出的调用单价,其中还包含竞争、利润和服务分层;第三张是任务成本:用户为了完成一项工作,究竟总共烧掉了多少Token。
当把三者混为一谈,就会出现“电费明明不贵,为什么AI还这么贵”“模型降价了,为什么企业账单反而变大”这样的困惑。
AI当然有软件的一面:算法可以迭代,模型可以压缩,服务可以通过接口分发。但它还有另一面,且正在越来越显眼:每一次生成都要经过真实的计算,依赖真实的电力、显存、网络和机房。典型SaaS的成本常常随着复制而快速摊薄,AI推理却始终带着一笔不断发生的边际成本。
“Token看上去像软件,骨子里却越来越像重工业。”那么,造一个Token,钱究竟花在了哪里?
2026年1月,英伟达CEO黄仁勋在达沃斯世界经济论坛上,第一次把AI基础设施描述为一块“五层蛋糕”:自下而上,分别是能源、芯片、基础设施、模型和应用。此后他在CES 2026和GTC 2026大会上反复使用这个框架。《Token经济》这本书中把这个系统形容为一条“实时运行的认知生产线”。用户输入、上下文、工具说明和企业知识库,像生产的原材料;电力、芯片和推理时间,像能源;模型架构、缓存机制、路由策略和工作流编排,则像工艺。不同于一件可以造好后堆进仓库的工业品,Token往往在调用瞬间被生产、交付并消费。
发表回复
要发表评论,您必须先登录。