Tomasz Tunguz 提出 AI 四层栈的四个经济问题

简而言之：AI 由四层构成：应用、harness 与上下文、模型、数据中心。每一层都面临一个尚未解决的经济问题，而且四层之间直接相互作用：GPU 融资成本上升会提升 harness 的价值，而模型与推理的协同设计则会成倍增加同一数据中心硬件所能服务的用户数量。

AI 栈共有 4 层，每一层都面临一个根本性问题。

应用

爆款产品一夜之间出现。下一次模型发布也可能同样迅速地将其抹去。当模型吸收了薄封装产品的功能时，它们就会消亡。为了建立护城河，应用公司必须决定是打造品牌、通过定价颠覆现有企业、开发自己的模型，还是比竞争对手扩张得更快。

智能体通过无头软件完成工作。用户界面会存活下来，还是所有应用都会坍缩为中间件 harness1？

Harness 与上下文

如果应用坍缩为中间件，争夺的焦点就转向谁拥有 harness。模型厂商声称其原生 harness 会胜出。基准测试的结果却并非如此。在同一周内，OpenAI 与 Anthropic 的模型在 Cursor 中的得分都高于在各自创造者自己的 harness 中的得分2。由于输入上下文最多占全部 token 的 98%2，一个聪明的 harness 能将同一答案的成本降低 71%，并将毛利率从 38% 提升到 75%3。

除了模型厂商之外，企业也开始主张对 harness 的所有权，以构建企业主权 AI4。没有哪位 CIO 愿意在提示词中把公司机密泄露出去。拥有上下文层使公司能够将记忆与权限保留在内部，同时在底层更换模型。

模型

对于基础模型而言，问题在于训练成本在什么节点上无法收回。训练一个最先进的模型要花费数十亿美元5。递归自我改进，即 AI 模型训练出更好的 AI，尚未拯救大型实验室。AI 编写了 Google DeepMind 生产代码的 75%，然而 Google 在 AI 研究中并未看到端到端的加速6。

在需求侧，Rich Sutton 的《苦涩的教训》认为，用海量算力扩展的通用模型总是会胜出7。然而，最先进的模型在公共网关上的 token 份额正在流失，因为它们的运行成本太高8。如今约 83% 的智能体任务会路由到更小或领域特定的模型，这些模型经过微调，以极低的成本完成一项工作9。

挑战者正通过流程与架构来攻击训练账单。一家初创公司利用编码智能体，仅由一名研究员以不到 1000 万美元的成本预训练出一个有竞争力的编码模型10。扩散模型11与 JEPA 等新架构——其中一个 1.09 亿参数的模型以少 42 倍的数据击败了 720 亿参数的大语言模型12——绕过了暴力扩展。

尽管如此，扩展前沿的看涨理由仍体现在 Anthropic 的 S-1 中。Opus 5.5 将客户的每任务成本降低了 40%，而当 Opus 4.5 以比 Opus 4.1 更低的每任务成本提供更强能力时，杰文斯悖论开始发挥作用，季度营收的连续增长从 48% 加速到 132%13。

数据中心

在模型之下，问题在于信贷与电力能否跟上 GPU 需求。随着混凝土价格上涨 3 倍、电网承压，以及涡轮机、发电机与往复式发动机的积压订单，目前的答案是：不能14。

AI 的无约束增长需要在五年内新增 4 万亿美元债务，这使得 AI 信贷市场规模超过全球私人信贷，并相当于美国市政债券市场的 91%15。是否还有足够多的贷款方愿意以有吸引力的利率放贷？风险推高了保险成本。五年期信用违约互换利差已创下纪录，从 Meta（108 个基点）到 Oracle（322 个基点）与 CoreWeave（1,090 个基点）16。

在实际层面，地方政治与电网延迟正在阻碍新站点建设，而 Ornn 的 B300 指数已攀升至每 GPU 小时 12.29 美元（自 6 月以来复合月增长率约 20%）17。

与此同时，有三个悬而未决的问题笼罩着这套算术：现金流是否与二十年期债务和租约的期限相匹配15，GPU 是否能使用五年，以及每 GPU 小时的价格会上涨还是下跌18。

各层如何相互作用

这四个问题没有一个是孤立存在的。在顶层产生巨额利润的应用，可以支撑底层的 GPU 价格上涨与更高的借贷成本。新的、更高效的架构19可以减少对混凝土与铜的需求。GPU 价格飙升可能改变整个栈的经济性。

如同双摆20，这四层构成一个耦合系统：每个部分都很简单，但在运动中却复杂、混沌且不可预测。

harness 是模型周围的软件运行时，例如 Claude Code、Codex 或 Cursor，它管控哪些上下文流入提示词、智能体调用哪些工具，以及会话轨迹如何被缓存与记录。参见 Tomasz Tunguz，《Harness 是新战场》，2026 年 7 月 14 日。↩︎

Tomasz Tunguz，《售后 Harness》，2026 年 7 月 28 日，引用 Endor Labs 的 Agent Security League 基准（GPT-5.5 在 OpenAI 的 Codex 中得分 61.5%，而在 Cursor 中得分 87.2%；Claude Opus 4.7 在 Claude Code 中得分 87.2%，而在 Cursor 中得分 91.1%）以及 OpenRouter 的 token 构成数据（输入 token 占总量 85.7% 至 98.2%）。↩︎ ↩︎

Tomasz Tunguz，《Harness 的利润机会》，2026 年 9 月 17 日，引用 UC Berkeley 的 HarnessTax 研究（在无统计

AI 的无节制增长需要在五年内新增 4 万亿美元债务，使 AI 信贷市场规模超过全球私人信贷市场，并相当于美国市政债券市场的 91%15。是否还有足够多的贷款方愿意以有吸引力的利率放贷？风险正在推高保险成本。五年期信用违约互换利差已创下纪录，从 Meta（108 个基点）到 Oracle（322 个基点）和 CoreWeave（1,090 个基点）16。

在实地层面，地方政治与电网延迟正在阻碍新站点建设，而 Ornn 的 B300 指数已攀升至每 GPU 小时 12.29 美元（自 6 月以来复合月增速约 20%）17。

与此同时，有三个未解问题笼罩着这套算术：现金流是否与二十年期债务和租约的期限相匹配15，GPU 是否能使用五年，以及每 GPU 小时的价格会上涨还是下跌18。

各层如何相互作用

这四个问题没有一个是孤立存在的。在顶层产生巨额利润的应用，可以支撑底层的 GPU 价格上涨与更高的借贷成本。新的、更高效的架构19可以减少对混凝土与铜的需求。GPU 价格飙升可能改变整个栈的经济性。

如同双摆20，这四层构成一个耦合系统：每个部分都很简单，但在运动中却复杂、混沌且不可预测。

harness 是模型周围的软件运行时，例如 Claude Code、Codex 或 Cursor，它管控哪些上下文流入提示词、智能体调用哪些工具，以及会话轨迹如何被缓存与记录。参见 Tomasz Tunguz，《Harness 是新战场》，2026 年 7 月 14 日。↩︎

Tomasz Tunguz，《售后市场中的 harness》，2026 年 7 月 28 日，引用 Endor Labs 的 Agent Security League 基准测试（GPT-5.5 在 OpenAI 的 Codex 中得分为 61.5%，而在 Cursor 中为 87.2%；Claude Opus 4.7 在 Claude Code 中得分为 87.2%，而在 Cursor 中为 91.1%）以及 OpenRouter 的 token 构成数据（输入 token 占总量体积的 85.7% 至 98.2%）。↩︎ ↩︎

Tomasz Tunguz，《harness 的利润机会》，2026 年 9 月 17 日，引用 UC Berkeley 的 HarnessTax 研究（在 42 项对比中，同一已解决的 SWE-bench 任务成本降低 71%，且质量差异在统计上不显著）以及 AI 助理合同毛利率建模（一份 25 万美元的合同上，毛利率为 38% 对 75%）。↩︎

Tomasz Tunguz，《进入前沿的代价》，2026 年 8 月 31 日，论及企业数据主权要求、零数据保留政策以及模型访问分层。↩︎

前沿训练与研发规模：Anthropic 的 S-1（2026 年 10 月 26 日提交）披露 2025 财年运营亏损 81 亿美元，总算力承诺 6,370 亿美元（Anthropic S-1 分析），而 OpenAI 预计到 2030 年累计现金消耗达 2,780 亿美元，Epoch AI 估计，随着训练算力每年增长约 5 倍，单次下一代前沿训练运行的成本将突破 10 亿美元以上（Epoch AI）。↩︎

Google DeepMind，《Gemini 4 Argon 安全与安保报告》，2026 年 10 月：AI 生成了 DeepMind 生产代码的 75% 以上，完全委托的拉取请求在五个月内从 7.5% 升至 11.9%，而 AI 研究时间线并未出现显著的端到端加速。↩︎

Rich Sutton，《苦涩的教训》，2019 年 3 月 13 日：利用算力的通用方法最终会以很大幅度击败嵌入人类领域知识的方法。↩︎

Tomasz Tunguz，《AI 中最重要的市场是中间层》，2026 年 9 月 23 日，以及《说实话，谁买 SOTA？》，2026 年 8 月 14 日：OpenRouter 上 84% 的 token 并非最先进水平，Anthropic 的旗舰模型 Fable 5.1 在头十二天内仅占网关支出的 3.7%（而其前代模型在一个月内从 13.2% 降至 4.9%），并且在大型企业账户中，前沿模型的 token 消耗占比从 8 月初的 53% 降至 9 月的 45%。↩︎

Tomasz Tunguz，《AI 中最重要的市场是中间层》，2026 年 9 月 23 日，以及《使用 AI 智能体的 9 点观察》，2026 年：Cursor 的 Composer 2 对开放权重模型 Kimi K2.5 进行微调，相比其先前模型将成本降低 86%；Harvey 微调了一个领域模型，相比 Sonnet 5 将每个单元格的成本降低 55%，同时得分超过 Fable 5；而一个为任务分类微调的 8b Qwen 3 模型在笔记本电脑上本地运行，击败了零样本 GPT-5.2。↩︎

Mirendil，《没有预训练团队的大规模预训练》，2026 年 10 月 21 日：一名研究人员搭配编码智能体（后者编写了仓库 99% 的代码），在 3.5 个月内从零开始预训练了 Mirendil-Base（100b 至 500b 参数），全部算力与 token 支出合计不到 1000 万美元，在留出的截止日期后代码仓库上击败了 GLM-5.3（0.242 bits/byte）、DeepSeek-V4-Pro（0.243）和 Nemotron-550B（0.247）（平均为 0.222 bits/byte，而 Kimi-K3 为 0.193）。↩︎

扩散语言模型并行生成并精炼 token 块，而非一次一个 token：Inception Labs 的 Mercury 2.5（于 2026 年 9 月 8 日发布）在 Nvidia GPU 上达到每秒 414 至 1,107 个 token，价格为每百万 token 0.20/0.75 美元，比同类自回归模型便宜约 9 倍、快 3 倍（Inception Labs）。↩︎

Randall Balestriero 与 Yann LeCun，《柏拉图表示定理：联合嵌入预测架构收敛于共享世界模型》，2026 年 10 月 29 日：通过预测压缩的潜在嵌入而非表面 token，一个 109m 参数的文本 JEPA 与 DINOv2 和 CLIP 视觉编码器的对齐程度，优于任何受测的、参数量最高达 72b（大 660 倍）的自回归 LLM，同时所需训练样本少 42 倍。↩︎

Tomasz Tunguz，《Anthropic S-1 分析：7 项关键指标如何对比》，2026 年 10 月 26 日，引用 Anthropic 的 S-1：“随着 2026 年 9 月 Claude Fable 5.1 的发布，我们将典型工作负载的成本相比 Fable 5 降低了约 25%，对于复杂编码和高度智能体化任务，节省最高可达 45%。同样，随着同月 Opus 5.5 的发布，我们将客户的每任务成本相比 Opus 5 降低了约 40%。”当 Opus 4.5 以比 Opus 4.1 更强的能力和更低的每任务成本推出时，Anthropic 的季度收入环比增速从 48% 加快到 132%。↩︎

Tomasz Tunguz，《AI 牛鞭效应》，2026 年 8 月 23 日：数据中心外壳与混凝土建设成本已上涨至每平方英尺 1,033 美元（不含土地）（美国人口普查局与 RSMeans 建设成本指数），电气系统消耗每吉瓦 200 亿美元设施预算的一半，发电机升压变压器平均交货周期接近三年（Wood Mackenzie），而 GE Vernova 与 Siemens Energy 的燃气轮机生产已售罄至 2029 年，订单簿延伸至 2031 年（POWER Magazine、CNBC，以及 Caterpillar/Cummins 数据中心备用发电机与往复式发动机积压订单披露）。↩︎

Tomasz Tunguz，《Concrete, Silicon, & Leverage》，2026年9月4日：预计五年内AI数据中心债务达4万亿美元，相当于美国商业票据的286%、全球私人信贷市场的143%，以及4.4万亿美元美国市政债券市场的91%，这要求到2030年AI年收入达到1.2万亿至1.5万亿美元，才能以3倍覆盖率覆盖利息。↩︎ ↩︎

《金融时报》，《AI债务担忧引发违约保险交易激增》，2026年10月20日，援引Morgan Stanley Research（年初至今AI相关债务发行4660亿美元）与S&P Global Market Intelligence（5年期CDS利差创纪录高位：Meta为108个基点，SpaceX为226个基点，Oracle为322个基点，CoreWeave为1,090个基点）；CNBC，《AI债务展望：Oracle、Alphabet与Amazon成为焦点》，2026年10月27日。↩︎

Ornn B300算力价格指数（2026年10月30日结算）：每周B300指数为每GPU小时12.29美元，高于2026年6月中旬的约5.53美元（4.4个月内复合月增长率为20.1%）以及2026年8月28日的10.47美元（过去两个月复合月增长率为8.1%，过去一个月为-0.12美元或-0.97%）；另见Tomasz Tunguz，《GPU价格如何在AI变得更便宜的同时翻倍》，2026年9月28日，关于B200费率从每小时4.40美元翻倍至8.08美元，以及Oracle对其新墨西哥州数据中心园区为期六个月的不可抗力延迟。↩︎

尽管Ornn B300指数位于每GPU小时12.29美元（自6月以来复合月增长率为20.1%，自8月28日以来为8.1%，过去一个月为-0.97%），二级市场的现货报价仍可能剧烈波动：2026年11月1日，Jaber（X上的@Akashi203）指出，在恳求GPU供应商以每小时7.90美元提供B300的一个月后，供应商正以每小时4.60美元且无承诺的方式提供这些GPU。↩︎

DeepSeek-AI，《深入解析DeepSeek-V3：扩展挑战与对AI架构硬件的思考》，2025年5月14日（多头潜在注意力将KV缓存降至每token 70 KB，而Qwen-2.5 72B为327 KB、Llama-3.1 405B为516 KB），以及《DeepSeek-V3/R1推理系统概览》，2025年2月28日（每日总计7760亿token：6080亿输入与1680亿输出，平均226.75个H800节点，每日成本87,072美元）。↩︎

双摆是一种在其末端再悬挂一个摆的摆：尽管每条摆臂都遵循简单的确定性规律，但耦合系统会表现出混沌运动，其中一条摆臂的微小偏移会在整个系统中产生巨大且不可预测的摆动。↩︎

获取下一期内容，直达你的收件箱

用1分钟阅读，将技术数据转化为战略优势。

已有15万+创始人与运营者阅读。