从原子到比特:
AI 产业链全景
一份产业链说明书——不是罗列公司名称,而是解释每一层谁在控制、哪里会断、为什么重要。先看清结构,再找价值。
产业链全貌
原材料
如果把芯片制造比作盖一栋摩天大楼,原材料就是水泥、钢筋和玻璃。没有高纯度的基础材料,后面所有工序都是空中楼阁。这一层体量不大——全球半导体材料市场约 700 亿美元,不到台积电一年营收——但集中度极高,每种关键材料只有 2-4 家公司能供货。而且它们有同一个特征:一旦断供,下游全部停摆,没得替代。
高纯石英砂 —— 芯片的"地基"
但"高纯"这两个字才是关键。普通沙子也是石英(二氧化硅),但半导体级石英砂要求纯度达到 99.998% 以上——每 10 亿个硅原子中最多允许 20 个杂质原子。这需要的不是沙子本身多干净,而是提纯工艺的极致。全球能满足这个纯度要求的矿,几乎只有两个地方:美国北卡罗来纳州的 Spruce Pine 矿区和挪威的 Drag 矿区。
Spruce Pine 是一个地质奇观——3.8 亿年前非洲板块撞击北美板块时,地下深处的纯石英岩浆被挤到地表,形成了纯度异常高的石英矿脉。全球约 70% 的半导体级高纯石英来自这个单一矿区。这意味着,全球芯片产业的地基栓在一个美国小镇的地下。
为什么没有别的地方能替代?因为高纯石英不只是一个矿,还是一套提纯体系——天然水晶破碎后要经过浮选、酸洗、高温氯化等 30 多道工序,每道工序的设备和参数是几十年的商业秘密。挪威 TQC 和美国 Sibelco(原 Unimin)两家公司垄断了全球 90% 的半导体级石英砂。中国每年进口大量高纯石英砂用于光伏(光伏级纯度要求低于半导体级),但半导体级几乎完全依赖进口。
稀土元素 —— 看不见但无处不在
"稀土"这个名字有误导性——它们其实不稀,地壳中的稀土元素总含量比铜还多。真正的瓶颈在分离。稀土矿是十几种元素混在一起的,而芯片制造需要的是单一高纯稀土元素(比如 99.999% 的氧化铈用于抛光)。把一堆化学性质几乎相同的元素一个一个分开,靠的是溶剂萃取——上千级萃取槽串联运行,每种元素的萃取参数都是核心机密。
全球稀土冶炼分离能力的 90% 在中国。这不是偶然——20 世纪 90 年代到 2000 年代,西方国家因为环保成本放弃了稀土冶炼,中国承接了这个产业并持续投资。美国唯一的稀土矿(加州 Mountain Pass,由 MP Materials 运营)开采出的稀土精矿,至今仍需要运到中国进行分离加工。澳大利亚 Lynas 在马来西亚有一座冶炼厂,是除中国外唯一的大型稀土分离设施。
特种气体 —— 芯片制造的"化学试剂"
特种气体的核心不是"造出来",而是纯化。一瓶工业级氟化氩(ArF,用于 DUV 光刻的激光气体)可能含有 1% 的杂质。但用于光刻时,杂质必须控制在 ppb(十亿分之一)级别。因为光刻过程中,任何一个杂质分子落到晶圆上,都会在电路图案上形成一个"污点"——导致整片晶圆报废,损失数万美元。
全球特种气体市场由四家巨头控制:林德(德国)、液化空气(法国)、大阳日酸(日本)、空气化工(美国),合计份额超过 80%。为什么新玩家进不来?因为台积电引入一家新的气体供应商需要 2-3 年的验证周期——气体供应商先要证明自己的纯化能力,然后小批量试产,台积电用这批气体造几百片晶圆、逐一检测良率,确认没有影响才会批准。一旦通过认证,客户几乎不会换——因为省下来的气体成本(几美元/片)远低于换供应商导致良率波动的损失(数千美元/片)。
光刻胶 —— 半导体的"胶片"
光刻胶不是一种产品,而是一个高度定制的化学配方体系。每一代光刻机(KrF 248nm → ArF 193nm → EUV 13.5nm)需要完全不同的光刻胶化学体系。EUV 光刻胶尤其极端——13.5nm 的极紫外光几乎会被所有物质吸收,光刻胶需要在只有一个分子层厚度的区域内发生精确的化学反应。
全球光刻胶市场被 日本四家化学巨头垄断 90% 以上:JSR、信越化学、东京应化、住友化学(ArF/EUV),加上富士胶片(KrF)。这不是偶然——日本在精密化学领域的积累可以追溯到胶片时代的富士和柯达,光刻胶的本质跟彩色胶片一样,都是在高分子薄膜中做精密的区域化学反应。柯达衰落了,但日本化学工业的技术基础没有消失。
电力 —— 被低估的物理约束
比用电量更关键的是电力质量。晶圆厂对电压波动极度敏感——电压波动超过 2% 就可能导致整批晶圆在光刻过程中出现偏差,全部报废。因此晶圆厂需要三级供电保障:双路市电(从两个不同的变电站供电)+ 柴油发电机 + UPS 不间断电源。
台积电在台湾的耗电量占全岛发电量的约 8%(2023 年),且这个比例随着 3nm/2nm 量产还在上升——预计 2025 年达到 12.5%。台湾的电力结构(天然气、煤、核、绿电)不是台积电自己能控制的,但它直接影响台积电的制造成本和碳排放指标。这也解释了为什么台积电海外建厂选址高度看重电价——日本熊本的电价比台湾便宜约 20%,美国亚利桑那的电价则比台湾贵。
原材料层不看利润率,看控制力。每一项关键材料都高度集中在少数国家和公司手中——石英砂在美国,稀土冶炼在中国,光刻胶和特种气体在日本。这些材料本身只占芯片成本的一小部分(加起来约 10-15%),但任何一个断了,整条产业链停摆。这就是"瓶颈"的本质:不是因为它贵,而是因为它不可替代。这也是为什么 2019 年日本断供光刻胶能让韩国全国震动——不是钱的问题,是你有再多钱也买不到替代品。
半导体设备
如果原材料是"食材",半导体设备就是"厨具"。晶圆厂 70% 的资本开支花在设备上——建一座月产 3 万片晶圆的 3nm 工厂,设备采购就要花掉约 150-200 亿美元。更关键的是,设备层是整个产业链中集中度最高的环节:光刻机、刻蚀机、检测设备,各自只有 1-3 家主要供应商。这不是市场竞争,这是自然垄断——因为每一类设备的技术壁垒都高到有新进入者自己放弃。
光刻机 —— 人类制造的最复杂机器
要理解光刻机为什么这么难造,先要理解它是怎么工作的。EUV(极紫外)光刻机的原理是:用功率高达 30kW 的 CO₂ 激光轰击每秒 5 万滴融化的锡滴,每滴锡被击中两次——第一次打扁,第二次汽化成等离子体——等离子体发出 13.5nm 的极紫外光。这束光经过蔡司制造的反射镜(不是透镜——EUV 会被所有材料吸收,只能用镜子反射),被精确地投射到涂有光刻胶的晶圆上,以纳米精度逐片扫描。
光是这束光的产生就是一整套物理极限的挑战。CO₂ 激光轰击锡滴产生 EUV 光的效率只有约 3-5%——95% 以上的能量变成了热量,所以光刻机内部有一套巨大的冷却系统。一台 EUV 光刻机重约 180 吨,需要一个集装箱大小的运输箱,安装调试需要 3-6 个月。
ASML 是全世界唯一能造 EUV 光刻机的公司,但 ASML 自己也不造所有零件。它的成功建立在 5000 多家供应商之上,其中几家本身就是垄断者:蔡司(德国)做反射镜——研磨精度要求如果用从地球到月球的距离来比喻,误差不超过一根手指的宽度;通快(德国)做 CO₂ 激光器;VDL(荷兰)做精密机械框架。这些供应商服务 ASML 超过 20 年,任何国家想要复制这套供应链,不是"花 10 年能不能做到"的问题,而是"有没有 5000 家公司愿意陪你玩 10 年"。
| 指标 | 数据 |
|---|---|
| EUV 单价(0.33 NA) | €1.8–2.0 亿 / 台 |
| High-NA EUV 单价 | €3.8 亿 / 台 |
| ASML 2024 年产能 | ~55 台 EUV,远不能满足需求 |
| ASML 毛利率 | 51%,营业利润率 ~33% |
| 客户用 EUV 造 3nm 晶圆 | 单片报价 ~$20,000,客户毛利率仍 >50% |
刻蚀与薄膜沉积 —— 芯片制造的"加"与"减"
刻蚀和沉积的核心壁垒不是专利,是工艺配方(recipe)。刻蚀一个深孔需要精确控制气体种类和比例(CF₄、CHF₃、O₂、Ar 等各种气体如何配比)、射频功率、腔体压力、衬底温度、刻蚀时间——这些参数组合是几十年来为每个客户的每种芯片结构"量身试出来的"。这个配方数据库是 Lam Research、TEL、应用材料三家公司的核心资产,不可能被新进入者复制——因为你没有在 500 个客户的产线上跑过几十年的数据积累。
3D NAND 是刻蚀设备需求增长的最大驱动力。3D NAND 的原理是把存储单元在垂直方向上一层层堆叠起来。现在主流是 200 多层,三星在往 400 层走,远期目标甚至是 1000 层。制造这种结构需要在硅上挖出极深极细的垂直孔道——深宽比(深度/宽度)已经达到 100:1,相当于在一张 A4 纸的平面上,挖一个直径 1mm、深 10cm 的孔。每增加一层 NAND,刻蚀时间就线性增加,需要的刻蚀设备数量也同比增加。
逻辑芯片(CPU/GPU/AI 芯片)方面,FinFET 到 GAA(全环绕栅极)的转变要求刻蚀工艺能做原子级精度的选择性刻蚀——在纳米尺度的多层结构中,只刻掉某一种材料、不碰相邻的其他材料。这需要的不仅是机器,还需要配套的化学蚀刻气体和终点检测算法。
| 维度 | 数据 |
|---|---|
| 市场格局 | Lam Research(刻蚀 ~50%)、TEL(~25%)、应用材料(沉积 ~50%、刻蚀 ~20%),合计 ~85% |
| 设备单价 | $500 万–$2,000 万 / 台 |
| 毛利率 | 45–48% |
| 核心驱动力 | 3D NAND 层数增加 → 刻蚀设备需求线性增长 |
检测与量测 —— 每一步都要检查
全球检测设备市场由 KLA(美国)一家独大,占过程控制市场的 55% 以上,在关键缺陷检测设备上近乎垄断。KLA 的毛利率约 60%——比刻蚀/沉积设备商高出一截,因为它的竞争更少。应用材料和日立高科在细分品类有产品,但差距明显。
KLA 的真正护城河不是一个设备,而是一套缺陷分类算法。晶圆上的缺陷种类多达几百种——颗粒污染、刻蚀残留、CMP 划痕、光刻胶剥离……每种缺陷需要追溯到上游某一具体工序来做工艺优化。KLA 的缺陷分类算法是用 全球所有晶圆厂 30 年的实际缺陷数据训练出来的——这不是一个能"买过来"或"逆向工程"的东西。一台检测设备可以模仿,但 30 年的缺陷数据库是模仿不了的。
随着制程微缩到 3nm 以下,光学检测正在触及物理极限。传统的光学检测用的是可见光或紫外光(波长 193-400nm),但 3nm 工艺的缺陷已经小到亚纳米级别——一个只有几个原子大小的缺陷,用波长几百纳米的光根本无法探测。唯一的替代方案是电子束检测——用电子束扫描晶圆表面,精度远高于光学,但速度极慢。一片晶圆全检需要几个小时甚至几天,在生产线上完全不现实。如何在检测精度和检测速度之间找到平衡,是目前这一层最棘手的技术挑战。
测试设备 —— "造出来了,能不能用?"
测试设备市场由 Teradyne(美国,SoC 系统级芯片测试市场份额 ~50%)和 Advantest(日本,存储芯片测试份额 ~60%)双巨头主导。AI 芯片正在改变测试设备的需求结构。传统手机处理器测试时间可能只需几秒到几十秒,但一颗英伟达 H200 GPU——包含 800 亿个晶体管、与 6 颗 HBM 存储器高速互联——单颗测试时间可能长达几分钟甚至更久。芯片越复杂,需要测试的信号组合越多,测试时间呈指数增长。
更棘手的是 HBM 堆叠后的互联测试。H200 不只是一颗大芯片,它是在 CoWoS 封装中把 GPU 芯片和 6 颗 HBM 存储器通过微米级凸块连接在一起的模组。传统测试是在封装前分别测 GPU 和 HBM,但 CoWoS 封装完成后,这些互联也可能出问题——凸块接触不良、信号串扰——而一旦 CoWoS 封装完成,就不可能再拆开分别测。测试设备需要支持"封装后整体测试",这对测试方案提出了全新的要求。
| 维度 | 数据 |
|---|---|
| 高端 ATE 单价 | $100 万–$300 万 / 台 |
| 测试占总制造成本 | 8–15% |
| AI 芯片测试时间 | 数分钟(传统芯片几十秒) |
| 行业趋势 | 英伟达等自研测试方案——省测试时间 = 省成本 = 多出货 |
半导体设备是整条 AI 产业链中护城河最深、投资最集中、最不可替代的一层。它不是"有没有更好"的问题——是"没有就不行"。ASML 的光刻机、Lam/TEL/应材的刻蚀沉积、KLA 的检测——各有 1-3 家供应商,每家的技术壁垒都是 20-30 年的积累。即使 AI 泡沫破裂、大模型公司倒闭一批,晶圆厂的长期资本开支也不会因为短期叙事降温就砍掉——因为台积电的 2nm 工厂不会因为 ChatGPT 用户下滑就停工。这是整条产业链中最抗周期的一层。
芯片设计与制造
设备和材料就位,现在来造芯片。这一层分两个世界:设计(在电脑上画电路图)和制造(把设计变成物理芯片)。设计靠的是软件和智力——EDA 工具和 IP 核;制造靠的是工厂和工艺——晶圆代工(Foundry)和封装测试。一颗 AI GPU 的完整路径:芯片设计公司(英伟达/AMD)用 Synopsys 的 EDA 软件画出电路 → 从 Arm 购买 CPU 核 IP → 把设计文件交给台积电用 N3 工艺流片 → 台积电再用 CoWoS 封装把 GPU 和 HBM 堆在一起。
EDA 工具 —— 芯片设计的"编译器"
全球 EDA 市场由三大巨头控制:Synopsys(美国,~35%)、Cadence(美国,~30%)、Siemens EDA(原 Mentor Graphics,德国,~15%),合计约 80%。中国华大九天在模拟芯片 EDA 领域有一定份额,但在数字芯片 EDA 领域份额不到 1%。
EDA 的护城河不只是软件功能,而是一个三位一体的生态:EDA 工具 + IP 核库 + 验证套件。一家芯片设计公司选定 Synopsys 的设计流程后,会基于 Synopsys 的工具链搭建整个设计环境——所有的设计脚本、IP 核调用、验证流程都围绕这套工具链构建。换到 Cadence 不是"装个新软件"的问题,而是整个设计团队需要重新培训、所有已有的 IP 和验证脚本需要重写、设计周期延长 6-12 个月。没有公司愿意承担这个代价。
更关键的是,先进制程的 EDA 工具需要跟晶圆厂的 PDK(工艺设计套件)深度耦合。台积电 N3 工艺的 PDK 包含成千上万个工艺参数和设计规则——某个位置线宽不能小于 12nm、两个晶体管之间的距离不能小于 24nm……这些规则是台积电的核心机密。Synopsys 和 Cadence 的工程师与台积电联合开发 3-4 年,把 PDK 集成到 EDA 工具中。一个第三家 EDA 公司要进入 N3 市场,首先得拿到台积电的 PDK——台积电不会把这些数据交给一个没有长期合作关系的公司。
先进逻辑 Foundry —— 全球只有一个台积电
台积电的主导地位来自三件事的叠加:技术领先、良率领先、信任。
技术领先:台积电的 N3(3nm)是目前全球唯一大规模量产的 3nm 制程。三星的 3nm GAA(全环绕栅极)虽然技术路线上更激进(提前上 GAA 架构),但良率长期低迷(据行业估计仅 50% 左右,而台积电 N3 良率在 80%+)。Intel 的 18A(等效 1.8nm)预计 2025 年才对外代工。台积电比三星领先约 6-12 个月的同代节点量产时间,这 6-12 个月意味着英伟达、AMD、苹果等客户的新品发布节奏必须跟台积电的工艺时间表同步。
良率领先:良率(yield)是晶圆代工的生命线。一片 12 寸晶圆上可能有 200-300 颗 GPU 芯片,N3 晶圆本身报价约 $20,000。如果良率是 90%,产出约 200 颗好芯片,每颗成本 $100。如果良率是 50%,产出约 120 颗好芯片,每颗成本 $167——高了 67%。三星 GAA 良率低迷导致客户流失:高通把骁龙 8 Gen 4 从三星转到台积电制造。
信任:这是最被低估的壁垒。台积电的商业模式是"我们不设计芯片,我们只制造芯片"——所以客户(英伟达、AMD、苹果、高通、博通)把自己的设计交给台积电,不用担心台积电偷学设计然后自己做个竞品。而三星和 Intel 都做自己的芯片产品(三星 Exynos、Intel CPU),客户自然会想:我把设计交给你们造,你们会不会拿来改进自己的产品?这是台积电花了 30 年建立的信任资产,不是花钱能买来的。
| 指标 | 台积电 N3 | 三星 3nm GAA |
|---|---|---|
| 量产时间 | 2022 年底 | 2022 年中(小规模) |
| 良率(估算) | 80%+ | ~50% |
| 晶圆价格 | ~$20,000 | ~$15,000–18,000 |
| 主要客户 | 苹果、英伟达、AMD、高通 | 三星自用为主 |
先进封装(CoWoS)—— 不是造芯片,是"拼"芯片
CoWoS(Chip on Wafer on Substrate)是台积电的 2.5D 封装技术。工作流程:先把 GPU 芯片和 HBM 芯片贴到一块硅中介层上,通过中介层内部的微米级导线把它们连在一起,再把整个中介层贴到封装基板上。硅中介层是 CoWoS 的核心——它相当于在 GPU 和 HBM 之间修了一条超宽的数据高速公路。
为什么 CoWoS 成了瓶颈?因为中介层的面积越来越大。一颗 H200 的 CoWoS 中介层面积已经接近光罩(reticle)的物理极限——约 858mm²(相当于 26mm×33mm)。芯片和 HBM 堆叠越来越多,中介层就要越来越大,但光刻机一次曝光的最大面积就是 858mm²。超过这个极限,就需要用 CoWoS-L(局部硅桥)等新技术在中介层上拼接——工艺复杂度大幅增加。
台积电在 CoWoS 市场占据约 90% 的份额。三星有 I-Cube(类似的 2.5D 封装)和 X-Cube(3D 堆叠),Intel 有 EMIB(嵌入式多芯片互联桥),但良率和产能远不及 CoWoS。台积电 2024 年 CoWoS 产能翻倍(达到约每月 3 万片晶圆的中介层产能),仍然供不应求。2025 年计划继续翻倍。日本熊本和台湾新厂都在扩产先进封装,但建设周期 2-3 年——在扩产完成之前,AI GPU 的供应量将由 CoWoS 产能决定,不由 GPU 芯片产能决定。
芯片设计与制造是整条产业链中资本最密集、技术壁垒最高、地缘风险最大的一层。台积电一己之力支撑了全球 AI 芯片制造:设计(EDA)被美国三巨头锁定,制造(Foundry)被台积电垄断,封装(CoWoS)又是台积电的天下。三件事加在一起创造了一个历史上从未出现过的产业格局:全球最重要的技术产品的物理生产,集中在台湾一个岛上的几座工厂里。这不是一个可持续的结构,但短期内看不到解——因为建一座能替代台积电先进产能的晶圆厂,需要 300 亿美元和 10 年时间。
存储与互联
GPU 芯片本身只是一颗"大脑"——它需要海量数据喂进去、算完再送出来。存储(HBM 内存)决定了数据能多快送到 GPU 面前,互联(光模块和交换机)决定了 GPU 之间能多快对话。这两样东西决定了大规模 AI 集群的实际效率:如果把 GPU 比作赛车,HBM 就是加油速度,网络就是赛道宽度——引擎再强,加油慢、赛道窄,照样跑不快。
HBM 高带宽内存 —— GPU 旁边的"快充站"
HBM 的原理是把多层 DRAM 芯片像千层饼一样垂直堆叠在一起,通过硅通孔(TSV——Through Silicon Via)在垂直方向打穿每一层、用微米级金属填充物连接。然后把这个堆叠好的"存储塔"紧贴在 GPU 旁边,通过硅中介层实现超短距离高速互联。一片 H200 模组里,GPU 芯片在中间,周围环绕 6 颗 HBM 堆叠——整个模组看起来像一颗大芯片,但实际上是由多颗芯片拼成的。
SK 海力士是 HBM 的绝对王者。它最早大规模量产 HBM2(2016 年),在 HBM3 时代继续领先,是英伟达 H200 的 HBM3E 独家供应商。三星虽是全球最大的 DRAM 制造商,但在 HBM 上落后于 SK 海力士——三星的 HBM3 良率不高,导致英伟达的认证进度延迟。美光跳过了 HBM3 代际,直接开发 HBM3E,2024 年开始出货但份额仍很小。
HBM 制造有多难?DRAM 芯片需要做得极薄(磨到几十微米厚)才能堆叠 12 层,然后要在这些比纸还薄的芯片上打几百个 TSV 孔、精准对齐、填充金属——任何一个孔位置偏差、一个填充空隙,整颗 HBM 就报废。而且随着堆叠层数增加(从 8 层到 12 层再到未来的 16 层 HBM4),散热问题急剧恶化——12 层芯片叠在一起,中间层的热量导不出去,成为制约性能的物理瓶颈。
| 维度 | 数据 |
|---|---|
| HBM 单 GB 价格 | $10–15(DDR5 $2–3) |
| HBM 毛利率 | 50%+ |
| H200 模组 HBM 成本 | $2,000–3,000,占总模组成本 ~40% |
| 2024-2025 供应 | SK 海力士产能已被订满,持续供不应求 |
光模块与交换机 —— GPU 之间的"高速公路"
AI 集群对网络的苛刻程度远超传统数据中心。传统云服务器的网络流量是"人"产生的——一个人点开网页、看视频,流量断断续续、可以容忍几毫秒的延迟。但大模型训练的流量是"机器"产生的——上万颗 GPU 在做分布式矩阵运算,每颗 GPU 计算完一部分就要跟其他 GPU 交换结果,任何一颗 GPU 的网络延迟都会拖慢整个集群。
英伟达的全套网络方案(InfiniBand / Spectrum-X 以太网)是目前 AI 集群的事实标准。InfiniBand 是英伟达通过收购 Mellanox 获得的高速互联技术——低延迟、无损传输,是传统 AI 训练集群的标配。Spectrum-X 以太网 是英伟达的下一代方案——用博通的 Tomahawk 5 交换机芯片配合英伟达自己的软件优化,在标准以太网上实现接近 InfiniBand 的性能。
但网络正在成为新瓶颈。GPU 算力每 1 年翻一倍(H100 → H200 → B200),网络带宽每 2 年才翻一倍(400G → 800G)。算力增速超过网络增速,意味着 GPU 越来越多的时间花在"等数据"而不是"算数据"上——这就是为什么大规模集群的算力利用率往往只有 40-50%,远低于单卡跑小模型的 90%+。
另一个被忽视的瓶颈是 功耗。一个 800G 光模块功耗约 15W,一万个就是 150kW——光互联本身就成了耗电大户。CPO(Co-Packaged Optics,共封装光学)把光引擎直接集成到交换机芯片封装里省掉中间的电光转换环节,功耗预计降低 30-50%,但量产还需要 2-3 年。
| 维度 | 数据 |
|---|---|
| 800G 光模块单价 | $800–1,000(2024),年降价 20–30% |
| 交换机芯片格局 | 博通 Tomahawk 系列 ~70%,英伟达 Spectrum ~15% |
| 网络占集群总成本 | 15–20% |
| 英伟达 InfiniBand 网络毛利率 | ~70%,是超大规模客户拥抱以太网替代的核心动力 |
HBM 和网络是 AI 算力扩张的两个物理约束。HBM 产能被 SK 海力士一家卡住,网络带宽增速落后于 GPU 算力增速。这些约束不会因为技术进步而自动消失——因为每一代的 HBM 更难造、每一代的光模块功耗更大。这一层最有价值的公司不一定是市值最大的,而是坐在物理瓶颈位置上的:博通(定制 ASIC + 交换机芯片)和 SK 海力士(HBM)是"不造 GPU 但英伟达每卖一颗 GPU 都要给它们付费"的隐形赢家。
芯片产品
前面四层的所有东西最终汇聚成一颗颗具体的芯片。这一层是产业链的"收费站"——上游每一层的技术进步和成本压缩,最终都体现在芯片的性能和价格上。而芯片设计公司是整个链条中利润最高的环节:英伟达毛利率 70%+,而台积电毛利率 53%——因为芯片设计公司赚的是"智力溢价",晶圆厂赚的是"制造效率"。
训练 GPU —— 英伟达为什么一家独大
要理解 CUDA 的壁垒,需要回到 2006 年。那一年英伟达推出了 CUDA(统一计算设备架构),允许开发者直接利用 GPU 的几千个计算核心做通用计算(不只是图形渲染)。当时没有人觉得这是个革命性的东西——GPU 通用计算(GPGPU)的概念已经存在,CUDA 只是英伟达自己的实现。但关键是,英伟达坚持了 15 年——每一代 GPU 都配套更新 CUDA 工具包,在 CUDA 之上不断积累算子库(cuDNN 用于深度学习、cuBLAS 用于矩阵运算、NCCL 用于多卡通信),同时深度整合到 PyTorch 和 TensorFlow 等主流 AI 框架中。
15 年后,AI 研究者编写一行 `model.to('cuda')` 的背后,是 15 年的软件工程积累。AMD 的硬件 MI300X 在理论算力上已经接近甚至在某些指标上超过英伟达 H100,但它的软件栈 ROCm 在稳定性、算子覆盖率和社区支持上跟 CUDA 有巨大差距。一个 AI 研究团队如果从英伟达迁移到 AMD,不是"换个显卡驱动"的问题——是整个训练代码、性能优化、调试工具都要重来。AMD 正在疯狂补课,但 15 年的差距不是一两年能追上的。
但英伟达并非高枕无忧。最大的威胁不是 AMD,而是 自研 ASIC——三家最大的 AI 云计算客户,Google(TPU)、Amazon(Trainium)、Microsoft(Maia),都在自研训练和推理芯片。它们的目标不是卖芯片,而是摆脱对英伟达的依赖、降低算力成本。如果这些自研 ASIC 最终成功,英伟达将面临一个比 AMD 竞争更危险的局面:它的最大客户变成它的最大竞争对手。
| 厂商 | 产品 | 定位 |
|---|---|---|
| 英伟达 | H200 → B200 (2024) → R100 (2026) | 第三方出售,训练王者 |
| AMD | MI300X → MI400 (2025) | 第三方出售,追赶者 |
| TPU v5p/v6 | 自用 + 通过云服务间接提供 | |
| Amazon | Trainium2 / Inferentia2 | 自用 + 通过 AWS 提供 |
| Microsoft | Maia 100 | 自用 |
推理芯片 —— "训练花钱一次,推理花钱一辈子"
英伟达在推理市场也是最大的玩家(L40S/L4 是通用推理主力),但优势远没有训练市场那么大。原因很简单——推理不需要 CUDA 生态。训练需要 PyTorch → CUDA 这条复杂的软件栈,但推理只需要跑一个已经训练好的模型文件,底层可以用任何硬件、任何框架——只要它能高效执行矩阵乘法。这使得推理芯片市场成为创业公司最活跃的芯片战场。
Groq(不是 Elon Musk 的 Grok)是一个最常被引用的例子。它的 LPU(语言处理单元)架构用 SRAM 代替 HBM 作为主存——SRAM 速度极快、延迟极低,所以 Groq 的推理延迟能达到毫秒级,比 GPU 快得多。但代价是 SRAM 很贵——一片 Groq 卡只有几百 MB 内存,跑大模型需要几十张甚至上百张卡拼在一起。所以 Groq 在"低延迟场景"(实时对话)有优势,在"大吞吐量场景"(批处理)反而不如 GPU 经济。
推理芯片的真正拐点可能在 2027 年左右。届时推理市场的总规模预计将超过训练市场(~$800 亿 vs ~$500 亿)。当推理成为 AI 算力的主要需求后,芯片行业的规则将发生根本变化——过去三十年,芯片行业一直是"性能为王"(谁造的芯片算力最强谁赢)。但在推理时代,规则变成"能效为王"和"总拥有成本为王"——谁的芯片能用最少电力处理最多 token,谁就能赢。这给了创业公司一个结构性机会。
端侧 AI 芯片 —— 大模型能不能在手机上跑?
苹果是这个赛道上最被低估的玩家。苹果控制端侧 AI 的三位一体:芯片(A/M 系列的 Neural Engine)、操作系统(iOS/macOS 深度集成 AI 能力)、应用商店。WWDC 2024 发布的 Apple Intelligence 展示了在 iPhone 15 Pro 上本地运行 3B 参数多模态模型的能力,35 TOPS(每秒 35 万亿次 INT8 运算)的 Neural Engine 是当前端侧最强 NPU 之一。
但端侧 AI 面临一个核心物理约束:内存带宽。手机 LPDDR5 内存带宽约 50 GB/s,而 H200 的 HBM 带宽是 4,800 GB/s——差了近 100 倍。一个 7B 参数的大模型,权重文件就要约 14GB(FP16 精度),即使量化为 4-bit(约 3.5GB),在手机内存带宽下每秒只能生成十几个 token——远低于人类阅读舒适速度(30-50 token/s)。所以端侧 AI 短期内不可能替代云端大模型——它更可能作为"第一道关"处理简单任务(摘要、翻译、语音识别),复杂任务再上传云端。
真正令人兴奋的不是"在手机上跑 ChatGPT",而是端侧 AI 可能催生全新的交互范式——实时语音翻译、环境感知的 AR 助手、读懂屏幕上下文并自动帮你操作的智能代理。这些新交互需要的不只是算力,还需要芯片、传感器、操作系统和应用生态的深度整合——这正是苹果的优势所在。
芯片产品层是上游四层所有价值的最终兑现点。英伟达在这个位置的统治力建立在 15 年的 CUDA 生态之上,短期内无法撼动。但两个结构性变化正在酝酿:一是推理市场 2027 年左右将超过训练市场,改变芯片行业的规则(从"性能为王"到"能效为王");二是云计算巨头自研 ASIC——英伟达最大的客户正在变成最大的竞争对手。这一层的长期看点不是"谁能挑战英伟达的训练霸权",而是"推理芯片的最终格局会是什么样子"——因为推理市场更大、进入门槛更低、格局远未定型。
数据中心基础设施
GPU 不能裸奔——它需要服务器机柜、供电系统、散热方案和数据中心物理空间。一个 R100 GPU 集群功耗可能达到 100kW+ 每机柜——是传统数据中心机柜的 10 倍——风冷已经不够用了。服务器集成商(Super Micro、Dell)、液冷方案商(Vertiv)、数据中心 REIT(Equinix)和 GPU 云新势力(CoreWeave)共同构成这一层。
内容完善中
本期聚焦上游(Layer 0–4),中下游各层将在后续更新中深度覆盖。
基础大模型
算力就位,开始训练模型。OpenAI/GPT、Google/Gemini、Anthropic/Claude(闭源)对阵 Meta/Llama、Mistral、DeepSeek、阿里 Qwen(开源)。模型层的核心矛盾:开源正在不断压低闭源模型的定价权,基础模型能否成为一个好的商业模式?用户不关心底层是 GPT 还是 Llama,只关心好不好用、便不便宜。
内容完善中
本期聚焦上游(Layer 0–4),中下游各层将在后续更新中深度覆盖。
AI 开发中间件
有了模型,怎么把它变成产品?模型托管(HuggingFace、Together AI)、推理优化(量化、投机解码)、编排框架(LangChain、DSPy)、向量数据库(Pinecone、Milvus)——这一层类似 AI 时代的"操作系统",但问题是:操作系统是赢家通吃的市场,AI 中间件呢?
内容完善中
本期聚焦上游(Layer 0–4),中下游各层将在后续更新中深度覆盖。
To B 应用
企业怎么靠大模型挣钱或省钱?编程助手(GitHub Copilot 已被证明提升开发者效率 20-50%)、企业搜索(Glean 打通公司内部知识库)、客服 AI、法律合同审查、AI 药物发现——To B 是目前最确定的变现路径:企业为 ROI 买单,而不是为"好玩"买单。
内容完善中
本期聚焦上游(Layer 0–4),中下游各层将在后续更新中深度覆盖。
To C 应用
大模型怎么让普通人掏钱?ChatGPT 2 亿+ 周活、Perplexity 年订阅 $200、Midjourney 月活千万——用户愿意为 AI 付费,但 To C 的核心矛盾是:"超级应用"能长期绑住用户吗?还是模型一更新、用户就换平台?AI 的 To C 变现路径比 To B 不确定得多,但市场也大得多。
内容完善中
本期聚焦上游(Layer 0–4),中下游各层将在后续更新中深度覆盖。
贯穿全链:电力 · 互联 · 安全 · 监管
这四个主题不单独分层但贯穿全链。一个 100K GPU 集群年耗电 ≈ 一个中型城市,电力是算力扩张的物理上限。模型安全(越狱、对抗攻击)是企业采用大模型的前置条件。EU AI Act 和美国生成式 AI 行政令意味着合规本身正在成为一种护城河。
内容完善中
横向贯穿层的深度分析将在后续更新中补充。