基础模型与大语言模型(LLM)商业案例目前在科技咨询面试中占比 12-15%。根据我们对近期案例模式的分析,这类问题考察你能否将构建大语言模型的经济账算清楚——把训练成本、推理效率和战略定位这几个维度讲明白,给出站得住脚的建议。
基础模型案例实际在考什么
基础模型案例不是技术深度拆解。面试官不会问你 Transformer 架构或反向传播算法。他们考察三个能力:
成本结构理解:你能否拆解训练和服务基础模型的单位经济学?前期资本(训练)和持续运营成本(推理)的分配决定了整个商业模式。
战略判断:这家公司应该自建基础模型、微调现有模型,还是直接用 API?答案取决于规模、差异化需求和时间视野——而不是技术野心。
风险意识:你是否理解那些让大多数基础模型项目折戟的隐性成本?数据准备、模型漂移、人才保留和持续微调,往往超过初始训练预算。
基础模型经济学框架
当你拿到一个基础模型案例时,围绕四个成本维度来构建分析。这个框架适用于创业公司考虑模型开发,或企业评估自建与购买。
flowchart TD
A[基础模型经济学] --> B[训练成本]
A --> C[推理成本]
A --> D[数据成本]
A --> E[维护成本]
B --> B1[计算:GPU 小时数]
B --> B2[基础设施]
B --> B3[人才:机器学习工程师]
C --> C1[每 token 成本]
C --> C2[延迟要求]
C --> C3[规模:请求/天]
D --> D1[数据获取]
D --> D2[清洗与标注]
D --> D3[存储与治理]
E --> E1[微调周期]
E --> E2[模型漂移监控]
E --> E3[对齐与安全]
style A fill:#1e3a5f,color:#fff
style B fill:#2563eb,color:#fff
style C fill:#2563eb,color:#fff
style D fill:#2563eb,color:#fff
style E fill:#2563eb,color:#fff
训练成本:前期投入
训练基础模型是资本密集型工作。根据公开披露的数据和我们的案例分析,一个 GPT-3 规模的模型(1750 亿参数)仅计算成本就要 400-1200 万美元。更大的模型成本超线性增长——参数翻倍,训练成本通常不止翻倍。
关键组成部分:
- 计算:GPU 集群运行数周或数月。1750 亿参数模型需要大约 3.14 × 10²³ 次浮点运算。按当前云服务价格,纯计算成本在 400-800 万美元。
- 基础设施:存储、网络、编排。在计算成本基础上加 20-30%。
- 人才:机器学习工程师、研究科学家、基础设施专家。一个基础模型项目需要 8-15 名全职工程师,持续 6-12 个月。按全成本 20-30 万美元/人计算,人力成本在 160-450 万美元。
- 失败实验:并非每次训练都能成功。预留 2-3 次主要迭代的预算,才能达到生产质量。
中等规模基础模型的总训练成本:800-2000 万美元。
推理成本:持续烧钱
训练是一次性成本。推理——向用户提供预测服务——是持续的,并随使用量扩展。对基础模型来说,每 token 的推理成本决定了单位经济学。
当前市场基准:
| 模型规模 | 成本/百万 token(输入) | 成本/百万 token(输出) | 典型用例 |
|---|---|---|---|
| 70 亿参数 | $0.10-0.20 | $0.30-0.60 | 聊天机器人、基础分类 |
| 700 亿参数 | $0.60-0.90 | $2.40-3.60 | 复杂推理、内容生成 |
| 1750 亿+参数 | $2.00-3.00 | $6.00-15.00 | 前沿应用、研究 |
推理困境:假设每天 100 万用户,每人生成 50 个 token,使用 700 亿模型,每天推理成本 120-180 美元(年度 4.3-6.5 万美元)。扩展到 1000 万用户,年度推理成本达到 43-65 万美元。
这就是为什么许多最初自建模型的创业公司转向 API 消费。自托管比 API 更便宜的临界点通常在每月 5-10 亿 token——需要持续的高使用量。
数据成本:隐性倍增器
基础模型对数据的需求量很大。训练一个有竞争力的 LLM 需要数千亿到数万亿 token 的文本数据。数据成本包括:
- 获取:网络爬虫基础设施、高质量语料库的授权协议。预算 50-200 万美元用于全面数据集。
- 清洗和过滤:去重、过滤有害内容、确保质量。这是劳动密集型工作——预计 3-6 个月的数据工程工作。
- 标注:对于指令调优或 RLHF(基于人类反馈的强化学习),需要标注样本。每个标注样本 5-20 美元,需要 5-10 万个样本,成本 25-200 万美元。
- 存储和治理:PB 级存储、版本控制、合规。年度持续成本 5-20 万美元。
根据我们分析科技案例的经验,公司通常低估数据成本 3-5 倍。
维护:永久税收
基础模型不是「训练一次,永久使用」。它们需要持续维护:
- 微调周期:随着用户需求演变和新数据出现,模型需要重新训练。预计每季度微调,成本为初始训练成本的 10-20%。
- 模型漂移监控:随着语言演变,性能会随时间下降。监控和缓解成本每年 10-30 万美元。
- 对齐与安全:红队测试、偏见测试、安全护栏。2-4 人的专门团队年度成本 40-120 万美元。
年度维护总成本:生产级基础模型 100-300 万美元。
自建 vs 购买 vs 微调决策
大多数基础模型案例的核心问题:客户应该自建、购买(API)还是微调现有模型?
flowchart TD
A{基础模型决策} --> B{战略差异化?}
B -->|核心知识产权| C{规模: >10亿token/月?}
B -->|非核心| D[购买: API]
C -->|是| E{资本: 2000万美元+可用?}
C -->|否| F[微调现有模型]
E -->|是| G[自建: 内部模型]
E -->|否| F
D --> D1[使用 OpenAI, Anthropic 等]
F --> F1[从 Llama, Mistral 等开始]
G --> G1[从头完全训练]
style A fill:#1e3a5f,color:#fff
style B fill:#2563eb,color:#fff
style C fill:#2563eb,color:#fff
style E fill:#2563eb,color:#fff
何时自建
从头构建基础模型只有在三个条件全部满足时才有意义:
- 战略差异化:模型架构或训练方法是创造持久竞争优势的核心知识产权。
- 规模:使用量超过每月 10 亿 token,使自托管在 12-18 个月内比 API 更便宜。
- 资本可用性:初始开发 2000-5000 万美元预算,加上 2-3 年的迭代和维护资金。
案例:一家构建 AI 原生产品的公司,模型行为定义用户体验,每天 1000 万+活跃用户,融资 1 亿美元以上。想想 Jasper、Character.AI 或专业垂直 AI 应用。
何时购买(API)
API 消费在以下情况最优:
- 使用量低于每月 5 亿 token
- 模型质量比每 token 成本更重要
- 上市速度至关重要(数周而非数年启动)
- 公司缺乏机器学习基础设施专业知识
经济平衡点:对大多数用例,API 在达到每月 5-10 亿 token 之前比自托管更便宜。按当前价格,每月 5 亿 token 通过 API 成本 1.2-3 万美元,但自托管需要每月 1.5-2.5 万美元的基础设施(加上前期训练成本)。
何时微调
微调提供中间路径:
- 从开源基础模型开始(Llama 3、Mistral 等)
- 在专有数据上微调以提高特定领域性能
- 部署在自有基础设施或通过微调 API
成本结构:微调 700 亿模型成本 5-15 万美元(比从头训练便宜 10-20 倍)。你获得定制化而不承担全部资本负担。当差异化来自专业数据而非新颖架构时,这种方法有效。
权衡:你依赖于基础模型的局限性和架构。如果基础模型在推理方面较弱或有根本性能力差距,微调无法完全弥补。
分析基础模型投资:ROI 框架
在评估客户是否应投资基础模型开发时,按如下方式构建 ROI 分析:
| 成本类别 | 一次性 | 年度经常性 | 备注 |
|---|---|---|---|
| 训练(初始) | 800-2000万美元 | — | 1750 亿参数模型 |
| 基础设施 | 100-200万美元 | 50-100万美元 | 云或本地 GPU |
| 数据获取与准备 | 100-300万美元 | 20-50万美元 | 初始+持续收集 |
| 人才 | — | 160-300万美元 | 8-15 名机器学习工程师 |
| 维护与微调 | — | 100-300万美元 | 季度更新、漂移监控 |
| 第 1 年总计 | 1000-2500万美元 | 330-750万美元 | |
| 第 2-3 年总计 | — | 330-750万美元/年 | 持续运营成本 |
收入端:模型必须:
- 支持新产品,产生足够收入覆盖每年 1000 万美元以上的消耗
- 在其他地方降低成本,超过模型的运营成本(例如替代人工劳动)
- 改善转化或留存,足以证明投资合理(需要非常高的用户生命周期价值)
盈亏平衡分析:如果模型在 5000 万美元 ARR 业务上将转化率提高 2%,那是每年 100 万美元的收益——不足以证明 1000 万美元以上的投资。你需要 10%+ 的影响或更大的收入基础。
基础模型案例的常见陷阱
根据我们对 800+ 科技案例的分析,候选人会犯这些错误:
- 低估推理成本:只关注训练成本,而忽略主导长期经济学的持续每 token 开销。
- 忽略数据成本:假设训练数据是「免费的」,而实际上通常占项目总成本的 20-40%。
- 混淆参数与能力:更多参数并不总意味着更好的性能。精心微调的 70 亿模型在特定任务上可以超越通用 700 亿模型。
- 忽视维护:将模型训练视为一次性事件,而非持续过程。
- 在没有规模论证的情况下推荐「自建」:自建只有在非常高的使用量下才有意义。大多数公司应该购买或微调。
核心要点
- 基础模型经济学分为四个成本桶:训练(一次性,800-2000 万美元)、推理(持续,随使用量扩展)、数据(100-500 万美元)和维护(年度 100-300 万美元)
- 每 token 推理成本决定长期单位经济学——最常见的错误是低估这项持续开销
- 仅在三者都满足时自建:战略差异化、规模(>10 亿 token/月)和资本(2000 万美元以上可用)
- 微调相比从头训练成本降低 10-20 倍,当差异化来自专有数据而非架构时有效
- API 消费在达到每月 5-10 亿 token 之前最优——这是自托管变得更便宜的临界点
- 数据成本通常被低估 3-5 倍——为获取、清洗、标注和持续治理做好预算
- ROI 分析必须考虑多年运营成本,而不仅仅是初始训练投资
准备好应用这些框架了吗?探索AI 与新兴技术案例获取更广泛的 AI 战略背景,在我们的案例库中查看科技行业案例,或通过 AI 模拟面试实时测试你的基础模型分析技能。
AI 案例辅导领域正在演变——看看 CasesCoach 这样的平台如何将基础模型经济学融入交互式练习。我们的引导模式帮助你用实时提示构建复杂科技案例结构,专家模式模拟分析 2000 万美元以上投资决策的压力,与案例对话让你通过 835+ 真实科技案例探索 LLM 商业模式。从 3 个免费完整案例开始建立你的 AI 战略直觉,然后升级到 Pro 解锁完整库和多次 AI 模拟面试,进行全面准备。