国产大模型 Token 出海业务虽然在海外开源模型赛道拿到很高调用份额,但是按 Token 计费的营收增速,已经追不上 HBM、DRAM 等存储芯片涨价带来的刚性成本上涨,这套商业模式的底层矛盾开始凸显,收入是按输出 Token 数量计价,而存储、显存开销跟着 GB 容量走,长上下文会话、KV 缓存会持续占用大量显存资源,流量碎片化之后缓存命中率下滑,进一步抬高单位 Token 的存储摊销成本。门罗风投的报告显示,美国企业在开源模型上的支出里 89% 流向国产模型,Kimi、DeepSeek、GLM 位列前三;但开源模型整体 Token 用量占 19%,只拿到全部企业 AI 预算的 4%,赛道定价内卷严重,很难通过涨价转嫁存储成本。上游存储原厂把产能优先倾斜高毛利 HBM,服务器内存、显存供货紧张、长单价格持续走高,再加上现在 Agent、长文本、推理型模型越来越多,单次请求附带的 KV 缓存体积暴涨,很多服务商出现调用量越高、利润反而越薄的情况,行业现在普遍靠 KV 量化、缓存分层、闲置会话回收等技术手段压缩显存占用,同时调整产品策略,减少低价纯 Token 走量模式。
一、行业核心数据对照表
| 项目 | 详情 |
|---|---|
| 美国企业开源模型支出占比 | 89% 流向国产大模型(Kimi 61%、DeepSeek 15%、GLM 11%) |
| 开源模型 Token 流量占比 | 19% |
| 开源模型整体营收占全部企业 AI 预算 | 4% |
| 成本计价方式 | 存储、显存按 GB 结算,存储芯片涨价刚性抬升资本开支 |
| 收入计价方式 | 对外 API 按 Token 数量计费,市场竞争激烈,提价难度大 |
| 核心开销来源 | KV 缓存,长上下文、AI Agent 会放大显存占用 |
二、存储成本飙升的主要原因清单
- 产能结构倾斜:三星、SK 海力士、美光优先把先进产能投向 HBM,普通服务器 DRAM 产能收缩
- 长上下文普及:百万、千万级上下文窗口,每一条并发会话都需要预留大量显存存放 KV 缓存
- Agent 推理爆发:Agent 任务内部思考、工具调用产生大量中间 Token,缓存开销远高于普通对话
- 流量碎片化:海外开发者请求分散、会话长短不一,缓存命中率下降,显存资源浪费变多
- 采购模式变化:稳定扩集群需要签署长期保底采购协议,现货采购价格波动更大
三、行业主流降显存成本方案
- KV 缓存量化:降低缓存数据精度,减少单 Token 占用的存储容量
- 缓存分层调度:热 KV 缓存放 HBM,冷缓存下沉到普通 DRAM,释放高价显存
- 闲置会话清理:长时间无交互的对话直接回收 KV 缓存,代表案例 DeepSeek 会话超时回收策略
- 模型架构优化:MLA、GQA 等注意力方案,从底层压缩 KV 缓存体积
- 客户分层定价:长上下文、高并发 Agent 场景单独定价,不再统一低价 Token 费率
四、Token 出海模式现存风险点
- 定价内卷:海外开源模型赛道价格战激烈,客户对涨价敏感度高
- 资产刚性:HBM、GPU 属于重资产投入,折旧周期长,存储涨价属于持续压力
- 流量不可控:开发者调用模式多变,Agent、长文本流量会突然拉高存储负载
- 盈利脆弱:单纯走 Token 量的模式,很容易出现 “量越大、亏越多”
【相关 FAQ】
问题 1:Token 出海赚的钱跟不上飙升的存储成本,核心矛盾是什么?
回答 1:Token 出海业务收入是按 Token 数量计费,而存储成本是按 GB 容量计算,长上下文、KV 缓存会持续占用显存,存储芯片涨价、流量碎片化之后,存储成本上涨速度超过 Token 营收增长速度,利润空间被持续压缩。
问题 2:Token 出海业务里,KV 缓存为什么会大幅拉高存储成本?
回答 2:KV 缓存是大模型保存上下文对话状态的数据,每一条长对话、AI Agent 任务都会持续占用 HBM 显存;Token 出海面向海外大量开发者,并发会话多、流量零散,缓存命中率降低,显存资源被大量占用,推高整体存储摊销成本。
问题 3:国产大模型 Token 出海现在在海外市场份额怎么样?
回答 3:根据门罗风投报告,美国企业用于开源模型的支出中 89% 给到国产大模型,Kimi、DeepSeek、GLM 排在前列;但开源模型整体 Token 流量占 19%,仅拿到全部企业 AI 预算的 4%,份额集中但单价偏低。
问题 4:面对存储成本飙升,做 Token 出海的厂商一般会怎么调整?
回答 4:厂商会用 KV 量化、缓存分层、清理闲置会话等技术减少显存占用,同时调整定价策略,对长上下文、Agent 等高显存消耗场景单独调价,减少单纯低价走 Token 流量的业务。
【参考资料】
[2026-11-13](Token 出海赚的钱,跟不上飙升的存储成本了)36 氪
[2026-11-13](Token Overseas Revenue Can No Longer Keep Up with Soaring Storage Costs)AsiaICT
[2026-11-16](DeepSeek 推出限额使用措施,回收闲置会话 KV 缓存)新浪财经
[2026-04-09](Unlocking the Token Economy: Micron Powers AI's KV Cache)Micron 官网
【免责声明】
本文信息基于门罗风投行业报告、科技媒体公开报道、存储厂商技术文档整理;Token 出海的定价、存储芯片价格、KV 缓存优化效果会随供应链、模型架构、海外市场竞争动态变化;Token 出海业务存在较高的算力与存储投入风险,本文仅为产业资讯科普,不构成 API 服务商经营、芯片采购、投资决策建议。
本文来自作者[锋芯回传]投稿,不代表岳鹿科技网立场,如若转载,请注明出处:https://www.newsyuelu.com/kjyw/202611/725.html
评论列表(4条)
我是岳鹿科技网的签约作者“锋芯回传”!
希望本篇文章《Token 出海收入增长承压 存储成本持续飙升挤压国产大模型出海利润》能对你有所帮助!
本站[岳鹿科技网]内容主要涵盖:互联网行业的追踪与探索
本文概览:国产大模型 Token 出海业务虽然在海外开源模型赛道拿到很高调用份额,但是按 Token 计费的营收增速,已经追不上 HBM、DRAM 等存储芯片涨价带来的刚性成本上涨,这套商业模式的底层矛盾开始凸显,收入是按输出 Token 数量计价,而存储、显存开销跟着 GB 容量走,长上下文会话、KV 缓存会持续占用大量显存资源,流量碎片化之后缓存命中率下滑,进一步抬高单位 Token 的存储摊销成本。门罗风投的报告显示,美国企业在开源模型上的支出里 89% 流向国产模型,Kimi、DeepSeek、GLM 位列前三;但开源模型整体 Token 用量占 19%,只拿到全部企业 AI 预算的 4%,赛道定价内卷严重,很难通过涨价转嫁存储成本。上游存储原厂把产能优先倾斜高毛利 HBM,服务器内存、显存供货紧张、长单价格持续走高,再加上现在 Agent、长文本、推理型模型越来越多,单次请求附带的 KV 缓存体积暴涨,很多服务商出现调用量越高、利润反而越薄的情况,行业现在普遍靠 KV 量化、缓存分层、闲置会话回收等技术手段压缩显存占用,同时调整产品策略,减少低价纯 Token 走量模式。