RAG 知识库问答的 DeepSeek API 成本
检索若干文档片段拼入 prompt 后提问,输入长、输出中等。
单次输入
4000
tokens
单次输出
500
tokens
每日调用
800
次
每日 tokens
4,500
月成本(30 天)
| 模型 | 单次(高峰) | 单次(离峰) | 月成本(高峰) | 月成本(离峰) | 离峰可省 |
|---|---|---|---|---|---|
| DeepSeek Flash | $0.0018 | $0.0009 | $43.20 | $21.60 | $21.60 |
| DeepSeek V4 Pro | $0.0073 | $0.0036 | $174.24 | $87.12 | $87.12 |
RAG 的钱主要花在检索设计上,不是模型上
很多人以为 RAG 贵在模型,其实贵在「检索了几段、每段多长」。把 top-k 从 10 降到 5,输入 token 直接减半;把 chunk 从 800 字降到 400 字,同样 top-k 下输入再减半。两次调整叠加,成本降到 1/4,而答案质量往往没有明显下降。
反过来说,如果检索质量差,模型拿到无关片段,需要更长的输出解释,输出成本又上去了。检索质量直接决定总成本。
top-k 与 chunk 大小的组合成本
| 配置 | 每次输入 tokens | 单次成本(离峰) | 月成本(800 次/天) |
|---|---|---|---|
| k=10, chunk=800 | 8,000 | $0.0013 | $31.2 |
| k=10, chunk=400 | 4,000 | $0.0007 | $16.8 |
| k=5, chunk=800 | 4,000 | $0.0007 | $16.8 |
| k=5, chunk=400 | 2,000 | $0.0004 | $9.6 |
| k=3, chunk=400 | 1,200 | $0.0003 | $7.2 |
按 Flash 离峰价算,仅输入。输出 500 tokens 另计。
缓存在这里几乎帮不上忙
RAG 的输入里,检索结果每次不同,无法命中缓存。能缓存的只有开头的指令和格式要求,通常只占输入的 10-20%。所以不要指望靠缓存省钱,要靠检索设计。
但有个例外:如果用户反复问同一批问题,可以缓存「问题→答案」这一层,命中就直接返回,不调用模型。这是业务层的缓存,比模型缓存有效得多。
相关场景
客服机器人 · 长文摘要 · 批量翻译 · 代码生成与补全 · 文本分类与打标 · 信息抽取 · 内容创作 · 数据分析解读 · Agent 任务执行