首页 / 场景成本 / 知识库问答(RAG)

RAG 知识库问答的 DeepSeek API 成本

检索若干文档片段拼入 prompt 后提问,输入长、输出中等。

单次输入
4000
tokens
单次输出
500
tokens
每日调用
800
次
每日 tokens
4,500

月成本(30 天)

模型单次(高峰)单次(离峰) 月成本(高峰)月成本(离峰)离峰可省
DeepSeek Flash$0.0018$0.0009 $43.20$21.60$21.60
DeepSeek V4 Pro$0.0073$0.0036 $174.24$87.12$87.12

RAG 的钱主要花在检索设计上,不是模型上

很多人以为 RAG 贵在模型,其实贵在「检索了几段、每段多长」。把 top-k 从 10 降到 5,输入 token 直接减半;把 chunk 从 800 字降到 400 字,同样 top-k 下输入再减半。两次调整叠加,成本降到 1/4,而答案质量往往没有明显下降。

反过来说,如果检索质量差,模型拿到无关片段,需要更长的输出解释,输出成本又上去了。检索质量直接决定总成本。

top-k 与 chunk 大小的组合成本

配置每次输入 tokens单次成本(离峰)月成本(800 次/天)
k=10, chunk=8008,000$0.0013$31.2
k=10, chunk=4004,000$0.0007$16.8
k=5, chunk=8004,000$0.0007$16.8
k=5, chunk=4002,000$0.0004$9.6
k=3, chunk=4001,200$0.0003$7.2

按 Flash 离峰价算,仅输入。输出 500 tokens 另计。

缓存在这里几乎帮不上忙

RAG 的输入里,检索结果每次不同,无法命中缓存。能缓存的只有开头的指令和格式要求,通常只占输入的 10-20%。所以不要指望靠缓存省钱,要靠检索设计。

但有个例外:如果用户反复问同一批问题,可以缓存「问题→答案」这一层,命中就直接返回,不调用模型。这是业务层的缓存,比模型缓存有效得多。

相关场景

客服机器人 · 长文摘要 · 批量翻译 · 代码生成与补全 · 文本分类与打标 · 信息抽取 · 内容创作 · 数据分析解读 · Agent 任务执行