Skip to content

什么是上下文长度?

上下文长度,就是模型本次请求需要一起读取的所有内容长度

你看到的可能只是一句话,但工具真正发给模型的,可能还包括历史对话、系统提示词、 文件内容、代码片段和日志。所有这些加起来,才是模型本次真正读取的上下文。

最短结论

  • 上下文长度不是你手动输入了多少字,而是模型本次请求实际读取了多少内容。
  • 历史对话、系统提示词、项目文件、日志、工具上下文,都可能进入上下文。
  • 上下文越长,输入 Token 通常越多,费用也可能越高。
  • 长上下文场景更能体现本站缓存技术的价值。

上下文到底包含什么?

一次请求里,模型不是只读取你最后输入的那句话。 很多客户端和开发工具会自动把更多内容一起发给模型。

常见上下文内容

  • 你当前输入的问题
  • 历史聊天记录
  • 系统提示词和角色设定
  • 工具说明、插件说明
  • 项目文件、代码片段
  • 终端输出、报错日志

容易被忽略的内容

  • 客户端自动保留的历史消息
  • AI 编程工具自动读取的项目上下文
  • 你之前让模型生成的大段内容
  • 工具调用结果和中间过程
  • 复制进去但没有清理的大段文本

为什么只问一句话也可能消耗很多?

因为你看到的是“一句话”,但模型收到的可能是“一整包上下文”。

例如你在代码工具里问:

帮我修一下这个报错

看起来很短,但工具可能同时带上:

  • 当前文件内容
  • 相关代码片段
  • 项目结构
  • 终端报错日志
  • 之前的对话记录
  • 工具自己的系统提示词

所以真正计费时看的不是你屏幕上那一句话,而是本次请求里模型实际读取的全部 Token。

📌 重点

问题短,不代表输入少。 输入 Token 取决于最终发给模型的完整上下文,而不是只看你手动打了多少字。

上下文长度和费用有什么关系?

上下文越长,通常意味着:

输入 Token 更多
→ 输入费用可能更高
→ 如果重复内容命中缓存,缓存读取 Token 也可能更多
→ 如果使用分档模型,可能进入长上下文档位

最终费用通常还是由这些部分组成:

最终费用 =
输入费用
+ 缓存读取费用
+ 输出费用
再乘当前令牌分组倍率

如果要换算成人民币:

人民币消耗 = 最终美元费用 × 0.2

和 272K 分档有什么关系?

像 gpt-5.4 这类模型,会根据输入规模判断是否进入分档。

gpt-5.4 输入规模输入价格 / 1M tokens缓存读取 / 1M tokens补全输出 / 1M tokens
输入 ≤ 272K$2.5000$0.2500$15.0000
输入 > 272K$5.0000$0.5000$15.0000

简单理解:

上下文不超过 272K:普通档
上下文超过 272K:长上下文档

不是所有模型都有分档

272K 分档不是所有模型都有的规则。 例如 gpt-5.2 是固定单价;gpt-5.4 才有 ≤ 272K 和 > 272K 两个输入档位。

和缓存有什么关系?

上下文越长,缓存越重要。

因为长上下文里经常会有大量重复内容,例如:

  • 固定系统提示词
  • 反复携带的项目文件
  • 多轮对话里的历史内容
  • 工具每次都带上的说明和上下文

如果没有缓存,这些重复内容每次都可能按普通输入价格计算。 本站支持缓存优化,命中缓存后,重复部分可以按更低的缓存读取价格计算。

🚀 为什么本站缓存技术重要?

短问题看模型单价,长上下文看缓存能力。 对代码工具、多轮任务、大段文件分析这类场景来说, 有没有缓存会直接影响长期真实使用成本。

哪些工具更容易产生长上下文?

以下工具因为经常处理代码、文件、历史记录,更容易产生较长上下文:

开发工具类

  • Codex
  • Claude Code
  • Cline
  • OpenClaw
  • 其他会读取项目文件的工具

聊天客户端类

  • ChatBox
  • CherryStudio
  • Kelivo
  • RikkaHub
  • 开启长历史记录的对话工具 这不是说这些工具不好,而是它们为了让模型更懂你的任务,通常会携带更多上下文。 使用这类工具时,更应该关注输入 Token、缓存读取 Token 和使用日志。

怎么降低长上下文成本?

如果你想控制费用,可以这样做:

  • 不要一次性塞入无关大文件。
  • 让工具只读取当前任务相关文件。
  • 长任务分阶段处理,不要无限堆历史上下文。
  • 大型项目先让模型看目录,再按需读取关键文件。
  • 问题解决后开启新对话,避免历史记录越堆越长。
  • 查看使用日志,重点关注输入 Token 和缓存读取 Token。

怎么判断上下文是不是太长?

最可靠的方法是按 使用日志文档 查看控制台记录。

建议重点看:

1. 普通输入 Token

如果这个值很高,说明本次请求读取了大量新内容。

2. 缓存读取 Token

如果这个值很高,说明有大量重复内容命中了缓存读取。

3. 实际扣费

最终对账以日志里的实际扣费为准。

常见误区

上下文长度等于我输入的字数吗?

不等于。 上下文长度看的是模型本次请求实际读取的完整内容,不只是你手动输入的文字。

为什么聊天越久越贵?

因为历史对话可能会被继续带入上下文。 对话越长,模型需要读取的历史内容可能越多,输入 Token 就可能上升。

为什么代码工具更容易消耗 Token?

代码工具为了完成任务,通常会读取项目文件、代码片段、日志、命令输出和历史操作记录。 这些都会进入上下文,导致输入 Token 增加。

有缓存就不用管上下文长度了吗?

仍然要管。 缓存可以降低重复内容的成本,但普通输入、输出长度、模型单价和分组倍率仍然会影响最终扣费。

相关文档

继续查看

R-API 文档中心