什么是大模型的上下文窗口？

上下文窗口是模型在单次请求中能处理的最大 token 数（输入+输出）。Claude Opus 4.8 有 100 万 token 窗口，GPT-4o 有 128K。超出会报错或截断。

如何分配上下文窗口？

典型 RAG 应用分配：2-5K 给系统提示词，10-30K 给检索文档，10-50K 给对话历史，4-8K 预留给输出。用此工具可视化各部分的精确占比。

可视化规划上下文窗口的 Token 分配

31K / 1.1M3%

1.0M 可用

System Prompt

RAG / Documents

Conversation History

Reserved Output

适配 GPT-5.5

$0.2579/次~$7736/月 @1K次/天

tok