这一档模型的参数意味着什么
quoteMaxToken 是对话模型允许的引用内容总token预算，限定了单次对话中可注入的知识库参考内容的token总量。本次选型的对话模型档quoteMaxToken处于50000–128000 tokens区间，能够承载更长的上下文参考内容，支持更复杂的多段召回整合，适配对上下文长度有较高要求的知识库应用场景，可满足多轮对话或长文本问答的参考内容注入需求。
配 OpenAI 向量模型要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
defaultToken | 512 | 匹配向量模型登记的默认分段长度，确保分块与向量模型输入格式对齐 |
maxToken | 8000 | 遵循向量模型允许的单段最大token上限，规避输入超限报错 |
quoteMaxToken | 50000–128000 | 匹配当前对话模型档的引用预算区间，控制总引用内容的token总量 |
chunkSize | 512 或 8000 | 按需选择，短分段适配高频检索场景，长分段保留完整语义单元 |
| 重叠长度 | 100–200 tokens | 衔接相邻分块，避免语义被截断割裂 |
| 单次搜索上限 | 不超过对应分段下的最大可容纳段数 | 防止单次召回的总token超出引用预算 |
这两者互相约束的地方
按默认每段512 tokens计算，一轮引用最多可容纳97–250段；若将每段调整至向量模型允许的8000 tokens上限，仅可容纳约6段。每段越长，单段语义完整性越强，但一轮可承载的段落数越少；每段越短，段落数越多，但单段上下文会更细碎。此外，向量模型与向量维度绑定，更换向量模型后已构建的知识库索引需要重新生成，否则会出现检索匹配失效的问题，无法正常获取相关参考内容。
容易做错的三处
- 界面显示引用内容超出预算。原因是未按对话模型档的
quoteMaxToken区间设置总引用token限制，单次召回的总token超过了对话模型的允许范围。 - 向量检索返回结果为空或匹配度极低。原因是更换了向量模型但未重建知识库索引，新旧模型的向量维度不匹配导致检索失效。
- 分块后语义出现明显割裂。原因是未设置合理的重叠长度，导致相邻分块的上下文衔接出现断层。
怎么确认配好了
- 核对对话模型的引用预算参数，确认其处于50000–128000 tokens区间。
- 检查向量模型的单段最大token设置，确认与所选分块长度匹配。
- 验证分块长度与向量模型默认输入要求对齐，无格式冲突。
- 测试单次召回的总token量，确认未超出对话模型的引用预算。