这一档模型的参数意味着什么
quoteMaxToken是知识库应用中可引用内容的总token额度，限定了单轮对话中可注入上下文的总长度。本档对话模型的quoteMaxToken覆盖50000至128000 tokens区间，能够适配多数中长文本知识库的上下文需求，既可以承载多段落的专业文档内容，也能满足多轮对话的上下文延续需求，为复杂查询提供充足的内容支撑。
配 BAAI 向量模型要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
defaultToken | 512 | 匹配bge-m3模型的默认分段token设置，保证基础语义完整性与检索效率 |
maxToken | 8000 | 遵循bge-m3模型的单段最大token限制，避免超出模型输入阈值 |
quoteMaxToken | 50000-128000 | 适配本档对话模型的引用预算区间，平衡上下文长度与模型承载能力 |
chunkSize | 512 或 8000 | 可根据场景选择，512适配细粒度检索，8000适配长段落语义保留 |
| 重叠长度 | 10%-20%的chunkSize | 避免分块割裂关键语义，保证相邻分块的内容连贯性 |
| 单次搜索上限 | 匹配总token预算的分段数量 | 控制单次检索返回的总token不超出引用预算 |
这两者互相约束的地方
按默认每段512 tokens计算，一轮引用最多可放下约97至250段；若将每段调整至向量模型允许的上限8000 tokens，则仅可放下约6段。每段越长，单段承载的语义越完整，但一轮可容纳的总段数越少；每段越短，总段数越多，但单段上下文的语义完整性会下降，可能导致检索结果碎片化。更换向量模型后，由于向量维度与模型绑定，已构建的知识库索引需要重新生成，否则无法正常匹配检索。
容易做错的三处
- 单轮对话出现上下文截断提示。原因是未根据quoteMaxToken调整单次搜索的总token额度，导致引用内容超出预算。
- 检索结果出现关键信息断裂。原因是分块长度设置不合理，未结合语义完整性与检索精度平衡取值。
- 知识库无法正常检索。原因是更换向量模型后未重新生成索引，导致向量维度与当前模型不匹配。
怎么确认配好了
- 进入配置界面查看quoteMaxToken参数，确认取值符合本档模型的区间要求。
- 核对分块长度与向量模型的maxToken参数，确认未超出模型允许的单段上限。
- 发起测试查询，查看上下文加载日志，确认引用内容的总token未超出预算。
- 检索结果后，检查相邻分块的内容是否存在合理的重叠衔接。