这一档模型的参数意味着什么
quoteMaxToken是知识库应用中可引用的上下文内容的总token限额，本档50000至128000token的预算区间，适配多数中长上下文的知识库问答场景。该区间可容纳数十至上百段标准长度的知识库片段，无需频繁截断核心信息，能支持对多文档段落、长文档片段的整合引用，适配复杂的多轮问答需求，让生成的回复能基于更全面的背景知识，提升内容的完整性与准确性。
配 Gemini 向量模型要定哪些
| 配置项 | 建议取法 | 这样取的依据 |
|---|---|---|
defaultToken | 512 | 匹配Gemini向量模型登记的默认每段长度，适配基础分块逻辑 |
maxToken | 8192 | 遵循Gemini向量模型允许的单段最大token上限，最大化单段语义承载量 |
quoteMaxToken | 50000-128000 | 严格匹配本档对话模型的引用预算区间，确保上下文不超限 |
chunkSize | 512 或 8192 | 根据语义完整性需求选择，不超出向量模型的单段token限制 |
| 重叠长度 | 64-128 | 保留相邻分块的语义衔接，避免关键信息被分块截断 |
| 单次搜索上限 | 不超过对话模型引用预算除以单段token的最大值 | 确保返回的片段总token不超出对话模型限额 |
| 最低相关度 | 0.6-0.8 | 过滤低相关性片段，避免无效内容占用引用预算 |
这两者互相约束的地方
当对话模型的引用预算与Gemini向量模型的单段token限制结合时，会形成明确的约束关系。按默认每段512tokens计算，一轮引用最多可放下约97-250段；若将每段调整至向量模型允许的上限8192tokens，则仅能放下约6段。每段越长，单段承载的语义信息越完整，但一轮可容纳的知识库片段数量越少；每段越短，可容纳的段数越多，但单段上下文的完整性越弱，可能出现语义碎片化的情况。若更换向量模型，由于向量维度与模型绑定，已建立的知识库索引需要重新构建，才能适配新的向量模型逻辑。
容易做错的三处
- 知识库分块长度设置超出向量模型的maxToken限制，原因是向量模型无法处理超出单段上限的分块，会导致索引构建失败或检索异常。
- 单次搜索返回的片段总token超过对话模型的quoteMaxToken，原因是超出对话模型的引用预算，会导致生成回复时上下文被强制截断，影响内容完整性。
- 更换向量模型后未重建索引，原因是新向量模型的向量维度与原有索引不匹配，无法正常完成检索匹配。
怎么确认配好了
- 查看向量模型的配置参数，确认defaultToken、maxToken与Gemini向量模型的登记参数一致。
- 核对对话模型的quoteMaxToken参数，确认处于本档的50000至128000token区间内。
- 验证分块长度设置，确保其不超过向量模型的maxToken限制。
- 发起一次知识库检索，检查返回的上下文总长度未超出对话模型的引用预算。