引用预算 5 万–12.8 万的对话模型配 Embedding-V1 的分段与引用口径

这一档模型的参数意味着什么

quoteMaxToken 是引用内容的总token预算，限定单轮对话中可投入的参考内容总长度。本档5万–12.8万的token区间，可支撑较多段落的上下文引用，适配需要整合多段背景信息的知识库问答场景，无需过度截断参考内容，保障模型可基于更完整的参考信息生成回复，适配多数知识库应用的常规引用需求。

配 Ernie 向量模型要定哪些

这两者互相约束的地方

按默认每段512 tokens计算，一轮引用最多可放下约97–250段；若将每段调整至向量模型允许的1000 tokens上限，则仅可放下约50段。每段越长，单段承载的语义越完整，但一轮可容纳的引用段数越少；每段越短，单段语义完整性有所降低，但一轮可容纳的段数更多。不同向量模型的单段输入上限与向量维度存在绑定关系，更换向量模型后，已构建的知识库索引需要重新生成，以适配新的编码规则。

容易做错的三处

• 单轮回复中引用内容被提前截断，原因是召回内容的总token超过了quoteMaxToken的预算限制，未提前校验配置组合的匹配关系。
• 向量编码环节出现报错，原因是配置的chunkSize超出了maxToken的上限，不符合Embedding-V1的单段输入要求。
• 参考内容的语义连贯性不足，原因是分块重叠长度设置过低，导致相邻分块的关键语义被截断，无法形成完整上下文。

怎么确认配好了

• 查看向量模型的配置参数，确认defaultToken与maxToken的取值符合当前选型要求。
• 校验知识库分块配置，确认chunkSize未超出向量模型的单段输入上限。
• 测试单轮召回的总token规模，确认未超过对话模型的quoteMaxToken预算。
• 生成少量测试索引，验证向量编码环节无异常报错。