这个决定什么时候必须做
当企业部署检索增强生成（RAG）知识库应用，且涉及多模型配置、功能升级或场景扩展时，该选型决定成为必须完成的任务。若在未明确业务需求前提前选型，会导致配置冗余，增加部署与维护成本，同时可能引入不必要的模型依赖。若延迟选型，例如已上线应用后发现模型无法支持多模态内容解析、索引精度不足或问答生成逻辑不符合要求，则需要停机重构知识库链路，影响业务正常运行，甚至导致用户问答结果不准确、检索失效。当企业需要接入图片知识库、优化检索精度或调整数据处理流程时，必须提前完成模型选型，确保各环节功能匹配业务目标。
判据矩阵
| 候选方案 | 核心适用任务 | 最大上下文/Token限制 | 多模态支持能力 | 自定义配置项 | 版本兼容性 | 关联依赖服务 |
|---|---|---|---|---|---|---|
| 文本理解模型（agentModel） | 问答生成、内容总结、QA对提取、问题优化、内容分类 | 由模型自身配置决定，如gpt-3.5-turbo-16k支持16384 Token，文档未明确的需按部署环境实测 | 部分模型支持（配置vision为true时），可处理图片输入 | 支持自定义系统提示词、温度参数、工具调用配置、函数调用配置、分类提示词 | 社区版、商业版均支持 | 需配置模型提供商接口，可选关联自定义PDF解析服务 |
| 向量索引模型（vectorModel） | 文本向量化、语义检索、全文检索关联、索引生成与更新 | 索引模型字段说明中maxToken为3000，默认Token为512 | 支持图片向量化（需对应模型能力） | 支持自定义分块Token、索引大小、分块模式、分块拆分符号 | 社区版、商业版均支持 | 需关联向量数据库（如PostgreSQL PG Vector、Milvus等） |
| 图片理解模型（vlmModel） | 图片内容描述、图片向量化、图文混合检索、图片解析 | 文档未明确，需按部署环境实测 | 原生支持图片输入、内容解析 | 支持自定义图片解析提示词、解析精度配置 | 商业版支持，社区版文档未明确支持 | 需关联视觉模型服务，商业版图片知识库功能 |
每个判据为什么重要
核心适用任务
选错核心适用任务会直接导致模型功能与业务需求不匹配。例如使用向量索引模型执行问答生成，会因模型缺乏自然语言生成能力，导致回答逻辑混乱、内容脱离业务场景。使用文本理解模型执行向量向量化，会因模型未针对语义检索优化，导致向量化精度不足，检索结果无法匹配用户查询。当业务需要处理图片内容时，未配置图片理解模型会导致无法识别图片信息，无法构建完整的图文知识库，影响业务覆盖范围。
最大上下文/Token限制
上下文或Token限制不足会导致关键信息丢失。例如文本理解模型的上下文过小，无法处理长文档的完整问答，导致回答缺失核心内容。向量索引模型的maxToken过小，无法对长文本片段进行完整向量化，导致分块后的文本无法被完整索引，检索覆盖率下降。当知识库包含大量长文档时，未匹配合适的上下文限制会直接影响检索效果与问答质量。
多模态支持能力
多模态支持能力不足会限制知识库的应用场景。例如业务需要处理用户上传的图片提问，未配置支持多模态的模型会导致无法生成图片的描述或向量，无法实现图文混合检索。部分向量模型支持图片向量化，可直接将图片转换为向量参与检索，若未选用此类模型，会导致图片检索功能失效。多模态能力的适配直接决定了知识库能否覆盖图文混合的业务场景。
自定义配置项
自定义配置项不足会导致无法适配企业特定业务需求。例如企业需要自定义QA拆分提示词来优化问答对提取效果，若模型不支持此类配置，会导致数据处理效果不符合预期。分块模式、索引大小等自定义配置可根据文档类型调整，若无法自定义，会导致分块过大或过小，影响检索精度与响应速度。足够的自定义配置项是实现知识库精细化管理的基础。
版本兼容性
版本兼容性不足会导致功能无法正常启用。例如商业版支持的图片理解模型，在社区版中无法正常加载，导致图片知识库功能失效。若企业计划从社区版升级至商业版，未提前确认模型兼容性会导致升级后功能异常。版本兼容性的适配直接关系到企业后续的功能扩展与版本升级计划。
关联依赖服务
关联依赖服务配置错误会导致模型无法正常运行。例如向量数据库连接失败，会导致无法生成或检索向量索引，知识库无法正常提供服务。自定义PDF解析服务地址配置错误，会导致PDF文件无法正确解析，影响文档导入流程。关联依赖服务的稳定性与配置正确性直接影响整个知识库处理链路的可用性。
换的代价
更换已选定的模型会涉及多环节的成本投入。首先是数据重新处理，原有的向量索引、文本分块、图片索引均需重新生成，需重新上传文档、执行解析与分块流程，耗时取决于知识库的规模与复杂度。其次是索引重建，向量数据库中的原有索引需要删除并重新生成，会占用大量数据库资源，需安排停机窗口以避免影响业务正常运行。随后是配置调整，需重新配置模型参数、关联的依赖服务，例如更换向量模型需重新调整分块大小、索引大小等参数，更换图片理解模型需重新配置视觉模型服务。最后是验证工作量，需重新测试知识库的检索效果、问答生成效果，确保更换模型后不会出现检索不准确、回答错误的问题，需进行多轮测试覆盖不同类型的文档与查询场景。此外，若更换的是商业版模型，还需确认授权协议的变更，避免出现合规问题。
什么情况下这个决定可以先不做
当企业仅部署轻量型RAG应用，且知识库仅包含纯文本、无图片内容，同时使用系统默认模型配置即可满足基础业务需求时，可以暂时不做选型决定。例如企业刚开始测试RAG应用，仅需要快速验证功能，使用系统默认的文本理解模型、向量索引模型即可，无需额外配置自定义模型。当企业的知识库规模较小，文档数量少、内容简单，不需要调整模型参数以优化检索效果时，也可以暂时维持默认配置。此外，如果企业尚未明确业务场景，例如还在确定知识库的使用范围、是否需要多模态功能时，可以先使用默认配置，待明确需求后再进行选型调整。但需注意，当业务规模扩大、知识库内容增加、需要优化检索精度或扩展功能时，需及时完成模型选型，避免影响业务性能与用户体验。
继续阅读
参考资料
需要进一步确认时
上述判据可依据公开文档与部署实测逐项核对。若需要结合具体业务规模、数据边界与运维条件确定选型，可通过商务咨询获取评估支持；云服务形态可直接开始使用，先验证业务可行性再决定部署形态。
- 商务咨询：结合业务条件做选型评估
- 立即开始：先用云服务验证可行性
- 定价：对比不同形态的适用范围
判据取自开源仓库文档与社区线程，核验日 2026-09-28。