FastGPT 配置与开发参考:模型接入与配置
本页汇总站内已发布的语言模型、索引模型、重排模型与语音模型的接入和配置相关文档,共 77 篇,按标题排序列出。
这一类文档通常在讲什么
- 怎样接入 Ollama、Xinference 或第三方平台上的模型
- 自定义模型的请求地址与参数怎样填写
- 向量维度、重排模型与语音模型的配置和报错处理
若问题与上述三个方向都不匹配,可返回配置与开发参考全景查找模型渠道与参数配置之外的关联主题。
阅读顺序建议
- 先从表中选择与模型渠道与参数配置当前问题直接对应的条目,核对文档适用版本
- 对照模型渠道与参数配置的关联条目,列出需要共同配置的依赖项
- 将模型渠道与参数配置涉及的设置项逐一与参考资料中的官方说明对照
已发布的文档清单(77 篇)
| 文档 |
| --- |
| FastGPT 向量库后端对照表 |
| FastGPT 配置文件中模型配置新增provider字段的更新指南 |
| FastGPT中ChatGLM2自定义模型的部署配置与启动方法 |
| FastGPT中DeerAPI大语言模型提供商的配置说明 |
| FastGPT中Jina重排模型与late chunking功能的具体使用说明 |
| FastGPT中Marker自定义PDF解析模型的部署与使用说明 |
| FastGPT中OneAPI接入自定义模型的配置说明 |
| FastGPT中OneAPI联动配置与常见报错排查指南 |
| FastGPT中Xinference模块引擎的选择方法与注意事项 |
| FastGPT中调用ChatGLM2与M3E自定义模型的API测试方法 |
| FastGPT中通过Ollama部署大模型的问题排查与使用说明 |
| FastGPT使用Ollama的主机安装与监听配置方法 |
| FastGPT接入ChatGLM2-6B私有化模型的操作指南 |
| FastGPT接入bge-rerank重排模型的配置操作指南 |
| FastGPT文心一言-Speed模型知识库图片展示配置 |
| FastGPT模型配置中requestUrl参数的含义与配置方法 |
| FastGPT环境下MiniMax大模型API的接入配置方法 |
| FastGPT直接接入Ollama模型的配置步骤说明 |
| FastGPT知识库RAG模型的工作原理与配置使用说明 |
| FastGPT私有部署版本iOS语音输入音频转码适配说明 |
| FastGPT调用微软Azure接口的适配与使用说明 |
| FastGPT通过AI Proxy接入Ollama模型的配置步骤 |
| 为FastGPT在个人设备部署Xinference并使用CTransformers作为推理后端 |
| 为FastGPT已有供应商新增、修改模型配置列表的操作方法 |
| 为FastGPT插件系统新增与维护模型预设的操作说明 |
| 为FastGPT配置接入ChatGLM2与m3e-large私有化模型的详细操作步骤 |
| 介绍FastGPT中embedding的功能与配置方法 |
| 介绍FastGPT知识库检索流程中的Rerank重排功能与用法 |
| 使用Docker部署适配FastGPT所需的BGE重排序模型服务 |
| 合并多个知识库搜索结果并按RRF规则重排序与令牌过滤 |
| 在FastGPT中为AIProxy协议新增模型渠道的配置方法 |
| 在FastGPT中使用Xinference接入本地模型的具体操作方法 |
| 在FastGPT中配置Ollama接入本地大模型的操作步骤 |
| 在FastGPT中配置接入ChatGLM2与M3E模型的操作方法 |
| 在FastGPT中配置新增模型渠道的完整详细操作方法 |
| 在Linux或Windows服务器部署Xinference以支持FastGPT自定义模型调用 |
| 将OneAPI渠道配置迁移到FastGPT AI Proxy的操作方法 |
| 将本地Qwen模型接入FastGPT的完整配置操作步骤 |
| 解决FastGPT中ChatGLM2-6B的system消息失效问题 |
| 解决FastGPT中PG Vector向量维度超限的报错问题 |
| 解决FastGPT调用Azure OpenAI嵌入接口的适配与报错问题 |
| 解释FastGPT中text-embedding-ada-002的配置与报错处理 |
| 讲解FastGPT插件系统中模型预设的新增与配置方法 |
| 说明FastGPT中BGE重排序模型的部署、获取与使用步骤 |
| 说明FastGPT中OneAPI联动的配置规则与报错处理 |
| 说明FastGPT中vector向量检索与存储的配置与使用 |
| 说明FastGPT中多模态模型调用报错与变量引用配置规则 |
| 说明FastGPT直接接入Ollama模型的配置方法与注意事项 |
| 说明FastGPT私有部署版GPT4-V模型按钮无响应问题 |
| 说明FastGPT自定义模型的Docker部署与文件配置 |
| 这一页提供FastGPT App/Admin共享变量与数据库缓存向量库配置参考 |
| 通过One API将本地模型接入FastGPT自定义模型的配置步骤 |
| 通过OneAPI将Ollama接入FastGPT部署环境的具体操作方法 |
| 配置FastGPT的AI思考强度参数与多模型平台适配 |
| 配置FastGPT自定义模型的completion请求参数与路径 |
这份清单的适用范围
这份模型渠道与参数配置清单依据文档标题归类;跨主题的问题还需查阅关联目录。使用时先核对以下条件:
- 模型渠道与参数配置的文档版本与当前部署版本是否一致
- 当前版本是否包含模型渠道与参数配置所需的商业版功能
- 模型渠道与参数配置涉及的环境依赖是否与私有化部署文档一致
继续阅读
- 从模型渠道与参数配置返回FastGPT 配置与开发参考全景
- 核对模型渠道与参数配置前阅读版本升级与变更说明
- FastGPT 配置与开发参考:Agent、技能与插件
参考资料
需要进一步确认时
这些条目可用于核对模型渠道与参数配置的配置前提。确定实施方式前,建议准备当前版本、部署形态和一组真实样本;涉及现有系统的数据边界或业务流程时,可据此进行商务咨询并评估实施条件。
- 商务咨询:结合现有系统讨论模型渠道与参数配置的实施条件
- 立即开始:用真实样本验证模型渠道与参数配置
- 定价:按模型渠道与参数配置的部署需求比较可选形态