FastGPT 常见问答：模型与技术原理
本页汇总站内已发布的大模型原理、提示词、训练方法、评测指标与上下文窗口相关问答。该类已发布 187 篇，本页按标题排序列出其中 120 篇，其余可通过站内搜索查找。
这一类问答通常在问什么
- Transformer、RLHF、思维链这类基础概念是什么
- 提示词怎样写、微调与小样本学习各适合什么
- 上下文窗口、参数量与推理速度之间的关系，BLEU 等评测指标怎么读
若问题与上述三个方向都不匹配，可返回常见问答全景重新判断类别。
阅读顺序建议
- 先读与当前问题最接近的一篇，确认问题的边界
- 再读同一方向的相邻条目，补齐前提条件与限制
- 涉及具体配置时，以参考资料中的官方文档为准
已发布的问答清单（120 篇）
| 问答 |
| --- |
| AI 中的困惑度是什么意思？ |
| AI 中的注意力机制是什么意思？ |
| AI 为什么需要上下文窗口 |
| AI 为什么需要向量存储？ |
| AI 可以嵌入人事考勤系统吗？ |
| AI 推理速度是什么意思？ |
| AI为什么能实现零样本学习？ |
| AI为什么需要人类反馈 |
| AI模型微调是什么意思？ |
| AI模型的参数量是什么意思？ |
| BLEU 分数是如何计算的？ |
| BLEU 分数越高越好吗？ |
| BLEU 只适合翻译任务吗？ |
| BLEU 指标是什么？ |
| BLEU 是什么意思？ |
| BLEU 有哪些缺点？ |
| BLEU 能替代人工评估吗？ |
| RLHF会增加训练成本吗？ |
| RLHF是什么意思？ |
| RLHF能减少AI偏见吗？ |
| RLHF适合所有大模型吗？ |
| 上下文窗口不足时会发生什么？ |
| 上下文窗口会影响响应速度吗？ |
| 上下文窗口可以扩展吗？ |
| 上下文窗口是什么意思？ |
| 为什么参数量更大的模型表现更好？ |
| 为什么大家都在谈论大语言模型？ |
| 为什么按 Token 计费 |
| 为什么提示词工程很重要 |
| 为什么搜索需要向量数据库 |
| 为什么用困惑度来衡量模型？ |
| 为什么要使用思维链 |
| 为什么要做知识蒸馏？ |
| 为什么要对模型进行微调 |
| 为什么需要注意力机制 |
| 人类反馈如何参与训练？ |
| 什么是 Token |
| 什么是RLHF |
| 什么是参数量？ |
| 什么是参数高效微调 |
| 什么是向量数据库？ |
| 什么是困惑度？ |
| 什么是大模型？ |
| 什么是小样本学习 |
| 什么是微调 |
| 什么是思维链 |
| 什么是推理速度 |
| 什么是提示词工程 |
| 什么是注意力机制 |
| 什么是知识蒸馏？ |
| 什么是零样本学习 |
| 什么样的数据适合零样本学习？ |
| 参数量会影响推理速度吗？ |
| 参数量对存储空间有高要求吗？ |
| 向量数据库可以用于哪些场景？ |
| 哪些任务适合用小样本学习训练？ |
| 困惑度与训练数据有关吗？ |
| 困惑度可以用来比较不同的模型吗？ |
| 困惑度能反映模型的语言能力吗？ |
| 困惑度越小越好吗？ |
| 困惑度适合在哪些任务中使用？ |
| 大模型为什么需要海量训练数据？ |
| 大模型可以应用于哪些行业？ |
| 大模型对算力的需求有多高？ |
| 大模型是如何训练的？ |
| 大语言模型到底是怎么工作的？ |
| 大语言模型越大越聪明吗？ |
| 如何减少 Token 浪费 |
| 如何将 AI 嵌入现有办公工作流 |
| 如何开始学习提示词工程 |
| 如何提高上下文窗口的利用率 |
| 如何撰写有效的提示词 |
| 如何查看模型的参数量 |
这份清单的适用范围
清单按问答标题中的关键词归类，同一篇问答可能同时涉及其他类别。以下情形需要另行确认：
- 问答给出的是通用说明，落到具体业务时需结合实际数据与流程验证
- 商业版特有功能相关的问题，以商业版说明为准
- 与具体部署环境耦合的问题，以私有化部署文档为准
继续阅读
参考资料
需要进一步确认时
上述条目是可以依据公开资料回答的通用问题。若需要结合具体业务流程、数据边界与部署条件判断能否落地，可通过商务咨询获取评估支持；云服务形态可直接开始使用，先验证业务可行性再决定部署形态。
- 商务咨询：结合业务条件评估落地方式
- 立即开始：先用云服务验证可行性
- 定价：对比云服务与私有部署两种形态的适用范围