Models & Mechanisms
模型与机制
理解模型如何学习、表示、生成和推理
共 12 张词条卡片
| 编号 | 词条 | 英文名 | 一句话摘要 | 标签 |
|---|---|---|---|---|
| 02-01 | Token | Token | 模型处理文本时的基本片段，可能是一个字、词、词根、标点或代码片段。 | |
| 02-02 | 上下文窗口 | Context Window | 模型一次对话或调用中能看到的输入与历史内容总容量。 | |
| 02-03 | 注意力机制 | Attention Mechanism | 让模型在处理某个位置时，动态关注输入中更相关部分的机制。 | |
| 02-04 | 嵌入/向量 | Embedding | 把文本、图片或其他对象转成数字向量，让机器能比较它们的语义距离。 | |
| 02-05 | 检索增强生成 | Retrieval-Augmented Generation | 先从外部资料中检索相关内容，再把检索结果交给模型生成回答的方法。 | |
| 02-06 | 微调 | Fine-tuning | 在已有模型基础上，用特定数据继续训练，让模型更适合某类任务或风格。 | |
| 02-07 | 提示词工程 | Prompt Engineering | 通过设计输入、指令、示例和约束，让模型更稳定地完成任务的方法。 | |
| 02-09 | 思维链 | Chain-of-Thought | 通过引导模型分步骤推理，提升复杂问题求解表现的方法。 | |
| 02-10 | 推理 | Reasoning | 模型把已知信息连接起来，进行多步判断、归纳、演绎或规划的能力。 | |
| 02-11 | 幻觉 | Hallucination | 模型生成了看起来可信、但事实不准确或没有依据的内容。 | |
| 02-12 | 对齐 | Alignment | 让模型行为更符合人类意图、价值、安全边界和任务要求的训练与约束过程。 | |
| 02-13 | 温度/采样参数 | Temperature | 控制模型生成随机性和多样性的参数，温度越高通常越发散。 |