安全与治理 · 06-04
模型偏见（Model Bias）
模型因训练数据、目标函数或使用方式，对某些群体、观点或场景产生系统性不公平或失真。
模型偏见（Model Bias）
模型因训练数据、目标函数或使用方式，对某些群体、观点或场景产生系统性不公平或失真。
一、是什么
- 模型因训练数据、目标函数或使用方式，对某些群体、观点或场景产生系统性不公平或失真。
- 类比：像员工只见过一类客户，就把这类经验误当成所有人的规律。
- 关键澄清：
| 它不是什么 | 它是什么 |
|---|---|
| 不是单次回答出错 | 在一类输入上反复出现的倾向性问题 |
二、为什么重要
- 偏见会影响招聘、信贷、教育、医疗和内容分发等真实决策。
- 不懂它会怎样：模型偏见会被自动化放大，看起来客观但实际不公平。
三、日常怎么理解
- 用一句话讲给非技术朋友听：模型偏见就是 AI 学歪了某些固定倾向。
- 常见场景：对不同群体给出不同质量建议，或默认某些职业性别。
四、常见误解
| 误解 | 真相 |
|---|---|
| 机器判断天然客观 | 机器会继承数据和设计中的偏差。 |
五、延伸阅读
适用场景与行动
场景：适合用来建立 AI 核心概念的共同语言。
适合谁：非技术创业者、AI 产品使用者、内容与业务负责人
下一步：先用一句话复述这个概念，再判断它和你的业务场景有什么关系。
这张卡片由杨思远基于真实工作流和实测经验整理。
如发现信息过时或有误，可通过 /contact 反馈。