什么是AI伦理？
人工智能（AI）是能从数据中学习规律，并用规律来预测或决定的软件。伦理是研究对与错的学问。所以AI伦理要问：这个AI公平吗？安全吗？尊重人吗？
AI自己没有价值观。它只是照搬数据里的规律，并朝着设计者给它的目标去做。所以设计、训练和使用AI的人，要对它的行为负责。
五个关键原则
- 公平：平等对待不同的人群。
- 责任：出了问题，有明确的人或机构来负责。
- 透明：人们能知道正在使用AI，也能知道它为什么这样决定。
- 隐私：个人数据受到保护。
- 安全：AI运行可靠，不容易被滥用。
数据和算法中的偏见
偏见是指系统不公平地偏向或排斥某个群体。偏见有三种进入方式：
- 数据偏见：训练数据里某个群体的例子太少，或者照搬了过去不公平的决定。
- 设计偏见：设计者选的目标或特征会伤害某个群体（比如用家庭邮编来代替一个人的能力）。
- 使用偏见：为一个地方做的工具，被用到了很不一样的地方。
例子：一个招聘AI用过去十年的录用记录来训练，而录用的大多是男性，它可能就学会把女性排在后面。解决办法：收集均衡的数据，按群体分别检查结果，去掉不公平的特征，上线之后继续检查。
隐私与AI数据伦理
AI需要海量数据，其中很多和人有关：照片、声音、位置、健康记录和购物记录。好的做法是：
- 同意：收集之前要清楚地询问。
- 数据最少化：只收集需要的数据。
- 目的限制：数据只能用于说明过的目的。
- 安全：妥善保存，不再需要时就删除。
现在很多国家都有数据保护法，比如欧盟的GDPR和印度2023年的DPDP法案。版权也是一个问题：如果AI未经许可就用艺术家或作家的作品来训练，就会引出公平和归属权的问题。
透明、责任与安全
有些AI模型是黑箱：连它的制作者也很难说清它为什么给出这个答案。可解释AI会说出决定的主要理由，这样人们就能检查，也能申诉。
责任是指最后要由人来负责。遇到影响重大的决定（医疗、法律、贷款、考试），应该由人来审核AI的建议，这叫作人在回路中。
安全与滥用：AI可能很自信地出错（叫作“幻觉”），可能被用来制造深度伪造和假新闻，也可能被人欺骗。安全的AI要经过测试，上线后要持续观察，并且对有害用途设有限制。
AI与社会变化
AI在医疗（读片子）、农业（作物病害预警）、翻译和无障碍（为看不见的人提供语音）等方面都有帮助。它也带来问题：
- 就业：一些重复性的工作被自动化；新的工作出现；人们需要重新学习技能。
- 数字鸿沟：没有设备、网络或技能的人会落得更远。
- 环境：训练大模型要用很多电和水。
- 过度信任：人们可能不再自己思考。
评估一个AI项目的社会影响：列出谁会受到影响，每个群体可能出什么问题，怎样衡量公平，以及人们怎样投诉。人和AI配合得最好：AI负责速度和规模，人带来判断、关心和价值观。
动手试试：当一名公平测试员
在最后一个3D步骤里，把橙色例子的数量依次设为2、5、8。记下每个群体的“通过率”。哪一种搭配的差距最小？回家后：打开手机上的任意一个App，找到它的隐私设置。它收集了哪些数据？你会同意全部吗？
重点公式和概念
- 偏见：数据或设计不公平，结果就不公平
- 公平差距 = A组通过率 − B组通过率
- 同意：在收集数据之前，清楚地给出许可
- 可解释AI：会给出决定理由的AI
- 人在回路中：由人审核AI的决定
- 深度伪造：由AI制作的假视频、假图片或假声音
例题讲解
1. 一个人脸解锁AI对100个浅肤色用户中的99个有效，但对100个深肤色用户只有90个有效。问题是什么？给出一个解决办法。
第1步：错误率分别是1%和10%，所以系统对其中一个群体不够准确。第2步：这是偏见，很可能是训练数据里深肤色的脸太少。第3步：解决办法：在训练数据里加入更多不同的脸，并在发布前分别测试每个群体的准确率。
2. 分数相近的情况下，一个招聘AI对100个男性中的60个说“通过”，对100个女性中的30个说“通过”。求公平差距。
男性通过率 = 60%。女性通过率 = 30%。差距 = 60 − 30 = 30个百分点。分数相近却有这么大的差距，说明这个AI不公平，使用前必须修正。
3. 一所学校想用带AI的摄像头刷脸考勤。列出两项伦理检查。
1. 隐私与同意：告知学生和家长，征得许可，安全保存人脸数据，之后要删除。2. 公平与责任：测试它对每个学生都有效，并让老师来纠正错误，而不是完全相信AI。
常见错误
- 以为AI是机器，所以是中立的。其实它会照搬数据里的规律，包括不公平的规律。
- 以为数据越多就一定能消除偏见。同样不均衡的数据再多，偏见还在。
- 怪罪AI本身。责任在于制造和使用它的人和公司。
- 以为AI回答得很自信就一定正确。AI可能很自信地出错，所以重要的事实要核对。