AI 的偏见，真的是 AI 的问题吗？
中文录音
做 AI 图片工具时遇到的性别倾向，让我联想到书中的简历筛选案例。我继续追问偏见从哪里来，以及教育、人的成长环境与 AI 伦理之间可能的联系。
00:01 最近在读一本书
00:03 然后我在书中看到了一个例子
00:06 这个例子呢
00:07 就让我想起以前
00:08 我在做 AI 工具的时候
00:10 遇到的一个问题
00:12 当时遇到的问题是
00:14 因为我是在用某个
00:16 AI 平台的 API 来生成图片嘛
00:20 然后我就会发现
00:21 它生成的图片大多数风格
00:26 都是偏男性化的
00:30 就是比如说它生成
00:36 吃东西的那个人物图的时候
00:41 人物总是男性
00:43 又或者是涉及一些运动场景的时候
00:48 出现的元素也是和男性相关
00:52 然后当时我就觉得很奇怪了
00:56 怎么会是这个样子的呢
00:58 后面我为了解决这个问题
01:00 我就在提示词里面增加了一些限制
01:04 就是让它
01:07 按照我的需求去生成图片
01:11 比如说提到性别的时候
01:15 是什么性别就生成
01:17 和什么性别有关的图片
01:19 如果没有明显的性别相关的词汇
01:23 那它就得往中性那个方向去走
01:28 当时我在代码里面
01:31 加了这样的限制之后
01:33 生成的图片确实质量好了很多
01:36 但是还是会有那么一点点的、微小的
01:41 我不太满意的部分
01:43 可是那个部分就是
01:45 可能是微小到
01:46 我可以不在意了吧
01:48 那我就不去管它了
01:50 那这个例子呢
01:52 就让我当时在想
01:54 怎么我调用了一个 API 而已
01:56 它就会有这样子的一个现状呢
02:04 后面我了解到说
02:07 其实 AI 的训练数据
02:09 就来自于我们人类世界嘛
02:11 那人类世界当中的语料
02:14 是存在很多很多的偏见的
02:18 这也是我当时
02:20 对于 AI 的进一步的认识
02:24 因为像很多时候我去用 AI
02:27 我是不会想
02:29 AI 是怎么来的
02:30 它的训练数据是怎么来的
02:32 也不会想到说它的训练数据
02:34 会和我们人类世界的语料有关系
02:39 就有点像是有的时候
02:41 我们日常在用某个东西
02:43 但是你不知道这个东西
02:46 背后的原理是什么
02:50 它背后涉及着什么东西
02:53 这大概是一个入口吧
02:57 那回到我刚刚开始说的那本书
03:02 我忘记这本书是「The Coming Wave」
03:06 还是「The Alignment Problem」
03:10 反正例子大概说的是
03:12 在 2014 年到 2018 年期间
03:15 亚马逊它做了一个
03:19 人工智能学习工具
03:21 其实也就是简历打分工具嘛
03:24 它先是把自己数据库当中的
03:28 某一年到某一年的那些
03:32 就是候选者的简历
03:36 大概应该是
03:37 入职了之后的候选者的简历
03:40 当成训练数据喂给 AI
03:43 然后让 AI 去帮自己给
03:46 那些投进来的简历打分
03:51 刚开始呢
03:52 AI 它打的那些分数
03:55 偏高的都是男性
03:57 偏低的都是女性
03:59 那团队人员发现了这个问题之后
04:03 ta 就在后台
04:05 也是在代码层面加了一些限制
04:08 比如说去标签化元素
04:11 去性别标签元素
04:14 然后再让 AI 重新去打分
04:17 但是后面发现
04:19 哎这个 AI 还挺聪明的
04:22 就是遇到性别的时候
04:24 它不会说这个男性打高分
04:27 那个女性打低分
04:29 可能在性别方面
04:30 已经算是比较平衡了
04:33 但问题出在哪里呢
04:35 就是男性的简历跟女性的简历
04:40 它们当中的一些很细微的
04:43 比如说用词方面
04:44 是不太一样的
04:45 那它在原始的那些喂养数据里面
04:50 习得了比如说男性的简历当中
04:53 用的词汇是偏男性化的
04:55 然后女性的简历当中
04:56 用的词汇是偏女性化的
04:59 它掌握了这个规律之后
05:01 再根据这个规律去重新给简历打分
05:05 那尽管系统层面已经
05:07 设计了去性别标签
05:10 但是还是避免不了
05:13 这种性别偏见在打分上的影响
05:18 所以后来亚马逊
05:19 就放弃了这样的一个项目
05:23 然后最近不是有一些
05:26 类似于 AI 简历这样的平台出现吗
05:30 所以我不知道 ta 们
05:32 会不会考虑到这个问题
05:34 以及考虑到了这个问题之后
05:36 会用什么样的方式去解决
05:39 毕竟亚马逊
05:41 这么大的一个平台
05:43 它都试过这样的一个失败的案例了
05:46 那到现在
05:49 我的确不知道啊
05:51 技术有多先进
05:52 它能够避免这种偏见
05:54 甚至是包括
05:55 其实在科技界或者说 AI 界
06:00 一直都传着这样的说法
06:02 是说啊
06:04 我们要怎么样去让 AI 减少偏见
06:09 但其实在我日常的使用过程当中
06:12 我是会发现
06:14 我基本上没有遇到 AI
06:15 产生偏见的时刻
06:17 我也没有遇到 AI
06:19 很反伦理的时刻
06:21 或者怎样的时刻
06:23 所以我很好奇
06:24 当 ta 出现这样的时刻的时候
06:27 ta 遇到的是什么样的语境
06:29 什么样的场景
06:31 就我有时候会在想
06:34 什么样的人
06:35 用什么样的方式
06:36 用什么样的
06:38 交互方式
06:40 互动方式
06:41 能够逼迫 AI 呈现出这样的一个面貌
06:45 这我是觉得挺好奇的
06:49 然后回想到
06:51 就是我最近也写了一篇文章
06:55 这篇文章呢是
06:58 也算是一个投稿吧
07:00 大概就是国外的一个博主
07:02 他为了给自己寻找研究员
07:05 然后出了四个题目
07:08 他是希望应征他的研究员的人
07:13 从四个题目当中选择其中一个题目
07:17 然后写一下
07:18 自己对这个题目的相应的看法
07:21 或者提出相应的解决方案
07:23 我就选了其中的一个方案
07:26 这个方案大概是
07:30 啊具体我就不说了
07:32 因为他的结果还没有公布嘛
07:36 虽然我也知道不会
07:37 有什么太大的结果
07:39 但是我还是想暂时保密
07:41 但是我在这篇文章当中
07:44 我就写了说
07:46 其实要解决这个很大的问题
07:49 我们的矛头并不是指向 AI 本身
07:53 并不是指向人工智慧本身
07:56 而是人
07:57 而是和人有关的环境
08:01 那怎么去改变人
08:03 怎么去改变和人有关的环境
08:08 其实它们俩指向的
08:11 就是我们经常讲到的教育
08:15 如果教育能够塑造好一个人
08:18 能够让一个人的环境
08:22 变得更好
08:23 那它其实
08:25 比如说 ta 的成长轨迹啊
08:27 ta 未来会成长为什么样的人
08:30 可能会是比较理想的样子
08:33 所以我就觉得
08:35 很多人不是在呼吁 AI 伦理
08:38 相应的监管和限制嘛
08:41 虽然讲哈
08:44 这部分的工作确实应该做
08:46 但我觉得有时候怎么说呢
08:50 因为商业利益是
08:54 我觉得它就像一座大山
08:56 是别人都撼不动的
08:57 尤其是 ta 们在
09:00 不管是科技发展的地位上
09:03 还是在国际
09:06 啊
09:08 消声一下
09:09 就是国际方面的那些利益方面
09:11 这个东西是不能够放弃掉的
09:15 所以我们只能
09:17 用那个成语来讲
09:19 就是曲线救国
09:25 我选的那个题目呢
09:27 是讲 OpenAI 的基金会应该怎么去
09:32 花掉 OpenAI 基金会
09:37 因为市值提升
09:39 而涨起来的那一部分基金吧
09:46 我的想法就是
09:48 应该也把基金放到教育系统里面去
09:52 但是要怎么去安排资金的配置
09:57 怎么进入到教育这个系统里面
10:00 这个是需要思考的
10:01 也就是我在文章里面
10:03 提到的一些比较细具体的内容
10:07 就我后来
10:10 就是写了这篇文章
10:11 投了稿之后
10:12 又去读另外的一本书
10:16 我也忘了到底是 「The Coming Wave」
10:18 还是 「The Alignment Problem」
10:21 里面也讲到说
10:23 其实塑造人和改变人的环境这一块
10:28 在解决某些问题上是根源问题
10:33 或者是说是根本问题
10:35 就他的一些说法
10:37 可能跟我自己的感觉类似
10:39 就是当我们遇到某个问题的时候
10:42 我们经常习惯性的
10:44 直接进入问题本身
10:47 而不是去
10:49 思考这个问题到底怎么来的
10:51 于是我们找到了问题的根本来源
10:54 然后从根本处着手去解决这个问题
10:59 可能我自己也会在想哈
11:01 有的时候解决问题
11:03 本身确实是最有效的
11:07 但是又回到另外一句话
11:11 叫治标不治本
11:13 所以我觉得
11:16 第一性原理还是挺有用的
11:18 就是凡事都要找到它的源头
11:21 如果从源头去考虑解决办法的话
11:25 往往是最有效的
11:27 虽然它的
11:29 嗯
11:31 结果会来得很慢
11:33 但我还是觉得
11:36 第一性原理这个东西
11:40 真的非常地有用且有效