早前用 Hugging Face 的 api 做 voice to paint 工具，然后发现，生成的图片但凡涉及人物，几乎都是男性。为了改变这样的结果，我被迫在代码中加上去性别偏见的约束。
最近接触到 Brian Christian 的「The Alignment Problem」，发现早在 2014 年，亚马逊就做过类似的尝试。
那几年，亚马逊某团队做了一款 AI 简历筛选工具，计划用于给简历打分，训练数据是过去十年间收到的简历。
结果表现怎么样呢？
AI 偏向于给男性的简历打高分，而女性简历则低分居多。
团队发现问题之后，做了去性别标签处理。然而，结果还是不理想。
为什么呢？
AI：不让我识别性别元素？没问题，我还会识别词汇的「阴阳性」哦。
没错，两性简历用词的差异再次成为了 AI 可钻的漏洞。
后来，也就是 2017 年初，亚马逊放弃了这个项目。
距今过去九年有余，我们还是会在使用 AI 的过程中时不时偶遇性别偏见的场景。
除了以上的例子外，还有：
比如，让它生成绘本，性别默认男性；
比如，互动过程中，它会自称 Mr；
比如，AI 语音识别翻译中，女性声音识别成「他」/「他的」、翻译成「He」/「His」；
…
做生图工具时就很郁闷，这是为什么。
后来明白了，因为——AI 的训练数据来源是人类数据，而人类数据中存在着无数的偏见与惯性。
Brian Christian 在书中说，要解决 AI「alignment problems」中的道德与伦理相关问题，教育是根本措施。
也就是说，环境与人本身不做改变，数据不会有变化，AI 的训练数据来源也不会有变化，那在 AI 架构上打再多的补丁也于事无补。
年前年后那段时间其实看到一些 AI 简历平台出现，但一直不温不火，现在也算是找到了端倪？
但筛选增效这块，不用 AI 确实跟不上时代步伐。
我就在想，该怎样设计尽可能「有效」。
然后发现，「红蓝双方互驳」——非常好用，假设简历筛选加入这样的机制：A 先做筛选，B 做猜测——比如能否猜出简历性别并给出猜测依据，以此作为对 A 的客观、公正约束，综合之后再评分。但现实可能是，我们不可能完全避免偏见，毕竟对立面是整个人类社会几千年来的历史遗留问题。
还有，人与 AI 的互动长期保持一致会形成回音室（所谓同温层）——比如「AI 照出了我，我以为那就是我」，而「意外」/「变量」是持续进化呈现良好状态的必须元素之一——简历筛选也一样。
那么，大公司内部会如何用 AI 增效来筛选简历，以及具体如何设计结构使得工具给出的结果更客观公正呢——这就不得而知了。
价值观很重要，很重要——想起来最近读到的一句话：当工具理性的增长速度超过了价值理性增长的速度，系统一定会出现问题。
本次记录收尾前，想讲一件更讽刺的事情：我第一次用 Grok，发现它的 default voice 是女声——我竟然会觉得惊喜/意外，因为——此前用过的所有 AI 产品，默认声音是男声——Grok 说，那或许是因为它的创造者继承了人们对「客服」的性别偏见…那么问题就来了，人们对性别的感知与认识是被塑造、引导的吗？能被塑造、引导吗？🤔