ChatGPT 被爆雇用肯亚劳工，时薪仅 40 元

▼

被不少人认为是 AI 大跃进的聊天机器人 ChatGPT，背后竟是靠血汗工人的智慧完成？《时代杂志》最近爆料，这个人工智慧的标记工作，开发团队 OpenAI 竟然是请肯亚的劳工处理，时薪仅约台币 40 至 61 元不等，工作内容还相当有争议。难道这就是新时代的人类主流工作？

《时代杂志》（Time Magazine）调查发现，为了避免ChatGPT生成的内容带有偏见或者出现歧视问题，开发出这项颠覆人们认知模型的企业OpenAI，将标记资料工作外包，承包公司再聘请肯亚劳工代理。除了薪水惊人地低之外，因为有些文字内容太过不堪，对这些人员的身心灵带来沉重冲击。

AI 模型内的偏见与歧视

因为运算愈来愈便宜、搜集资料成本和难度愈来愈低，再加上演算法的进步，这些因素都让人工智慧的威力大幅上升，产出的模型连带增强许多，无论是以文生图的Midjourney、DALLE 2，还是能够跟人类对话的ChatGPT，都受益于上述趋势，有着令世人惊艳的表现。

不过，因为人工智慧模型需要经过反复训练，迭代测试后不断改善，这个过程大幅仰赖训练集的资料，而这些资料又是出自于人类的日常生活当中，因此产出的服务，无可避免会复制人类社会中常见的偏见。

例如，Google搜寻有过在自动完成建议（autocomplete suggestions）中特定族群与负面形容词绑定的纪录，又或者是搜寻特定职业如医生的图片时，白人男性出现的照片不成比例地高，隐含医生都是白人男性的刻板印象，忽略早就有许多女性与多元种族担任医生的事实。

另外，2020年南韩企业Scatter Lab曾推出聊天机器人Iruda，2016年微软也介绍了聊天机器人Tay，两款人工智慧服务都会从与使用者的对话中学习，改善自己的表现。然而，正因为这个特点，聊天机器人上线没有多久，很快学会了种族歧视与性别歧视，甚至会讲仇恨言论，Scatter Lab和微软都在问题爆发后无奈将机器人下架。

▲ 将聊天机器人Tay下架后，微软在官网中发表文章讨论Tay遇上的问题。（Source：微软）

为了避免出现上述情形，企业们也用各自的方式改善问题，例如请研究人员开发在模型中减少偏见，甚至全面消除歧视的方法，又或者从源头解决──也就是从训练资料下手，根本性的排除问题。

时薪最低40元的外包工作：小狗、男人、小孩，以及性关系

开发出ChatGPT的OpenAI，就是走这个模式。根据《时代杂志》的调查，OpenAI希望能够训练模型，让它们能够辨识暴力、仇恨言论、性虐待等会让人极度不适的内容，这样一来，当ChatGPT在产出言论时，就可以提前将上述言论过滤，不会将其传达给使用者，提升产出品质。

为了做到这点，OpenAI自2021年开始，和旧金山的一间企业Sama签约，OpenAI给了Sama成千上万的文字片段，内容极度黑暗，包含儿童性虐待、人兽交、谋杀、自杀、自我伤害、虐待、乱伦等，而Sama再聘请肯亚劳工标记资料。

Sama雇用的资料标记员来自肯亚、乌干达、印度等国，这间企业平时就以接硅谷科技公司的案子维生，根据该公司内部资料，OpenAI发给Sama的资料标记任务，转到了这些肯亚标记员手上，实拿的时薪介于1.32美元至2美元之间（约新台币40至61元），薪水高低取决于他们的资历和表现。Sama宣称透过其发包的工作，已经帮助了超过5万人走出贫穷，它也自我标榜为有伦理的人工智慧企业（ethical AI company）。

▲ Sama在官网中以建立起“有伦理的人工智慧供应链”自豪。（Source：Sama）

虽然待遇不高，但至少有薪水可以领，对这群肯亚人来说可接受；对OpenAI来说，也能提升模型品质，帮助ChatGPT。为何仍引发关注？

关键就出在标记内容太骇人，向公司寻求协助时又遭到拒绝。一位受访的员工表示，在读到一段“有一名男人在幼童前面和狗发生性关系”的图像描述以后，他深受其苦，“一整周下来，我会读到许多类似的东西，这对我来说是种折磨，因为你会不断想到那样的图片。”

Sama承诺其员工，因为标记资料产生心理问题时，可以利用公司的谘商资源，但受访者指出，在要求一对一谘商时，反复地遭到管理层拒绝。虽然有集体谘商，但因为公司对于标记产量的高要求，还有资料本身太过惊世骇俗，他们的精神严重受损。

AI时代的血汗工厂：内容标记与内容审核员

除了标记资料以外，OpenAI也曾请Sama搜集包含死亡和性虐待等类型的图片，用途和改善ChatGPT的品质类似，可以协助OpenAI建立资料库，让模型能够分辨图像。不过，因为此项工作太具有争议性，还有部分类型的图像违反美国法律，最后OpenAI和Sama解除合作关系。

这并非Sama第一次遭揭露营运瑕疵。2022年2月，《时代杂志》便以《Facebook的非洲血汗工厂》为题，讨论Facebook外包出去给Sama的内容审核员，平常审查的影片，包含谋杀、性Q、自杀、儿童性虐待等主题，对审核员的身心都有严重负面伤害。

人们有ChatGPT、Midjourney等走在科技最前沿的服务可以使用，在感叹新技术厉害的时候，其实背后都有无名的开发内地家工作者领着低薪，在没有太多保障的条件下进行单调乏味的标记工作，甚至因此身心受创。我们的岁月静好，有肯亚劳工在负重前行。

（本文由 远见杂志 授权转载；首图来源：Unsplash）

延伸阅读：

• 碰到鼠标就害怕，前内容审查员得 PTSD 状告 Facebook
• Facebook 光鲜表面下，外包且工作环境不佳的内容审查员饱受身心煎熬
• 审核违规内容造成心理创伤，Facebook 赔偿审核员 5,200 万美元

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。