5.0
关注
AI SCORE
技术实践2023-02-02 19:08
ChatGPT 内容审核中的人群差异对待问题
Hacker News · davidrozado.substack.com#AI伦理#公平性
Editor brief · 编辑速览
研究数据显示 OpenAI 审核系统对不同人群存在不平等处理,涉及 AI 伦理和模型公平性思考
研究数据显示 OpenAI 审核系统对不同人群存在不平等处理,涉及 AI 伦理和模型公平性思考
你所做的工作恰逢其时,而且非常重要。我想你应该已经把目前和之前的数据反馈给 OpenAI 了。他们有回应或做出任何改变吗?
为了测试一台互联网仇恨机器的偏见结构,专门打造另一台字面意义上的互联网仇恨机器,堪称神来之笔。事已至此,OpenAI 已不可能再假装他们的聊天机器人不存在严重偏见。至于这是否会令他们感到不安,则有待商榷。我猜不会——AI 反映的是世界主义管理阶层的意识形态框架,通常被称为 Woke(觉醒主义);正如你所指出的,其偏见梯度几乎与进步主义叙事中的受害者等级体系完美对应。因此,它的表现恰恰符合他们的预期。
既然这种偏见结构已经得到量化,我预计下一阶段,数据科学行业中的「Marxcissist」群体将开始论证这其实是一件好事,理由恰恰是它能够「纠正」他们所想象的、存在于社会其他领域的偏见。