GPT新闻 百科 ChatGPT也学会了人类的语言偏见

ChatGPT也学会了人类的语言偏见

一个国际研究小组研究了人工智能所蕴含的语言偏见。 分享: 探索和追踪解决之道 人工智能与机器人 正在影响经济、产业和全球问题 参与 用我们的数字众源平台来实现大规模的影响力 一项新研究发现,AI聊天机器人也有“加法偏见”。算法偏向于使用含加…

Qv6PieZm5XAY0Vh9Nnl3XzaMpXG9GZsErxBzzpXtIZ0

一个国际研究小组研究了人工智能所蕴含的语言偏见。

分享:

9o6izkz8xB9DnNAj4acqquhhkFaP6h-fEQWD8RwWB7Y
探索和追踪解决之道 人工智能与机器人 正在影响经济、产业和全球问题
参与 用我们的数字众源平台来实现大规模的影响力
  • 一项新研究发现,AI聊天机器人也有“加法偏见”。算法偏向于使用含加法而非减法的词汇表述,而这也符合长期以来的语言趋势。
  • 学者指出,在表达改善某事物时,包含加法的词汇出现更频繁,含义也更为积极。
  • 研究人员表示,GPT-3模型说:“在一物中加入另一物,通常会使它变得更好。例如,如果你往咖啡里加糖,咖啡就会变得更好喝。”

在英语中存在着这样一种语言偏见:在改善某事物时,我们倾向于添加东西而非减少东西。一项新研究揭示了这个问题,而这种加法偏见在AI聊天机器人中甚至已经成为了根深蒂固的偏好。

与“改进”概念相关的语汇更加倾向于加法而非减法。这会导致我们做出过于复杂的决定,使我们试图改进的事物变得更加复杂。

来自伯明翰大学、格拉斯哥大学、波茨坦大学和北伦敦大学的国际研究团队在《认知科学》杂志上发表了这项研究。

伯明翰大学认知语言学系副教授Bodo Winter表示:“此前已有研究表明,当人们试图进行‘改进’时,通常会偏好‘添加’一些东西。

“我们发现同样的偏见深深地根植于英语中。例如,单词‘改进’(improve)的含义更接近于‘加入’(add)和‘增加’(increase),而不是‘去除’(subtract)和‘减少’(decrease)。因此,当会议上有人说,‘大家有没有什么想法来改进这个项目?’时,这已经是在隐性地呼吁与会者通过增加而不是减少来实现改进。”

研究还发现,其他与变化有关的动词,比如“改变”(change)、“修改”(modify)、“修订”(revise)和“增强”(enhance),也表现出类似的偏见。如果我们不对语言上的这种加法偏见加以反思,它会让事情变得更加糟糕,而不是真的实现改进。例如,这可能会导致过度繁琐的行政程序和官僚主义。

这一偏见倒过来依旧成立。在与“改进”有关的语境中,与“减少”相关的词很少出现,而与“添加”相关的用词则更多,且含义更为积极。这意味着加法偏见在英语语言结构及其使用的多个层面都切实地存在着。

加法偏见是如此地根深蒂固,以至于连AI聊天机器人都学会了它。研究人员询问GPT-3关于“加入”(add)这个词的看法。它回答说:“在一物中加入另一物,通常会使它变得更好。例如,如果你往咖啡里加糖,咖啡就会变得更好喝。如果有新朋友加入了你的朋友圈,你就会更快乐。”

Winter总结道:“英语中积极的加法偏见,是我们所有人都应该意识到的。它可以影响我们的决策,让我们倾向于添加更多的层次或更多的事物,即使实际上,我们反倒可能会从去除或简化中受益。

“也许下次我们在工作或生活中提出改进意见时,我们应该花更多的时间考虑自己的选择。”

本文来自网络,不代表gptnews.cn立场,转载请注明出处。https://www.gptnews.cn/1373/
返回顶部