GPT新闻 未分类 OpenAI 担心其聊天机器人会谈论人们的面孔

OpenAI 担心其聊天机器人会谈论人们的面孔

OpenAI 旧金山办事处的徽标。该公司正在测试其 ChatGPT 聊天机器人的图像分析功能。 2023 年 7 月 18 日 数百万人用来撰写学期论文、计算机代码和童话故事的聊天机器人不仅仅只做文字。ChatGPT 是 OpenAI 的人…

OpenAI 旧金山办事处的徽标。该公司正在测试其 ChatGPT 聊天机器人的图像分析功能。

数百万人用来撰写学期论文、计算机代码和童话故事的聊天机器人不仅仅只做文字。ChatGPT 是 OpenAI 的人工智能工具,也可以分析图像 – 描述图像中的内容,回答有关图像的问题,甚至识别特定人的面孔。希望最终有人可以上传故障汽车发动机或神秘皮疹的照片,ChatGPT 可以提出修复建议。

OpenAI 不希望 ChatGPT 成为面部识别机器。

在过去的几个月里,乔纳森·莫森 (Jonathan Mosen) 是一组有权访问可以分析图像的高级版本聊天机器人的人之一。在最近的一次旅行中,失明的就业机构首席执行官莫森先生使用视觉分析来确定酒店房间浴室中的哪些分配器是洗发水、护发素和沐浴露。远远超出了他以往使用的图像分析软件的性能。

“它告诉我每个瓶子的毫升容量。它告诉我有关淋浴间瓷砖的信息,”莫森先生说。“它以盲人需要听到的方式描述了这一切。通过一张照片,我就得到了我需要的答案。”

莫森先生说,这是他第一次能够“审问图像”。他举了一个例子:他在社交媒体上看到的一张图片的文字描述为“一个金发女人看起来很高兴”。当他要求 ChatGPT 分析图像时,聊天机器人说这是一位穿着深蓝色衬衫的女人,正在对着全身镜自拍。他可以提出后续问题,比如她穿的是什么鞋以及镜子的反射中还可以看到什么。

“这太了不起了,”54 岁的莫森先生说,他住在新西兰惠灵顿,他在自己主持的一个关于“盲目生活”的播客中展示了这项技术。”

今年 3 月,当 OpenAI 宣布推出为其 AI 聊天机器人提供支持的最新软件模型GPT-4时,该公司表示它是“多模式的”,这意味着它可以响应文本和图像提示。虽然大多数用户只能与机器人进行语言交流,但 Mosen 先生很早就获得了 Be My Eyes 的视觉分析功能,Be My Eyes 是一家初创公司,通常将盲人用户与视力正常的志愿者联系起来,并为企业提供无障碍的客户服务。顾客。Be My Eyes今年与 OpenAI 合作,在向公众发布该功能之前测试聊天机器人的“视力”。

最近,该应用程序停止向莫森提供有关人脸的信息,称出于隐私原因,这些信息已被遮盖。他很失望,觉得自己应该像视力正常的人一样获得信息。

这一变化反映了 OpenAI 的担忧,即它已经构建了一些其不想释放的功能。

OpenAI 政策研究员 Sandhini Agarwal 表示,该公司的技术主要可以识别公众人物,例如拥有维基百科页面的人,但其功能不如用于在互联网上查找面孔的工具(例如来自 Clearview AI 和 PimEyes 的工具)那么全面。阿加瓦尔表示,该工具可以识别照片中 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman),但不能识别该公司的其他工作人员。

公开提供这样的功能将突破美国科技公司普遍认为可接受的做法的界限。它还可能在伊利诺伊州和欧洲等司法管辖区引起法律麻烦,这些司法管辖区要求公司获得公民的同意才能使用其生物识别信息,包括面部指纹。

此外,OpenAI 担心该工具会针对人们的面部说出不该说的话,例如评估他们的性别或情绪状态。阿加瓦尔女士表示,在广泛发布图像分析功能之前,OpenAI 正在研究如何解决这些和其他安全问题。

“我们非常希望这是与公众的双向对话,”她说。“如果我们听到的是,‘我们实际上不想要任何东西’,那我们就非常同意。”

除了 Be My Eyes 用户的反馈之外,该公司的非营利部门还试图想出获得“民众意见”的方法,以帮助制定人工智能系统的规则。

阿加瓦尔女士表示,视觉分析的发展并不“意外”,因为该模型是通过查看从互联网收集的图像和文本来训练的。她指出,名人面部识别软件已经存在,例如谷歌的工具。谷歌为不想被认可的知名人士提供了选择退出的机会,OpenAI 正在考虑这种方法。

莫森说,该工具曾经错误地向他描述了一个遥控器,并自信地告诉他遥控器上有一些不存在的按钮。

已向 OpenAI 投资100 亿美元的微软也可以使用该视觉分析工具。微软人工智能 Bing 聊天机器人的一些用户已经看到该功能在有限的推出中出现;向其上传图像后,他们收到一条消息,通知他们“隐私模糊隐藏了 Bing 聊天中的面孔”。

普林斯顿大学计算机科学家兼博士生萨亚什·卡普尔 (Sayash Kapoor) 使用该工具来解码验证码,这是一种只有人眼才能理解的视觉安全检查。即使在破解代码并识别出所提供的两个模糊单词的同时,聊天机器人仍指出“验证码的设计目的是防止像我这样的自动机器人访问某些网站或服务。”

宾夕法尼亚大学沃顿商学院研究创新与创业的副教授伊森·莫里克 (Ethan Mollick) 表示:“人工智能正在颠覆所有本应将人类与机器区分开来的东西。”

自从视觉分析工具上个月突然出现在 Mollick 版本的 Bing 聊天机器人中(让他在没有任何通知的情况下成为少数几个能够抢先访问的人之一)以来,他就没有因为担心丢失而关闭电脑。他给了必应一张冰箱里调味品的照片,并要求必应推荐这些食材的食谱。它提出了“生奶油苏打水”和“奶油墨西哥辣椒酱”。

OpenAI 和微软似乎都意识到了这项技术的力量以及潜在的隐私影响。微软发言人表示,该公司不会“分享有关面部模糊的技术细节”,而是“与 OpenAI 的合作伙伴密切合作,以维护我们对安全和负责任地部署人工智能技术的共同承诺”。

本文来自网络,不代表gptnews.cn立场,转载请注明出处。https://www.gptnews.cn/1969/
返回顶部