GPT新闻 新闻 CHATGPT:美国政府要求科技公司在人工智能安会方面“有所作为”

CHATGPT:美国政府要求科技公司在人工智能安会方面“有所作为”

科学家和高级科技公司官员警告说,人工智能可能会导致人类的终结。对此,美国主要网络安全机构负责人向他们发出了一个信息:采取行动。 “如果你真的认为这些能力会导致人类灭绝,那么,让我们团结起来做点什么,”美国网络安全和基础设施安全局(Cyber…

科学家和高级科技公司官员警告说,人工智能可能会导致人类的终结。对此,美国主要网络安全机构负责人向他们发出了一个信息:采取行动。

“如果你真的认为这些能力会导致人类灭绝,那么,让我们团结起来做点什么,”美国网络安全和基础设施安全局(Cybersecurity and Infrastructure Security Agency)局长简·伊斯特利(Jen Easterly)周三(5月31日) 告诉听众们。

“当我们试图建立一个监管框架时,请考虑自我监管,”她在华盛顿举行的Axios News Shapers活动中说。“想想你能做些什么来减缓这一进度。”

就在伊斯特利发表上述评论的前一天,350多名研究人员和技术高管就人工智能(AI)的危险发出了一句话的警告。

“减轻人工智能灭绝人类风险应该与流行病和核战争等其他社会规模的风险一起成为全球优先事项,”他们在人工智能安全中心(Center for AI Safety)网站上的一篇文章中说。

签署该警告的人包括Chat GPT的母公司“开放人工智能”(OpenAI)的联合创始人兼首席执行官、微软的首席技术官、谷歌人工智能研究实验室的首席执行官和有时被称为“人工智能教父”的杰弗里·辛顿(Geoffrey Hinton)。

值得注意的是,辛顿在五月初辞去了他在谷歌的工作,专注于警告其他人人工智能的危险。

美国政府官员,如网络安全和基础设施安全局局长伊斯特利,也一直在警告人工智能带来的危险。

“人工智能将成为我们这个时代最强大的能力,”伊斯特利在本月早些时候的一次演讲中对范德比尔特大学(Vanderbilt University)的学生们说。

“我相信它也将成为我们这个时代最强大的武器,”她补充说。“虽然一个人会使用这项技术来计划一场晚宴,但另一个人或许将使用这种能力来计划网络攻击或恐怖袭击。”

伊斯特利此前曾呼吁对人工智能技术和产品进行“智能监管”,并警告说,与其他技术一样,科技公司过于专注于将人工智能产品快速推向市场,而没有对安全性给予足够的关注。

5月初时,她说美国网络安全和基础设施安全局已经与科技公司就人工智能的发展方向进行了讨论。

今年4月,网络安全和基础设施安全局的上级机构–国土安全部发起了自己的倡议,以应对人工智能带来的危险。

“我们必须解决人工智能将彻底改变威胁格局并增强我们拥有的工具库的多种方式,以成功地应对这些威胁,”国土安全部部长亚历杭德罗·马约卡斯(Alejandro Mayorkas)当时表示。

本文来自网络,不代表gptnews.cn立场,转载请注明出处。https://www.gptnews.cn/1841/
返回顶部