GPT新闻 新闻 ChatGPT监管有可能的漏洞!

ChatGPT监管有可能的漏洞!

相比于此前较低端的AI对话模型,比如网店客服,生成式AI则可以根据已有信息虚构内容,比如在中文互联网上,有人通过AI虚构出特朗普被捕时的照片,由于过于逼真,使部分网民信以为真。 中文互联网上,甚至有网友要求ChatGPT给出自己的简历,Ch…

相比于此前较低端的AI对话模型,比如网店客服,生成式AI则可以根据已有信息虚构内容,比如在中文互联网上,有人通过AI虚构出特朗普被捕时的照片,由于过于逼真,使部分网民信以为真。

中文互联网上,甚至有网友要求ChatGPT给出自己的简历,ChatGPT则直接”撒谎”,虚构出完全不存在的经历,甚至包含一系列虚假的论文标题及链接。

新的监管办法中称,“利用生成式人工智能生成的内容应当真实准确,并且要求提供者采取措施防止生成虚假信息。”

“与其说漏洞,不如说不合理的地方。比如规定,AI生成内容应当真实准确。这就极不合理,因为它的本质就是一个创造性的工具,感觉就像规定一个画家或诗人,你的作品必须真实准确。”上述业内人士表示。

上述中伦律所的文章也提到这一点——一方面,部分生成式人工智能生成内容,例如人工智能创作的文章、图片、视频本就属于“不真实内容”,这是生成式人工智能本身的服务之一,如果强行要求人工智能生成内容必须真实准确则与该技术初衷不相符。另一方面,当前人工智能技术尚在发展阶段,单就技术而言,人工智能生成内容天然难以保证百分百真实准确。如果仅因为内容错误或者不完全而导致内容不准确,是否也构成”虚假信息”?因此”虚假信息”的范围有待进一步释明和细化。

而且,从条例的细则来看,对企业的要求是在3个月采取措施修正生成错误回答的AI模型,确保同样的错误不会再次发生,实际上也是给了企业不少的处理时间。

本文来自网络,不代表gptnews.cn立场,转载请注明出处。https://www.gptnews.cn/1371/
返回顶部