GPT新闻 新闻 ChatGPT未来在软件开发中“代码智能”研究领域的潜力

ChatGPT未来在软件开发中“代码智能”研究领域的潜力

最近,无论刷抖音还是看新闻,你都会莫名发现被ChatGPT刷屏。它到底凭什么“出圈”? 作为由人工智能实验室OpenAI发布的对话式大型语言模型回答软件,它可以天南海北和你胡诌聊天,也可以算数学、写代码、甚至帮你轻快地写一篇文章,流利回答法…

最近,无论刷抖音还是看新闻,你都会莫名发现被ChatGPT刷屏。它到底凭什么“出圈”?

作为由人工智能实验室OpenAI发布的对话式大型语言模型回答软件,它可以天南海北和你胡诌聊天,也可以算数学、写代码、甚至帮你轻快地写一篇文章,流利回答法律、医学、历史以及其他你能想象到的几乎任何问题。

当然,仅是如此会有人认为不过是人工智能玩出“花里胡哨”、华而不实的功能。但实际上,不少相关领域的学者、企业家却对其作出了更为广阔应用领域的前瞻。ChatGPT到底能给金融、医疗、教育、制造等领域带来哪些机遇与影响。或许行业中的领军企业人物,会有自己的不同看法。

为此,上游新闻将专题采访高校教授、相关行业领军企业及技术专家,漫谈他们心中的ChatGPT。

与传统搜索引擎大不同 ChatGPT可更好地理解人类语言

问:ChatGPT是如何实现聊天的?它和人类学会语言的逻辑和方式有什么不同?

张洪宇:最近,大模型技术如ChatGPT表现出很高的自然语言理解能力,具备了一些通用人工智能的特征。ChatGPT实现聊天主要分为两步:首先,ChatGPT使用大规模预训练语言模型GPT-3.5,“预先阅读”海量文本数据,比如维基百科、图书等,学习句子中单词之间的前后概率关系。然而,这样的“回答”可能有很多种,有些可读性很强,表达明确,有些则出现很多语法错误,可读性差。

其次,为了生成更好的回答,ChatGPT使用基于人类反馈的强化学习,调整预训练语言模型,使之与用户意图一致。调整后的模型可以不断接收人们的问题,并且给出答案,实现多轮对话的能力,即“聊天”能力。

人类学习语言主要是通过文字符号来描述现实世界,便于记录、交流、思考、解决问题等。ChatGPT借用大数据和大规模计算资源,学习文字世界中的概率关系。我觉得其思考和解决问题的能力是通过阅读海量文献“涌现”出来的,其其学习的逻辑和推理的方式目前尚不清楚,需要进一步研究。

问:ChatGPT与我们此前使用的网络搜索引擎,有哪些技术革新?

张洪宇:通过关键词索引的网络搜索引擎,多数时候是在互联网的历史数据中寻找与关键词相关的数据,返回匹配的结果。其缺陷在于:一是自然语言理解能力差,无法理解关键词所表达的复杂含义;二是知识表示能力不足,无法理解大规模数据中的知识;三是问答能力不足,只能简单地返回可能相关的结果,无法整合出有价值的答案。

ChatGPT背后的语言模型能够更好地理解人类语言的描述和数据中的知识,甚至可以通过再次询问的方式明确具体需求。此外,ChatGPT也能够根据模型学习过的海量历史数据,自动生成一些匹配的内容作为回答。这样,人们无需花费时间和精力去鉴别、筛选、整合搜索回来的结果,这无疑是搜索引擎的一次革命。

重庆已初步具备研发类似产品的条件 但仍需探索

问:ChatGPT对实现数字产业化,产业数字化会有哪些影响和推动?

张洪宇:ChatGPT强大的自然语言处理能力可以更好地理解用户需求,挖掘数据中的知识,解决不同数据描述中的随机性和不确定性。这些能力正是突破数字化挑战的一大关键,对推动数字经济和实体经济深度融合具有重要作用,可以加快企业数字化转型,进一步推动智慧城市、智慧经济的发展。

ChatGPT能在现有产业的基础上提供多种更智能的服务产品,如机器人客服、辅助教育、法律顾问等等。同时,ChatGPT具备不错的代码生成能力,它可以将用户的具体开发需求转变成可供程序员参考的代码,进一步提升数字化的工作效率。例如,作为程序员的编程助手,在汽车软件开发中,一些初步代码和文档可以通过ChatGPT自动生成,可以很大地提高软件开发效率。

问:重庆目前人工智能水平如何?是否可实现研发属于自己的ChatGPT?

张洪宇:达到ChatGPT当前版本的水准需要付出大量的物力、人力和智力。训练一个大规模预训练语言模型需要大量的计算资源(如网络,存储,GPU等);ChatGPT的训练中又依赖于大量人工标注信息,这些也需要大量的人力成本;ChatGPT的训练需要更为先进的算法,这也离不开专业技术的智力支持。

重庆在实现类似ChatGPT产品上有一定优势:《重庆市数字经济“十四五”发展规划》中提到“到2025年,建成算法开发、服务支持、运营保障、资源配置于一体的国家级超级计算资源集聚高地”,这些高性能超算中心能够为训练ChatGPT提供一定的算力支持;重庆市作为中国西部文化科教中心,具备充足的人力资源储备,能提供人力支持;重庆大学等高校,特别是重庆大学大数据和软件学院,具有很强的人工智能、服务计算、软件开发相关科研能力,这为实现ChatGPT提供了智力支持。

当然,构建ChatGPT是一件极其昂贵的事情,仅以其背后依赖的模型的早期版本GPT-3在训练过程中消耗的计算资源为例,据估算相当于约300万~460万美元。构建ChatGPT还需要很强的云计算基础设施和AI平台,以及经验丰富的人才。

总而言之,我认为重庆目前已初步具备研发类似ChatGPT产品的条件,但如果要达到现在ChatGPT的水准,可能还需几年时间的探索与完善。

ChatGPT能进一步提升“代码智能”的研究应用

问:在ChatGPT推出后不久,微软也发布了类似的New Bing,据媒体评测,体验甚至更好。这是否意味着它可以快速迭代进化。

张洪宇:快速迭代进化是可以的。ChatGPT自2022年11月发布以来,受到了全世界的关注,收到了很多反馈意见。截至2023年2月27日,ChatGPT已有5次版本迭代。根据前述模型训练方法的叙述,其采用了强化学习方法,根据用户反馈进行模型迭代,而这期间大量用户的使用记录可用于进一步训练模型。因此,利用更多的数据和计算资源,结合用户的反馈,能够让ChatGPT和New Bing快速迭代进化。

问:除了作诗、写作,未来ChatGPT还可以与哪些领域进一步合作?

张洪宇:ChatGPT可能被用在几乎所有与自然语言理解相关的领域中。同时,我想重点说明它在软件开发中的应用。自动化、智能化一直是软件技术发展的核心目标之一。我早在2016年就开创性地提出了基于深度学习的代码推荐技术,展示了人工智能在软件开发中的应用潜力,工作发表在软件工程顶会FSE 2016中,目前已经收到近560次引用。之后,我又提出了一系列数据驱动的,AI赋能的软件开发技术,如代码搜索、自动摘要、代码生成,缺陷检测等技术,推动了“代码智能”这一新研究领域的发展。ChatGPT的出现会进一步提升“代码智能”的研究与应用。例如,作为程序员的编程助手,ChatGPT可以检索相关编程知识,编写初步程序,检查软件中的质量问题和安全问题等。

本文来自网络,不代表gptnews.cn立场,转载请注明出处。https://www.gptnews.cn/1787/
返回顶部