重视聊天机器人背后的语言常识与伦理

4小时前 (02:36:39)阅读1回复0
东乐
东乐
  • 管理员
  • 注册排名3
  • 经验值98035
  • 级别管理员
  • 主题19607
  • 回复0
楼主

【新闻漫笔】

做者:饶高琦(北京语言大学汉语国际教导研究院助理研究员)

比来一段时间,人工智能和互联网范畴最火的话题莫过于智能对话系统“生成式预操练模子聊天机器人”(ChatGPT,暂译,以下简称“聊天系统”)。该系统不只撑持包罗中文在内的多语聊天,并且还可以饰演角色,以至施行编程。关于或诙谐或严厉的发问,它的表示令人感应冷艳:相当多的常识内容准确,语言表达更是顺畅,而且还撑持多轮持续聊天。因而,很多人慨叹“本身已经沉浸于和它对话”“让它替我编程、写稿,效率提拔”,以至有人用它生成了某行业的征询陈述,通过对话引导它生成的书也在亚马逊线上出书。但在聊天系统顺畅扳谈的外表下,其对人类常识的掌握仍不成靠。跟着测试的增加,也有越来越多的人慨叹它“经常一本正经地乱说八道”。错误信息以娴熟的语言表达出来,因而愈加隐蔽。但无论若何,在很多人认定本轮人工智能泡沫起头破裂的时间点,它的降生无疑是给人们打了一剂“强心针”。

人工智能所涉使命浩瀚,语言智能却越来越成为办法、手艺、利用方面的领先范畴。正如聊天系统对本身的介绍:“我是一个语言模子。”该系统得以把握极其普遍的常识内容,来自对互联网文本内容的获取和“理解”,进而构成了本身的“常识系统”。此中所涉手艺非常复杂,但它的胜利无疑以非常曲看的体例向我们展现了语言之于人类常识甚至人类思维的重要性。人工智能的核心在于常识的获取、表达和运用,语言无疑是此中关键。教科书上“语言是人类最重要的思维东西”“人类九成的常识由语言承载”的论断在人工智能系统的利用上得到了淋漓尽致的展示。常识和思维的承载物是语言,因而也付与语言无可替代的资本属性。智能手艺的开展和落地,频繁向传统语言学的教导和研究发出信号:构建语言资本、发掘语言中的常识、摸索语言常识的形式表达,是最切中数字社会命脉的开展标的目的。

当然,正如过往几十年中任何一项智能手艺的成熟落地一样,聊天系统也引起了一波“赋闲潮”的言论。如许的担忧实没必要要。过往几十年里,智能手艺成熟引起的“赋闲潮”几乎从未呈现,短期内或许会搅动部分行业,但持久来看却相反。手艺利用自己也催生了大量新岗位,例如聊天系统的研造自己依靠于海量的人工数据标注和反应,数据标注师和测试员岗位需求浩荡。

更深条理来看,与聊天系统强大的语言生成才能不婚配的是它对常识的实正掌握水平。大量含糊其词甚至错误的信息稠浊在顺畅的对话中,反而令其愈加难以被发现。诚如清华大学马少平传授所说:“人工智能更大的问题是不晓得本身不晓得什么,也不晓得本身实晓得什么,什么问题都能答复,成果若何就不得而知了。”在一般性常识极易获取,复杂常识良莠不齐的布景下,人类专家的专业揣度力和颠末根究加工的准确答复,更显弥足贵重。人工智能诸多手艺“黑箱”带来的不确定性,毕竟还需要人类专业、全局揣度来化解。从那个层面上讲,“自知”的人类永久不成或缺。

也恰好因为手艺“黑箱”的存在,人类才需要不竭从本身、从手艺往逃求可靠、可信的手艺和手艺利用体例。可信的人工智能、可信计算成为合成手艺、伦理的重要范畴,并遭到越来越多的重视。更宏看的人工智能伦理和治理工做也早已被纳进科技治理的视野。挽救“失足系统”,矫正“智能体鄙视”也许不再是比方,而将成为利用者、从业者和治理者都必需面临的问题。

《光亮日报》( 2022年12月13日 10版)

来源: 光亮网-《光亮日报》

0
回帖

重视聊天机器人背后的语言常识与伦理 期待您的回复!

取消
载入表情清单……
载入颜色清单……
插入网络图片

取消确定

图片上传中
编辑器信息
提示信息