像 ChatGPT 这样的人工智能模型不会对人类构成“生存威胁”

一项新的研究着眼于大型语言模型如何学习，发现它们无法独立学习或获得新技能。

许多人担心像 ChatGPT 这样的人工智能技术最终会发展出威胁我们的推理能力，但这真的可能吗？ 

图片来源：cono0430/Shutterstock.com

一项新研究认为，ChatGPT 和其他大型语言模型 (LLM) 在没有人工输入的情况下无法独立学习或获取技能。这给“此类系统可能给人类带来生存风险”的信念泼了一盆冷水。

LLM 是预训练语言模型 (PLM) 的放大版本，在大量网络规模数据体上进行训练。对如此大量数据的访问使他们能够理解和生成可用于大量任务的自然语言和其他内容。

然而，他们也可以表现出“新兴能力”，这本质上是他们没有经过明确训练的随机表现。这包括执行原本需要某种形式推理的任务。例如，新兴能力可能包括法学硕士理解社会情境的能力，这是通过其在社交 IQA 上的随机基线之上的表现来推断的，社交 IQA 是关于社会情境的常识推理的衡量标准。

与新兴能力相关的固有的不可预测性，特别是考虑到法学硕士正在更大的数据集上进行培训，引发了有关安全和安保的重大问题。一些人认为，未来的新兴能力可能包括潜在的危险能力，包括推理和计划，这可能会威胁人类。

然而，一项新的研究表明，法学硕士具有遵循指示的肤浅能力并擅长熟练掌握语言，但如果没有明确的指示，他们没有掌握新技能的潜力。这意味着它们本质上是可预测的、安全的和可控的，尽管它们仍然可能被人们滥用。

随着这些模型不断扩大规模，它们很可能会生成更复杂的语言，并且在面对详细和明确的提示时变得更加准确，但它们不太可能获得复杂的推理。

“这种类型的人工智能对人类构成威胁的普遍说法阻碍了这些技术的广泛采用和发展，也转移了我们对真正需要我们关注的问题的注意力，”哈里什·泰亚尔·马达布什博士（Harish Tayyar Madabushi）博士说，他是阿布扎比大学的计算机科学家。巴斯在一份声明中解释道。

德国达姆施塔特工业大学 Iryna Gurevych 教授领导的 Tayyar Madabushi 及其同事进行了实验，测试法学硕士完成模型从未遇到过的任务的能力——基本上是他们产生突现能力的倾向。

当谈到他们在社交 IQA 上的随机基线之上表现的能力时，过去的研究人员认为这些模型“知道”他们在做什么。然而，新的研究认为事实并非如此。相反，该团队表明，这些模型正在使用一种众所周知的能力来根据向他们提供的一些示例来完成任务，即所谓的“上下文学习”（ICL）。

ⓘ Science-News.dev 不对从外部网站共享的内容负责。

通过进行 1,000 多个实验，该团队证明了法学硕士遵循指令的能力 (ICL)、他们的记忆力和语言熟练程度可以解释他们的能力和局限性。

Tayyar Madabushi 补充道：“人们担心，随着模型变得越来越大，它们将能够解决我们目前无法预测的新问题，这构成了这些较大模型可能获得包括推理和规划在内的危险能力的威胁。”

“这引发了很多讨论——例如，去年在布莱奇利公园举行的人工智能安全峰会上，我们被要求发表评论——但我们的研究表明，人们担心模型会消失并做出完全意想不到的事情，创新和潜在危险是无效的。 ”

重要的是，对这些模型带来的生存威胁的担忧并非非专家所独有。世界各地的顶尖人工智能研究人员也表达了这些观点。然而，该团队认为这种担心是没有根据的，因为测试清楚地表明法学硕士缺乏复杂的推理能力。

Tayyar Madabushi 表示：“虽然解决人工智能滥用的潜在可能性很重要，例如制造假新闻和增加欺诈风险，但根据感知到的存在威胁来制定法规还为时过早。”

“重要的是，这对最终用户来说意味着，依靠法学硕士来解释和执行需要复杂推理而没有明确指导的复杂任务很可能是一个错误。相反，用户可能会受益于明确指定他们需要模型执行的操作，并尽可能为除最简单任务之外的所有任务提供示例。 ”

然而，该团队确实强调，这些结果并不能排除与人工智能相关的所有威胁。正如 Gurevych 教授所解释的那样，“[我们]表明，所谓的与特定威胁相关的复杂思维技能的出现并没有证据支持，而且我们毕竟可以很好地控制法学硕士的学习过程。因此，未来的研究应该关注这些模型带来的其他风险，例如它们可能被用来生成假新闻。”

该研究发表在计算语言学协会第 62 届年会论文集上。