我们可以合法地要求人工智能聊天机器人说实话吗？

一些科学家担心“不小心言论”的影响。

学者们在一篇新论文中提出了有关人工智能和说实话的法律义务的问题。

图片来源：Juan Roballo/Shutterstock.com

近几个月来，许多人都尝试过像 ChatGPT 这样的聊天机器人。尽管它们很有用，但也不乏它们产生错误信息的例子。现在，牛津大学的一组科学家正在问：是否有合法途径可以要求这些聊天机器人告诉我们真相？

大型语言模型的兴起

人工智能 (AI) 在过去几年中似乎达到了新的高度，在围绕人工智能 (AI) 的热议中，该领域的一个分支比其他任何分支都获得了更多的关注——至少对于我们这些非机器学习领域的人来说是这样专家。它是大型语言模型（LLM），它利用生成式人工智能对几乎任何你能想到的查询产生听起来怪异的响应。

ChatGPT 和谷歌的 Gemini 之类的模型基于大量数据训练的模型（这本身就引发了许多有关隐私和知识产权的问题），使它们能够理解自然语言查询并生成连贯且相关的响应。与搜索引擎不同，您不需要学习任何语法来帮助您缩小结果范围。理论上，您只需像大声说话一样提出问题即可。

他们的能力无疑令人印象深刻，而且他们对自己的答案也充满信心。只有一个小问题——这些聊天机器人在大错特错的时候往往听起来同样自信。如果我们人类能够记住不要相信他们告诉我们的一切，那可能没问题。

这篇新论文的作者写道：“虽然我们将机器拟人化的倾向所产生的问题是众所周知的，但我们将法学硕士视为像人类一样的说真话的人的脆弱性是特别令人担忧的。”他指的是任何曾经与之发生过争执的人都会遇到的情况Alexa 或 Siri 会很清楚。

“法学硕士并不是为了在任何压倒性的意义上说实话而设计的。 ”

很容易为 ChatGPT 提出一个问题，并假设它正在像人类一样“思考”答案。看起来是这样，但这些模型实际上并不是这样工作的。

不要相信你读到的一切

正如作者所解释的，法学硕士“是文本生成引擎，旨在预测一段文本中接下来出现的单词串。 “他们的回答的真实性只是在开发过程中判断模型的一个指标。作者认为，为了给出最“有帮助”的答案，他们常常会过于简单化、产生偏见，甚至胡编乱造。

这项研究的作者绝不是第一个对此发出警报的人，其中一篇论文甚至称这些模型为“废话”。 《精神分裂症》杂志的编辑 Robin Emsley 教授在 2023 年发表了一篇关于 ChatGPT 的经历，他表示：“我所经历的是捏造和伪造。聊天机器人引用了不存在的学术论文，以及一些与查询无关的论文。其他人也报告了同样的事情。  

他们可以接受那些有明确、事实答案的问题，而且这一点很重要——这个答案在他们的训练数据中经常出现。这些模型的好坏取决于它们所训练的数据。而且，除非你准备好仔细核实从法学硕士那里得到的任何答案，否则很难判断这些信息的准确性——尤其是因为许多人不提供其源材料的链接或给出任何衡量标准信心。

牛津大学的团队写道：“与人类演讲者不同，法学硕士没有任何专业知识或信心的内部概念，而是总是‘尽最大努力’提供帮助并有说服力地回应提出的提示。”

他们特别担心他们所说的“粗心言论”的影响，以及法学硕士的这种反应渗透到线下人类对话中可能造成的危害。这导致他们提出一个问题：法学硕士提供者是否有法律义务确保他们的模型真实。

新研究得出了什么结论？

作者着眼于当前的欧盟 (EU) 立法，发现很少有明确的情况要求组织或个人有义务说实话。那些确实存在的仅限于特定部门或机构，很少适用于私营部门。由于法学硕士采用相对较新的技术，因此大多数现有法规在制定时并未考虑到这些模型。

因此，作者提出了一个新的框架，“为狭义和通用法学硕士的提供者设立一项法律义务，以尽量减少粗心言论。 ”

你可能会自然地问：“谁是真理的仲裁者？ ”，作者确实解决了这个问题，他们说，目的不是强迫法学硕士走上一条特定的道路，而是要求“来源的多样性和代表性”。从根本上说，他们建议制作者纠正真实性和“乐于助人”之间的平衡，作者认为这过于支持后者。这并不简单，但它可能可能。

这些问题没有简单的答案（免责声明：我们没有尝试询问 ChatGPT），但随着这项技术的不断进步，这些问题将成为开发人员必须解决的问题。与此同时，当你与法学硕士一起工作时，可能值得记住作者的这一发人深省的声明：“他们的目的是参与与人们的自然语言对话，并提供令人信服且感觉有帮助的答案，无论手头事情的真相。 ”

该研究发表在《皇家学会开放科学》杂志上。