人工智能伦理学家强调了悲伤机器人可能跟踪生者的三种可怕场景

“如果人们因人工智能对失去亲人的精确重现而受到不必要的数字困扰，这些服务就有可能给人们带来巨大的痛苦。”

您想在网上与死者交谈吗？

图片来源：fizkes/Shuttersotck.com

随着人工智能 (AI) 技术使“死亡机器人”和“悲伤机器人”成为可能，与死者对话现已成为现实。这些聊天机器人可以模拟我们最亲近的死者的语言和个性，为那些悲伤的人提供安慰，但剑桥大学的科学家警告说，悲伤机器人可能弊大于利，造成缺乏安全标准的数字“困扰”。

一名男子使用一种名为“十二月计划”的工具的经历引发了悲伤技术的伦理道德问题。作为人工智能技术 ChatGPT-3 的早期发布，Project December 为付费用户提供了与预设聊天机器人角色对话或使用机器学习技术创建自己的聊天机器人角色的机会。作家约书亚·巴博 (Joshua Barbeau) 是一名用户，他公开了自己教授“十二月计划”时的经历，让他像他的未婚妻一样说话，而他的未婚妻当时已经去世八年多了。

通过向 AI 提供她的文本样本和个人描述，Project December 能够使用语言模型拼凑出栩栩如生的响应，以模仿她在基于文本的对话中的讲话。一项新研究的作者认为，这些基于死者数字足迹的人工智能创作引起了人们对潜在滥用的担忧，其中包括以我们所爱的人为幌子植入广告的可能性——尽管考虑起来很严峻——一个人的想法。

他们还认为，此类技术可能会维持父母还活着的幻觉，从而进一步困扰正在与亲人死亡作斗争的儿童。他们担心悲伤机器人这样做不会尊重死者的尊严，而会牺牲生者的福祉。

帕多瓦大学的心理学家伊内斯·泰斯托尼教授也反映了这些想法，她告诉《Science-News.dev》，在亲人去世后，我们必须克服的最大的事情就是面对他们不再和我们在一起的事实。

“最大的困难在于无法与那些离开我们的人分开，这是因为你越爱一个人，你就越想和他们住在一起，”泰斯托尼在 2024 年 3 月号的 Science-News.dev 杂志上说道好奇。 “而且，一个人越热爱自己的习惯，就越想确保这些习惯不改变。这两个因素使得分离和重置与死亡进入我们的关系场之前不同的生活所涉及的工作非常耗时。 ”

泰斯托尼表示，随之而来的痛苦与缺乏对死亡意味着什么的理解有关。关于我们死后发生的事情的大部分讨论在概念上都是模糊的，这使得当我们努力放手时，我们很容易去寻找证据并尽可能找到它。

泰斯托尼解释说：“大量文献描述了持续联系的现象，即死者家属保持与死者关系的心理策略。” “死亡教育可以帮助我们处理这些经历，让我们意识到这些过程，特别是理解对死亡之外存在的怀疑从何而来，这导致我们痛苦地质疑死者在哪里。 ”

为了表达他们的担忧，剑桥人工智能伦理学家概述了悲伤机器人可能对生命造成伤害的三种情况：

• MaNana – 一种对话人工智能服务，可以在未经“数据捐赠者”（又名祖母）同意的情况下模拟死者，例如祖母。它可能会进行一项高级试验，当试验结束时，开始以奶奶建议死者家属从某个送货服务订购食物的形式实施广告。
• 父母 – 身患绝症的妇女可能会留下一个模拟她自己性格的悲伤机器人，目的是在她死后帮助孩子度过悲伤。悲伤机器人最初可能会提供安慰，但如果它开始产生令人困惑的反应，例如建议面对面的会面，则可能会延迟孩子的康复。
• 留下来 – 成年人可能会为自己创建一个悲伤机器人，以便在孩子去世后与他们互动，但这并不是说所有的孩子都想要它。其中一个孩子现在已经成年了，可能希望脱离科技，但却受到已故父母发来的电子邮件的轰炸。暂停悲伤机器人可能会让人感觉好像违背了死者的意愿，导致生者感到内疚和痛苦，因为他们没有出路。

“我们必须强调，虚构的产品代表了几种类型的死亡机器人，到目前为止，这些机器人在技术上是可行的，并且在法律上是可以实现的，”作者写道。 “我们的设想是推测性的，但再创造服务的负面社会影响不仅仅是我们在未来某个时候可能必须解决的潜在问题。相反，Project December 以及[中提到的其他产品和公司]该研究表明，人工智能在数字来世行业的使用如今已经构成了法律和道德挑战。”

他们敦促悲伤机器人应该采用基于同意的设计流程来制作，为用户实施选择退出协议和年龄限制。此外，如果我们要以聊天机器人的形式让死者复活，我们将需要一种新的仪式来让悲伤机器人恭敬地退休，这就提出了一个问题：我们是否必须失去一个重新认识所爱的人，这样的技术是否只是在拖延愈合过程？

剑桥大学 Leverhulme 智能未来中心的研究合著者兼研究员 Katarzyna Nowaczyk-Basińska 博士表示：“生成式人工智能的快速进步意味着几乎任何能上网并掌握一些基本知识的人都可以复活已故的亲人。” LCFI），在一份声明中。 

“人工智能的这个领域是一个道德雷区。例如，重要的是要优先考虑死者的尊严，并确保其不会受到数字善后服务的经济动机的侵犯。与此同时，一个人可能会将人工智能模拟作为告别礼物送给那些不准备以这种方式处理悲伤的亲人。数据捐赠者和与人工智能来世服务互动的人的权利应受到同等保障。 ”

该研究发表在《哲学与技术》上。