《我很想告诉你》：研究人员探索“深度造假复活”促进公益

家庭暴力受害者和醉酒司机的深度伪造叙述可能会影响公共服务信息。

Deepfakes 在网上变得越来越普遍，但这种典型的滥用现象可以用来促进公共利益吗？图片来源：metamorworks/Shutterstock。 

Deepfakes 激发了一系列反应，从迷恋和娱乐到彻底的恐惧。他们在网上的出现增加带来了各种道德、社会和法律挑战，但心理学家最近对他们作为促进积极的社会和政治政策相关变革的工具的潜力产生了兴趣。

Deepfakes 是看似现实的数字化视频，以模仿现实的方式描绘人物、事件和事物。在某些情况下，这些计算机生成的幻象看起来与真实的东西没有区别，并且它们经常以不道德和滥用的方式使用。例如，2019 年，人工智能公司 Deeptrace 在网上发现了 15,000 个深度造假视频，几乎是九个月前在线视频的两倍，其中 96% 是色情视频。在这些视频中，名人（全部是女性）的脸被映射到色情视频中真人的脸上。除了满足个人的幻想外，这些内容还经常被用于恶意行为和报复性色情，但也可能会创建一些内容来抹黑著名的政治人物。 

虽然我们对深度造假的大多数体验肯定是负面的，但一组研究人员已经开始调查它们的说服能力，特别是与“深度造假复活”（对死者进行工程重建）相关的能力。 

密歇根大学媒体心理学助理教授卢航和佛罗里达大学公共关系助理教授楚浩然对他们所谓的“亲社会深度造假”进行了研究。从本质上讲，深度造假的潜在积极应用已被其滥用的可能性所掩盖，因此我们对如何利用此类媒体技术做好事，尤其是在公共服务公告方面知之甚少。 

为了调查这一问题，该团队将注意力转向两个常见且可能致命的社会问题——醉酒驾驶和家庭暴力，这些现实生活中的问题往往是社会政策变化和激进主义努力的目标。卢和朱想看看，展示醉酒驾驶和家庭暴力已故受害者深度伪造的公共服务公告，在观众讲述死亡故事时会对他们产生怎样的影响。 

作者在论文中解释说：“当前研究中调查的亲社会深度造假采取了深度造假复活的形式，其特点是一个死去的受害者通过深度造假复活，使受害者能够倡导与社会相关的问题。”他们的死亡原因。 ”

该团队招募了不到 2,000 名在线参与者来参加一项受试者间实验——一种旨在观察一种情况是否比另一种情况更具影响力的实验——其中使用或不使用深度伪造的复活叙事有所不同。他们还调查了与此类深度伪造叙事影响相关的一些心理过程。其中包括视频内容的真实感、参与者对受害者的认同和同情的能力、对亵渎和不尊重死者的看法、与视频内容相关的惊喜，以及此类叙述对参与者支持的总体影响为政策。 

研究人员发现，深度伪造死亡叙事的存在对家庭暴力和醉酒驾驶背景下公共服务信息的整体说服力产生了“微小但负面的影响”。他们认为，这与更普遍地围绕深度造假的更大社会认知有关，尽管他们认为，随着越来越多的人习惯深度造假这种现象，这种情况可能会发生变化。 

作者指出，“随着人们对深度造假越来越熟悉，他们可能会根据这项技术的使用方式和目的，对这项技术产生更细致的看法”。 

有趣的是，卢和褚还发现，深度造假复活叙事的叙事性和惊喜性似乎能有效激励观众更积极地参与挑战家庭暴力和酒后驾驶。然而，他们指出，深度伪造的死亡叙事在现实感、对受害者的认同和激发同情心方面表现不佳。此外，人们普遍认为对死者的亵渎态度似乎对他们的接受产生了负面影响。 

尽管如此，仍需要进一步研究才能得出更广泛的结论，特别是对具有不同文化和宗教背景的更广泛、更多样化的人群进行研究。 

作者写道：“由于这是第一项实证调查深度伪造复活叙事影响的研究，因此现在断定这种类型的叙事在任何情况下都无法有效促进亲社会结果可能还为时过早。”

该研究发表在《人类行为中的计算机》上。