打击 Deepfake：实践中的声誉风险、欺诈和错误信息

Deepfake 经常被呈现为一种奇观：政客说出他从未说过的话的视频，模仿艺术家的声音。奇观框架隐藏了对领导者来说重要的事情。具体的风险不是病毒视频。这是模仿首席执行官要求紧急调动的声音的三十秒音频，是在敏感时刻破坏信任的虚假陈述，是伪造的个人资料，以公司的名义签署了某些内容。

改变的不是假货的存在，它是古老的。这就是成本。现在，制作令人信服的声音、图像或视频伪造品只需要很少的时间、金钱，而且几乎不需要专业知识。当制造外观的成本几乎降至零时，尝试的数量就会激增，“这看起来很奇怪”的防御就会停止发挥作用。

值得将问题分为三种不同的损害，因为每种损害都需要不同的应对措施：声誉损害、财务欺诈和虚假信息。将它们视为一个整体会导致通用响应，而不能防止任何特定的情况。

三伤害，三逻辑

声誉受损会影响对个人或品牌的信任。一个高管的虚假视频，一个领导者的捏造音频，一个捏造的妥协图像。即使伪造品后来被驳斥，损害也会发生，因为第一印象的传播速度比更正的速度更快。在这里，响应时间与真相一样重要。

金融欺诈利用伪造作为社会工程工具。 CEO诈骗就是最直接的例子，其中音频或视频模仿上级授权付款。目标不是公众舆论，而是一个脆弱的内部过程。辩护不是否认，而是不允许决定依赖于识别声音。

虚假信息大规模运作。它不针对交易，而是针对集体认知：选举、市场、部门声誉。这里的问题不在于特定的假动作，而更多在于对任何动作的信任的侵蚀。当一切都可以是假的时候，假的就会得到覆盖，但真实也会失去力量，而这第二部分是最具腐蚀性的。

了解这三者中哪一个对您的威胁最大是第一步。一家私营公司更担心欺诈而不是虚假信息。公众人物更担心名誉受损。公共机构承担这三项任务。

在个人层面上，最有效的防御并不像看上去那么技术化：减少你对外表的信任。

语音和视频不再是身份证明。在紧急请求中识别某人的声音不再能确认任何事情。经验法则是不要仅仅根据声音或面孔的识别来做出敏感的决定，尤其是财务决定。通过第二个渠道进行确认、在紧急情况下组合验证词以及对紧急情况保持怀疑是花费很少且可以杜绝大多数诈骗的习惯。

还有暴露卫生。公开传播的音频和视频越多，训练模仿的材料就越多。这并不意味着消失，而是意味着意识到公开存在的人物会带来更大的风险，并且必须与与他们打交道的人达成验证协议。

还有对消费的态度。对令人震惊和及时的内容的健康反应不是分享，而是放慢速度并检查来源。错误信息造成的损害很大程度上取决于我们匆忙传播它。

在组织层面，最便宜且最容易被忽视的防御是流程，而不是工具。

财务决策不能依赖于对一个人的认可。如果因为有人听到老板的声音就可以授权转账，那么问题在于流程，而不是 Deepfake。多关口审批、独立渠道确认以及需要加强验证的门槛，无需任何复杂的技术即可中止CEO骗局。

第二个方面是通信本身来源的[认证0]。如果公司正式沟通的来源可验证，客户、合作伙伴和媒体就更容易区分合法沟通和虚假信息。这将打击深度造假与更广泛的起源和真实性基础设施联系起来，这些基础设施支撑着品牌可验证的声誉。

三是应对预案。实际上，声誉深度造假是一场沟通危机。那些已经有认可的官方渠道、能够快速核实和否认、并与平台建立了关系的人反应更好。在事件最激烈的情况下即兴发挥是最昂贵的学习方式。

四是内在意识，小心不要成为戏剧。处理支付、通信和系统访问的培训团队比一般活动更有价值。诈骗的目标几乎总是特定流程中的特定人员。

在公共层面，这个问题变得更加复杂。各国政府同时大规模地面临这三种危害，仍然需要在应对措施与言论自由之间取得平衡。

最有希望的战线是官方内容的来源和真实性。公共文件、机构通讯和公民身份得益于可验证的来源。如果公民能够确认文件确实来自声称签发该文件的机构，则可以更好地防止伪造。这直接涉及公共部门的数字身份和可验证凭证。

监管方面更加微妙。要求对合成内容进行标记、追究平台责任以及定义具体犯罪行为是多个司法管辖区正在讨论的途径。风险加倍：薄弱的规则无法提供保护，过于宽泛的规则会成为审查工具。这里没有优雅的捷径，需要重新审视一个困难的平衡。

容量方面很重要，但乏善可陈。调查和司法机构需要审查内容的手段，民众需要教育，以免成为容易的猎物。公众宣传的大部分内容较少涉及尖端技术，而更多涉及分布式机构能力。

对限制的诚实是营销策略与安全的区别。

检测并不是最终的解决方案。 Deepfake 探测器正在与生成器进行竞赛，生成器通常处于领先地位。仅将防守赌注押在侦查谎言上是建立在沙子上的。因此，重点是通过出处来证明真实性，而不是追求虚假性。

水印有帮助，但它并不能单独解决问题。可见品牌是可移除的，隐形品牌更具抵抗力，但并非绝对可靠，并且没有一个品牌涵盖已经在没有任何品牌的情况下流通的内容。水印是一层，而不是屏蔽。

来源验证的范围受到采用的限制。出处仅保护其存在的地方，多年来，许多内容在没有出处的情况下仍会传播。这意味着生活在不确定性之中，而不是消除它。

还有一个最令人不安的限制：没有任何技术解决方案可以修复这种现象本身造成的信任丧失。当公众得知一切都可能是假的时，他们甚至开始怀疑真相，而这种广泛的怀疑就被那些想要否认真实事实的人利用了。这种文化损害无法通过[密码学1]来解决。随着时间的推移，可靠的机构和来源可以保持可信度，部分解决了这个问题。

战略解读是清醒的。 Deepfake不会被击败，它会被管理。那些将问题视为需要通过流程、起源和验证来降低的风险，而不是视为需要使用神奇工具来消除的威胁的人，建立了经久不衰的防御。其余的都是控制的幻觉。

值得从最具体的问题开始：声誉、欺诈或虚假信息这三种损害中的哪一种对您的组织伤害最大。答案决定了首先投资哪里。