> For the complete documentation index, see [llms.txt](https://library.zoom.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://library.zoom.com/technical-library/zh/ai/deepfake-risk-detection.md).

# 深度伪造风险检测

人工智能技术的日新月异使得越来越难以区分真实的人还是冒充者；这种现象被称为深度伪造。近期的现实世界事件表明，恶意行为者如何利用深度伪造技术冒充他人，通常是为了牟利或获取机密信息。由于人工智能的快速进步，深度伪造有望变得更加普遍，从而加剧相关的安全威胁。

Zoom 致力于用户安全，因此正在推出一项专有解决方案，用于在 Zoom Meetings 中检测并通知用户潜在的深度伪造风险：深度伪造风险检测。

{% hint style="warning" %}
**重要**

此功能计划于 2026 年 12 月作为付费附加组件 SKU 发布。详情请联系您的 Zoom 代表。
{% endhint %}

继续阅读，了解客户体验、现实世界示例、安全和隐私背景，以及面向用户和管理员的实用指导。

什么是 Deepfake 风险检测？

Zoom 开发了专有方法“深度伪造风险检测”，以帮助判断会议中是否存在潜在的深度伪造风险。该解决方案原生集成于 Zoom Meetings，提供嵌入式用户体验，无需外部工具。

Deepfake 风险检测能够：

* 评估合成音频或视频风险的可能性
* 在识别到 deepfake 风险时通知已启用的会议参会者
* 显示对其对深度伪造的评估的清晰信息，以便参会者进行评估并采取任何行动来缓解风险

技术深度解析：Zoom 的独特方法

Zoom 已创建专有机器学习模型，用于检测与真人相比，合成视频和音频的可能性。当 Zoom Deepfake Risk Detection 由主持人或已启用的参会者打开时，深度伪造检测技术会分析当前演讲者磁贴。

## Zoom 如何帮助检测 deepfake？

### 视频检测

Zoom 深度伪造风险检测直接在发送方设备上捕获的视频流上运行，在其进入视频处理流水线之前，使用原始客户端帧进行分析。这提供了一个关键优势，可避免压缩、低带宽视频编码/解码伪影以及其他可能掩盖或移除深度伪造伪影的质量下降处理步骤的影响。

我们还设计了双流人脸验证架构。在接收端，视频流会发送到云，并与从发送端获取的流进行比较，以验证两个流是否一致。这可防止攻击者将来自发送端的真实视频流发送到深度伪造检测服务器，同时向 Zoom 接收方传递深度伪造视频流。使用时间戳进行时间同步有助于确保在比较之前两个视频流已正确对齐。

Deepfake 风险检测中的一项关键效率功能是 **自适应检测频率**。参会者加入会议时，系统会先进行高频检查，随后随着置信度逐渐提高而逐步降低检查频率。系统还会根据此前的验证结果动态调整检测频率：置信度较高时降低检测频率；重复失败表明视频流不可靠时，则暂停检测。互补的质量评估层会在运行 deepfake 检测前，评估噪声、亮度、模糊程度和特征点检测置信度，跳过质量较差的帧，并向参会者返回可执行的改进建议（例如改善光照或减少运动模糊），而不是将计算资源浪费在无法使用的输入上。

在 Zoom 会议中，Zoom 会控制会议体验中的视频滤镜、头像和美妆特效。当启用 Deepfake 风险检测时，这些特定功能将在会议期间被禁用，以便更准确地分析底层音频和视频流。

{% hint style="info" %}
**注意**

外观和虚拟背景下的大多数功能 **都** 兼容 Deepfake 风险检测。姿势校正是个例外，启用 Deepfake 风险检测后将被禁用。
{% endhint %}

视频和音频流的数据元素会被捕获并发送到云端，在那里进行检测。会议结束后，视频和音频数据以及生成的评分会被删除。

### 音频检测

Zoom 音频 Deepfake 风险检测会在云端实时分析每个当前演讲者的音频。会议音频在到达检测服务之前会先经过 Zoom 的标准音频处理。这些标准流程包括回声消除、降噪和编解码器编码。我们的检测模型在各种现实世界音频条件下进行训练，其中也包括经过 Zoom 自身管道处理的音频，以帮助确保真实语音不会被误标为伪造。

系统不会持续分析整个音频流，而是智能提取 **简短的语音片段** ，并从当前演讲者的语音中对其进行分类。质量评估层会实时评估音频状况，并自动排除因网络质量不佳而受损的片段。这有助于避免分析不可靠的输入，并将资源用于更有效的用途。 **语音识别门控** 有助于确保只有实际语音才会触发深度伪造分析；音乐或背景声等非语音音频会自动排除。

与视频检测类似，Zoom 会控制会议体验中的音频滤镜和美妆特效。当启用 Deepfake 风险检测时，这些特定功能会被禁用，以便更准确地分析底层音频流。不过，当参会者使用头像模式时，音频 deepfake 检测仍会继续运行，因此即使视频分析不可用，说话者验证仍保持有效。

## 架构

下图展示了 Deepfake 风险检测概览。

<div data-with-frame="true"><figure><img src="https://2325962437-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2Fceg7QCwwI7tQIjqmJxa5%2Funknown.png?alt=media&amp;token=a6631afe-18af-4350-87a3-44e5c7547a15" alt="Architecture diagram showing data flow from sender to client to Zoom Cloud." height="695" width="624"><figcaption></figcaption></figure></div>

## 用户体验

当您在 Zoom 会议中并已启用 Zoom Deepfake 风险检测时，如果标记出潜在风险，您可以预期会看到以下体验。

Zoom Deepfake 风险检测将通过以下方式通知所有已启用的用户存在合成音频或视频的潜在可能：

* 用以下图标标记疑似参会者： **深度伪造风险** 图标
* 将该参会者移动到屏幕左上区域
* 显示一个 **检测到深度伪造风险** 弹出窗口，其中包含打开以下内容的链接： **深度伪造检测仪表板**，其中提供了更多信息

下图显示了该图标和弹窗。

<div data-with-frame="true"><figure><img src="https://2325962437-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FxYY0DrODyhfsMeYCSjFV%2Funknown.png?alt=media&amp;token=12dc5921-4999-497f-a05a-983be5458381" alt="Sample image including Deepfake Risk Detection warnings." height="409" width="624"><figcaption></figcaption></figure></div>

该 **深度伪造检测仪表板** 为已启用此功能的用户提供更多信息，包括：

* 以下对象的风险状态： **所有** 会议参会者
* 以下内容的检测风险和置信度显示： **两种** 视频和音频流，提供更多背景信息
* 清晰的行动号召，以帮助用户了解可能的下一步

以下是 deepfake 检测仪表板的示例：

<div data-with-frame="true"><img src="https://2325962437-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FKUPezhc9d7x8UplAwue7%2Funknown.png?alt=media&amp;token=f90c2318-a92d-461d-aa51-b19b20cbe442" alt="" height="574" width="251"></div>

{% hint style="info" %}
**注意**

当视频或音频数据流较弱或质量过低而无法检测 deepfake，或者某位参会者未同意时，Zoom Deepfake Risk Detection 也会通知用户。
{% endhint %}

用例

本节包含 Deepfake Risk Detection 的三个常见用例。如果您有想讨论的场景，请联系您的 Zoom 代表。

### 金融服务顾问

#### 概述

Bob Smith 是一家私人银行中服务高净值客户的个人顾问。他每天与五六位客户交谈，就财富策略和金融交易提供建议，帮助他们管理个人财务。

#### 风险

Bob 代客户进行资金转账，其中可能包括开设新账户、进行大额购买以及向遗产相关供应商付款。Bob 依赖自己的判断、对客户的熟悉程度以及简单的授权检查。

#### 示例

一位长期客户临时约见 Bob，告知他打算为一名家庭成员购买一辆豪华跑车。客户指示 Bob 将 19 万美元电汇给车主。Zoom Deepfake Risk Detection 提醒 Bob 存在 deepfake 高风险。尽管这种购买对该客户并不罕见，但 Bob 仍保持谨慎，并在实际转账前用手机致电客户。真正的客户对此次会议毫不知情，Bob 也避免了把资金转给坏人。

### 人力资源招聘专员

#### 概述

Sally Ng 是一家中型组织的人才招聘专员，负责工程和技术岗位的 IT 招聘。她在任何时候通常都有八到十个空缺职位，并全流程负责招聘工作，从识别候选人到谈判录用条件。

#### 风险

Sally 在远程岗位的招聘过程中非常谨慎。她所在的组织越来越多地向海外候选人发出录用邀请。甄别过程非常严格，通常需要五六位额外面试官，并且在最终 offer 完成前还要通过文件验证。候选人往往在没有线下见面的情况下就入职。

#### 示例

在一段很有希望的面试流程进行到一半时，Sally 通过视频联系候选人，通知对方进入最终面试轮次。Zoom Deepfake Detection 提醒 Sally 存在更高风险，其中包括合成音频。Sally 将候选人的身份与其他来源进行了交叉核对，并判断该候选人是在冒充他人的线上资料身份。Deepfake Risk Detection 成功避免了不法分子访问公司内部 IT 基础设施和环境的情况。Sally 阻止了可能发生的勒索软件攻击、客户信息泄露以及专有软件盗窃。

### 金融经理

#### 概述

Tom Cox 管理着一家大型组织中的一个应付账款专员群组。他的团队负责为公司某个部门提供服务的供应商付款。

#### 风险

公司已建立相关流程，以确保只支付已批准的发票。所需审批级别与发票金额相对应。一些供应商提供的是维持公司运转的关键服务，例如基础设施和数据服务。付款延迟可能导致客户中断，损害公司的声誉和/或带来罚款。

#### 示例

Tom 突然接到公司某部门财务副总裁打来的电话。该副总裁指示 Tom 向某供应商支付 120 万美元，用于一个机密项目。副总裁之所以打给 Tom，是因为 Tom 的上司不在办公室。该付款已经逾期，今天必须完成，否则 Tom 的公司将产生逾期罚金。Tom 心存疑虑，要求副总裁加入一个简短的 Zoom 会议以验证他是否真的是本人。副总裁加入了会议，从 Tom 看来，他的外貌和声音与真正的副总裁一模一样，但 Deepfake Risk Detection 提醒 Tom，这很可能是合成的。Tom 拒绝付款，避免了代价高昂的错误。

## 启用和使用

购买附加组件后，账户所有者和管理员可以在以下位置启用深度伪造风险检测： **群组** 组织级别。要启用此功能，请执行以下操作：

1. 登录 [Zoom Web门户](https://www.zoom.com/).
2. 导航到“管理员”部分。点击 **账户管理**，然后点击 **账户设置**.
3. 在顶部导航栏中，点击 **常规**。转到 **安全** 部分，然后开启 **启用深度伪造风险检测**.

{% hint style="info" %}
**注意**

如果您想锁定此设置，使该功能/特性在所有会议中自动启动，请点击功能/特性切换旁边的锁定图标。如果您希望让会议主持人和有权限的用户能够按单个会议启用该功能/特性，请保持锁定处于打开状态。
{% endhint %}

要在会议中开启深度伪造风险检测，请前往底部工具栏中的菜单，然后点击 **检测** 图标。

<div data-with-frame="true"><figure><img src="https://2325962437-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2F8jNV0vU542V4RmL0GOgW%2Funknown.png?alt=media&amp;token=d5aa945e-7698-44b0-baa5-67fc36f9310f" alt="Image of the menu, showing the Detection option in the middle of the second row." height="280" width="186"><figcaption></figcaption></figure></div>

同意

主持人和参会者都可以为自己的会议启用 Deepfake Risk Detection。所有会议参会者都会收到已启用 Deepfake Risk Detection 的通知，并需要同意。参会者只需在首次使用时同意一次，其同意状态将存储在用户设置中。用户始终可以在其设置门户中更改同意选择。

<div data-with-frame="true"><figure><img src="https://2325962437-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FjERq2uPA32Ri8PD1vtwV%2Funknown.png?alt=media&amp;token=658db132-011e-42d2-b248-b0d74899af37" alt="Sample Zoom meeting screen displaying a message that &#x22;Deepfake risk detection is on.&#x22;" height="411" width="624"><figcaption></figcaption></figure></div>

## 方法论

Zoom 致力于确保我们的客户拥有值得信赖且安全的会议体验。与任何风险缓解解决方案一样，没有什么是完美的。恶意行为者不断演变，并会持续测试防御，因此采取有效的防护措施来保护您的组织是值得的。

我们采用多种方法来呈现真实实例，并对领先的 deepfake 解决方案进行了视频和音频两方面的直接比较。我们使用的一些方法包括：

**视频**

* 传统的基于图形的编辑和合成方法
* 早期深度学习方法，例如基于自编码器的人脸交换
* 基于 GAN 的生成和操纵方法
* 基于扩散的生成/编辑方法
* 神经渲染方法，例如 NeRF 和 3D 高斯泼溅

**音频**

* 参考条件生成式 TTS
* 声谱图-声码器 TTS
* 神经编解码器或声码器重合成
* 语音转换或语音到语音

{% hint style="warning" %}
**重要**

无论是否启用了 deepfake 风险检测，都应始终保持谨慎并酌情判断。
{% endhint %}


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://library.zoom.com/technical-library/zh/ai/deepfake-risk-detection.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
