> For the complete documentation index, see [llms.txt](https://library.zoom.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://library.zoom.com/technical-library/zh-tw/ai/deepfake-risk-detection.md).

# 深偽風險偵測

人工智慧技術的日新月異，使得越來越難以辨別某人是真實個體還是冒名者；這種現象稱為深偽（deepfake）。近期的真實世界事件已證明，不法分子如何利用深偽技術冒充他人，通常是為了獲取金錢利益或取得機密資訊。隨著 AI 快速進步，深偽內容勢必會更加常見，進一步加劇相關的安全威脅。

Zoom 致力於保障使用者安全，因此正推出一項專有解決方案，用於在 Zoom 會議中偵測潛在的深偽風險並通知使用者：深偽風險偵測（Deepfake Risk Detection）。

{% hint style="warning" %}
**重要**

此功能預計將於 2026 年 12 月以付費附加 SKU 的形式推出。請聯絡您的 Zoom 代表以了解詳情。
{% endhint %}

請繼續閱讀，進一步了解客戶體驗、真實案例、安全與隱私背景，以及提供給使用者和管理員的實務指引。

什麼是深偽風險偵測？

Zoom 已開發專有方法 Deepfake Risk Detection，以協助判定會議中是否存在潛在的深偽風險。此解決方案原生內建於 Zoom 會議中，無需外部工具即可提供嵌入式使用者體驗。

深偽風險偵測可：

* 評估合成音訊或視訊風險的可能性
* 在偵測到深偽風險時通知已啟用的會議參與者
* 清楚顯示其對深偽內容的評估，讓與會者能夠判斷並採取任何必要行動以降低風險

技術深度解析：Zoom 的獨特方法

Zoom 已建立專有的機器學習模型，用以偵測相較於真人而言，合成視訊與音訊的可能性。當主辦人或已啟用的參與者開啟 Zoom 深偽風險偵測時，深偽偵測技術會分析現正發言者的視窗。

## Zoom 如何協助偵測深偽？

### 視訊偵測

Zoom 深偽風險偵測會直接在傳送端裝置所擷取的視訊串流上執行，在其進入視訊處理流程之前，使用原始客戶端影格進行分析。這帶來一項關鍵優勢，可避免壓縮、低頻寬視訊編碼/解碼產生的失真，以及其他可能遮蔽或移除深偽特徵的降質處理步驟所造成的影響。

我們也設計了雙串流臉部驗證架構。在接收端，視訊串流會傳送至雲端，並與從傳送端取得的串流進行比對，以驗證兩者是否一致。這可防止攻擊者將來自傳送端的真實視訊串流送至深偽偵測伺服器，同時向 Zoom 接收者傳送深偽視訊串流。使用時間戳記進行時間同步，有助於在比對前確保兩個視訊串流正確對齊。

Deepfake 風險偵測的一項重要效率功能是 **自適應偵測頻率**。參與者加入會議時，系統會先進行高頻率檢查，接著隨著信心度逐漸提升，逐步降低檢查頻率。系統也會根據先前的驗證結果動態調整偵測頻率：信心度高時降低頻率；重複失敗顯示視訊串流不可靠時，則暫停偵測。配合使用的品質評估層會在執行深偽偵測前，評估雜訊、亮度、模糊程度及特徵點偵測信心度；略過品質不佳的影格，並向參與者提供可採取的改善指示（例如改善照明或減少動態模糊），避免將運算資源浪費在無法使用的輸入內容上。

在 Zoom 會議中，Zoom 會控制會議體驗中的視訊濾鏡、虛擬人偶與工作室效果。啟用深偽風險偵測時，為了更準確地分析底層音訊與視訊串流，這些特定功能會在會議期間停用。

{% hint style="info" %}
**注意**

外觀與虛擬背景中的大多數功能 **都** 與 Deepfake 風險偵測相容。姿勢校正是例外；啟用 Deepfake 風險偵測時，姿勢校正會停用。
{% endhint %}

會擷取視訊和音訊串流的資料元素並傳送至雲端，在雲端進行偵測。視訊和音訊資料以及產生的分數會在會議結束後刪除。

### 音訊偵測

Zoom 音訊深偽風險偵測會在雲端即時分析每位目前發言者的音訊。會議音訊在抵達偵測服務之前，會先通過 Zoom 的標準音訊處理。這些標準處理包括回音消除、雜訊抑制和編解碼器編碼。我們的偵測模型已針對多種真實世界音訊條件進行訓練，包括經由 Zoom 自家流程處理的音訊，以協助確保不會誤將真實語音標記為偽造。

系統不會持續分析整段音訊串流，而是從目前的發言者擷取 **短語音片段** 進行分類。品質評估層會即時評估音訊狀況，並自動排除因網路品質不佳而失真的片段。如此可避免分析不可靠的輸入，並將資源用於更有效益的用途。 **語音辨識閘道** 可確保只有實際語音會觸發深偽分析；音樂或背景音等非語音音訊則會自動排除。

與視訊偵測類似，Zoom 會控制會議體驗中的音訊濾鏡和工作室效果。啟用深偽風險偵測時，這些特定功能會停用，以便更準確地分析底層音訊串流。然而，當參與者使用虛擬人偶模式時，音訊深偽偵測仍會繼續運作，因此即使無法進行以視訊為基礎的分析，發言者驗證仍會保持啟用。

## 架構

下圖顯示深偽風險偵測的概覽。

<div data-with-frame="true"><figure><img src="https://2668295848-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2Fceg7QCwwI7tQIjqmJxa5%2Funknown.png?alt=media&amp;token=a6631afe-18af-4350-87a3-44e5c7547a15" alt="Architecture diagram showing data flow from sender to client to Zoom Cloud." height="695" width="624"><figcaption></figcaption></figure></div>

## 使用者體驗

當您在 Zoom 會議中並已啟用 Zoom 深偽風險偵測時，如果標記出潛在風險，您可以預期會看到以下情況。

Zoom 深偽風險偵測會透過以下方式通知所有已啟用的使用者，可能存在合成音訊或視訊：

* 以 **深偽風險** 圖示標示疑似參與者
* 將該參與者移至畫面左上象限
* 顯示 **偵測到深偽風險** 快顯視窗，並附上連結，可開啟 **深偽偵測儀表板**以查看其他資訊

以下圖片顯示了圖示與彈出視窗。

<div data-with-frame="true"><figure><img src="https://2668295848-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FxYY0DrODyhfsMeYCSjFV%2Funknown.png?alt=media&amp;token=12dc5921-4999-497f-a05a-983be5458381" alt="Sample image including Deepfake Risk Detection warnings." height="409" width="624"><figcaption></figcaption></figure></div>

「 **深偽偵測儀表板** 」會提供已啟用此功能的使用者其他資訊，包括：

* 所有會議參與者的 **整體** 風險狀態
* 顯示 **視訊與音訊** 串流的偵測風險與信心度，提供更多背景資訊
* 清楚的行動呼籲，以協助告知使用者可能的後續步驟

以下是深偽偵測儀表板的範例：

<div data-with-frame="true"><img src="https://2668295848-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FKUPezhc9d7x8UplAwue7%2Funknown.png?alt=media&amp;token=f90c2318-a92d-461d-aa51-b19b20cbe442" alt="" height="574" width="251"></div>

{% hint style="info" %}
**注意**

如果視訊或音訊資料串流過弱或品質過低而無法偵測深偽，或者參與者未同意，Zoom 深偽風險偵測也會通知使用者。
{% endhint %}

使用案例

本節包含深偽風險偵測的三個常見使用情境。如果您有想討論的情境，請聯絡您的 Zoom 代表。

### 金融服務顧問

#### 概覽

Bob Smith 是一間私人銀行中高淨值客戶的個人顧問。他每天與五到六位客戶交談，為他們提供財富策略與金融交易建議，以管理其個人財務。

#### 風險

Bob 會代客戶處理匯款，這可能包括開立新帳戶、進行大額購買，以及支付遺產受款人。Bob 依賴自己的判斷、對客戶的個人熟悉程度，以及簡單的授權檢查。

#### 範例

一位長期客戶要求與 Bob 臨時會面，告知他將為家人購買一輛稀有跑車的計畫。客戶指示 Bob 匯出 19 萬美元給車主。Zoom 深偽風險偵測向 Bob 發出高風險警示。即使這類購買對該客戶而言並不罕見，Bob 仍保持謹慎，並在實際轉帳前先用手機撥打給客戶。真正的客戶對這場會議毫不知情，而 Bob 成功避免將資金轉給惡意行為者。

### 人資招募專員

#### 概覽

Sally Ng 是一家中型組織的人才招募專員，負責工程與技術職位的 IT 招募。她隨時都有八到十個職缺待補，並端到端處理招募流程，從辨識候選人到協商錄取條件皆由她負責。

#### 風險

Sally 在遠端職位的招募過程中特別謹慎。她的組織越來越常向海外候選人提出錄取。審核流程非常嚴謹，通常會有五到六位額外面試官，並在完成最終錄取前進行文件驗證。候選人常常在未與任何人實體見面的情況下就完成入職。

#### 範例

在一場很有希望的面試流程進行到一半時，Sally 透過視訊與候選人連線，告知他們最後一輪面試。Zoom 深偽偵測向 Sally 警示有升高的風險，包括合成音訊。Sally 將候選人的身分與其他來源交叉比對，判定該候選人正在冒充他人的線上個人檔案存在。深偽風險偵測成功阻止了惡意行為者取得公司內部 IT 基礎架構與環境的情況。Sally 因而避免了可能的勒索軟體攻擊、客戶資訊遭到危及，以及專有軟體遭竊。

### 財務經理

#### 概覽

Tom Cox 管理一家大型組織的應付帳款專員團隊。他的團隊負責向為公司某一事業部提供服務的供應商付款。

#### 風險

公司已建立流程，以確保只支付已核准的發票。所需的核准層級取決於發票金額。有些供應商提供維持公司運作的關鍵服務，例如基礎架構與資料服務。延遲付款可能導致客戶營運中斷，損害公司聲譽，和/或遭受罰款。

#### 範例

Tom 接到該事業部財務副總裁的一通臨時電話。副總裁指示 Tom 向某供應商支付 120 萬美元，用於一個機密專案。由於 Tom 的主管不在辦公室，所以副總裁直接打給 Tom。這筆款項已逾期，今天就必須支付，否則 Tom 的公司將承擔逾期罰款。Tom 心生疑慮，請副總裁加入一場快速的 Zoom 會議，以確認對方真的是本人。副總裁加入會議後，在 Tom 看來外貌與聲音都和真的副總裁一模一樣，唯有深偽風險偵測通知 Tom，這很可能是合成的。Tom 拒絕付款，避免了一次代價高昂的錯誤。

## 啟用與使用

購買附加元件後，帳戶擁有者與管理員即可在組織的 **群組** 層級啟用 Deepfake 風險偵測。若要開啟此功能，請依照下列步驟操作：

1. 登入 [Zoom 網頁入口網站](https://www.zoom.com/).
2. 前往「管理員」區段。按一下 **帳戶管理**，然後按一下 **帳戶設定**.
3. 在頂端導覽列中，按一下 **一般**。前往 **安全性** 區段，並開啟 **啟用深偽風險偵測**.

{% hint style="info" %}
**注意**

如果您希望鎖定此設定，讓此功能在所有會議中自動啟動，請按一下此功能切換旁的鎖定圖示。如果您希望讓會議主持人與具權限的使用者可針對個別會議開啟此功能，請保持鎖定為開放狀態。
{% endhint %}

若要在會議中開啟 Deepfake 風險偵測，請前往底部工具列中的選單，然後按一下 **偵測** 圖示。

<div data-with-frame="true"><figure><img src="https://2668295848-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2F8jNV0vU542V4RmL0GOgW%2Funknown.png?alt=media&amp;token=d5aa945e-7698-44b0-baa5-67fc36f9310f" alt="Image of the menu, showing the Detection option in the middle of the second row." height="280" width="186"><figcaption></figcaption></figure></div>

同意

主持人與參與者都可以為其會議啟用深偽風險偵測。所有會議參與者都會收到深偽風險偵測已啟用的通知，並且需要同意。參與者只需在第一次使用時同意一次，其同意內容會儲存在使用者設定中。使用者隨時都可以在其設定入口網站中變更同意選項。

<div data-with-frame="true"><figure><img src="https://2668295848-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FjERq2uPA32Ri8PD1vtwV%2Funknown.png?alt=media&amp;token=658db132-011e-42d2-b248-b0d74899af37" alt="Sample Zoom meeting screen displaying a message that &#x22;Deepfake risk detection is on.&#x22;" height="411" width="624"><figcaption></figcaption></figure></div>

## 方法

Zoom 致力於確保客戶擁有可信賴且安全的會議體驗。和任何風險緩解方案一樣，沒有任何方案是完美的。惡意行為者不斷演進，也會持續測試防禦，因此採取主動措施保護您的組織是值得的。

我們使用多種方法來呈現真實案例，並針對視訊與音訊與領先的深偽解決方案進行一對一比較。我們所使用的一些方法包括：

**視訊**

* 傳統的圖形編輯與合成方法
* 早期深度學習方法，例如基於自編碼器的換臉
* 基於 GAN 的生成與操控方法
* 基於擴散的生成/編輯方法
* 神經渲染方法，例如 NeRF 與 3D 高斯潑灑

**音訊**

* 以參考條件為基礎的生成式 TTS
* 聲譜圖-聲碼器 TTS
* 神經編解碼器或聲碼器重建
* 語音轉換或語音轉語音

{% hint style="warning" %}
**重要**

無論是否啟用深偽風險偵測，請一律保持謹慎並謹慎判斷。
{% endhint %}


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://library.zoom.com/technical-library/zh-tw/ai/deepfake-risk-detection.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
