> For the complete documentation index, see [llms.txt](https://library.zoom.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://library.zoom.com/technical-library/vi/ai/deepfake-risk-detection.md).

# Phát hiện nguy cơ deepfake

Những tiến bộ hằng ngày trong công nghệ AI đang khiến việc phân biệt giữa cá nhân thật và kẻ mạo danh ngày càng khó hơn; hiện tượng này được gọi là deepfake. Các sự cố thực tế gần đây đã cho thấy các tác nhân xấu lợi dụng công nghệ deepfake để mạo danh người khác, thường nhằm trục lợi tài chính hoặc lấy thông tin mật. Do AI tiến bộ nhanh chóng, deepfake sẽ ngày càng phổ biến hơn, làm gia tăng các mối đe dọa an ninh liên quan.

Zoom cam kết bảo đảm an toàn cho người dùng, vì vậy Zoom đang giới thiệu một giải pháp độc quyền để phát hiện và thông báo cho người dùng về các rủi ro deepfake tiềm ẩn trong Zoom Meetings: Deepfake Risk Detection.

{% hint style="warning" %}
**Quan trọng**

Tính năng này dự kiến sẽ được phát hành vào tháng 12 năm 2026 dưới dạng một tiện ích mở rộng trả phí SKU. Liên hệ đại diện Zoom của bạn để biết chi tiết.
{% endhint %}

Hãy tiếp tục đọc để tìm hiểu thêm về trải nghiệm khách hàng, các ví dụ thực tế, bối cảnh an ninh và quyền riêng tư, cũng như hướng dẫn thực tiễn cho người dùng và quản trị viên.

Phát hiện rủi ro deepfake là gì?

Zoom đã phát triển Deepfake Risk Detection, một phương pháp độc quyền, để giúp xác định liệu các rủi ro deepfake tiềm ẩn có được trình bày trong các cuộc họp hay không. Giải pháp này được tích hợp sẵn trong Zoom Meetings, mang đến trải nghiệm người dùng nhúng mà không cần công cụ bên ngoài.

Phát hiện rủi ro deepfake có thể:

* Đánh giá khả năng có rủi ro âm thanh hoặc video tổng hợp
* Thông báo cho những người tham gia cuộc họp đã bật khi phát hiện rủi ro deepfake
* Hiển thị thông điệp rõ ràng về đánh giá của nó đối với một deepfake để cho phép người tham gia đánh giá và thực hiện bất kỳ hành động nào nhằm giảm thiểu rủi ro

Phân tích kỹ thuật chuyên sâu: Cách tiếp cận độc đáo của Zoom

Zoom đã tạo ra các mô hình học máy độc quyền để phát hiện khả năng video và âm thanh tổng hợp, so với con người. Khi Tính năng Phát hiện Rủi ro Deepfake của Zoom được bật bởi người chủ trì hoặc Người tham gia được bật, công nghệ phát hiện deepfake sẽ phân tích ô diễn giả đang trình bày.

## Zoom giúp phát hiện deepfake như thế nào?

### Phát hiện video

Zoom Deepfake Risk Detection được chạy trực tiếp trên luồng video được ghi lại tại Thiết bị của người gửi, trước khi nó đi vào đường ống xử lý video, bằng cách sử dụng các khung thô phía máy khách. Điều này mang lại một lợi thế quan trọng, giúp tránh tác động của việc nén, các tạo tác mã hóa/giải mã video băng thông thấp và các bước xử lý khác làm giảm chất lượng có thể che khuất hoặc loại bỏ các dấu hiệu deepfake.

Chúng tôi cũng đã thiết kế một kiến trúc Xác minh khuôn mặt hai luồng. Ở phía người nhận, luồng video được gửi lên đám mây và so sánh với luồng thu được từ phía người gửi để Xác minh rằng cả hai luồng nhất quán. Điều này ngăn kẻ tấn công gửi một luồng video thật từ phía người gửi đến máy chủ phát hiện deepfake trong khi lại chuyển một luồng video deepfake đến người nhận Zoom. Đồng bộ hóa theo thời gian bằng dấu thời gian giúp đảm bảo rằng hai luồng video được căn chỉnh đúng trước khi so sánh.

Một tính năng nâng cao hiệu quả quan trọng trong tính năng Phát hiện nguy cơ deepfake là **tần suất phát hiện thích ứng**. Hệ thống bắt đầu bằng các lượt kiểm tra với tần suất cao khi người tham gia tham gia cuộc họp, sau đó giảm dần tần suất theo thời gian khi mức độ tin cậy tăng lên. Tần suất phát hiện cũng được điều chỉnh linh hoạt dựa trên kết quả xác minh trước đó — giảm khi độ tin cậy cao và tạm dừng phát hiện khi các lần thất bại liên tiếp cho thấy luồng video không đáng tin cậy. Một lớp đánh giá chất lượng bổ trợ sẽ đánh giá nhiễu, độ sáng, độ mờ và độ tin cậy của việc phát hiện điểm mốc trước khi chạy tính năng phát hiện deepfake, bỏ qua các khung hình chất lượng thấp và gửi cho người tham gia hướng dẫn khắc phục có thể thực hiện (ví dụ: cải thiện ánh sáng hoặc giảm nhòe do chuyển động), thay vì lãng phí tài nguyên tính toán cho dữ liệu đầu vào không thể sử dụng.

Trong một cuộc họp Zoom, Zoom kiểm soát các bộ lọc video, avatar và Hiệu ứng studio trong trải nghiệm cuộc họp. Khi Phát hiện rủi ro deepfake được bật, các tính năng cụ thể này sẽ bị vô hiệu hóa trong suốt thời lượng cuộc họp để phân tích chính xác hơn các luồng âm thanh và video cơ bản.

{% hint style="info" %}
**Lưu ý**

Hầu hết các tính năng trong mục Giao diện và Nền ảo **đều** tương thích với tính năng Phát hiện nguy cơ deepfake. Hiệu chỉnh tư thế là trường hợp ngoại lệ và sẽ bị tắt khi bật tính năng Phát hiện nguy cơ deepfake.
{% endhint %}

Các thành phần dữ liệu của luồng video và âm thanh được ghi lại và gửi lên đám mây, nơi diễn ra quá trình phát hiện. Dữ liệu video và âm thanh cùng các điểm số kết quả sẽ bị xóa sau khi cuộc họp kết thúc.

### Phát hiện âm thanh

Phát hiện rủi ro deepfake âm thanh của Zoom phân tích âm thanh của từng diễn giả đang trình bày theo thời gian thực ở phía đám mây. Âm thanh cuộc họp đi qua quá trình xử lý âm thanh tiêu chuẩn của Zoom trước khi đến dịch vụ phát hiện. Một vài quy trình tiêu chuẩn này bao gồm khử tiếng vọng, giảm tạp âm và mã hóa codec. Mô hình phát hiện của chúng tôi được huấn luyện trên nhiều điều kiện âm thanh thực tế, bao gồm âm thanh được xử lý bởi chính đường dẫn của Zoom, để giúp đảm bảo rằng giọng nói thật không bị gắn nhầm là giả.

Thay vì liên tục phân tích toàn bộ luồng âm thanh, hệ thống sẽ thông minh trích xuất **các đoạn lời nói ngắn** từ diễn giả đang trình bày để phân loại. Một lớp đánh giá chất lượng sẽ đánh giá điều kiện âm thanh theo thời gian thực và tự động loại trừ các đoạn bị suy giảm do chất lượng mạng kém. Điều này giúp tránh phân tích dữ liệu đầu vào không đáng tin cậy và dành tài nguyên cho các tác vụ hữu ích hơn. Một **bộ lọc nhận dạng lời nói** giúp đảm bảo chỉ lời nói thực sự mới kích hoạt quá trình phân tích deepfake; âm thanh không phải lời nói, chẳng hạn như nhạc hoặc tiếng ồn nền, sẽ tự động bị loại trừ.

Tương tự như phát hiện video, Zoom kiểm soát các bộ lọc âm thanh và Hiệu ứng studio trong trải nghiệm cuộc họp. Khi Phát hiện rủi ro deepfake được bật, các tính năng cụ thể này sẽ bị vô hiệu hóa để phân tích chính xác hơn các luồng âm thanh cơ bản. Tuy nhiên, khi một người tham gia sử dụng chế độ avatar, tính năng phát hiện deepfake âm thanh vẫn tiếp tục hoạt động, để việc xác minh người nói vẫn được duy trì ngay cả khi phân tích dựa trên video không khả dụng.

## Kiến trúc

Hình dưới đây cho thấy tổng quan về Phát hiện rủi ro deepfake.

<div data-with-frame="true"><figure><img src="https://2441790884-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2Fceg7QCwwI7tQIjqmJxa5%2Funknown.png?alt=media&amp;token=a6631afe-18af-4350-87a3-44e5c7547a15" alt="Architecture diagram showing data flow from sender to client to Zoom Cloud." height="695" width="624"><figcaption></figcaption></figure></div>

## Trải nghiệm người dùng

Khi bạn đang ở trong một cuộc họp Zoom và đã bật Phát hiện rủi ro deepfake của Zoom, đây là những gì bạn có thể mong đợi nếu một rủi ro tiềm ẩn được gắn cờ.

Phát hiện rủi ro deepfake của Zoom sẽ thông báo cho tất cả người dùng đã bật về khả năng có âm thanh hoặc video tổng hợp bằng cách thực hiện như sau:

* Gắn cờ người tham gia bị nghi ngờ bằng biểu tượng **Nguy cơ deepfake** &#x20;
* Di chuyển người tham gia đó lên ô góc trên bên trái của màn hình
* Hiển thị cửa sổ bật lên **Đã phát hiện nguy cơ deepfake** có liên kết để mở **Bảng điều khiển phát hiện deepfake**, nơi cung cấp thêm thông tin

Hình ảnh sau đây cho thấy biểu tượng và cửa sổ bật lên.

<div data-with-frame="true"><figure><img src="https://2441790884-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FxYY0DrODyhfsMeYCSjFV%2Funknown.png?alt=media&amp;token=12dc5921-4999-497f-a05a-983be5458381" alt="Sample image including Deepfake Risk Detection warnings." height="409" width="624"><figcaption></figcaption></figure></div>

&#x20; **Bảng điều khiển phát hiện deepfake** cung cấp cho người dùng đã bật tính năng thêm thông tin, bao gồm:

* Trạng thái nguy cơ của **tất cả** người tham gia cuộc họp
* Nguy cơ phát hiện và mức độ tin cậy được hiển thị cho **cả** luồng video lẫn âm thanh, cung cấp thêm ngữ cảnh
* Các lời kêu gọi hành động rõ ràng, nhằm giúp thông báo cho người dùng về các bước tiếp theo tiềm năng

Hình sau đây là một ví dụ về bảng điều khiển phát hiện deepfake:

<div data-with-frame="true"><img src="https://2441790884-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FKUPezhc9d7x8UplAwue7%2Funknown.png?alt=media&amp;token=f90c2318-a92d-461d-aa51-b19b20cbe442" alt="" height="574" width="251"></div>

{% hint style="info" %}
**Lưu ý**

Phát hiện rủi ro deepfake của Zoom cũng thông báo cho người dùng khi luồng dữ liệu video hoặc âm thanh yếu hoặc quá kém để phát hiện deepfake, hoặc nếu một người tham gia không đồng ý.
{% endhint %}

Các trường hợp sử dụng

Phần này bao gồm ba trường hợp sử dụng phổ biến cho Phát hiện rủi ro deepfake. Nếu bạn có một kịch bản muốn thảo luận, hãy liên hệ đại diện Zoom của bạn.

### Tư vấn viên Dịch vụ tài chính

#### Tổng quan

Bob Smith là một cố vấn cá nhân cho các khách hàng giá trị tài sản ròng cao tại một ngân hàng tư nhân. Ông nói chuyện với năm hoặc sáu khách hàng mỗi ngày, tư vấn cho họ về chiến lược quản lý tài sản và giao dịch tài chính để quản lý tài chính cá nhân.

#### Rủi ro

Bob thay mặt họ tạo điều kiện cho việc chuyển tiền, bao gồm mở tài khoản mới, thực hiện các giao dịch mua lớn và thanh toán cho các nhà cung cấp dịch vụ cho di sản. Bob dựa vào phán đoán của mình, tự biết rõ các khách hàng của mình và các bước kiểm tra ủy quyền đơn giản.

#### Ví dụ

Một khách hàng lâu năm đã yêu cầu một cuộc họp đột xuất với Bob để thông báo cho ông về ý định mua một chiếc xe hơi hạng sang cho một thành viên gia đình. Khách hàng chỉ thị Bob chuyển khoản 190 nghìn đô la cho chủ sở hữu. Phát hiện rủi ro deepfake của Zoom đã cảnh báo Bob về nguy cơ deepfake cao. Mặc dù loại giao dịch mua này không phải là hiếm đối với khách hàng, Bob đã thận trọng và gọi cho khách hàng trên điện thoại di động của mình trước khi thực sự chuyển tiền. Khách hàng thật không biết về cuộc họp đó và Bob đã tránh chuyển tiền cho kẻ xấu.

### Nhà tuyển dụng nhân sự

#### Tổng quan

Sally Ng là một nhà tuyển dụng nhân tài trong một Tổ chức tầm trung, hỗ trợ tuyển dụng CNTT cho các vị trí kỹ thuật và kỹ sư. Cô ấy có tám đến mười vị trí tuyển dụng ở bất kỳ thời điểm nào và xử lý quy trình tuyển dụng từ đầu đến cuối, từ xác định ứng viên đến đàm phán đề nghị.

#### Rủi ro

Sally thận trọng trong quá trình tuyển dụng cho các vị trí từ xa. Tổ chức của cô ấy ngày càng đưa ra đề nghị cho các ứng viên ở nước ngoài. Quy trình thẩm định rất gắt gao, thường có thêm năm hoặc sáu người phỏng vấn và xác minh tài liệu thành công trước khi đề nghị cuối cùng được hoàn tất. Các ứng viên thường được tiếp nhận mà không gặp trực tiếp ai.

#### Ví dụ

Giữa chừng một quy trình phỏng vấn đầy hứa hẹn, Sally đã kết nối với ứng viên qua video để thông báo cho họ về vòng phỏng vấn cuối cùng. Phát hiện deepfake của Zoom đã cảnh báo Sally về nguy cơ gia tăng, bao gồm cả âm thanh tổng hợp. Sally đối chiếu danh tính của ứng viên với các nguồn khác và xác định rằng ứng viên đang giả làm sự hiện diện hồ sơ trực tuyến của người khác. Phát hiện rủi ro deepfake đã có thể ngăn chặn một tình huống trong đó kẻ xấu có quyền truy cập vào cơ sở hạ tầng CNTT và môi trường nội bộ của công ty. Sally đã ngăn chặn các cuộc tấn công ransomware có thể xảy ra, làm lộ thông tin khách hàng và hành vi trộm cắp phần mềm độc quyền.

### Quản lý Tài chính

#### Tổng quan

Tom Cox quản lý một nhóm chuyên viên công nợ phải trả cho một Tổ chức lớn. Nhóm của ông chịu trách nhiệm thanh toán cho các nhà cung cấp dịch vụ cho một trong những bộ phận của công ty.

#### Rủi ro

Công ty có các quy trình sẵn có để đảm bảo rằng chỉ các hóa đơn đã được phê duyệt mới được thanh toán. Mức độ phê duyệt cần thiết tương ứng với số tiền hóa đơn. Một số nhà cung cấp cung cấp các dịch vụ thiết yếu giúp công ty vận hành, chẳng hạn như cơ sở hạ tầng và dịch vụ dữ liệu. Thanh toán trễ có thể dẫn đến gián đoạn cho khách hàng, làm tổn hại danh tiếng của công ty và/hoặc bị phạt.

#### Ví dụ

Tom nhận được một cuộc gọi điện thoại đột xuất từ Phó Chủ tịch Tài chính của bộ phận. Phó chủ tịch chỉ thị Tom thực hiện một khoản thanh toán 1,2 triệu đô la cho một nhà cung cấp cho một dự án mật. Phó chủ tịch gọi cho Tom vì sếp của Tom đang không có mặt ở văn phòng. Khoản thanh toán đã trễ và cần phải được thực hiện hôm nay nếu không công ty của Tom sẽ bị phạt chậm thanh toán. Vì nghi ngờ, Tom yêu cầu Phó chủ tịch tham gia một cuộc họp Zoom nhanh để xác minh rằng đó thực sự là ông ấy. Phó chủ tịch tham gia cuộc họp và, đối với Tom, trông và nghe giống hệt Phó chủ tịch thật, ngoại trừ việc Phát hiện rủi ro deepfake thông báo cho Tom rằng đó có khả năng là nội dung tổng hợp. Tom từ chối thực hiện khoản thanh toán và tránh được một sai lầm tốn kém.

## Kích hoạt và sử dụng

Sau khi mua tiện ích mở rộng, Chủ sở hữu tài khoản và Quản trị viên có thể bật tính năng Phát hiện nguy cơ deepfake ở cấp **nhóm** cho Tổ chức. Để bật tính năng này, hãy làm theo các bước sau:

1. Đăng nhập vào [Cổng thông tin web của Zoom](https://www.zoom.com/).
2. Đi đến mục Quản trị. Nhấp vào **Quản lý tài khoản**, sau đó nhấp vào **Cài đặt tài khoản**.
3. Trên thanh điều hướng phía trên, nhấp vào **Chung**. Đi đến mục **Bảo mật** và bật **Bật tính năng phát hiện nguy cơ deepfake**.

{% hint style="info" %}
**Lưu ý**

Nếu bạn muốn khóa Cài đặt này để tính năng này tự động bắt đầu trong tất cả các cuộc họp, hãy nhấp vào biểu tượng khóa bên cạnh nút bật/tắt tính năng. Nếu bạn muốn thay vào đó cho phép người chủ trì cuộc họp và người dùng đủ điều kiện có tùy chọn bật tính năng theo từng cuộc họp riêng lẻ, hãy để khóa mở.
{% endhint %}

Để bật tính năng Phát hiện nguy cơ deepfake trong cuộc họp, hãy đi đến menu trên thanh công cụ phía dưới và nhấp vào biểu tượng **Phát hiện** .

<div data-with-frame="true"><figure><img src="https://2441790884-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2F8jNV0vU542V4RmL0GOgW%2Funknown.png?alt=media&amp;token=d5aa945e-7698-44b0-baa5-67fc36f9310f" alt="Image of the menu, showing the Detection option in the middle of the second row." height="280" width="186"><figcaption></figcaption></figure></div>

Đồng ý

Cả người chủ trì lẫn người tham gia đều có thể bật Phát hiện rủi ro deepfake cho các cuộc họp của họ. Tất cả người tham gia cuộc họp sẽ được thông báo rằng Phát hiện rủi ro deepfake đã được bật và sẽ được yêu cầu đồng ý. Người tham gia chỉ cần đồng ý khi sử dụng lần đầu và sự đồng ý của họ sẽ được lưu trong Cài đặt người dùng. Người dùng luôn có thể thay đổi lựa chọn đồng ý của mình trong cổng Cài đặt của họ.

<div data-with-frame="true"><figure><img src="https://2441790884-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FjERq2uPA32Ri8PD1vtwV%2Funknown.png?alt=media&amp;token=658db132-011e-42d2-b248-b0d74899af37" alt="Sample Zoom meeting screen displaying a message that &#x22;Deepfake risk detection is on.&#x22;" height="411" width="624"><figcaption></figcaption></figure></div>

## Phương pháp

Zoom dành riêng cho việc đảm bảo khách hàng của chúng tôi có trải nghiệm cuộc họp an toàn và đáng tin cậy. Giống như bất kỳ giải pháp giảm thiểu rủi ro nào, không có gì là hoàn hảo. Kẻ xấu luôn tiến hóa và sẽ tiếp tục thử các biện pháp phòng thủ, vì vậy đáng để thực hiện các biện pháp chủ động để bảo vệ Tổ chức của bạn.

Sử dụng kết hợp các phương pháp để biểu diễn các trường hợp thực tế, chúng tôi đã thực hiện so sánh trực tiếp với các giải pháp deepfake hàng đầu cho cả video và âm thanh. Một số phương pháp chúng tôi đã sử dụng bao gồm:

**Video**

* Các phương pháp chỉnh sửa và ghép nối dựa trên đồ họa truyền thống
* Các phương pháp học sâu giai đoạn đầu, chẳng hạn như hoán đổi khuôn mặt dựa trên bộ mã tự động
* Các phương pháp tạo và thao tác dựa trên GAN
* Các phương pháp tạo/chỉnh sửa dựa trên khuếch tán
* Các phương pháp kết xuất thần kinh, chẳng hạn như NeRF và rải Gaussian 3D

**Âm thanh**

* TTS tạo sinh có điều kiện tham chiếu
* TTS vocoder phổ tần
* Tổng hợp lại bằng codec thần kinh hoặc vocoder
* Chuyển đổi giọng nói hoặc lời nói sang lời nói

{% hint style="warning" %}
**Quan trọng**

Luôn thận trọng và cân nhắc, bất kể tính năng phát hiện rủi ro deepfake có được bật hay không.
{% endhint %}


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://library.zoom.com/technical-library/vi/ai/deepfake-risk-detection.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
