> For the complete documentation index, see [llms.txt](https://library.zoom.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://library.zoom.com/technical-library/es/ai/deepfake-risk-detection.md).

# Detección de riesgo de deepfake

Los avances diarios en la tecnología de IA están dificultando cada vez más distinguir entre personas reales y un impostor; este es un fenómeno conocido como deepfake. Incidentes recientes en el mundo real han demostrado cómo actores malintencionados aprovechan la tecnología deepfake para hacerse pasar por otros, normalmente con fines de lucro o para obtener información confidencial. Debido a los rápidos avances en la IA, los deepfakes están llamados a volverse más comunes, lo que intensificará las amenazas de seguridad asociadas.

Zoom se compromete con la seguridad del usuario, por lo que está introduciendo una solución propia para detectar y notificar a los usuarios sobre posibles riesgos de deepfake en Zoom Meetings: Deepfake Risk Detection.

{% hint style="warning" %}
**Importante**

Está previsto que esta Características se lance en diciembre de 2026 como un SKU de add-on de pago. Póngase en contacto con su representante de Zoom para obtener más detalles.
{% endhint %}

Sigue leyendo para obtener más información sobre la experiencia del cliente, ejemplos del mundo real, el contexto de seguridad y privacidad, y orientación práctica para usuarios y administradores.

¿Qué es la detección de riesgos de deepfake?

Zoom ha desarrollado Deepfake Risk Detection, una metodología patentada, para ayudar a determinar si se pueden presentar riesgos potenciales de deepfake en las reuniones. La solución es nativa de Zoom Meetings, lo que la convierte en una experiencia de usuario integrada sin requerir herramientas externas.

La detección de riesgos de deepfake puede:

* Evalúe la probabilidad de riesgos de audio o video sintéticos
* Notificar a los Participantes habilitados de la reunión cuando se identifiquen riesgos de deepfake
* Mostrar una mensajería clara de su evaluación de un deepfake para Permitir a Participantes evaluar y tomar cualquier medida para mitigar los riesgos

Análisis técnico profundo: el enfoque único de Zoom

Zoom ha creado modelos propietarios de aprendizaje automático para detectar la probabilidad de video y audio sintéticos, en comparación con un humano. Cuando la Detección de riesgo de deepfake de Zoom está activada por el anfitrión o por Participantes habilitados, la tecnología de detección de deepfakes analiza el mosaico del orador activo.

## ¿Cómo ayuda Zoom a detectar deepfakes?

### Detección de video

La Detección de Riesgo de Deepfake de Zoom se ejecuta directamente en la transmisión de video capturada en el Dispositivo del remitente, antes de que entre en la canalización de procesamiento de video, utilizando fotogramas sin procesar del lado del cliente. Esto proporciona una ventaja clave que evita el impacto de la compresión, los artefactos de codificación y decodificación de video de bajo ancho de banda, y otros pasos de procesamiento que degradan la calidad y que podrían ocultar o eliminar artefactos de deepfake.

También diseñamos una arquitectura de Verificación facial de doble flujo. En el lado del receptor, el flujo de video se envía a la nube y se compara con el flujo obtenido del lado del emisor para verificar que ambos flujos sean consistentes. Esto evita que un atacante envíe un flujo de video genuino desde el lado del emisor al servidor de detección de deepfakes mientras entrega un flujo de video deepfake a un destinatario de Zoom. La sincronización temporal mediante marcas de tiempo ayuda a garantizar que los dos flujos de video estén correctamente alineados antes de la comparación.

Una característica clave de eficiencia de la detección de riesgos de deepfakes es **la frecuencia de detección adaptativa**. El sistema empieza con comprobaciones frecuentes cuando un participante se une a una reunión y, a medida que aumenta la confianza, reduce progresivamente la frecuencia con el tiempo. Las tasas de detección también se ajustan dinámicamente según los resultados de verificaciones anteriores: se reducen cuando la confianza es alta y se suspenden cuando los fallos reiterados indican que la señal de video no es fiable. Una capa complementaria de evaluación de calidad analiza el ruido, el brillo, el desenfoque y la confianza en la detección de puntos de referencia antes de ejecutar la detección de deepfakes. Esta capa omite los fotogramas de baja calidad y proporciona al participante instrucciones prácticas para corregir el problema (por ejemplo, mejorar la iluminación o reducir el desenfoque por movimiento), en lugar de desperdiciar recursos de procesamiento en una entrada inutilizable.

En una reunión de Zoom, Zoom controla los filtros de video, los avatares y los Efectos de estudio en la experiencia de la reunión. Cuando Deepfake Risk Detection está habilitada, estas Características específicas se desactivarán durante la reunión para analizar con mayor precisión los flujos subyacentes de audio y video.

{% hint style="info" %}
**Nota**

La mayoría de las características de Apariencia y fondo virtual **son** compatibles con la detección de riesgos de deepfakes. Corrección de pose es una excepción y se desactivará cuando esté habilitada la detección de riesgos de deepfakes.
{% endhint %}

Los elementos de datos de los flujos de video y audio se capturan y se envían a la nube, donde ocurre la detección. Los datos de video y audio y las puntuaciones resultantes se eliminan después de que finaliza la reunión.

### Detección de audio

La Detección de Riesgo de Deepfake de audio de Zoom analiza el audio de cada orador activo en tiempo real en el lado de la nube. El audio de la reunión pasa por el procesamiento de audio Estándar de Zoom antes de llegar al servicio de detección. Algunos de estos procesos Estándar incluyen la cancelación de eco, la supresión de ruido y la codificación de códec. Nuestro modelo de detección se entrena con una amplia gama de condiciones de audio del mundo real, incluido el audio procesado por la propia canalización de Zoom, para ayudar a garantizar que el habla genuina no se marque por error como falsa.

En lugar de analizar continuamente toda la transmisión de audio, el sistema extrae de forma inteligente **segmentos breves de voz** del orador activo para clasificarlos. Una capa de evaluación de calidad analiza las condiciones del audio en tiempo real y excluye automáticamente los segmentos degradados por una mala calidad de red. Esto ayuda a evitar el análisis de entradas poco fiables y a destinar los recursos a tareas más productivas. Una **barrera de reconocimiento de voz** ayuda a garantizar que solo el habla real active el análisis de deepfakes; el audio que no sea habla, como la música o los sonidos de fondo, se excluye automáticamente.

Al igual que con la detección de video, Zoom controla los filtros de audio y los Efectos de estudio en la experiencia de la reunión. Cuando la Detección de riesgo de deepfake está habilitada, estas funciones específicas se desactivan para analizar con mayor precisión las transmisiones de audio subyacentes. Sin embargo, cuando un participante usa el modo avatar, la detección de deepfake de audio continúa funcionando, de modo que la Verificación del orador permanece activo incluso cuando el análisis basado en video no está Disponible.

## Arquitectura

El diagrama a continuación muestra una descripción general de la detección de riesgos de deepfake.

<div data-with-frame="true"><figure><img src="https://1630984505-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2Fceg7QCwwI7tQIjqmJxa5%2Funknown.png?alt=media&amp;token=a6631afe-18af-4350-87a3-44e5c7547a15" alt="Architecture diagram showing data flow from sender to client to Zoom Cloud." height="695" width="624"><figcaption></figcaption></figure></div>

## Experiencia del usuario

Cuando estés en una reunión de Zoom y tengas habilitada la detección de riesgo de deepfake de Zoom, esto es lo que puedes esperar experimentar si se marca un riesgo potencial.

Zoom Deepfake Risk Detection notificará a todos los usuarios habilitados sobre la posible presencia de audio o video sintéticos haciendo lo siguiente:

* Marca al participante sospechoso con un **Riesgo de deepfake** icono
* Mueva a ese participante al cuadrante superior izquierdo de la pantalla
* Mostrar un **Se detectó un riesgo de deepfake** mensaje emergente con un enlace para abrir el **Panel de control de detección de deepfakes**, que proporciona información adicional

La siguiente imagen muestra el icono y la ventana emergente.

<div data-with-frame="true"><figure><img src="https://1630984505-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FxYY0DrODyhfsMeYCSjFV%2Funknown.png?alt=media&amp;token=12dc5921-4999-497f-a05a-983be5458381" alt="Sample image including Deepfake Risk Detection warnings." height="409" width="624"><figcaption></figcaption></figure></div>

El **Panel de control para la detección de deepfakes** proporciona a los usuarios habilitados información adicional, entre la que se incluye:

* El estado de riesgo de **todo** participantes de la reunión
* Los riesgos de detección y los niveles de confianza se muestran para **ambos** flujos de video y audio que proporcionan contexto adicional
* Llamadas a la acción claras, para ayudar a informar a los usuarios sobre los posibles siguientes pasos

Lo siguiente es un ejemplo del Panel de control de detección de deepfakes:

<div data-with-frame="true"><img src="https://1630984505-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FKUPezhc9d7x8UplAwue7%2Funknown.png?alt=media&amp;token=f90c2318-a92d-461d-aa51-b19b20cbe442" alt="" height="574" width="251"></div>

{% hint style="info" %}
**Nota**

Zoom Deepfake Risk Detection también notifica a los usuarios cuando un flujo de datos de video o audio es débil o demasiado deficiente para detectar un deepfake, o si un participante no dio su consentimiento.
{% endhint %}

Casos de uso

Esta sección incluye tres casos de uso comunes para Deepfake Risk Detection. Si tienes un escenario que te gustaría comentar, ponte en contacto con tu representante de Zoom.

### Consultor de Servicios financieros

#### Resumen

Bob Smith es un consultor personal para clientes con un patrimonio elevado en un banco privado. Habla con cinco o seis clientes al día, asesorándolos sobre estrategias patrimoniales y transacciones financieras para gestionar sus finanzas personales.

#### Riesgos

Bob facilita transferencias de dinero en su nombre, lo que puede incluir la apertura de nuevas cuentas, la realización de compras importantes y el pago a proveedores del patrimonio. Bob se basa en su juicio, en el conocimiento personal de sus clientes y en comprobaciones de autorización ligeras.

#### Ejemplo

Un cliente de larga data solicitó una reunión ad hoc con Bob para informarle de una intención de comprar un coche exótico para un familiar. El cliente indicó a Bob que transfiriera $190K al Propietario. Zoom Deepfake Risk Detection alertó a Bob de un alto riesgo de deepfake. Aunque este tipo de compra no era inusual para el cliente, Bob actuó con cautela y realizó una llamada al cliente en su teléfono celular antes de la transferencia real de dinero. El cliente real no tenía conocimiento de la reunión y Bob evitó transferir fondos a un actor malicioso.

### Reclutador de RR. HH.

#### Resumen

Sally Ng es una reclutadora de talento en una Organización de nivel medio, apoyando la contratación de TI para puestos de ingeniería y técnicos. Tiene entre ocho y diez vacantes abiertas en cualquier momento y gestiona el proceso de contratación de principio a fin, desde la identificación de candidatos hasta la negociación de ofertas.

#### Riesgos

Sally es cautelosa durante el proceso de contratación para puestos remotos. Su Organización está haciendo cada vez más ofertas a candidatos en el extranjero. El proceso de selección es intenso, por lo general con cinco o seis entrevistadores adicionales y una Verificación satisfactoria del documento antes de que se complete la oferta final. Los candidatos suelen incorporarse sin una reunión física con nadie.

#### Ejemplo

A mitad de un prometedor proceso de entrevista, Sally se conectó con el candidato por video para informarle de la ronda final de entrevistas. Zoom Deepfake Detection alertó a Sally de un riesgo elevado, incluido audio sintético. Sally cruzó la identidad del candidato con otras fuentes y determinó que el candidato estaba suplantando la presencia en línea del perfil de otra persona. Deepfake Risk Detection pudo evitar una situación en la que un actor malicioso tenía acceso a la infraestructura y al entorno internos de TI de la empresa. Sally evitó posibles ataques de ransomware, puso en riesgo la información de los clientes y el robo de software propietario.

### Gerente de Finanzas

#### Resumen

Tom Cox gestiona un grupo de especialistas de cuenta por pagar para una gran Organización. Su equipo es responsable de pagar a los proveedores que brindan servicios para una de las divisiones de la compañía.

#### Riesgos

La empresa tiene procesos establecidos para garantizar que solo se paguen facturas aprobadas. El nivel de aprobaciones necesario corresponde al importe de la factura. Algunos proveedores brindan servicios críticos que mantienen en funcionamiento a la empresa, como infraestructura y servicios de datos. Los retrasos en el pago podrían causar interrupciones para el cliente, dañando la reputación de la compañía y/o generando multas.

#### Ejemplo

Tom recibió una llamada telefónica improvisada del Vicepresidente de Finanzas de la división. El VP le indicó a Tom que hiciera un pago de 1,2 millones de dólares a un proveedor para un proyecto confidencial. El VP llamó a Tom, ya que el jefe de Tom estaba fuera de la oficina. El pago se había retrasado y debía hacerse hoy o la compañía de Tom incurriría en penalizaciones por retraso. Sospechando, Tom le pidió al VP que pulsara «Unirse» para entrar en una breve reunión de Zoom y verificar que realmente era él. El VP se unió a la reunión y, para Tom, se veía y sonaba idéntico al VP real, salvo que Deepfake Risk Detection le notificó a Tom que probablemente era sintético. Tom se negó a hacer el pago y evitó un error costoso.

## Habilitación y uso

Una vez comprado el add-on, los propietarios de la cuenta y los administradores pueden Habilitar la detección de riesgos de deepfakes en el **grupo** nivel para la Organización. Para activar la Característica, haz lo siguiente:

1. Inicia sesión en el [portal web de Zoom](https://www.zoom.com/).
2. Ve a la sección Administrador. Haz clic en **Gestión de cuentas**, y luego haz clic en **Configuración de la cuenta**.
3. En la barra de navegación superior, haz clic en **General**. Ve a la **Seguridad** sección y activa **Habilitar la detección de riesgos de deepfakes**.

{% hint style="info" %}
**Nota**

Si quieres bloquear este ajuste para que esta Características se inicie automáticamente en todas las reuniones, haz clic en el icono de bloqueo junto al Alternar de la Características. Si prefieres dar a los anfitriones de la reunión y a los usuarios con permisos la opción de activar la Características en una reunión individual, deja el bloqueo abierto.
{% endhint %}

Para activar la detección de riesgos de deepfakes en una reunión, ve al menú de la barra de herramientas inferior y haz clic en el **Detección** icono.

<div data-with-frame="true"><figure><img src="https://1630984505-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2F8jNV0vU542V4RmL0GOgW%2Funknown.png?alt=media&amp;token=d5aa945e-7698-44b0-baa5-67fc36f9310f" alt="Image of the menu, showing the Detection option in the middle of the second row." height="280" width="186"><figcaption></figcaption></figure></div>

Consentimiento

Tanto los anfitriones como los participantes pueden habilitar la Detección de Riesgo de Deepfake para sus reuniones. Se notificará a todos los participantes de la reunión que la Detección de Riesgo de Deepfake está habilitada y se les pedirá que den su consentimiento. Los participantes solo necesitarán dar su consentimiento en el primer uso y su consentimiento se almacenará en Configuración de usuario. Los usuarios siempre pueden cambiar su elección de consentimiento en su portal de Configuración.

<div data-with-frame="true"><figure><img src="https://1630984505-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FjERq2uPA32Ri8PD1vtwV%2Funknown.png?alt=media&amp;token=658db132-011e-42d2-b248-b0d74899af37" alt="Sample Zoom meeting screen displaying a message that &#x22;Deepfake risk detection is on.&#x22;" height="411" width="624"><figcaption></figcaption></figure></div>

## Metodología

Zoom se dedica a garantizar que nuestros Clientes tengan una experiencia de reunión confiable y segura. Como con cualquier solución de mitigación de riesgos, nada es perfecto. Los actores malintencionados evolucionan constantemente y seguirán poniendo a prueba las defensas, por lo que vale la pena tomar medidas activas para proteger su Organización.

Utilizando una combinación de métodos para representar casos reales, realizamos una comparación cara a cara con las principales soluciones de deepfake tanto para video como para audio. Algunos de los métodos que utilizamos incluyen:

**Video**

* Métodos tradicionales de edición y composición basados en gráficos
* Métodos tempranos de aprendizaje profundo, como el intercambio de rostros basado en autoencoders
* Métodos de generación y manipulación basados en GAN
* Métodos de generación/edición basados en difusión
* Enfoques de renderizado neuronal, como NeRF y splatting gaussiano 3D

**Audio**

* TTS generativo condicionado por referencia
* TTS de espectrograma-vocoder
* Resíntesis con códec neuronal o vocoder
* Conversión de voz o de voz a voz

{% hint style="warning" %}
**Importante**

Use siempre precaución y discreción, independientemente de si la detección de riesgo de deepfake está habilitada.
{% endhint %}


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://library.zoom.com/technical-library/es/ai/deepfake-risk-detection.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
