> For the complete documentation index, see [llms.txt](https://library.zoom.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://library.zoom.com/technical-library/fr/ai/deepfake-risk-detection.md).

# Détection des risques liés aux deepfakes

Les progrès quotidiens de la technologie de l’IA rendent de plus en plus difficile la distinction entre de véritables individus et un imposteur ; ce phénomène est connu sous le nom de deepfake. De récents incidents réels ont montré comment des acteurs malveillants exploitent la technologie deepfake pour usurper l’identité d’autrui, généralement à des fins financières ou pour obtenir des informations confidentielles. En raison des avancées rapides de l’IA, les deepfakes sont appelés à devenir plus courants, ce qui aggrave les menaces de sécurité associées.

Zoom s’engage pour la sécurité des utilisateurs, c’est pourquoi l’entreprise introduit une solution propriétaire pour détecter et avertir les utilisateurs des risques potentiels de deepfake dans Zoom Meetings : Deepfake Risk Detection.

{% hint style="warning" %}
**Important**

Cette Fonctionnalités est prévue pour être lancée en décembre 2026 sous la forme d’un SKU de Module d’extension payant. Contactez votre représentant Zoom pour plus de détails.
{% endhint %}

Poursuivez votre lecture pour En savoir plus sur l’expérience client, des exemples concrets, le contexte de sécurité et de confidentialité, ainsi que des conseils pratiques pour les utilisateurs et les administrateurs.

Qu'est-ce que la détection des risques de deepfake ?

Zoom a développé Deepfake Risk Detection, une méthodologie propriétaire, pour aider à déterminer si des risques potentiels de deepfake sont présents dans les réunions. La solution est native à Zoom Meetings, ce qui en fait une expérience utilisateur intégrée sans nécessiter d’outils externes.

La détection des risques de deepfake peut :

* Évaluer la probabilité de risques audio ou vidéo synthétiques
* Notifier les participants à la réunion activés lorsque des risques de deepfake sont identifiés
* Afficher un message clair de son évaluation d’un deepfake afin de permettre aux Participants de l’évaluer et de prendre toute mesure pour atténuer les risques

Analyse technique approfondie : l’approche unique de Zoom

Zoom a créé des modèles propriétaires d’apprentissage automatique pour détecter la probabilité de vidéo et d’audio synthétiques, par rapport à un être humain. Lorsque la détection des risques de deepfake Zoom est activée par l’hôte ou les participants activés, la technologie de détection des deepfakes analyse la vignette de l’intervenant actif.

## Comment Zoom aide-t-il à détecter les deepfakes ?

### Détection vidéo

Zoom Deepfake Risk Detection s’exécute directement sur le flux vidéo capturé sur l’Appareil de l’expéditeur, avant son entrée dans le pipeline de traitement vidéo, en utilisant des images brutes côté client. Cela offre un avantage clé qui évite l’impact de la compression, des artefacts d’encodage/décodage vidéo à faible bande passante et d’autres étapes de traitement dégradant la qualité, qui pourraient masquer ou supprimer des artefacts de deepfake.

Nous avons également conçu une architecture de vérification faciale à double flux. Côté réception, le flux vidéo est envoyé vers le cloud et comparé au flux obtenu côté expéditeur afin de vérifier que les deux flux sont cohérents. Cela empêche un attaquant d’envoyer un flux vidéo authentique depuis le côté expéditeur au serveur de détection de deepfake tout en livrant un flux vidéo deepfake à un destinataire Zoom. La synchronisation temporelle à l’aide d’horodatages aide à garantir que les deux flux vidéo sont correctement alignés avant la comparaison.

Une Fonctionnalités essentielle pour optimiser l’efficacité de la détection des risques de deepfake est la **fréquence de détection adaptative**. Le système commence par effectuer des vérifications fréquentes lorsqu’un participant rejoint une réunion, puis réduit progressivement leur fréquence à mesure que le niveau de confiance augmente. La fréquence des détections est également ajustée de manière dynamique en fonction des résultats des vérifications précédentes : elle diminue lorsque le niveau de confiance est élevé, et la détection est suspendue lorsque des échecs répétés indiquent que le flux vidéo n’est pas fiable. Avant de lancer la détection de deepfake, une couche complémentaire d’évaluation de la qualité examine le bruit, la luminosité, le flou et le niveau de confiance de la détection des points de repère. Elle ignore les images de mauvaise qualité et fournit au participant des instructions concrètes pour y remédier, par exemple améliorer l’éclairage ou réduire le flou de mouvement, plutôt que de gaspiller des ressources de Calculateur sur des données inutilisables.

Dans une réunion Zoom, Zoom contrôle les filtres vidéo, les avatars et les Effets studio dans l’expérience de réunion. Lorsque Deepfake Risk Detection est activé, ces Fonctionnalités spécifiques seront désactivées pendant la durée de la réunion afin d’analyser plus précisément les flux audio et vidéo sous-jacents.

{% hint style="info" %}
**Remarque**

La plupart des Fonctionnalités sous Apparence et arrière-plan virtuel **sont** compatibles avec la détection des risques de deepfake. La correction de la posture fait exception et sera désactivée lorsque la détection des risques de deepfake est activée.
{% endhint %}

Les éléments de données des flux vidéo et audio sont capturés et envoyés au cloud, où la détection a lieu. Les données vidéo et audio ainsi que les scores obtenus sont supprimés après la fin de la réunion.

### Détection audio

La détection des risques de deepfake audio de Zoom analyse l'audio de chaque intervenant actif en temps réel côté cloud. L'audio de la réunion passe par le traitement audio standard de Zoom avant d'atteindre le service de détection. Quelques-uns de ces processus standard incluent l'annulation d'écho, la suppression du bruit et l'encodage du codec. Notre modèle de détection est entraîné sur un large éventail de conditions audio réelles, y compris l'audio traité par la propre chaîne de traitement de Zoom, afin de garantir que la parole authentique ne soit pas signalée à tort comme fausse.

Plutôt que d’analyser en continu l’intégralité du flux audio, le système extrait intelligemment de **courts segments de parole** de l’intervenant actif pour les classer. Une couche d’évaluation de la qualité examine les conditions audio en temps réel et exclut automatiquement les segments dégradés par une mauvaise qualité de réseau. Cela évite d’analyser des données peu fiables et permet de consacrer les ressources à des usages plus productifs. Un **filtre de reconnaissance vocale** contribue à garantir que seule la parole déclenche l’analyse de deepfake ; les sons autres que la parole, comme la musique ou les bruits de fond, sont automatiquement exclus.

Comme pour la détection vidéo, Zoom contrôle les filtres audio et les Effets studio dans l’expérience de réunion. Lorsque la détection des risques de deepfake est activée, ces fonctionnalités spécifiques sont désactivées afin d’analyser plus précisément les flux audio sous-jacents. Toutefois, lorsqu’un participant utilise le mode avatar, la détection de deepfakes audio continue de fonctionner, afin que la vérification du locuteur reste Actif même lorsque l’analyse basée sur la vidéo n’est pas Disponible.

## Architecture

Le diagramme ci-dessous présente un aperçu de la détection des risques de deepfake.

<div data-with-frame="true"><figure><img src="https://4108585137-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2Fceg7QCwwI7tQIjqmJxa5%2Funknown.png?alt=media&amp;token=a6631afe-18af-4350-87a3-44e5c7547a15" alt="Architecture diagram showing data flow from sender to client to Zoom Cloud." height="695" width="624"><figcaption></figcaption></figure></div>

## Expérience utilisateur

Lorsque vous êtes dans une réunion Zoom et que la détection des risques de deepfake Zoom est activée, voici ce à quoi vous pouvez vous attendre si un risque potentiel est signalé.

La détection des risques de deepfake Zoom notifiera tous les utilisateurs activés de la présence potentielle de contenu audio ou vidéo synthétique en procédant comme suit :

* Signaler le participant suspect avec l’indicateur **Risque de deepfake** sous forme d’icône
* Déplacer ce participant dans le quadrant supérieur gauche de l’écran
* Afficher une fenêtre contextuelle **Risque de deepfake détecté** contenant un lien permettant d’ouvrir le **Tableau de bord de détection des deepfakes**, qui fournit des informations supplémentaires

L'image suivante montre l'icône et la popup.

<div data-with-frame="true"><figure><img src="https://4108585137-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FxYY0DrODyhfsMeYCSjFV%2Funknown.png?alt=media&amp;token=12dc5921-4999-497f-a05a-983be5458381" alt="Sample image including Deepfake Risk Detection warnings." height="409" width="624"><figcaption></figcaption></figure></div>

Le **Tableau de bord de détection des deepfakes** fournit aux utilisateurs autorisés des informations supplémentaires, notamment :

* Le statut de risque de **tous** les participants à la réunion
* Les risques détectés et les niveaux de confiance sont affichés pour **les deux** flux, vidéo et audio, afin de fournir davantage de contexte
* Des appels à l’action clairs, afin d’aider à informer les utilisateurs des prochaines étapes potentielles

Voici un exemple du Tableau de bord de détection des deepfakes :

<div data-with-frame="true"><img src="https://4108585137-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FKUPezhc9d7x8UplAwue7%2Funknown.png?alt=media&amp;token=f90c2318-a92d-461d-aa51-b19b20cbe442" alt="" height="574" width="251"></div>

{% hint style="info" %}
**Remarque**

Zoom Deepfake Risk Detection avertit également les utilisateurs lorsqu’un flux de données vidéo ou audio est faible ou de qualité insuffisante pour détecter un deepfake, ou si un participant n’a pas consenti.
{% endhint %}

Cas d’utilisation

Cette section comprend trois cas d’utilisation courants de Deepfake Risk Detection. Si vous avez un scénario dont vous souhaitez discuter, veuillez prendre contact avec votre représentant Zoom.

### Consultant en Services financiers

#### Vue d’ensemble

Bob Smith est un consultant personnel pour des Clients fortunés dans une banque privée. Il s’entretient avec cinq ou six clients par jour, en leur conseillant des stratégies patrimoniales et des transactions financières pour gérer leurs finances personnelles.

#### Risques

Bob facilite les transferts d’argent en leur nom, ce qui peut inclure l’ouverture de nouveaux comptes, la réalisation de gros achats et le paiement des fournisseurs de succession. Bob s’appuie sur son jugement, connaissant personnellement ses clients, et sur de simples contrôles d’autorisation.

#### Exemple

Un client de longue date a demandé une réunion improvisée avec Bob pour l’informer de l’intention d’acheter une voiture exotique pour un membre de sa famille. Le client a demandé à Bob de virer 190 000 $ au propriétaire. Zoom Deepfake Risk Detection a alerté Bob d’un risque élevé de deepfake. Même si le fait d’acheter ce type de voiture n’était pas inhabituel pour le client, Bob a fait preuve de prudence et a appelé le client sur son téléphone portable avant le transfert d’argent effectif. Le vrai client n’avait aucune connaissance de la réunion et Bob a évité de transférer des fonds à un acteur malveillant.

### Recruteur RH

#### Vue d’ensemble

Sally Ng est une recruteuse de talents dans une organisation de niveau intermédiaire, chargée du recrutement informatique pour des postes d’ingénierie et techniques. Elle a huit à dix postes ouverts à tout moment et gère le processus de recrutement de bout en bout, de l’identification des candidats à la négociation des offres.

#### Risques

Sally est prudente pendant le processus de recrutement pour des postes à distance. Son organisation fait de plus en plus d’offres à des candidats à l’étranger. Le processus de sélection est intense, généralement avec cinq ou six intervieweurs supplémentaires et une vérification réussie d’un document avant que l’offre finale ne soit finalisée. Les candidats sont souvent intégrés sans rencontrer quelqu’un physiquement.

#### Exemple

À mi-parcours d’un processus d’entretien prometteur, Sally a contacté le candidat en vidéo pour l’informer de la dernière étape de l’entretien. Zoom Deepfake Detection a alerté Sally d’un risque accru, y compris un audio synthétique. Sally a recoupé l’identité du candidat avec d’autres sources et a déterminé que le candidat se faisait passer pour la présence d’un profil en ligne d’une autre personne. Deepfake Risk Detection a permis d’éviter une situation dans laquelle un acteur malveillant aurait eu accès à l’infrastructure informatique interne et à l’environnement de l’entreprise. Sally a empêché d’éventuelles attaques par ransomware, la compromission d’informations client et le vol de logiciels propriétaires.

### Responsable des Finances

#### Vue d’ensemble

Tom Cox dirige un groupe de spécialistes des comptes fournisseurs pour une grande organisation. Son équipe est chargée de payer les fournisseurs qui fournissent des services pour l’une des divisions de l’entreprise.

#### Risques

L’entreprise a mis en place des processus pour garantir que seules les factures approuvées soient payées. Le niveau d’approbation requis correspond au montant de la facture. Certains fournisseurs fournissent des services essentiels qui maintiennent l’entreprise en activité, comme l’infrastructure et les services de données. Les paiements tardifs pourraient entraîner des perturbations pour les clients, nuire à la réputation de l’entreprise et/ou entraîner des amendes.

#### Exemple

Tom a reçu un appel téléphonique impromptu du vice-président des Finances de la division. Le vice-président a demandé à Tom d’effectuer un paiement de 1,2 M$ à un fournisseur pour un projet confidentiel. Le vice-président a appelé Tom, car le supérieur de Tom était absent du bureau. Le paiement était en retard et devait être effectué aujourd’hui, sinon l’entreprise de Tom encourrait des pénalités de retard. Soupçonneux, Tom a demandé au vice-président de participer à une courte réunion Zoom afin de vérifier que c’était bien lui. Le vice-président a rejoint la réunion et, pour Tom, avait exactement la même apparence et la même voix que le vrai vice-président, sauf que Deepfake Risk Detection a informé Tom qu’il s’agissait probablement d’un contenu synthétique. Tom a refusé d’effectuer le paiement et a évité une erreur coûteuse.

## Activation et utilisation

Une fois le Module d'extension acheté, les propriétaires de compte et les administrateurs peuvent Activer la détection des risques de deepfake au niveau du **groupe** pour l’organisation. Pour activer cette option, procédez comme suit :

1. Connectez-vous au [portail Web Zoom](https://www.zoom.com/).
2. Accédez à la section admin. Cliquez sur **Gestion du compte**, puis sur **Paramètres du compte**.
3. Dans la barre de navigation supérieure, cliquez sur **Général**. Accédez à la section **Sécurité** et activez **Activer la détection des risques de deepfake**.

{% hint style="info" %}
**Remarque**

Si vous souhaitez verrouiller ce paramètre afin que cette fonctionnalité (Fonctionnalités) démarre automatiquement dans toutes les réunions, cliquez sur l’icône de verrouillage à côté de l’option basculer de la fonctionnalité. Si vous préférez donner aux hôtes de réunion et aux utilisateurs autorisés la possibilité d’activer la fonctionnalité pour chaque réunion, laissez le cadenas ouvert.
{% endhint %}

Pour activer la détection des risques de deepfake dans une réunion, accédez au menu de la barre d’outils inférieure et cliquez sur l’icône **Détection** .

<div data-with-frame="true"><figure><img src="https://4108585137-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2F8jNV0vU542V4RmL0GOgW%2Funknown.png?alt=media&amp;token=d5aa945e-7698-44b0-baa5-67fc36f9310f" alt="Image of the menu, showing the Detection option in the middle of the second row." height="280" width="186"><figcaption></figcaption></figure></div>

Consentement

Les hôtes et les Participants peuvent Activer Deepfake Risk Detection pour leurs réunions. Tous les Participants à la réunion seront informés que Deepfake Risk Detection est activé et devront donner leur Consentement. Les Participants n’auront besoin de donner leur Consentement qu’à la première utilisation et leur consentement sera stocké dans les Paramètres utilisateur. Les utilisateurs peuvent toujours changez leur choix de consentement dans leur portail de Paramètres.

<div data-with-frame="true"><figure><img src="https://4108585137-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FjERq2uPA32Ri8PD1vtwV%2Funknown.png?alt=media&amp;token=658db132-011e-42d2-b248-b0d74899af37" alt="Sample Zoom meeting screen displaying a message that &#x22;Deepfake risk detection is on.&#x22;" height="411" width="624"><figcaption></figcaption></figure></div>

## Méthodologie

Zoom s’engage à garantir à nos Clients une expérience de réunion fiable et sûre. Comme pour toute solution de réduction des risques, rien n’est parfait. Les acteurs malveillants évoluent constamment et continueront de tester les défenses, il vaut donc la peine de prendre des mesures actives pour protéger votre organisation.

En utilisant une combinaison de méthodes pour représenter des cas réels, nous avons effectué une comparaison directe avec les principales Solutions de deepfake pour la vidéo et l’audio. Certaines méthodes que nous avons utilisées incluent :

**Vidéo**

* Méthodes traditionnelles d’édition et de composition basées sur les graphiques
* Méthodes précoces d’apprentissage profond, telles que l’échange de visages basé sur des autoencodeurs
* Méthodes de génération et de manipulation basées sur les GAN
* Méthodes de génération/édition basées sur la diffusion
* Approches de rendu neuronal, comme NeRF et le splatting gaussien 3D

**Audio**

* TTS génératif conditionné par référence
* TTS spectrogramme-vocoder
* Resynthèse de codec neuronal ou de vocoder
* Conversion de voix ou parole à parole

{% hint style="warning" %}
**Important**

Faites toujours preuve de prudence et de discernement, que la détection des risques de deepfake soit activée ou non.
{% endhint %}


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://library.zoom.com/technical-library/fr/ai/deepfake-risk-detection.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
