> For the complete documentation index, see [llms.txt](https://library.zoom.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://library.zoom.com/technical-library/it/ai/deepfake-risk-detection.md).

# Rilevamento del rischio di deepfake

I progressi quotidiani nella tecnologia dell’IA rendono sempre più difficile distinguere tra persone autentiche o un impostore; questo è un fenomeno noto come deepfake. Recenti incidenti nel mondo reale hanno dimostrato come attori malevoli sfruttino la tecnologia deepfake per impersonare altri, in genere a fini di lucro o per ottenere informazioni riservate. A causa dei rapidi progressi nell’IA, i deepfake sono destinati a diventare più comuni, esacerbando le minacce alla sicurezza associate.

Zoom si impegna per la sicurezza degli utenti, quindi sta introducendo una soluzione proprietaria per rilevare e notificare agli utenti i potenziali rischi di deepfake in Zoom Meetings: Deepfake Risk Detection.

{% hint style="warning" %}
**Importante**

Questa Funzionalità è prevista per il rilascio a dicembre 2026 come SKU add-on a pagamento. Per i dettagli, rivolgiti al tuo contatto di riferimento presso Zoom.
{% endhint %}

Continua a leggere per saperne di più sull’esperienza del cliente, esempi del mondo reale, il contesto di sicurezza e privacy e indicazioni pratiche per utenti e amministratori.

Che cos'è il rilevamento del rischio di deepfake?

Zoom ha sviluppato Deepfake Risk Detection, una metodologia proprietaria, per aiutare a determinare se potenziali rischi di deepfake sono presentare nelle riunioni. La soluzione è nativa in Zoom Meetings, rendendola un'esperienza utente integrata senza richiedere strumenti esterni.

Il rilevamento del rischio dei deepfake è in grado di:

* Valuta la probabilità di rischi audio o video sintetici
* Notifica i Partecipanti della riunione abilitati quando vengono identificati rischi di deepfake
* Mostrare una messaggistica chiara della sua valutazione di un deepfake per consentire ai Partecipanti di valutare e intraprendere qualsiasi azione per mitigare i rischi

Approfondimento tecnico: l’approccio unico di Zoom

Zoom ha creato modelli proprietari di machine learning per rilevare la probabilità di video e audio sintetici, rispetto a un essere umano. Quando il rilevamento dei deepfake di Zoom è attivato dall'organizzatore o dai partecipanti abilitati, la tecnologia di rilevamento dei deepfake analizza la tessera dell'oratore attivo.

## Come aiuta Zoom a rilevare i deepfake?

### Rilevamento video

Zoom Deepfake Risk Detection viene eseguito direttamente sul flusso video acquisito sul Dispositivo del mittente, prima che entri nella pipeline di elaborazione video, usando frame grezzi lato client. Questo offre un vantaggio chiave che evita l'impatto della compressione, degli artefatti di codifica/decodifica video a bassa larghezza di banda e di altri passaggi di elaborazione che degradano la qualità e che potrebbero oscurare o rimuovere gli artefatti dei deepfake.

Abbiamo anche progettato un'architettura di Verifica facciale a doppio flusso. Sul lato del destinatario, il flusso video viene inviato al cloud e confrontato con il flusso ottenuto dal lato del mittente per verificare che entrambi i flussi siano coerenti. Questo impedisce a un attaccante di inviare un autentico flusso video dal lato del mittente al server di rilevamento dei deepfake mentre consegna un flusso video deepfake a un destinatario su Zoom. La sincronizzazione temporale tramite timestamp aiuta a garantire che i due flussi video siano correttamente allineati prima del confronto.

Una funzionalità chiave per l'efficienza di Deepfake Risk Detection è la  **frequenza di rilevamento adattiva**. Quando un partecipante entra in una riunione, il sistema avvia controlli ad alta frequenza, quindi li riduce progressivamente nel tempo man mano che aumenta il livello di affidabilità. Le frequenze di rilevamento vengono inoltre regolate dinamicamente in base ai risultati delle verifiche precedenti: si riducono quando il livello di affidabilità è elevato e il rilevamento viene sospeso quando errori ripetuti suggeriscono che il flusso video non è affidabile. Un livello aggiuntivo di valutazione della qualità analizza il rumore, la luminosità, la sfocatura e il livello di affidabilità del rilevamento dei punti di riferimento prima di avviare il rilevamento dei deepfake; ignora i fotogrammi di bassa qualità e fornisce al partecipante istruzioni utili per risolvere il problema (ad esempio, migliorare l'illuminazione o ridurre l'effetto mosso), invece di sprecare risorse di elaborazione su input inutilizzabili.

In una riunione Zoom, Zoom gestisce i filtri video, gli avatar e gli Effetti studio nell’esperienza della riunione. Quando Deepfake Risk Detection è abilitata, queste specifiche Funzionalità verranno disabilitate per tutta la durata della riunione per analizzare in modo più accurato i flussi audio e video sottostanti.

{% hint style="info" %}
**Nota**

La maggior parte delle funzionalità in Aspetto e Sfondo virtuale **è** compatibile con Deepfake Risk Detection. Pose Correction fa eccezione e viene disattivato quando Deepfake Risk Detection è abilitato.
{% endhint %}

Gli elementi dati dei flussi video e audio vengono acquisiti e inviati al cloud, dove avviene il rilevamento. I dati video e audio e i punteggi risultanti vengono eliminati al termine della riunione.

### Rilevamento audio

Zoom Audio Deepfake Risk Detection analizza l'audio di ciascun oratore attivo in tempo reale sul lato cloud. L'audio della riunione passa attraverso l'elaborazione audio Standard di Zoom prima di raggiungere il servizio di rilevamento. Alcuni di questi processi Standard includono cancellazione dell'eco, eliminazione del rumore e codifica del codec. Il nostro modello di rilevamento è addestrato su un'ampia gamma di condizioni audio del mondo reale, incluso l'audio elaborato dalla pipeline di Zoom, per contribuire a garantire che un discorso autentico non venga erroneamente segnalato come falso.

Invece di analizzare continuamente l'intero flusso audio, il sistema estrae in modo intelligente **brevi segmenti di parlato** dall'oratore attivo per classificarli. Un livello di valutazione della qualità analizza in tempo reale le condizioni audio ed esclude automaticamente i segmenti degradati da una scarsa qualità della rete. In questo modo si evita di analizzare input inaffidabili e si destinano le risorse ad attività più produttive. Un **filtro di riconoscimento vocale** aiuta a garantire che solo il parlato effettivo attivi l’analisi dei deepfake; l’audio non parlato, come la musica o i suoni di sottofondo, viene escluso automaticamente.

Simile al rilevamento video, Zoom controlla i filtri audio e gli Effetti studio nell'esperienza della riunione. Quando Deepfake Risk Detection è abilitato, queste funzionalità specifiche vengono disabilitate per analizzare con maggiore precisione i flussi audio sottostanti. Tuttavia, quando un partecipante utilizza la modalità avatar, il rilevamento deepfake dell'audio continua a funzionare, così che la Verifica dell'oratore rimanga Attiva anche quando l'analisi basata sul video non è disponibile.

## Architettura

Il diagramma seguente mostra una panoramica di Deepfake Risk Detection.

<div data-with-frame="true"><figure><img src="https://2272214008-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2Fceg7QCwwI7tQIjqmJxa5%2Funknown.png?alt=media&amp;token=a6631afe-18af-4350-87a3-44e5c7547a15" alt="Architecture diagram showing data flow from sender to client to Zoom Cloud." height="695" width="624"><figcaption></figcaption></figure></div>

## Esperienza utente

Quando ti trovi in una riunione Zoom e hai Zoom Deepfake Risk Detection abilitato, ecco cosa puoi aspettarti di sperimentare se viene segnalato un rischio potenziale.

Zoom Deepfake Risk Detection avviserà tutti gli utenti abilitati della possibile presenza di audio o video sintetici facendo quanto segue:

* Contrassegna il partecipante sospetto con un **Rischio di deepfake** icona
* Sposta quel partecipante nel quadrante in alto a sinistra dello schermo
* Mostra un **Rilevato rischio di deepfake** popup con un link per aprire il **Dashboard di rilevamento dei deepfake**, che fornisce ulteriori informazioni

L'immagine seguente mostra l'icona e il popup.

<div data-with-frame="true"><figure><img src="https://2272214008-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FxYY0DrODyhfsMeYCSjFV%2Funknown.png?alt=media&amp;token=12dc5921-4999-497f-a05a-983be5458381" alt="Sample image including Deepfake Risk Detection warnings." height="409" width="624"><figcaption></figcaption></figure></div>

Il **Dashboard di rilevamento dei deepfake** fornisce agli utenti abilitati informazioni aggiuntive, tra cui:

* Lo stato del rischio di **tutti** partecipanti alla riunione
* I rischi di rilevamento e i livelli di confidenza vengono mostrati per **entrambi** stream video e audio, fornendo ulteriore contesto
* Call to action chiare, al fine di aiutare a informare gli utenti sui potenziali passaggi successivi

Di seguito è riportato un esempio della Dashboard di rilevamento dei deepfake:

<div data-with-frame="true"><img src="https://2272214008-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FKUPezhc9d7x8UplAwue7%2Funknown.png?alt=media&amp;token=f90c2318-a92d-461d-aa51-b19b20cbe442" alt="" height="574" width="251"></div>

{% hint style="info" %}
**Nota**

Zoom Deepfake Risk Detection notifica inoltre gli utenti quando un flusso di dati video o audio è debole o troppo scarso per rilevare un deepfake, oppure se un partecipante non ha acconsentito.
{% endhint %}

Casi d'uso

Questa sezione include tre casi d'uso comuni per Deepfake Risk Detection. Se hai uno scenario di cui vorresti discutere, mettiti in contatto con il tuo referente Zoom.

### Consulente dei Servizi finanziari

#### Panoramica

Bob Smith è un consulente personale per clienti con patrimoni elevati presso una banca privata. Parla quotidianamente con cinque o sei clienti, consigliandoli su strategie patrimoniali e transazioni finanziarie per gestire le loro finanze personali.

#### Rischi

Bob facilita trasferimenti di denaro per loro conto, che possono includere l'apertura di nuovi conti, l'effettuazione di acquisti di grande entità e il pagamento dei fornitori dell'eredità. Bob fa affidamento sul proprio giudizio, conoscendo personalmente i suoi clienti e applicando controlli di autorizzazione leggeri.

#### Esempio

Un cliente di lunga data ha richiesto una riunione ad hoc con Bob per informarlo della sua intenzione di acquistare un'auto esotica per un familiare, uno dei Membri della famiglia. Il cliente ha istruito Bob a bonificare 190.000 $ al Titolare. Zoom Deepfake Risk Detection ha avvisato Bob di un alto rischio di deepfake. Anche se per il cliente non era insolito acquistare auto di questo tipo, Bob ha agito con cautela e ha deciso di chiamare il cliente sul suo cellulare prima del trasferimento effettivo del denaro. Il vero cliente non era a conoscenza della riunione e Bob ha evitato di trasferire fondi a un malintenzionato.

### Recruiter HR

#### Panoramica

Sally Ng è una recruiter di talenti in una Organizzazione di livello intermedio, che supporta le assunzioni IT per posizioni ingegneristiche e tecniche. Ha da otto a dieci posizioni aperte in qualsiasi momento e gestisce il processo di reclutamento end-to-end, dall'individuazione dei candidati alla negoziazione delle offerte.

#### Rischi

Sally è cauta durante il processo di reclutamento per posizioni remote. La sua Organizzazione sta offrendo sempre più spesso proposte a candidati offshore. Il processo di selezione è intenso, di solito con cinque o sei intervistatori aggiuntivi e con la riuscita Verifica dei documenti prima che l'offerta finale venga completata. I candidati vengono spesso inseriti senza incontrare fisicamente qualcuno.

#### Esempio

A metà di un promettente processo di colloquio, Sally si è collegata con il candidato in video per informarlo del suo ultimo round di colloquio. Zoom Deepfake Detection ha avvisato Sally di un rischio elevato, incluso audio sintetico. Sally ha ricontrollato l'identità del candidato contro altre fonti e ha determinato che il candidato si stava spacciando per la presenza online del profilo di qualcun altro. Deepfake Risk Detection è riuscito a evitare una situazione in cui un malintenzionato aveva accesso all'infrastruttura IT interna e all'ambiente dell'azienda. Sally ha impedito possibili attacchi ransomware, la compromissione delle informazioni dei clienti e il furto di software proprietario.

### Responsabile Finanza

#### Panoramica

Tom Cox gestisce un gruppo di specialisti di contabilità fornitori per una grande Organizzazione. Il suo team è responsabile del pagamento dei fornitori che forniscono servizi per una delle divisioni dell'azienda.

#### Rischi

L'azienda dispone di processi per garantire che vengano pagate solo fatture approvate. Il livello di approvazione richiesto corrisponde all'importo della fattura. Alcuni fornitori forniscono servizi critici che mantengono in funzione l'azienda, come infrastrutture e servizi dati. I pagamenti in ritardo potrebbero causare disservizi ai clienti, danneggiando la reputazione dell'azienda e/o comportando multe.

#### Esempio

Tom ha ricevuto una telefonata improvvisa dal Vicepresidente della Finanza della divisione. Il VP ha istruito Tom a effettuare un pagamento di 1,2 milioni di dollari a un fornitore per un progetto riservato. Il VP ha chiamato Tom, poiché il capo di Tom era fuori ufficio. Il pagamento era in ritardo e doveva essere effettuato oggi, altrimenti l'azienda di Tom avrebbe subito penali per ritardo. Sospettoso, Tom ha chiesto al VP di partecipare a una breve riunione Zoom per verificare che fosse davvero lui. Il VP si è unito alla riunione e, a Tom, sembrava e suonava identico al vero VP, tranne per il fatto che Deepfake Risk Detection ha avvisato Tom che probabilmente era sintetico. Tom ha rifiutato di effettuare il pagamento e ha evitato un errore costoso.

## Abilitazione e utilizzo

Una volta acquistato l'add-on, i proprietari dell'account e gli amministratori possono Abilita il rilevamento del rischio di deepfake su **gruppo** a livello di Organizzazione. Per attivare la Funzionalità, procedi come segue:

1. Accedi a [Zoom web portal](https://www.zoom.com/).
2. Vai alla sezione Admin. Fai clic su **Gestione account**, quindi fai clic su **Impostazioni account**.
3. Nella barra di navigazione in alto, fai clic su **Generale**. Vai a **Sicurezza** sezione e attiva **Abilita il rilevamento dei rischi dei deepfake**.

{% hint style="info" %}
**Nota**

Se vuoi bloccare questa impostazione, in modo che questa Funzionalità si avvii automaticamente in tutte le riunioni, fai clic sull'icona del lucchetto accanto all'Attiva/disattiva della Funzionalità. Se preferisci dare ai responsabili della riunione e agli utenti autorizzati la possibilità di attivare la Funzionalità su base di singola riunione, lascia il lucchetto aperto.
{% endhint %}

Per attivare il rilevamento dei rischi dei deepfake durante una riunione, vai al menu nella barra degli strumenti in basso e fai clic sull’icona **rilevamento** .

<div data-with-frame="true"><figure><img src="https://2272214008-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2F8jNV0vU542V4RmL0GOgW%2Funknown.png?alt=media&amp;token=d5aa945e-7698-44b0-baa5-67fc36f9310f" alt="Image of the menu, showing the Detection option in the middle of the second row." height="280" width="186"><figcaption></figcaption></figure></div>

Consenso

Sia gli host sia i Partecipanti possono Abilitare Deepfake Risk Detection per le loro riunioni. Tutti i Partecipanti alla riunione verranno informati che Deepfake Risk Detection è Attiva e dovranno prestare il consenso. I Partecipanti dovranno prestare il consenso solo al primo utilizzo e il loro consenso verrà memorizzato in Impostazioni utente. Gli utenti possono sempre apportare una Modifica alla propria scelta di consenso nel portale Impostazioni.

<div data-with-frame="true"><figure><img src="https://2272214008-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FjERq2uPA32Ri8PD1vtwV%2Funknown.png?alt=media&amp;token=658db132-011e-42d2-b248-b0d74899af37" alt="Sample Zoom meeting screen displaying a message that &#x22;Deepfake risk detection is on.&#x22;" height="411" width="624"><figcaption></figcaption></figure></div>

## Metodologia

Zoom si impegna a garantire che i nostri Clienti abbiano un'esperienza di riunione affidabile e sicura. Come per qualsiasi soluzione di mitigazione del rischio, nulla è perfetto. I malintenzionati sono in continua evoluzione e continueranno a testare le difese, quindi vale la pena adottare misure di protezione Attiva per proteggere la vostra Organizzazione.

Utilizzando una combinazione di metodi per rappresentare casi reali, abbiamo effettuato un confronto diretto con le principali Soluzioni deepfake sia per video sia per audio. Alcuni dei metodi che abbiamo utilizzato includono:

**Video**

* Metodi tradizionali di editing e compositing basati sulla grafica
* Metodi iniziali di deep learning, come lo scambio di volti basato su autoencoder
* Metodi di generazione e manipolazione basati su GAN
* Metodi di generazione/modifica basati sulla diffusione
* Approcci di rendering neurale, come NeRF e il 3D gaussian splatting

**audio**

* TTS generativo condizionato da riferimenti
* TTS con spettrogramma-vocoder
* Risintesi con codec neurale o vocoder
* Conversione vocale o speech-to-speech

{% hint style="warning" %}
**Importante**

Usa sempre cautela e discrezione, indipendentemente dal fatto che il rilevamento del rischio di deepfake sia attivato.
{% endhint %}


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://library.zoom.com/technical-library/it/ai/deepfake-risk-detection.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
