> For the complete documentation index, see [llms.txt](https://library.zoom.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://library.zoom.com/technical-library/sv/ai/deepfake-risk-detection.md).

# Detektering av deepfake-risk

Dagliga framsteg inom AI-teknik gör det svårare att skilja mellan äkta personer eller en bedragare; detta är ett fenomen som kallas deepfake. Nyliga incidenter i verkligheten har visat hur illvilliga aktörer utnyttjar deepfake-teknik för att utge sig för att vara andra, vanligtvis för ekonomisk vinning eller för att få tillgång till konfidentiell information. På grund av de snabba framstegen inom AI kommer deepfakes sannolikt att bli vanligare, vilket eskalerar de associerade säkerhetshoten.

Zoom har åtagit sig att värna om användarsäkerhet, så det inför en egenutvecklad lösning för att upptäcka och meddela användare om potentiella deepfake-risker i Zoom Meetings: Deepfake Risk Detection.

{% hint style="warning" %}
**Viktigt**

Denna funktioner är planerad att släppas i december 2026 som en betald tilläggs-SKU. Kontakta din Zoom-representant för mer information.
{% endhint %}

Läs vidare för att lära dig mer om kundupplevelsen, exempel från verkligheten, sammanhang kring säkerhet och integritet samt praktisk vägledning för användare och administratörer.

Vad är Deepfake Risk Detection?

Zoom har utvecklat Deepfake Risk Detection, en egenutvecklad metodik, för att hjälpa till att avgöra om potentiella deepfake-risker är närvarande i möten. Lösningen är inbyggd i Zoom Meetings, vilket gör det till en inbäddad användarupplevelse utan krav på externa verktyg.

Deepfake Risk Detection kan:

* Bedöma sannolikheten för syntetiska ljud- eller videorisker
* Meddela aktiverade deltagare i möten när deepfake-risker identifieras
* Visa tydliga meddelanden om dess bedömning av en deepfake för att tillåta deltagare att utvärdera och vidta åtgärder för att minska riskerna

Teknisk djupdykning: Zooms unika tillvägagångssätt

Zoom har utvecklat egenutvecklade maskininlärningsmodeller för att upptäcka sannolikheten för syntetisk video och ljud, jämfört med en människa. När Zoom Deepfake Risk Detection aktiveras av antingen värden eller aktiverade deltagare, analyserar deepfake-detekteringstekniken rutan för aktiv talare.

## Hur hjälper Zoom till att upptäcka deepfakes?

### Videodetektering

Zoom Deepfake Risk Detection körs direkt på videoströmmen som fångas upp på avsändarens enhet, innan den går in i videobearbetningskedjan, med hjälp av råa bildrutor på klientsidan. Detta ger en viktig fördel som undviker effekten av komprimering, artefakter från videokodning/-avkodning med låg bandbredd och andra kvalitetsförsämrande bearbetningssteg som skulle kunna dölja eller ta bort deepfake-artefakter.

Vi har också utformat en arkitektur för ansiktsverifiering med två strömmar. På mottagarsidan skickas videoströmmen till molnet och jämförs med strömmen som erhålls från sändarsidan för att verifiera att båda strömmarna är överensstämmande. Detta förhindrar att en angripare skickar en äkta videoström från sändarsidan till servern för deepfake-detektering samtidigt som en deepfake-videoström levereras till en Zoom-mottagare. Tidsmässig synkronisering med tidsstämplar hjälper till att säkerställa att de två videoströmmarna är korrekt justerade före jämförelsen.

En viktig effektivitetsfunktion i Deepfake Risk Detection är **anpassningsbar detekteringsfrekvens**. Systemet börjar med täta kontroller när en deltagare ansluter till ett möte och minskar sedan gradvis frekvensen över tid i takt med att tillförlitligheten ökar. Detekteringsfrekvensen justeras dessutom dynamiskt baserat på tidigare verifieringsresultat – den minskas när tillförlitligheten är hög och detekteringen avbryts när upprepade misslyckanden tyder på att videoströmmen är opålitlig. Ett kompletterande kvalitetsbedömningslager utvärderar brus, ljusstyrka, oskärpa och tillförlitligheten i identifieringen av landmärken innan deepfake-detektering utförs. Det hoppar över bildrutor med låg kvalitet och ger deltagaren konkreta instruktioner för att åtgärda problemet (till exempel förbättra belysningen eller minska rörelseoskärpan) i stället för att slösa beräkningsresurser på oanvändbara indata.

I ett Zoom-möte kontrollerar Zoom videofilter, avatarer och studioeffekter i mötesupplevelsen. När Deepfake Risk Detection är aktiverat inaktiveras dessa specifika funktioner under mötets varaktighet för att mer exakt analysera de underliggande ljud- och videoströmmarna.

{% hint style="info" %}
**Obs**

De flesta funktionerna under Utseende och virtuell bakgrund **är** kompatibla med Deepfake Risk Detection. Pose Correction är ett undantag och inaktiveras när Deepfake Risk Detection är aktiverat.
{% endhint %}

Dataelementen i video- och ljudströmmarna fångas in och skickas till molnet, där detektering sker. Video- och ljuddata samt de resulterande poängen raderas när mötet avslutas.

### Ljuddetektering

Zoom Ljud Deepfake Risk Detection analyserar ljudet för varje aktiv talare i realtid på molnsidan. Mötesljudet passerar genom Zooms standard ljudbehandling innan det når detekteringstjänsten. Några av dessa standardprocesser inkluderar ekoutsläckning, brusreducering och codec-kodning. Vår detekteringsmodell har tränats på ett brett spektrum av ljudförhållanden i verkliga miljöer, inklusive ljud som bearbetats av Zooms egen pipeline, för att hjälpa till att säkerställa att äkta tal inte felaktigt flaggas som falskt.

I stället för att analysera hela ljudströmmen kontinuerligt extraherar systemet på ett intelligent sätt **korta talsegment** från den aktiva talaren för klassificering. Ett kvalitetsbedömningslager utvärderar ljudförhållandena i realtid och utesluter automatiskt segment med försämrad kvalitet på grund av dålig nätverkskvalitet. Det hjälper till att undvika analyser av opålitliga indata och gör att resurserna kan användas mer produktivt. En **taligenkänningsspärr** hjälper till att säkerställa att endast faktiskt tal utlöser deepfake-analysen. Ljud som inte består av tal, till exempel musik eller bakgrundsljud, utesluts automatiskt.

I likhet med videodetektering styr Zoom ljudfiltren och studioeffekter i mötesupplevelsen. När Deepfake Risk Detection är aktiverad inaktiveras dessa specifika funktioner för att mer exakt analysera de underliggande ljudströmmarna. Men när en deltagare använder avatarläge fortsätter ljudbaserad deepfake-detektering att fungera, så att talverifiering förblir aktiv även när videobaserad analys inte är tillgänglig.

## Arkitektur

Diagrammet nedan visar en översikt över Deepfake Risk Detection.

<div data-with-frame="true"><figure><img src="https://460446308-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2Fceg7QCwwI7tQIjqmJxa5%2Funknown.png?alt=media&amp;token=a6631afe-18af-4350-87a3-44e5c7547a15" alt="Architecture diagram showing data flow from sender to client to Zoom Cloud." height="695" width="624"><figcaption></figcaption></figure></div>

## Användarupplevelse

När du är i ett Zoom-möte och har Zoom Deepfake Risk Detection aktiverat kan du förvänta dig följande om en potentiell risk flaggas.

Zoom Deepfake Risk Detection kommer att meddela alla aktiverade användare om den potentiella förekomsten av syntetiskt ljud eller video genom att göra följande:

* Markera den misstänkta deltagaren med en ikon för **deepfakespe risk** ikon
* Flytta denna deltagare till den övre vänstra kvadranten på skärm
* Visa ett popup-fönster med texten **Deepfakespe risk upptäckt** och en länk till **kontrollpanelen för deepfake-detektering**, där det finns mer information

Följande bild visar ikonen och popup-fönstret.

<div data-with-frame="true"><figure><img src="https://460446308-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FxYY0DrODyhfsMeYCSjFV%2Funknown.png?alt=media&amp;token=12dc5921-4999-497f-a05a-983be5458381" alt="Sample image including Deepfake Risk Detection warnings." height="409" width="624"><figcaption></figcaption></figure></div>

Kontrollpanelen för **deepfake-detektering** ger aktiverade användare mer information, bland annat:

* Riskstatus för **alla** mötesdeltagare
* Detekteringsrisker och tillförlitlighetsnivåer visas för **både** video- och ljudströmmar, vilket ger ytterligare sammanhang
* Tydliga uppmaningar till handling, för att hjälpa till att informera användare om möjliga nästa steg

Följande är ett exempel på kontrollpanelen för deepfake-detektering:

<div data-with-frame="true"><img src="https://460446308-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FKUPezhc9d7x8UplAwue7%2Funknown.png?alt=media&amp;token=f90c2318-a92d-461d-aa51-b19b20cbe442" alt="" height="574" width="251"></div>

{% hint style="info" %}
**Obs**

Zoom Deepfake Risk Detection meddelar också användare när en video- eller ljuddataström är svag eller för dålig för att upptäcka en deepfake, eller om en deltagare inte gav sitt samtycke.
{% endhint %}

Användningsfall

Detta avsnitt innehåller tre vanliga användningsfall för Deepfake Risk Detection. Om du har ett scenario du vill diskutera, kontakta din Zoom-representant.

### Konsult inom finansiella tjänster

#### Översikt

Bob Smith är en personlig konsult för förmögna kunder på en privatbank. Han talar med fem eller sex kunder dagligen och ger dem råd om förmögenhetsstrategier och finansiella transaktioner för att hantera deras privatekonomi.

#### Risker

Bob underlättar penningöverföringar för deras räkning, vilket kan omfatta att öppna nya konton, göra stora köp och betala leverantörer till dödsbon. Bob förlitar sig på sitt omdöme, sin personliga kännedom om sina kunder och enkla behörighetskontroller.

#### Exempel

En långvarig kund begärde ett ad hoc-möte med Bob för att informera honom om att personen tänkte köpa en exotisk bil åt en familjemedlem. Kunden instruerade Bob att föra över 190 000 dollar till ägaren. Zoom Deepfake Risk Detection varnade Bob för hög risk för deepfake. Även om den här typen av köp inte var ovanlig för kunden, var Bob försiktig och ringde kunden på hans mobiltelefon innan själva penningöverföringen. Den verkliga kunden hade ingen kännedom om mötet och Bob undvek att överföra medel till en illvillig aktör.

### HR-rekryterare

#### Översikt

Sally Ng är en talangrekryterare i en medelstor organisation och stödjer IT-rekrytering för ingenjörs- och tekniska roller. Hon har åtta till tio lediga tjänster vid varje given tidpunkt och hanterar rekryteringsprocessen från början till slut, från att identifiera kandidater till att förhandla om erbjudanden.

#### Risker

Sally är försiktig under rekryteringsprocessen för distansanställningar. Hennes organisation ger i allt högre grad erbjudanden till kandidater utomlands. Granskningsprocessen är intensiv, vanligtvis med fem eller sex ytterligare intervjuare och lyckad dokumentverifiering innan det slutliga erbjudandet slutförs. Kandidater introduceras ofta utan att träffa någon fysiskt.

#### Exempel

Halvvägs genom en lovande intervjuprocess tog Sally kontakt med kandidaten via video för att informera dem om deras sista intervjuomgång. Zoom Deepfake Detection varnade Sally för en förhöjd risk, inklusive syntetiskt ljud. Sally kontrollerade kandidatens identitet mot andra källor och fastställde att kandidaten utgav sig för att vara någon annans närvaro i en onlineprofil. Deepfake Risk Detection kunde avvärja en situation där en illvillig aktör hade tillgång till företagets interna IT-infrastruktur och miljö. Sally förhindrade möjliga ransomware-attacker, äventyrad kundinformation och stöld av egenutvecklad programvara.

### Finanschef

#### Översikt

Tom Cox leder en grupp specialister på leverantörsreskontra i en stor organisation. Hans team ansvarar för att betala leverantörer som tillhandahåller tjänster för en av företagets divisioner.

#### Risker

Företaget har processer på plats för att säkerställa att endast godkända fakturor betalas. Nivån på de godkännanden som krävs motsvarar fakturabeloppet. Vissa leverantörer tillhandahåller kritiska tjänster som håller företaget igång, såsom infrastruktur- och datatjänster. Försenade betalningar kan leda till störningar för kunderna, skada företagets rykte och/eller medföra böter.

#### Exempel

Tom fick ett oväntat telefonsamtal från divisionens vice VD för finans. VP:n instruerade Tom att göra en betalning på 1,2 miljoner dollar till en leverantör för ett konfidentiellt projekt. VP:n ringde Tom eftersom Toms chef var utanför kontoret. Betalningen var försenad och behövde göras idag, annars skulle Toms företag drabbas av förseningsavgifter. Tom blev misstänksam och bad VP:n att gå med i ett snabbt Zoom-möte för att verifiera att det verkligen var han. VP:n deltog i mötet och såg och lät för Tom identisk med den verkliga VP:n, förutom att Deepfake Risk Detection meddelade Tom att den sannolikt var syntetisk. Tom vägrade göra betalningen och undvek ett kostsamt misstag.

## Aktivering och användning

När tillägget har köpts kan kontoägare och administratörer aktivera Deepfake Risk Detection på **gruppnivå** för organisationen. Gör så här för att aktivera funktionen:

1. Logga in på [Zoom-webbportal](https://www.zoom.com/).
2. Gå till avsnittet Admin. Klicka på **Kontohantering**, och klicka sedan på **Kontoinställningar**.
3. Klicka på **Allmänt**i det övre navigeringsfältet. Gå till avsnittet **Säkerhet** och aktivera **Aktivera detektering av deepfakespe risk**.

{% hint style="info" %}
**Obs**

Om du vill låsa den här inställningen, så att funktioner startar automatiskt i alla möten, klicka på låsikonen bredvid växlingen för funktioner. Om du hellre vill ge mötesvärdar och behöriga användare möjlighet att slå på funktionen per enskilt möte, lämna låset öppet.
{% endhint %}

Om du vill aktivera Deepfake Risk Detection i ett möte går du till menyn i det nedre verktygsfältet och klickar på ikonen **Detektering** .

<div data-with-frame="true"><figure><img src="https://460446308-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2F8jNV0vU542V4RmL0GOgW%2Funknown.png?alt=media&amp;token=d5aa945e-7698-44b0-baa5-67fc36f9310f" alt="Image of the menu, showing the Detection option in the middle of the second row." height="280" width="186"><figcaption></figcaption></figure></div>

Samtycke

Både värdar och deltagare kan aktivera Deepfake Risk Detection för sina möten. Alla mötesdeltagare kommer att meddelas att Deepfake Risk Detection är aktiverat och kommer att behöva samtycka. Deltagare behöver bara samtycka vid första användningen och deras samtycke sparas i användarinställningar. Användare kan alltid ändra sitt samtyckesval i sin inställningsportal.

<div data-with-frame="true"><figure><img src="https://460446308-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FjERq2uPA32Ri8PD1vtwV%2Funknown.png?alt=media&amp;token=658db132-011e-42d2-b248-b0d74899af37" alt="Sample Zoom meeting screen displaying a message that &#x22;Deepfake risk detection is on.&#x22;" height="411" width="624"><figcaption></figcaption></figure></div>

## Metodik

Zoom är dedikerat till att säkerställa att våra kunder får en pålitlig och säker mötesupplevelse. Som med alla lösningar för riskbegränsning är ingenting perfekt. Illvilliga aktörer utvecklas ständigt och kommer att fortsätta testa försvaren, så det är värt att vidta aktiva åtgärder för att skydda din organisation.

Genom att använda en kombination av metoder för att representera verkliga fall genomförde vi en direkt jämförelse med ledande deepfake-lösningar för både video och ljud. Några av de metoder vi använde inkluderar:

**Video**

* Traditionella grafiska redigerings- och kompositmetoder
* Tidiga metoder för djupinlärning, såsom ansiktsbyte baserat på autoencoder
* Genererings- och manipuleringsmetoder baserade på GAN
* Genererings-/redigeringsmetoder baserade på diffusion
* Neurala renderingsmetoder, såsom NeRF och 3D gaussian splatting

**Ljud**

* Referensvillkorad generativ TTS
* Spektrogram-vocoder-TTS
* Neuralt codec- eller vocoder-återsyntes
* Röståtergivning eller tal-till-tal

{% hint style="warning" %}
**Viktigt**

Använd alltid försiktighet och gott omdöme, oavsett om deepfake-riskdetektering är aktiverad.
{% endhint %}


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://library.zoom.com/technical-library/sv/ai/deepfake-risk-detection.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
