> For the complete documentation index, see [llms.txt](https://library.zoom.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://library.zoom.com/technical-library/de/ai/deepfake-risk-detection.md).

# Deepfake-Risikoerkennung

Tägliche Fortschritte in der KI-Technologie erschweren es zunehmend, zwischen echten Personen und einem Hochstapler zu unterscheiden; dieses Phänomen ist als Deepfake bekannt. Jüngste Vorfälle aus der Praxis haben gezeigt, wie böswillige Akteure Deepfake-Technologie nutzen, um andere zu imitieren – typischerweise zum finanziellen Vorteil oder um vertrauliche Informationen zu erhalten. Aufgrund der rasanten Fortschritte in der KI dürften Deepfakes immer häufiger werden und die damit verbundenen Sicherheitsrisiken verschärfen.

Zoom setzt sich für die Sicherheit der Benutzer ein und führt daher eine firmeneigene Lösung ein, um potenzielle Deepfake-Risiken in Zoom Meetings zu erkennen und Benutzer darüber zu benachrichtigen: Erkennung von Deepfake-Risiken.

{% hint style="warning" %}
**Wichtig**

Diese Funktion soll im Dezember 2026 als kostenpflichtige Add-on-SKU veröffentlicht werden. Nehmen Sie Kontakt zu Ihrem Zoom-Vertreter auf, um weitere Informationen zu erhalten.
{% endhint %}

Lesen Sie weiter, um mehr über die Kundenerfahrung, Beispiele aus der Praxis, den Kontext zu Sicherheit und Datenschutz sowie praktische Anleitungen für Nutzer und Administratoren zu erfahren.

Was ist Deepfake-Risikoerkennung?

Zoom hat Deepfake Risk Detection, eine proprietäre Methodik, entwickelt, um dabei zu helfen, festzustellen, ob potenzielle Deepfake-Risiken in Meetings präsentieren. Die Lösung ist nativ in Zoom Meetings, wodurch sie eine eingebettete Benutzererfahrung ohne externe Tools ermöglicht.

Deepfake-Risikoerkennung ist in der Lage zu:

* Bewerten Sie die Wahrscheinlichkeit von Risiken durch synthetisches Audio oder Video
* Benachrichtige aktivierte Meeting-Teilnehmer, wenn Deepfake-Risiken erkannt werden
* Klares Messaging seiner Einschätzung eines Deepfakes anzeigen, um Teilnehmern zuzulassen, die Risiken zu bewerten und geeignete Maßnahmen zur Minderung zu ergreifen.

Technischer Deep Dive: Zooms einzigartiger Ansatz

Zoom hat proprietäre Machine-Learning-Modelle entwickelt, um die Wahrscheinlichkeit von synthetischem Video und Audio im Vergleich zu einem Menschen zu erkennen. Wenn Zoom Deepfake Risk Detection entweder vom Host oder von aktivierten Teilnehmern eingeschaltet wird, analysiert die Deepfake-Erkennungstechnologie die Kachel des aktiven Sprechers.

## Wie hilft Zoom bei der Erkennung von Deepfakes?

### Videoerkennung

Zoom Deepfake-Risikoerkennung wird direkt auf dem Videostream ausgeführt, der auf dem Gerät des Senders aufgezeichnet wird, bevor er in die Videoverarbeitungspipeline gelangt, wobei rohe Frames auf Client-Seite verwendet werden. Dies bietet einen wesentlichen Vorteil, da die Auswirkungen von Komprimierung, Artefakten bei der Video-Kodierung/-Dekodierung mit geringer Bandbreite und anderen die Qualität beeinträchtigenden Verarbeitungsschritten vermieden werden, die Deepfake-Artefakte verdecken oder entfernen könnten.

Wir haben außerdem eine Dual-Stream-Gesichtsverifizierungsarchitektur entworfen. Auf der Empfängerseite wird der Videostream an die Cloud gesendet und mit dem von der Senderseite erhaltenen Stream verglichen, um zu verifizieren, dass beide Streams konsistent sind. Dies verhindert, dass ein Angreifer einen echten Videostream von der Senderseite an den Deepfake-Erkennungsserver sendet und gleichzeitig einen Deepfake-Videostream an einen Zoom-Empfänger liefert. Die zeitliche Synchronisierung mithilfe von Zeitstempeln hilft sicherzustellen, dass die beiden Videostreams vor dem Vergleich korrekt ausgerichtet sind.

Eine wichtige Funktion zur Effizienzsteigerung bei der Deepfake-Risikoerkennung ist die **adaptive Erkennungsfrequenz**. Wenn ein Teilnehmer einem Meeting beitritt, führt das System zunächst häufige Prüfungen durch und reduziert deren Häufigkeit im Laufe der Zeit schrittweise, sobald sich die Konfidenz erhöht. Die Erkennungsraten werden außerdem dynamisch anhand früherer Verifizierungsergebnisse angepasst: Bei hoher Konfidenz werden die Prüfungen zurückgefahren, und wenn wiederholte Fehlschläge darauf hindeuten, dass der Videostream unzuverlässig ist, wird die Erkennung ausgesetzt. Eine ergänzende Qualitätsbewertung prüft Rauschen, Helligkeit, Unschärfe und die Konfidenz der Landmarkenerkennung, bevor die Deepfake-Erkennung ausgeführt wird. Dabei werden Frames von geringer Qualität übersprungen und dem Teilnehmer konkrete Hinweise zur Behebung des Problems gegeben (z. B. die Beleuchtung verbessern oder Bewegungsunschärfe verringern), statt Rechenwerk für unbrauchbare Eingaben aufzuwenden.

In einem Zoom-Meeting steuert Zoom die Video-Filter, Avatare und Studioeffekte in der Meeting-Erfahrung. Wenn Deepfake Risk Detection aktiviert ist, werden diese spezifischen Funktionen für die Dauer des Meetings deaktiviert, um die zugrunde liegenden Audio- und Video-Streams genauer zu analysieren.

{% hint style="info" %}
**Hinweis**

Die meisten Funktionen unter „Erscheinungsbild“ und „Virtueller Hintergrund“ **sind** mit der Deepfake-Risikoerkennung kompatibel. Pose Correction ist eine Ausnahme und wird deaktiviert, wenn die Deepfake-Risikoerkennung aktiviert ist.
{% endhint %}

Datenelemente der Video- und Audio-Streams werden erfasst und an die Cloud gesendet, wo die Erkennung stattfindet. Die Video- und Audiodaten sowie die resultierenden Bewertungen werden nach Ende des Meetings gelöscht.

### Audioerkennung

Zoom Audio Deepfake Risk Detection analysiert das Audio für jeden aktiven Sprecher (aktiver Sprecher) in Echtzeit auf der Cloud-Seite. Das Audio des Meetings durchläuft vor Erreichen des Erkennungsdienstes die Standard-Audioverarbeitung von Zoom. Zu diesen Standardprozessen gehören unter anderem Echounterdrückung, Geräuschunterdrückung und Codec-Kodierung. Unser Erkennungsmodell wurde auf einer breiten Palette realer Audio-Bedingungen trainiert, einschließlich Audio, das durch die eigene Pipeline von Zoom verarbeitet wurde, um sicherzustellen, dass echte Sprache nicht fälschlicherweise als gefälscht markiert wird.

Statt den gesamten Audiostream kontinuierlich zu analysieren, extrahiert das System gezielt **kurze Sprachsegmente** des aktiven Sprechers zur Klassifizierung. Eine Qualitätsbewertung prüft die Audiobedingungen in Echtzeit und schließt automatisch Segmente aus, deren Qualität durch eine schlechte Netzwerkverbindung beeinträchtigt ist. So wird vermieden, unzuverlässige Eingaben zu analysieren, und Ressourcen können produktiver eingesetzt werden. Ein **Spracherkennungsgate** trägt dazu bei, sicherzustellen, dass nur tatsächliche Sprache die Deepfake-Analyse auslöst; Audio ohne Sprache, etwa Musik oder Hintergrundgeräusche, wird automatisch ausgeschlossen.

Ähnlich wie bei der Videoerkennung steuert Zoom die Audiofilter und Studioeffekte im Meeting-Erlebnis. Wenn die Deepfake-Risikoerkennung aktiviert ist, werden diese spezifischen Funktionen deaktiviert, um die zugrunde liegenden Audiostreams genauer zu analysieren. Wenn ein Teilnehmer jedoch den Avatar-Modus verwendet, läuft die Audio-Deepfake-Erkennung weiter, sodass die Sprecher-Verifizierung aktiv bleibt, auch wenn eine videobasierte Analyse nicht verfügbar ist.

## Architektur

Das folgende Diagramm zeigt einen Überblick über die Deepfake-Risikoerkennung.

<div data-with-frame="true"><figure><img src="https://590569539-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2Fceg7QCwwI7tQIjqmJxa5%2Funknown.png?alt=media&amp;token=a6631afe-18af-4350-87a3-44e5c7547a15" alt="Architecture diagram showing data flow from sender to client to Zoom Cloud." height="695" width="624"><figcaption></figcaption></figure></div>

## Benutzererfahrung

Wenn Sie sich in einem Zoom-Meeting befinden und die Zoom-Deepfake-Risikoerkennung aktiviert haben, können Sie Folgendes erwarten, wenn ein potenzielles Risiko markiert wird.

Die Zoom-Deepfake-Risikoerkennung benachrichtigt alle aktivierten Benutzer über das potenzielle Vorhandensein von synthetischem Audio oder Video, indem sie Folgendes tut:

* Kennzeichnen Sie den verdächtigen Teilnehmer mit einem **Deepfake-Risiko** Symbol
* Verschieben Sie diesen Teilnehmer in den oberen linken Quadranten des Bildschirms
* Anzeigen eines **Deepfake-Risiko erkannt** Pop-ups mit einem Link zum Öffnen des **Deepfake-Erkennungs-Dashboards**, das zusätzliche Informationen bereitstellt

Das folgende Bild zeigt das Symbol und das Popup.

<div data-with-frame="true"><figure><img src="https://590569539-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FxYY0DrODyhfsMeYCSjFV%2Funknown.png?alt=media&amp;token=12dc5921-4999-497f-a05a-983be5458381" alt="Sample image including Deepfake Risk Detection warnings." height="409" width="624"><figcaption></figcaption></figure></div>

Der **Dashboard zur Erkennung von Deepfakes** stellt aktivierten Benutzern zusätzliche Informationen bereit, darunter:

* Der Risikostatus von **alle** Meeting-Teilnehmer
* Erkennungsrisiken und Konfidenzstufen werden angezeigt für **beide** Video- und Audio-Streams, die zusätzlichen Kontext liefern
* Klare Handlungsaufforderungen, um Benutzer über mögliche nächste Schritte zu informieren

Das Folgende ist ein Beispiel für das Deepfake-Erkennungs-Dashboard:

<div data-with-frame="true"><img src="https://590569539-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FKUPezhc9d7x8UplAwue7%2Funknown.png?alt=media&amp;token=f90c2318-a92d-461d-aa51-b19b20cbe442" alt="" height="574" width="251"></div>

{% hint style="info" %}
**Hinweis**

Zoom Deepfake Risk Detection benachrichtigt Benutzer außerdem, wenn ein Video- oder Audio-Datenstrom schwach oder zu minderwertig ist, um einen Deepfake zu erkennen, oder wenn ein Teilnehmer nicht zugestimmt hat.
{% endhint %}

Anwendungsfälle

Dieser Abschnitt enthält drei häufige Anwendungsfälle für Deepfake Risk Detection. Wenn Sie ein Szenario besprechen möchten, nehmen Sie Kontakt mit Ihrem Zoom-Vertreter auf.

### Berater für Finanzdienstleistungen

#### Überblick

Bob Smith ist ein persönlicher Berater für vermögende Kunden bei einer Privatbank. Er spricht täglich mit fünf oder sechs Kunden und berät sie zu Vermögensstrategien und Finanztransaktionen, um ihre persönlichen Finanzen zu verwalten.

#### Risiken

Bob wickelt in ihrem Auftrag Geldüberweisungen ab, was das Eröffnen neuer Konten, größere Einkäufe und die Bezahlung von Nachlassanbietern umfassen kann. Bob verlässt sich auf sein Urteilsvermögen, kennt seine Kunden persönlich und nutzt einfache Autorisierungsprüfungen.

#### Beispiel

Ein langjähriger Kunde bat um ein ad-hoc Meeting mit Bob, um ihn darüber zu informieren, dass er für ein Familienmitglied ein exotisches Auto kaufen wollte. Der Kunde wies Bob an, 190.000 $ an den Inhaber zu überweisen. Zoom Deepfake Risk Detection alarmierte Bob wegen eines hohen Deepfake-Risikos. Obwohl es für den Kunden nicht ungewöhnlich war, ein solches Auto zu kaufen, handelte Bob vorsichtig und tätigte einen Anruf bei dem Kunden auf seinem Handy vor der eigentlichen Geldüberweisung. Der echte Kunde wusste nichts von dem Meeting und Bob vermied es, Geld an einen Betrüger zu überweisen.

### HR-Recruiter

#### Überblick

Sally Ng ist eine Talent-Recruiterin in einem mittelgroßen Unternehmen und unterstützt die IT-Einstellungen für Ingenieur- und technische Positionen. Sie hat zu jedem Zeitpunkt acht bis zehn offene Stellen und betreut den Rekrutierungsprozess end-to-end, von der Identifizierung von Kandidaten bis zur Aushandlung von Angeboten.

#### Risiken

Sally ist beim Rekrutierungsprozess für Remote-Positionen vorsichtig. Ihr Unternehmen macht Kandidaten im Ausland zunehmend Angebote. Der Prüfprozess ist intensiv, meist mit fünf oder sechs zusätzlichen Interviewern und erfolgreicher Dokument-Verifizierung, bevor das endgültige Angebot abgeschlossen wird. Kandidaten werden oft onboarded, ohne dass sie jemanden persönlich treffen.

#### Beispiel

Mitten in einem vielversprechenden Interviewprozess nahm Sally per Video Kontakt mit dem Kandidaten auf, um ihn über seine letzte Interviewrunde zu informieren. Zoom Deepfake Detection alarmierte Sally wegen eines erhöhten Risikos, einschließlich synthetischem Audio. Sally überprüfte die Identität des Kandidaten anhand anderer Quellen und stellte fest, dass der Kandidat sich als die Online-Profilpräsenz einer anderen Person ausgab. Deepfake Risk Detection konnte eine Situation abwenden, in der ein böswilliger Akteur Zugriff auf die interne IT-Infrastruktur und -Umgebung des Unternehmens gehabt hätte. Sally verhinderte mögliche Ransomware-Angriffe, gefährdete Kundendaten und den Diebstahl proprietärer Software.

### Finanzwesen-Manager

#### Überblick

Tom Cox leitet eine Gruppe von Spezialisten für Kreditoren-Konto-Abwicklung in einem großen Unternehmen. Sein Team ist dafür verantwortlich, Lieferanten zu bezahlen, die Dienstleistungen für eine der Abteilungen des Unternehmens erbringen.

#### Risiken

Das Unternehmen verfügt über Prozesse, um sicherzustellen, dass nur genehmigte Rechnungen bezahlt werden. Der erforderliche Genehmigungsgrad entspricht dem Rechnungsbetrag. Einige Lieferanten erbringen kritische Dienstleistungen, die das Unternehmen am Laufen halten, wie Infrastruktur- und Datendienste. Verspätete Zahlungen könnten zu Unterbrechungen bei Kunden führen und den Ruf des Unternehmens und/oder Geldstrafen schädigen.

#### Beispiel

Tom erhielt einen spontanen Anruf vom Vizepräsidenten für Finanzwesen der Division. Der VP wies Tom an, eine Zahlung in Höhe von 1,2 Mio. $ an einen Lieferanten für ein vertrauliches Projekt vorzunehmen. Der VP tätigte einen Anruf bei Tom, da Toms Chef außer Haus war. Die Zahlung war überfällig und musste heute erfolgen, sonst würde Toms Unternehmen Versäumnisgebühren zahlen. Da er misstrauisch war, bat Tom den VP, einem kurzen Zoom-Meeting beizutreten, um zu verifizieren, dass er es wirklich war. Der VP trat dem Meeting bei und sah und klang für Tom identisch mit dem echten VP, außer dass Deepfake Risk Detection Tom mitteilte, dass es wahrscheinlich synthetisch war. Tom weigerte sich, die Zahlung vorzunehmen, und vermied einen kostspieligen Fehler.

## Enablement und Nutzung

Sobald das Add-on erworben wurde, können Kontoinhaber und Administratoren die Deepfake-Risikenerkennung unter **Gruppe** Ebene für das Unternehmen. Führen Sie die folgenden Schritte aus, um die Funktion zu aktivieren:

1. Melden Sie sich beim [Zoom-Webportal](https://www.zoom.com/).
2. Navigieren Sie zum Bereich Administrator. Klicken Sie auf **Kontoverwaltung**, und klicken Sie dann auf **Kontoeinstellungen**.
3. Klicken Sie in der oberen Navigationsleiste auf **Allgemein**. Rufen Sie **Sicherheit** Abschnitt und aktivieren **Deepfake-Risikoerkennung aktivieren**.

{% hint style="info" %}
**Hinweis**

Wenn Sie diese Einstellung sperren möchten, sodass diese Funktion in allen Meetings automatisch startet, klicken Sie auf das Schloss-Symbol neben dem Umschalten der Funktion. Wenn Sie stattdessen Meeting-Hosts und berechtigten Nutzern die Möglichkeit geben möchten, die Funktion auf Basis einzelner Meetings zu aktivieren, lassen Sie das Schloss offen.
{% endhint %}

Um die Deepfake-Risikoerkennung in einem Meeting zu aktivieren, öffne das Menü in der unteren Symbolleiste und klicke auf das **Erkennungs-** Symbol.

<div data-with-frame="true"><figure><img src="https://590569539-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2F8jNV0vU542V4RmL0GOgW%2Funknown.png?alt=media&amp;token=d5aa945e-7698-44b0-baa5-67fc36f9310f" alt="Image of the menu, showing the Detection option in the middle of the second row." height="280" width="186"><figcaption></figcaption></figure></div>

Einwilligung

Sowohl Gastgeber als auch Teilnehmer können die Deepfake-Risikoerkennung für ihre Meetings Aktivieren. Alle Meeting-Teilnehmer werden benachrichtigt, dass Deepfake-Risikoerkennung aktiviert ist, und müssen zustimmen. Teilnehmer müssen nur bei der ersten Verwendung zustimmen, und ihre Zustimmung wird in den Benutzer-Einstellungen gespeichert. Benutzer können ihre Einwilligungsentscheidung im Einstellungen-Portal jederzeit Ändern.

<div data-with-frame="true"><figure><img src="https://590569539-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FctBXUMeBy4rtLMmMkKRG%2Fuploads%2FjERq2uPA32Ri8PD1vtwV%2Funknown.png?alt=media&amp;token=658db132-011e-42d2-b248-b0d74899af37" alt="Sample Zoom meeting screen displaying a message that &#x22;Deepfake risk detection is on.&#x22;" height="411" width="624"><figcaption></figcaption></figure></div>

## Methodik

Zoom ist dem Ziel verpflichtet, sicherzustellen, dass unsere Kunden eine vertrauenswürdige und sichere Meeting-Erfahrung haben. Wie bei jeder Lösung zur Risikominderung ist nichts perfekt. Böswillige Akteure entwickeln sich ständig weiter und werden Fortfahren, die Abwehrmechanismen zu testen, daher lohnt es sich, aktiv Maßnahmen zu ergreifen, um Ihr Unternehmen zu schützen.

Unter Verwendung einer Kombination von Methoden zur Darstellung realer Beispiele führten wir einen direkten Vergleich mit führenden Deepfake-Lösungen für Video und Audio durch. Zu den von uns verwendeten Methoden gehören:

**Video**

* Traditionelle grafische Bearbeitungs- und Compositing-Methoden
* Frühe Deep-Learning-Methoden, wie etwa Face-Swapping auf Basis von Autoencodern
* GAN-basierte Erzeugungs- und Manipulationsmethoden
* Diffusionsbasierte Erzeugungs-/Bearbeitungsmethoden
* Neuronale Rendering-Ansätze, wie NeRF und 3D-Gaussian-Splatting

**Audio**

* Referenzkonditioniertes generatives TTS
* Spektrogramm-Vocoder-TTS
* Neuronale Codec- oder Vocoder-Resynthese
* Sprachumwandlung oder Sprache-zu-Sprache

{% hint style="warning" %}
**Wichtig**

Gehen Sie stets mit Vorsicht und Diskretion vor, unabhängig davon, ob die Deepfake-Risikoerkennung aktiviert ist.
{% endhint %}


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://library.zoom.com/technical-library/de/ai/deepfake-risk-detection.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
