Deepfake

Was sind Deepfakes?

Deepfakes sind durch Künstliche Intelligenz erzeugte oder manipulierte Medieninhalte -- Videos, Bilder oder Audioaufnahmen --, die taüschend echt wirken, aber gefälscht sind. Der Begriff setzt sich aus "Deep Learning" (einer Methode des maschinellen Lernens) und "Fake" zusammen.

Mit Deepfake-Technologie kann man eine Person in einem Video Dinge sagen und tun lassen, die sie nie gesagt oder getan hat. Die Ergebnisse sind mittlerweile so ueberzeugend, dass selbst Experten sie mit blossem Auge oft nicht mehr von echtem Material unterscheiden können.

Wie funktioniert die Deepfake-Technik?

Deepfakes basieren auf spezialisierten neuronalen Netzen, insbesondere:

• Generative Adversarial Networks (GANs): Zwei neuronale Netze arbeiten gegeneinander. Ein Generator erzeugt gefälschte Inhalte, ein Diskriminator versucht, diese als Fälschung zu erkennen. Durch dieses Wechselspiel werden die Fälschungen immer besser
• Autöncoder: Diese Netze lernen, ein Gesicht in eine komprimierte Darstellung zu überführen und daraus ein neues Bild zu rekonstruieren -- mit den Gesichtszügen einer anderen Person
• Diffusionsmodelle: Neüre Verfahren, die Bilder schrittweise aus Rauschen erzeugen und extrem fotorealistische Ergebnisse liefern
• Voice Cloning: Spezialisierte Modelle können aus wenigen Sekunden Audiomaterial eine Stimme so ueberzeugend kopieren, dass Angehörige sie nicht von der echten Stimme unterscheiden können

Für einen Video-Deepfake analysiert die KI Hunderte oder Tausende Bilder der Zielperson, lernt deren Mimik, Gesichtsform und typische Bewegungen und überträgt diese auf ein anderes Video.

Gefahren und Missbrauchspotenzial

Die Risiken von Deepfakes sind vielfältig und ernst zu nehmen:

• Desinformation und Propaganda: Gefälschte Videos von Politikern, die falsche Aussagen machen, können Wahlen beeinflussen und gesellschaftliche Spaltung vertiefen. 2022 tauchte ein Deepfake des ukrainischen Präsidenten Selenskyj auf, der zur Kapitulation aufrief
• Betrug und Social Engineering: Kriminelle nutzen Deepfake-Stimmen, um sich am Telefon als Geschäftsführer auszugeben und Ueberweisungen zu veranlassen (CEO-Fraud). In einem dokumentierten Fall wurden so 243.000 US-Dollar erbeutet
• Nicht-einvernehmliche Pornografie: Ein grosser Teil der Deepfakes im Internet wird für die Erstellung gefälschter pornografischer Inhalte missbraucht -- ueberproportional betroffen sind Fraün
• Identitätsdiebstahl: Deepfake-Gesichter können für gefälschte Ausweisdokumente oder zur Umgehung biometrischer Verifizierung genutzt werden
• Erpressung: Die Drohung, ueberzeugend gefälschte kompromittierende Inhalte zu veröffentlichen, ist ein wachsendes Erpressungsinstrument

Wie erkennt man Deepfakes?

Obwohl die Erkennung zunehmend schwieriger wird, gibt es Hinweise und Werkzeuge:

• Visülle Anzeichen: Unnatürliches Blinzeln, verschwommene Übergänge zwischen Gesicht und Hintergrund, inkonsistente Beleuchtung, seltsame Ohren oder Zähne
• Audio-Hinweise: Monotone Sprachmelodie, fehlende Atemgeräusche, unnatürliche Pausen
• Metadaten-Analyse: Prüfung der Dateieigenschaften auf Anzeichen von Manipulation
• KI-Erkennungstools: Spezialisierte Software wie Intel FakeCatcher, Microsoft Video Authenticator oder Deepware Scanner analysieren Videos auf Manipulationsspuren
• Blockchain-basierte Verifizierung: Initiativen wie die Content Authenticity Initiative (Adobe, Microsoft, BBC) entwickeln Standards, um die Herkunft von Medieninhalten zu verifizieren

Rechtliche Lage in Deutschland

In Deutschland gibt es keine spezifischen Deepfake-Gesetze, aber mehrere bestehende Regelungen greifen:

• Persönlichkeitsrecht: Das Recht am eigenen Bild (Kunsturhebergesetz) schützt vor der nicht genehmigten Verwendung des eigenen Gesichts
• Verleumdung und ueble Nachrede: Deepfakes, die Personen in falschem Licht darstellen, können strafrechtlich verfolgt werden
• DSGVO: Die Erstellung von Deepfakes mit personenbezogenen Daten (Gesicht, Stimme) unterliegt dem Datenschutzrecht
• AI Act: Die EU-KI-Verordnung verpflichtet künftig zur Kennzeichnung von KI-generierten Inhalten, einschliesslich Deepfakes
• Sexualstrafrecht: Die Erstellung nicht-einvernehmlicher pornografischer Deepfakes kann nach verschiedenen Straftatbeständen verfolgt werden

Unternehmen sollten sowohl interne Richtlinien zum Umgang mit KI-generierten Medien erstellen als auch ihre Mitarbeiter für die Erkennung von Deepfakes sensibilisieren -- besonders in der Finanzbuchhaltung und in Abteilungen, die regelmässig per Video oder Telefon kommunizieren.

Fazit

Deepfakes sind eine der beunruhigendsten Anwendungen von Künstlicher Intelligenz. Die Technologie, die auch kreative und nützliche Einsatzmöglichkeiten hat (etwa in der Filmindustrie oder für barrierefreie Kommunikation), birgt erhebliches Missbrauchspotenzial. Für Unternehmen ist es entscheidend, Mitarbeiter zu schulen, Verifizierungsprozesse einzuführen und sich auf eine Zukunft einzustellen, in der man nicht mehr automatisch alles glauben kann, was man sieht und hört.