Deepfake

Deepfake bezeichnet mit Hilfe kuenstlicher Intelligenz erzeugte oder manipulierte Medieninhalte, die echt wirken, aber gefaelscht sind. Der Begriff setzt sich aus "Deep Learning" und "Fake" zusammen und umfasst gefaelschte Videos, Bilder, Stimmen oder Texte, in denen Personen Dinge sagen oder tun, die nie stattgefunden haben. Besonders verbreitet sind Gesichts- und Stimmfaelschungen.

Technisch basieren Deepfakes meist auf sogenannten Generative Adversarial Networks (GANs) oder Diffusionsmodellen. Dabei lernen zwei neuronale Netze im Wettstreit miteinander: Eines erzeugt Faelschungen, das andere versucht, sie zu erkennen. Durch diesen Prozess werden die Ergebnisse immer ueberzeugender. Fuer Stimmklone reichen heute schon wenige Sekunden Originalaufnahme aus, fuer Videofaelschungen sind frei verfuegbare Werkzeuge im Umlauf, die auch ohne tiefes technisches Wissen bedient werden koennen. Was vor wenigen Jahren noch Spezialwissen erforderte, ist mittlerweile in Apps und Online-Diensten verfuegbar.

Fuer kleine und mittlere Unternehmen ist das Thema vor allem aus Sicherheitsperspektive relevant. Eine besonders verbreitete Betrugsmasche ist der sogenannte CEO-Fraud mit Stimmklonen: Mitarbeitende in der Buchhaltung erhalten einen Anruf, bei dem die Stimme der Geschaeftsfuehrung taeuschend echt klingt und eine eilige Ueberweisung anweist. Auch gefaelschte Videokonferenzen, in denen vermeintliche Vorgesetzte oder Geschaeftspartner auftreten, wurden bereits dokumentiert. Hinzu kommen Reputationsrisiken, etwa durch manipulierte Aussagen in sozialen Medien. Schutz bietet vor allem ein Vier-Augen-Prinzip bei Zahlungen, klare Rueckruf-Routinen ueber bekannte Nummern und die Sensibilisierung der Belegschaft.

Neben den Risiken gibt es auch legitime Anwendungen, etwa in der Filmproduktion, bei Schulungsvideos, in der Lokalisierung von Inhalten in andere Sprachen oder beim Einsatz synthetischer Stimmen im Marketing. Verwandte Begriffe sind Synthetic Media, Voice Cloning und Generative KI. Wer Deepfake-Technologie selbst einsetzt, sollte die rechtlichen Rahmenbedingungen beachten — insbesondere Persoenlichkeitsrechte, Urheberrecht und die Kennzeichnungspflichten nach dem EU AI Act.