Papst Franziskus im weißen Daunenmantel oder Olaf Scholz als Bodybuilder: Wer denkt, dass diese Bilder wirklich so entstanden sind, liegt falsch. Denn alle Aufnahmen sind Deepfakes. Der Begriff Deepfakes setzt sich aus den englischen Wörtern Deep Learning (= tiefes Lernen) und Fake (= Fälschung) zusammen und beschreibt realistisch wirkende Medieninhalte wie Fotos, Audioaufzeichnungen und Videos, die mithilfe Künstlicher Intelligenz verfälscht bzw. manipuliert worden sind. Durch Deepfakes lassen sich die Sprechweise, der Gesichtsausdruck und auch Körperbewegungen eines Menschen nachahmen. So werden Menschen Aussagen oder Handlungen zugeschrieben, die sie nie gesagt oder durchgeführt haben.

Es gibt verschiedene Formen von Deepfakes, die bekanntesten sind folgende:

• Face Swap: Das Gesicht einer Person wird in einem Bild oder Video durch das Gesicht einer anderen Person ersetzt.
• Face Reenactment: Mimik, Kopf- oder Lippenbewegungen eines Menschen in einem Video werden in Echtzeit auf das Videobild eines anderen Menschen übertragen.
• Voice Cloning: Die Stimme einer Person wird künstlich nachgestellt. 

Möglichkeiten von Deepfakes

Bildungseinrichtungen können Deepfakes nutzen, um Lerninhalte ansprechender zu gestalten und neue Zugänge zu historischen Gegebenheiten zu schaffen. So können Museen und Gedenkstätten Deepfakes für die historisch-politische Bildungsarbeit verwenden, zum Beispiel um Zeugnisse der Geschichte und Zeitzeugen zu erhalten. Auch Filmschaffende nutzen KI, um Schauspieler*innen jünger aussehen zu lassen. Im Bereich der Medizin gibt es Anstrengungen Deepfake-Technologien zu verwenden, um Menschen, die ihre Stimme bei einer Krankheit oder Unfall verloren haben, eine digitale Version ihrer Stimme zurückzugeben. Unternehmen nutzen Deepfake-Technologien für Marketingzwecke.

Risiken von Deepfakes

Ein zentrales Risiko von Deepfakes ist die Verbreitung von Desinformation, die vor allem im Netz schnell voranschreitet, und deren Auswirkung auf Gesellschaft und Politik. Insbesondere dann, wenn mithilfe von Deepfakes die öffentliche Meinung manipuliert wird und politische Prozesse, zum Beispiel Wahlen, gezielt beeinflusst werden. Deepfakes können auch dazu verwendet werden, falsche und verleumderische Inhalte zu verbreiten und andere bloßzustellen. Besonders brisant wird es, wenn durch Deepfakes peinliche sowie intime Bilder oder Videos von Personen erstellt und online verbreitet werden. Dies kann zu massiven psychischen Belastungen führen und stellt ein Eingriff in die Privatsphäre der Betroffenen dar. Deepfakes werden auch verwendet, um Geld zu erbeuten. Zum Beispiel geben sich Täter*innen als Geschäftsführer*innen eines Unternehmens aus, um Überweisungen an Auslandskonten zu veranlassen. 

Wie sich Deepfakes erkennen lassen 

Manipulierte Bilder, Videos und Stimmen zu erkennen, ist nicht ganz einfach. Grundsätzlich sollten alle Inhalte kritisch angeschaut und angehört werden, um Unstimmigkeiten auszumachen. Merkmale, die auf ein Deepfake hinweisen, können zum Beispiel nicht vorhandenes Augenblinzeln oder Stirnrunzeln, monotone Sprache, falsche Proportionen von Gesichtern, nicht stimmige Übergänge sowie nicht korrekte Schattenwürfe im Gesicht sein. Zudem sollten Inhalte auf ihren Kontext überprüft werden. Dazu zählt eine Quellenüberprüfung. Faktencheckseiten wie unter anderem Mimikama und CORRECTIV können dabei helfen. 

Mehr Informationen:

• Wie gut junge Menschen über Deepfakes Bescheid wissen, können sie im Onlinequiz von klicksafe testen.
• Die Auswirkungen von Deepfakes nimmt das Dossier Wenn der Schein trügt – Deepfakes und die politische Realität der Bundeszentrale für politische Bildung in den Blick.
• Eine Materialsammlung mit Methoden für die pädagogische Praxis rund um das Thema Künstliche Intelligenz stellt das Projekt iKIDO des Competence Centers Human-Centered Intelligent Systems & Sustainability der Hochschule Stralsund zur Verfügung.