ExtremismusHassredeDesinformationDemokratiebildung

Demokratie unter Druck: Deepfakes, Desinformation, Hass und Extremismus im Netz

Ein aufgeschlagenes Buch, auf dem eine Glühbirne zu sehen ist.

Die Verbreitung von Desinformation, Deepfakes sowie populistischer bis hin zu extremistischen Ansichten stellt eine Herausforderung für demokratische Systeme weltweit dar. Insbesondere im Netz werden Desinformation, Hass und extremistische Propaganda gestreut. Umso wichtiger ist Medienkompetenz. Sie befähigt Medieninhalte kritisch zu reflektieren, einzuordnen und zu nutzen. 

Welche Online-Herausforderungen gibt es? Und welche Materialien und Methoden können pädagogische Fachkräfte nutzen, damit sie junge Menschen in einem kompetenten Medienumgang unterstützen und letztlich zur demokratischen Teilhabe befähigen können?

Desinformation

Unter Desinformation versteht man die bewusste Verbreitung von irreführenden Informationen bzw. Unwahrheiten, die mit der Absicht verbreitet werden zu täuschen oder zu beeinflussen. Von Fehl- bzw. Falschinformation spricht man, wenn keine Täuschungsabsicht besteht und falsche Informationen aus Versehen verbreitet werden, zum Beispiel eine satirische Nachricht, die falsche Informationen enthält. 

Wo kann ich mich über Desinformation informieren?

Wie sich junge Menschen informieren, worauf sie bei der Informationssuche achten sollten und wie Eltern und pädagogische Fachkräfte sie bei einer souveränen Mediennutzung unterstützen können, erläutert klicksafe auf seiner Themenseite Desinformation und Meinung

Welche Rolle Desinformation in Sozialen Netzwerken, bei Wahlen und Rechtsextremismus spielt und wie medienpädagogischen Angebote die Medienkompetenz stärken können, erläutert die Bundeszentrale für politische Bildung (bpb) auf ihrer Themenseite zu Desinformation

Wie junge Menschen Desinformation erkennen und wie Eltern ihren Kindern ein kritisches Denken vermitteln können, erläutert Till Eckert, Faktenchecker bei Correctiv im Podcast Game of Phones von SCHAU HIN Was dein Kind mit Medien macht. Um Fake News, deren Verbreitung in Sozialen Medien und Apps und deren Risiken für Gesellschaft, Demokratie und Gesundheit, geht es in der vierten Folge von JUUUCAST, dem Podcast von jungen Menschen für junge Menschen.

Faktenchecker wie Mimikama und Correctiv helfen zu überprüfen, ob es sich um wahrheitsgemäße Informationen oder Desinformation handelt. Correctiv hat auch einen WhatsApp-Kanal, über den sich Interessierte täglich über die neusten Faktenchecks und Hintergrundberichte informieren können. Bei Verdacht auf Falschnachrichten kann dies via Chatbot an Correctiv gemeldet werden. Bei mimikama kann dies über ein Formular auf der Website gemeldet werden. 

Wo finde ich Materialien und Methoden zum Thema Desinformation?

Die Methode Kannste glauben!? aus dem Projekt ACT ON! vom JFF – Institut für Medienpädagogik in Forschung und Praxis können pädagogische Fachkräfte nutzen, um Kinder und Jugendliche für das Thema Desinformation zu sensibilisieren. 

klicksafe hat die Broschüre Ethik macht klick. Meinungsbildung in der digitalen Welt erstellt, die sich für die schulische und außerschulische Jugendarbeit eignet. Die Broschüre gibt Einblicke in das Informationsverhalten von Jugendlichen, bietet Hilfestellung beim Analysieren und Erkennen von Desinformationsstrategien und zeigt Auswirkungen von Falschinformation auf die demokratische Gesellschaft auf.

Wie kann ich spielerisch zum Thema Desinformation arbeiten?

Zum Thema Fake News (gefälschte Nachrichten) gibt es das von der Büchereizentrale Schleswig-Holstein entwickelte Planspiel Die FakeHunter für Schüler*innen – eine Version ab der vierten und eine ab der achten Klasse. Ziel ist es, ein kritisches Bewusstsein für digitale Informationen zu entwickeln und Werkzeuge kennenzulernen, die helfen, Fake News zu erkennen.

Das Onlinespiels Bad News von der niederländischen Organisation DROG und der Universität Cambridge richtet sich an junge Menschen ab 14 Jahren. Jugendliche werden selbst zu Produzent*innen von Fake News. So soll ihr Bewusstsein für gefälschte und irreführende Nachrichten gestärkt werden. Auch beim Onlinespiel Fake it to make it von der Bundeszentrale für politische Bildung und der Niedersächsischen Landeszentrale für politische Bildung versetzen sich die Spielenden in die Rolle von Verfasser*innen von Fake News. Ziel des Spiels ist es, zu verstehen, wie Fake News erstellt und verbreitet werden und einen kritischen und reflektierten Umgang mit Informationen zu stärken.

Das Augmented Reality Spiel Escape Fake von Polycular führt die Spielenden durch einen Escape Raum. Ziel des Spiels ist es, Fake News zu erkennen, Strategien zur Verbreitung von Desinformation zu kennen und zu wissen, wie man mit Fake News umgehen kann. 

Um die EU und europapolitische Themen geht es im Planspiel Fakt oder Fake der Europäischen Kommission in Deutschland. Das Spiel richtet sich an Schüler*innen der Sekundarstufe. 

Ob es sich um einen Fakt oder um Fake handelt, darum geht es im Quiz von Handysektor

Hassrede/Hate Speech

Hassrede/Hate Speech bezieht sich auf abwertende, beleidigende, menschenverachtende oder volksverhetzende Sprache und Inhalte, mit denen Einzelpersonen oder Menschengruppen bewusst angegriffen und abgewertet werden. Die Abwertung zeigt sich in unterschiedlichen Ausprägungen, wie vor allem in Rassismus und Fremdenfeindlichkeit, Antisemitismus, Sexismus, Homo- und Transfeindlichkeit sowie Ableismus. Hass im Netz äußert sich vor allem durch Worte, Bilder und Videos, insbesondere in sozialen Netzwerken, Messenger-Diensten und Kommentarspalten von Online-Medien. Durch die Möglichkeit, im Netz anonym zu bleiben und kein direktes Gegenüber zu haben, sinkt die Hemmschwelle, Hate Speech im Netz zu verbreiten.

Wo kann ich mich zu Hate Speech informieren? 

Wir informieren in unserer Online-Konferenz Gemeinsam demokratisch handeln – Kinder und Jugendliche gegen Hass im Netz stark machen über Hassrede im Netz und zeigen ganz praktisch auf, wie junge Menschen durch medienpädagogische Projekte im Umgang mit Hate Speech gestärkt werden können. 

Das Kompetenznetzwerk gegen Hass im Netz informiert auf Themen-Seiten darüber, wer von Hass im Netz betroffen ist, welche Auswirkungen Hassrede hat und was gegen Hass im Netz getan werden kann. In der aktuellen Studie Lauter Hass – leiser Rückzug beleuchtet das Kompetenznetzwerk wie Hass im Netz den demokratischen Diskurs bedroht. 

Was Hassrede umfasst und wie die rechtliche Lage dazu ist, erläutert SCHAU HIN! Was dein Kind mit Medien macht

Auf der Ratgeber-Seite zu Hass im Netz von JUUUPORT erfahren junge Menschen, wie sich Hass im Netz äußert und was sie bei Hassrede tun können.

Auch klicksafe informiert auf einer Themenseite über die Formen von Hass im Netz, klärt über die rechtliche Situation auf und vermittelt Strategien gegen Hassrede.

Wo finde ich Materialien und Methoden zum Thema Hass im Netz?

Materialien, Methoden und Projekte für die Bildungsarbeit gegen Hass im Netz bietet die Good-Practice-Sammlung der Gesellschaft für Medienpädagogik und Kommunikationskultur (GMK)

Wie Jugendliche spielerisch an das Thema Hate Speech herangeführt werden, zeigt die Methode Hate-Speech-Ampel aus dem ACT ON! -Projekt des JFF. An Fachkräfte der medienpädagogischen Jugendarbeit richtet sich die klicksafe-Broschüre Hassrede im Netz – Von den Grenzen der Meinungsfreiheit.

Wie Hassrede im Unterricht behandelt werden kann, zeigen die Themenblätter Hate Speech – Gruppenbezogene Menschenfeindlichkeit im Netz von der bpb

Wie Peer-Education funktionieren kann und Jugendliche Workshops zum Thema Hass im Netz geben können, erläutert Franz Werner in unserem Interview Goodbye Hate Speech: Junge Menschen als Botschafter*innen für Demokratie im Netz. Dass Humor auch eine Strategie sein kann mit Hass im Netz umzugehen, erläutert Rosa Kindl in unserem Interview Hate Speech vs. Humor: Wie Gegenrede mit Witz empowern kann

Die App KonterBunt - Einschreiten für Demokratie der Landeszentralen für politische Bildung Niedersachsen und Sachsen-Anhalt hilft, sachliche Argumente und Reaktionsstrategien zu finden, um Parolen zu entgegnen und sich für ein demokratisches Miteinander stark zu machen.

Welche Strategien junge Menschen nutzen können, um sich gegen Hass im Netz zu wehren und eine klare Haltung gegen Hass im Netz zu zeigen, erfahren sie im Serious Game rebelcatz von iRights.Lab.

Wo finden Betroffene von Hass im Netz Hilfe?

Betroffene von Hass im Netz können sich an HateAid wenden. Die Organisation berät vertraulich und kostenlos. Auch die Nummer gegen Kummer berät Menschen, die von Online-Hass betroffen sind. Junge Menschen können sich zudem an JUUUPORT wenden. 

Wo kann ich Hassrede melden?

Hass und Hetze können bei jugendschutz.net, bei der Meldestelle REspect!, bei der internet-beschwerdestelle der FSM und eco und auch bei HateAid gemeldet werden. 

Extremismus

Der Begriff Extremismus stammt von den lateinischen Wörtern „extremus“ (= „äußerst“, „entferntest“ und auch „ärgste“, „schlimmste“) und „extremitas“ (=der äußerste Rand) ab. Er beschreibt Bestrebungen, welche die freiheitliche, demokratische Grundordnung mit den Prinzipien der Volkssouveränität, Gewaltenteilung, Rechtsstaatlichkeit und Pluralismus im Kern ablehnen. Zudem ist Extremismus gekennzeichnet durch Freund-Feind-Stereotype und einer kompromisslosen und dogmatischen Weltsicht, die Meinungsvielfalt nicht berücksichtigt.

Wo kann ich mich zu Extremismus im Netz informieren?

jugendschutz.net informiert im Themenbereich zu politischem Extremismus über Formen von Extremismus im Netz und stellt dort Berichte zur Verfügung, die in den Blick nehmen, wie extremistische Akteur*innen online versuchen, ihre Ansichten unter jungen Menschen zu verbreiten. Wer auf extremistische Inhalte im Netz stößt, kann diese bei jugendschutz.net melden

Wie extremistische Gruppen Soziale Netzwerke nutzen, um Jugendliche zu erreichen, darüber informiert auch das Landesmedienzentrum Baden-Württemberg

Wie rechtsextreme Akteur*innen die Plattform TikTok nutzen, haben wir in unserem Artikel Likes für Demokratie: Gegen Desinformationen auf TikTok zusammengefasst.

klicksafe informiert im Themenschwerpunkt Rechtsextremismus im Netz und Salafismus im Netz über beide Formen von Extremismus, gibt Eltern und pädagogischen Fachkräften Tipps für die Sensibilisierung junger Menschen und teilt Informationen zu Melde- und Beratungsstellen.

Welche medienpädagogischen Präventionsprojekte im Bereich Extremismus gibt es?

Das Projekt AntiAnti von mediale pfade bietet an kontemporären medialen Lebenswelten, vor allem Jugendlicher, orientierte Workshops an, die auf die Themen Rechtsextremismus, Islamismus und Antisemitismus spezialisiert sind. Ziel ist es, primärpräventiv der On- und Offline-Radikalisierung vorzubeugen, indem Jugendliche und junge Erwachsene für menschenverachtende Ideologien im Netz, die ausgenutzten Mechanismen der Sozialen Medien und auch für das Thema Diskriminierung im Allgemeinen sensibilisiert werden.

RISE ist eine Plattform für Jugendkultur, Medienbildung und Demokratie des JFF – Institut für Medienpädagogik in Forschung und Praxis. Die Plattform wurde im Rahmen des Modellprojektes RISE aufgebaut. Junge Menschen haben eigene Filme zu jugend- und gesellschaftspolitischen Themen produziert, die auf der Plattform in der Mediathek verfügbar sind. Begleitend dazu gibt es Materialien für die pädagogische Arbeit mit Filmen und Hintergrundinformationen zu den Themen Gender, Gesellschaftskritik, Pluralismus, Werte und Religion sowie Rassismus. Ziel des Projektes RISE war es, Jugendliche durch die Förderung von Medienkompetenz und Diskussionskultur gegen extremistische Ansprachen im Netz zu stärken.

Wie mit medienpädagogischen Methoden junge Menschen erreicht werden können, die bereits mit rechtsextremen Ansichten sympathisieren, zeigt das Modellprojekt Prisma – Medienpädagogische Interventionen im Feld der „Neuen Rechten“ Wie das genau aussieht, erläutert Lena Sierts in unserem Interview.

Welche spielerischen Ansätze im Bereich Extremismus gibt es für die medienpädagogische Arbeit?

Das mobile Spiel HIDDEN CODES der Bildungsstätte Anne Frank widmet sich dem Thema Radikalisierung im digitalen Zeitalter. Es möchte Jugendliche ab 14 Jahren sensibilisieren und Handlungsoptionen gegen Radikalisierung aufzeigen. In dem Spiel können sich junge Menschen mit problematischen Inhalten und Aussagen in Social Media auseinandersetzten und erfahren, wie sie Radikalisierung erkennen und darauf kompetent reagieren können.

Das Spiel KryptoKids und das geheime Netzwerk der Fachstelle für Jugendmedienkultur NRW führt Kinder im Alter von zehn bis 14 Jahren spielerisch und altersgerecht an die Themen Demokratie und Extremismus heran. In drei Kapiteln können sich Kinder mit den Themen „Demokratie & Wahlen“, „Media & Fake News“ sowie „Extremismus im Internet“ auseinandersetzen. Ziel ist es, Kinder in ihrem demokratischen Handeln und zur Meinungsbildung zu befähigen und zu stärken und sie gleichzeitig in ihrer Medienkompetenz zu unterstützen.

Das Actionbound-Spiel #cleanyournetwork – Bootcamp gegen rechtsextremen Hass und für Demokratie auf Social-Media von klicksafe möchte junge Menschen für Rechtsextremismus im Netz sensibilisieren. Junge Menschen lernen, rechtsextreme Online-Strategien zu entlarven und gegen demokratiegefährdende Desinformation vorzugehen. 

Deepfakes

Der Begriff Deepfakes setzt sich aus den englischen Wörtern Deep Learning (= tiefes Lernen) und Fake (= Fälschung) zusammen und beschreibt realistisch wirkende Medieninhalte wie Fotos, Audioaufzeichnungen und Videos, die mithilfe Künstlicher Intelligenz verfälscht worden sind. 

Wo finde ich Informationen zu Deepfakes?

Was Deepfakes sind, welche Gefahren von Deepfakes ausgehen und wie sie erkannt werden können, erläutert die bpb im Artikel Deepfakes – Wenn man Augen und Ohren nicht mehr trauen kann. 

Auch klicksafe informiert darüber, wie Deepfakes erkannt werden können und wie die Echtheit von Videos überprüft werden kann. 

Welche Materialien für die pädagogische Arbeit zum Thema Deepfakes gibt es?

Das Projekt iKIDO des Competence Centers Human-Centered Intelligent Systems & Sustainability an der Hochschule Stralsund und Projektpartner*innen entwickelt Methoden für die pädagogische Praxis rund um das Thema Künstliche Intelligenz. So gibt es in der Materialsammlung auch eine Methode zu Deepfakes.

Das Landesmedienzentrum Baden-Württemberg stellt Lernideen zum Thema Künstliche Intelligenz bereit und verweist auf weitere Unterrichtsmaterialien und Tools.