Sozialere Netzwerke: Pöbler auszuschließen dämmt den Hass ein

Drohungen, Aufrufe zu Gewalt oder purer Hass – die Frage, wie man auf Online-Plattformen Hassrede am besten zähmt, ist umstritten. Eine Strategie ist das sogenannte „Deplatforming“. Dabei werden einzelne Personen oder Gruppen dauerhaft von Online-Plattformen wie sozialen Netzwerken ausgeschlossen, wenn diese mehrmals oder besonders extrem gegen deren Richtlinien verstoßen.

Im Fachblatt „PNAS“ der „National Academy of Sciences“ in den USA ist nun eine Studie zu Deplatforming auf Facebook erschienen, die die Wirksamkeit dieses Vorgehens untersucht hat. Die Strategie könne den Konsum und die Verbreitung von Hass in der auf der Plattform verbleibenden Anhängerschaft langfristig reduzieren, so Daniel Thomasa und Laila Wahedi von „Meta Platforms“, der Dachorganisation von Facebook, Instagram und What’s App und Messenger.

26.000 Facebook-Nutzer untersucht

Für die Studie analysierten Thomasa und Wahedi die Auswirkungen von „Strategic Network Disruptions“ (SNDs) auf das Verhalten der Anhänger von Hassorganisationen. Mit dieser Methode werden mehrere Treiber einer Hassorganisation gleichzeitig von der Plattform entfernt, mit dem Ziel, die Netzwerkbildung der Organisation zu stören. Auch erhofft man sich, dass die Anhängerschaft der Stimmungsmacher weniger radikalisierenden Inhalten ausgesetzt wird und selbst weniger Hassbotschaften verbreitet. Die Forschenden untersuchten den Effekt auf die „loyalen“, eng mit den Stimmungsmachern vernetzten Unterstützer sowie auf zurückhaltende Anhänger, welche die Inhalte der Hass-Verbreiter eher am Rande verfolgten. Das Datenset umfasste das Onlineverhalten von insgesamt 26.359 Nutzern.

Tatsächlich ging der Konsum von Hassbotschaften bei den Anhängern im Durchschnitt zurück und sie verteiteten sich weniger. In den ersten Tagen verringerte sich der Konsum von Hassbotschaften sogar „erheblich“, von etwa fünf auf viereinhalb pro Tag, also um etwa 10 Prozent. Außerdem interagierten die verbleibenden Anhänger der Organisation im Durchschnitt weniger miteinander und wendeten sich wieder mehr anderen Nutzenden zu.

Weniger Hater, weniger Hass

Dabei reagierte die Anhängerschaft aber unterschiedlich auf die Löschaktion: Während die verhaltenen Anhänger sofort weniger Hass lasen und weiterverbreiteten, kam es bei den loyalen Mitgliedern zuerst zu einer Gegenbewegung: Sie konsumierten und verbreiteten mehr Hass. Nach circa zwei Monaten drehte sich dieser Trend allerdings um und auch die loyalen Anhänger lasen und posteten weniger hasserfüllte Inhalte. 

„Wir stellen fest, dass Netzwerk-Unterbrechungen im Durchschnitt eine gesündere Plattform schaffen“, schlussfolgern Tomasa und Wahedi. Der Eingriff schränke die Fähigkeit der Stimmungsmacher ein, ihre Zielgruppe zu beeinflussen und ihre Organisation zu vergrößern. Bei zaghafteren Anhängern könne so frühzeitig eine Radikalisierung verhindert werden. Aber auch erste Rückschläge bei den loyalen Nutzern seien „kein vollständiger Beweis für die Unwirksamkeit“ der Löschaktion, da sich dieser Trend langfristig umkehre. So wird vermutet, dass die gelöschten Meinungsmacher ihre Anhängerschaft nicht über alternative Medien erreichen und die Gruppe zusammenhalten konnten. Das kann auch daran liegen, dass viele große Plattformen nach solchen Aktionen ihre Daten tauschen, um ein Überschwappen des Hasses auf ihre Plattformen zu vermeiden.

Über die Effekte von Deplatforming gibt es mittlerweile einige Untersuchungen, auch zu Plattformen wie Twitter, Reddit und Telegram, die auf eine Wirskamkeit solcher Eingriffe hindeuten. In Politik, Gesellschaft und Wissenschaft ist das Vorgehen dennoch umstritten. Kritiker befürchten dadurch eine Einschränkung der Meinungsfreiheit oder Overblocking: dass Nutzer möglicherweise fälschlich mit gesperrt werden. Betroffene können dann nur sehr schwer Widerspruch einlegen. Experten befürchten außerdem eine Abwanderung in geschlossene Räume, etwa Chatgruppen, in denen Radikalisierungsprozesse wahrscheinlicher sind. Viele halten Deplatforming dennoch für einen wichtigen Teil des Community-Managements. Weitere Strategien gegen Hass sind zum Beispiel das Markieren von Hass-Beiträgen oder Gegenrede.