Die Autoren:
(1) Anh V. Vu, Universität von Cambridge, Cambridge Cybercrime Centre ([email protected]);
(2) Alice Hutchings, Universität von Cambridge, Cambridge Cybercrime Centre ([email protected])
(3) Ross Anderson, Universität Cambridge und Universität Edinburgh ([email protected]).
Authors:
(1) Anh V. Vu, Universität von Cambridge, Cambridge Cybercrime Centre ([email protected]);
(2) Alice Hutchings, Universität von Cambridge, Cambridge Cybercrime Centre ([email protected])
(3) Ross Anderson, Universität Cambridge und Universität Edinburgh ([email protected]).
Tisch links
2. Deplatforming und die Auswirkungen
2.2. Die Störung der Kiwi-Farmen
3. Methoden, Datensätze und Ethik und 3.1. Forum und Imageboard-Diskussionen
3.2. Telegram Chats und 3.3. Web-Traffic und Suchtrends Analytics
3.4. Tweets von der Online-Community und 3.5. Datenlizenzierung
4.3 Fragmentierung des Verkehrs
5. Die Auswirkungen auf relevante Stakeholder und 5.1. Die Community, die die Kampagne gestartet hat
5.2 Die Reaktionen der Industrie
6. Spannungen, Herausforderungen und Implikationen und 6.1. Die Wirksamkeit der Störung
6.2 Zensur versus Redefreiheit
6.3 Die Rolle der Industrie bei der Content-Moderation
6.5 Einschränkungen und zukünftige Arbeit
7. Schlussfolgerung, Anerkennungen und Referenzen
Abstract—Legislators and policymakers worldwide are debating options for suppressing illegal, harmful and undesirable material online. Drawing on several quantitative data sources, we show that deplatforming an active community to suppress online hate and harassment, even with a substantial concerted effort involving several tech firms, can be hard. Our case study is the disruption of the largest and longest-running harassment forum KIWI FARMS in late 2022, which is probably the most extensive industry effort to date. Despite the active participation of a number of tech companies over several consecutive months, this campaign failed to shut down the forum and remove its objectionable content. While briefly raising public awareness, it led to rapid platform displacement and traffic fragmentation. Part of the activity decamped to Telegram, while traffic shifted from the primary domain to previously abandoned alternatives. The forum experienced intermittent outages for several weeks, after which the community leading the campaign lost interest, traffic was directed back to the main domain, users quickly returned, and the forum was back online and became even more connected. The forum members themselves stopped discussing the incident shortly thereafter, and the net effect was that forum activity, active users, threads, posts and traffic were all cut by about half. The disruption largely affected casual users (of whom roughly 87% left), while half the core members remained engaged. It also drew many newcomers, who exhibited increasing levels of toxicity during the first few weeks of participation. Deplatforming a community without a court order raises philosophical issues about censorship versus free speech; ethical and legal issues about the role of industry in online content moderation; and practical issues on the efficacy of private-sector versus government action. Deplatforming a dispersed community using a series of court orders against individual service providers appears unlikely to be very effective if the censor cannot incapacitate the key maintainers, whether by arresting them, enjoining them or otherwise deterring them.
Abstrakte1. Einführung
Online-Inhalte sind heute weit verbreitet, allgemein zugänglich und einflussreich bei der Gestaltung des öffentlichen Diskurses. Während Online-Seiten freie Sprache erleichtern, tun sie das gleiche für Hassreden [1], und die Linie zwischen den beiden wird oft umstritten. Einige Fälle von Verfolgung, Mobbing und Doxxing wie Gamergate haben reale Folgen, darunter gewalttätige Verbrechen und politische Mobilisierung [2]. Content-Moderation ist zu einer kritischen Funktion von Technologieunternehmen geworden, aber auch zu einem politischen Schwierigkeitsraum, da missbräuchliche Konten Online-Communities auf deutlich unterschiedliche Weise beeinflussen können [3]. Online-Soziale Plattformen verwenden verschiedene Mechanismen, zum Beispiel künstliche Intelligenz [4], um Inhalte zu erkennen,
Deplatforming kann bedeuten, einzelne Benutzer zu blockieren, aber manchmal ist das Ziel nicht ein einzelner schlechter Akteur, sondern eine ganze Gemeinschaft, wie einer, der an Kriminalität beteiligt ist [11]. Es kann von der Industrie durchgeführt werden, wie wenn Cloudflare, GoDaddy, Google und einige andere Firmen den Service für den DAILY STORMER nach der Unite the Right Rally in Virginia im Jahr 2017 [12] und für 8CHAN im August 2019 [13] blockiert haben; oder durch die Strafverfolgung, wie mit dem FBI DDoS-forhire-Dienstleistungen im Jahr 2018 [14], [15] und 2022 [16], [17], und die Beschlagnahme von RAID FORUMS im Jahr 2022 [18]. Die Störung der Industrie war oft kurzlebig; sowohl 8CHAN als auch DAILY STOR
KIWI FARMS ist das größte und am längsten laufende Online-Mobbing-Forum [21]. Es ist oft mit real-life-Trolling- und Doxxing-Kampagnen gegen Feministinnen, schwule Rechte-Kampagnen und Minderheiten wie behinderte, transgender und autistische Personen verbunden; einige haben sich nach der Belästigung getötet [22]. Obwohl es unangenehm und weitgehend umstritten ist, hat das Forum seit einem Jahrzehnt online gewesen und wurde von Cloudflare DDoS-Schutz für Jahre geschützt. Dies kam zu einem Ende nach einer ernsthaften Belästigung durch Forum-Mitglieder eines kanadischen Trans-Aktivisten, die in einem Swatting-Ereignis im August 2022 kulminierte.[1] Dies führte zu einer Community-geführten Kampagne auf
Bestehende Studien haben die Wirksamkeit der Entplatformung von Social-Media-Nutzern [28], [29], [30], [31], [32], [33], [34] untersucht, aber es gibt begrenzte Forschung - sowohl quantitativ als auch qualitativ - in der Wirksamkeit von Branchenunterbrechungen gegen unabhängige Hass-Communities wie Bulletin-board-Foren, die dazu neigen, widerstandsfähiger zu sein, da der Inhalt vollständig von den Administratoren gesichert und wiederhergestellt werden kann.
Unser Ziel ist es, die Wirksamkeit der Bemühungen zu bewerten und die Auswirkungen und Herausforderungen des Deplatforming als Mittel zur Unterdrückung von Online-Hass und Belästigung zu verstehen. Unsere primären Forschungsfragen werden in den folgenden Abschnitten behandelt: Die Auswirkungen des Deplatforming auf die Forumaktivitäten und -verkehr werden in §4 bewertet; die Veränderungen im Verhalten von Forummitgliedern, wenn ihr Treffpunkt gestört wird, sowie die Auswirkungen auf die Forumbetreiber und die Community, die die Kampagne gestartet haben, werden in §5 untersucht. Wir diskutieren über die Rolle der Branche bei der Bekämpfung von Online-Beschimpfungen, Zensur und Inhaltsregulierung sowie über die rechtlichen, ethischen und politischen Auswirkungen des Vorfalls in §6. Unsere
Dieses Dokument ist unter der CC BY 4.0 DEED-Lizenz verfügbar.
Dieses Papier istVerfügbar im Archivunter der CC BY 4.0 DEED Lizenz.
[1] Dies ist, wenn ein Belästiger fälschlicherweise ein gewalttätiges Verbrechen in der Wohnung des Opfers berichtet, was zur Ankunft eines Spezial-Waffen-und-Taktiken-Teams (SWAT) führte, um die Räumlichkeiten zu überfallen und das Opfer und seine Familie in Gefahr zu stellen.
