ang mga author:
(1) Anh V. Vu, University of Cambridge, Cambridge Cybercrime Centre ([email protected]);
(2) Alice Hutchings, University of Cambridge, Cambridge Cybercrime Centre ([email protected])
(3) Ross Anderson, University of Cambridge, at University of Edinburgh ([email protected]).
Authors:
(1) Anh V. Vu, University of Cambridge, Cambridge Cybercrime Centre ([email protected]);
(2) Alice Hutchings, University of Cambridge, Cambridge Cybercrime Centre ([email protected])
(3) Ross Anderson, University of Cambridge, at University of Edinburgh ([email protected]).
Table ng mga Links
2. deplatforming at ang mga epekto
2.2. ang Kiwi Farms Disruption
3.Methods, Datasets, at Ethics, at 3.1. Forum at Imageboard Discussions
3.2. Telegram Chats at 3.3. Web Traffic at Search Trends Analytics
3.4. Tweets Made sa pamamagitan ng Online Community at 3.5. Data Licensing
Ang Impeksiyon sa Aktividad at Traffic ng Forum, at 4.1. Ang Impeksiyon ng Major Disruptions
Ang mga Impact sa Relevant Stakeholders at 5.1. Ang komunidad na nagsimula ng kampanya
5.2 Ang mga reaksyon ng industriya
6.Tensions, Challenges, and Implications at 6.1. Ang Effectiveness ng Disruption
6.2 Censorship vs Freedom of Speech
6.3. Ang papel ng industriya sa content moderation
6.5 Mga limitasyon at future work
7. konklusyon, mga pagsusuri, at references
Abstract—Legislators and policymakers worldwide are debating options for suppressing illegal, harmful and undesirable material online. Drawing on several quantitative data sources, we show that deplatforming an active community to suppress online hate and harassment, even with a substantial concerted effort involving several tech firms, can be hard. Our case study is the disruption of the largest and longest-running harassment forum KIWI FARMS in late 2022, which is probably the most extensive industry effort to date. Despite the active participation of a number of tech companies over several consecutive months, this campaign failed to shut down the forum and remove its objectionable content. While briefly raising public awareness, it led to rapid platform displacement and traffic fragmentation. Part of the activity decamped to Telegram, while traffic shifted from the primary domain to previously abandoned alternatives. The forum experienced intermittent outages for several weeks, after which the community leading the campaign lost interest, traffic was directed back to the main domain, users quickly returned, and the forum was back online and became even more connected. The forum members themselves stopped discussing the incident shortly thereafter, and the net effect was that forum activity, active users, threads, posts and traffic were all cut by about half. The disruption largely affected casual users (of whom roughly 87% left), while half the core members remained engaged. It also drew many newcomers, who exhibited increasing levels of toxicity during the first few weeks of participation. Deplatforming a community without a court order raises philosophical issues about censorship versus free speech; ethical and legal issues about the role of industry in online content moderation; and practical issues on the efficacy of private-sector versus government action. Deplatforming a dispersed community using a series of court orders against individual service providers appears unlikely to be very effective if the censor cannot incapacitate the key maintainers, whether by arresting them, enjoining them or otherwise deterring them.
abstrak ang1. ang introduction
Ngunit habang ang mga lugar sa online ay nag-aalok ng libreng pag-uugali, sila ay nag-aalok ang parehong para sa pag-uugali na pag-uugali [1], at ang linya sa pagitan ng dalawang ito ay karaniwang napaka-contested. Ang ilang mga kaso ng pag-asawa, bullying, at doxxing tulad ng Gamergate ay may mga katotohanan sa real-world, kabilang ang violent crime at politikal mobilization [2]. Ang moderation ng materyal ay naging isang kritikal na function ng mga kumpanya ng teknolohiya, ngunit din isang politikal na lugar ng pag-uugali, dahil ang mga abusive account ay maaaring maabot ang mga komunidad sa online sa isang mahusay na iba't ibang paraan [3]. Ang mga online social platform ay gumagamit ng iba't ibang mga mekanismo, halimba
Ang deplatforming ay maaaring nangangahulugan na i-block ang mga individual na gumagamit, ngunit sa ilang mga oras ang target ay hindi isang single bad actor, ngunit ang buong komunidad, tulad ng isa na nagtatrabaho sa krimen [11]. Ito ay maaaring itinuturing sa pamamagitan ng industriya, tulad ng kapag Cloudflare, GoDaddy, Google at ilang iba pang mga kumpanya ay nagsisimula ng serbisyo para sa DAILY STORMER pagkatapos ng Unite the Right rally sa Virginia noong 2017 [12] at para sa 8CHAN noong Agosto 2019 [13]; o sa pamamagitan ng law enforcement, tulad ng ang FBI na nagdadala ng mga serbisyo ng DDoS-forhire sa 2018 [14], [15] at 2022 [16], [17], at ang pagkuha ng RAID FORUMS sa 2022 [18]. Ang industriya ng disruption ay
Ang KIWI FARMS ay ang pinakamalaking at pinakamalaking online bullying forum [21]. Ito ay karaniwang inilagay sa real-life trolling at doxxing campaigns laban sa feminists, gay rights campaigners at mga minority tulad ng disabled, transgender, at autistic mga tao; ang ilang ay namatay pagkatapos ng pagbabago ng bullying [22]. Habang ito ay malaki at karaniwang kontroversial, ang forum ay online para sa isang dekada at ay tinatawag sa pamamagitan ng Cloudflare's DDoS protection para sa mga taon. Ito ay dumating sa katapusan pagkatapos ng isang karaniwang bullying sa pamamagitan ng mga miyembro ng forum ng isang Canadian trans activist, na nagsimula sa isang swatting incident sa Agosto 2022.[1] Ito ay nagdudulot sa isang komunidad-led campaign sa Twitter upang i-
Ang mga kasalukuyang mga pananaliksik ay nag-aaral ang katotohanan ng deplatforming ng mga gumagamit ng social media [28], [29], [30], [31], [32], [33], [34], ngunit mayroong limitado na pananaliksik - parehong quantitative at qualitative - sa katotohanan ng mga disruptions sa industriya laban sa standalone hate communities tulad ng bulletin-board forums, na maaaring maging mas resilient dahil ang content ay maaaring na-backup at i-restore ng mga administrator.
Ipinapakita namin ang landscape ng disruption sa §2, pagkatapos ay i-describe ang aming mga paraan, datasets, at etika sa §3. Ang aming pangunahing target ay upang i-evaluate ang katotohanan ng pag-uugali, at malaman ang mga epekto at mga problema ng deplatforming bilang isang paraan upang i-suppress online hate at pag-iisip. Ang aming pangunahing pananaliksik na mga tanong ay tinutukoy sa mga sumusunod na bahagi: ang epekto ng deplatforming sa forum activity at traffic ay tinutukoy sa §4; ang mga pagbabago sa pag-uugali ng mga miyembro ng forum kapag ang kanilang lugar ng pag-uugali ay tinutukoy, pati na rin ang mga epekto sa mga operator ng forum at ang komunidad na nagsimula ng kampanya ay tinutuk
Ang dokumento na ito ay magagamit sa archiv sa ilalim ng CC BY 4.0 DEED license.
Ang papel na ito ayAvailable sa archiveSa ilalim ng CC BY 4.0 DEED lisensya.
[1] Ito ay kapag ang isang pahayagan ay nangangahulugan ng isang violent crime na nagtatrabaho sa bahay ng biktima, na nangangahulugan sa pagdating ng isang espesyal na-weapons-and-tactics (SWAT) team upang ihatid ang mga lokasyon, inilagay ang biktima at pamilya sa risk.
