Πόσο δύσκολο είναι να καταστρέψουμε τις κοινότητες μίσους στο διαδίκτυο;

Authors:

(1) Anh V. Vu, Πανεπιστήμιο του Cambridge, Cambridge Cybercrime Centre ([email protected])

(2) Alice Hutchings, Πανεπιστήμιο του Cambridge, Cambridge Cybercrime Centre ([email protected])

(3) Ross Anderson, Πανεπιστήμιο του Cambridge και Πανεπιστήμιο του Εδιμβούργου ([email protected]).

Το τραπέζι της Αριστεράς

ΠΕΡΙΕΧΟΜΕΝΑ ΚΑΙ 1 ΕΙΣΑΓΩΓΗ

Η αποσύνθεση και οι επιπτώσεις

2.1 Σχετικές εργασίες

2.2 Διαταραχή των αγροκτημάτων Kiwi

Μέθοδοι, σύνολα δεδομένων και ηθική, και 3.1.

3.2. Telegram συνομιλίες και 3.3. web traffic και αναζήτηση τάσεις ανάλυση

3.4. Tweets Made by the Online Community και 3.5. Αδειοδότηση δεδομένων

6.3 Ηθικές Σκέψεις

Ο αντίκτυπος στη δραστηριότητα και την κυκλοφορία του φόρουμ και 4.1.Ο αντίκτυπος των μεγάλων διαταραχών

4.2 Μετακίνηση πλατφόρμας

4.3 Κατακερματισμός της κυκλοφορίας

Οι επιπτώσεις στους σχετικούς ενδιαφερόμενους φορείς και 5.1.Η κοινότητα που ξεκίνησε την εκστρατεία

5.2 Οι αντιδράσεις της βιομηχανίας

5.3 Οι φορείς εκμετάλλευσης του forum

5.4 Μέλη του Συλλόγου

Οι εντάσεις, οι προκλήσεις και οι επιπτώσεις και 6.1. η αποτελεσματικότητα της διαταραχής

Η λογοκρισία ενάντια στην ελευθερία του λόγου

Ο ρόλος της βιομηχανίας στη μετριοπάθεια του περιεχομένου

4.4 Πολιτικές επιπτώσεις

6.5 Περιορισμοί και μελλοντική εργασία

Συμπεράσματα, αναγνωρίσεις και αναφορές

Παράρτημα Α.

Abstract—Legislators and policymakers worldwide are debating options for suppressing illegal, harmful and undesirable material online. Drawing on several quantitative data sources, we show that deplatforming an active community to suppress online hate and harassment, even with a substantial concerted effort involving several tech firms, can be hard. Our case study is the disruption of the largest and longest-running harassment forum KIWI FARMS in late 2022, which is probably the most extensive industry effort to date. Despite the active participation of a number of tech companies over several consecutive months, this campaign failed to shut down the forum and remove its objectionable content. While briefly raising public awareness, it led to rapid platform displacement and traffic fragmentation. Part of the activity decamped to Telegram, while traffic shifted from the primary domain to previously abandoned alternatives. The forum experienced intermittent outages for several weeks, after which the community leading the campaign lost interest, traffic was directed back to the main domain, users quickly returned, and the forum was back online and became even more connected. The forum members themselves stopped discussing the incident shortly thereafter, and the net effect was that forum activity, active users, threads, posts and traffic were all cut by about half. The disruption largely affected casual users (of whom roughly 87% left), while half the core members remained engaged. It also drew many newcomers, who exhibited increasing levels of toxicity during the first few weeks of participation. Deplatforming a community without a court order raises philosophical issues about censorship versus free speech; ethical and legal issues about the role of industry in online content moderation; and practical issues on the efficacy of private-sector versus government action. Deplatforming a dispersed community using a series of court orders against individual service providers appears unlikely to be very effective if the censor cannot incapacitate the key maintainers, whether by arresting them, enjoining them or otherwise deterring them.

1) Εισαγωγή

Ωστόσο, ενώ οι διαδικτυακοί τόποι διευκολύνουν την ελεύθερη ομιλία, κάνουν το ίδιο και για την ρητορική μίσους [1], και η γραμμή μεταξύ των δύο συχνά αμφισβητείται. Ορισμένες περιπτώσεις παρακολούθησης, εκφοβισμού και doxxing όπως το Gamergate είχαν πραγματικές συνέπειες, συμπεριλαμβανομένου του βίαιου εγκλήματος και της πολιτικής κινητοποίησης [2]. Η μετριοπάθεια περιεχομένου έχει γίνει κρίσιμη λειτουργία των εταιρειών τεχνολογίας, αλλά και ένας πολιτικός χώρος αναταραχής, καθώς οι καταχρηστικοί λογαριασμοί μπορούν να επηρεάσουν τις διαδικτυακές κοινότητες με σημαντικά διαφορετικούς τρόπους [3]. Οι διαδικτυακές κοινωνικές πλατφόρμες χρησιμοποιούν διάφορους μηχανισμούς, όπως η τεχνη

Η αποσυναρμολόγηση μπορεί να σημαίνει μπλοκάρισμα μεμονωμένων χρηστών, αλλά μερικές φορές ο στόχος δεν είναι ένας μόνο κακός παράγοντας, αλλά μια ολόκληρη κοινότητα, όπως ένας που εμπλέκεται στο έγκλημα [11]. Μπορεί να αναληφθεί από τη βιομηχανία, όπως όταν η Cloudflare, η GoDaddy, η Google και ορισμένες άλλες εταιρείες τερμάτισαν την υπηρεσία για το Daily Stormer μετά τη συγκέντρωση Unite the Right στη Βιρτζίνια το 2017 [12] και για την 8CHAN τον Αύγουστο του 2019 [13]? ή από την επιβολή του νόμου, όπως και με την παρέμβαση του FBI για την κατάργηση των υπηρεσιών DDoS-forhire το 2018 [14], [15] και το 2022 [16], [17], και την κατάσχε

Το KIWI FARMS είναι το μεγαλύτερο και πιο μακροχρόνιο online φόρουμ παρενόχλησης [21]. Συχνά συνδέεται με πραγματικές εκστρατείες trolling και doxxing εναντίον φεμινιστών, ομοφυλόφιλων ακτιβιστών και μειονοτήτων όπως άτομα με αναπηρία, τρανσέξουαλ και αυτιστικά άτομα. Μερικά έχουν αυτοκτονήσει μετά από παρενόχληση [22]. Παρά το γεγονός ότι είναι δυσάρεστο και ευρέως αμφιλεγόμενο, το φόρουμ ήταν σε απευθείας σύνδεση για μια δεκαετία και είχε κρυφτεί από την προστασία DDoS της Cloudflare για χρόνια. Αυτό ήρθε στο τέλος μετά από σοβαρή παρενόχληση από μέλη του φόρουμ

Οι υπάρχουσες μελέτες έχουν διερευνήσει την αποτελεσματικότητα της αποσυναρμολόγησης των χρηστών των κοινωνικών μέσων μαζικής ενημέρωσης [28], [29], [30], [31], [32], [33], [34], ωστόσο, υπήρξε περιορισμένη έρευνα - τόσο ποσοτική όσο και ποιοτική - σχετικά με την αποτελεσματικότητα των διαταραχών της βιομηχανίας κατά των ανεξάρτητων κοινοτήτων μίσους, όπως τα φόρουμ ενημερωτικού δελτίου, τα οποία τείνουν να είναι πιο ανθεκτικά καθώς το περιεχόμενο μπορεί να αντισταθμιστεί πλήρως και να αποκατασταθεί από τους διαχειριστές.

Περιγράφουμε το τοπίο της διαταραχής στο §2, στη συνέχεια περιγράφουμε τις μεθόδους, τα σύνολα δεδομένων και την ηθική μας στο §3. Ο τελικός στόχος μας είναι να αξιολογήσουμε την αποτελεσματικότητα της προσπάθειας και να κατανοήσουμε τις επιπτώσεις και τις προκλήσεις της αποσυναρμολόγησης ως μέσου για την καταστολή του μίσους και της παρενόχλησης στο διαδίκτυο. Τα κύρια ερευνητικά μας ερωτήματα αντιμετωπίζονται στα επόμενα τμήματα: ο αντίκτυπος της αποσυναρμολόγησης στη δραστηριότητα και την κυκλοφορία του φόρουμ αξιολογείται στο §4· οι αλλαγές στη συμπεριφορά των μελών του φόρουμ όταν διαταράσσεται ο τόπος συγκέντρωσης τους, καθώς και οι επιπτώσεις στους φορείς εκμε

Αυτό το έγγραφο είναι διαθέσιμο στο archiv υπό την άδεια CC BY 4.0 DEED.

[1] Αυτό συμβαίνει όταν ένας εκφοβιστής αναφέρει ψευδώς ένα βίαιο έγκλημα που εξελίσσεται στο σπίτι του θύματος, με αποτέλεσμα την άφιξη μιας ομάδας ειδικών όπλων και τακτικών (SWAT) για να εισβάλει στις εγκαταστάσεις, θέτοντας το θύμα και την οικογένειά του σε κίνδυνο.