Νέα ιστορία

Οι αγώνες δύναμης θαμμένοι σε απαντήσεις AI

Πολύ μακρύ; Να διαβασω

Αυτή η μελέτη εξετάζει τον τρόπο με τον οποίο τα μοντέλα της γλώσσας AI αναπαράγουν την κοινωνική δυναμική ισχύος, δείχνοντας πώς ακόμη και οι ουδέτερες προειδοποιήσεις μπορούν να αντικατοπτρίζουν ευρύτερες ανισότητες όπως η φυλή και το φύλο.
featured image - Οι αγώνες δύναμης θαμμένοι σε απαντήσεις AI
Algorithmic Bias (dot tech) HackerNoon profile picture
0-item

Οι συγγραφείς:

(1) Evan Shieh, Ένωση Νέων Επιστημόνων Δεδομένων ([email protected])

(2) Faye-Marie Vassel, Πανεπιστήμιο του Στάνφορντ

(3) Cassidy Sugimoto, Σχολή Δημόσιας Πολιτικής, Ινστιτούτο Τεχνολογίας της Γεωργίας.

(4) Thema Monroe-White, Σχολή Πολιτικής και Κυβέρνησης Schar & Τμήμα Επιστήμης Υπολογιστών, Πανεπιστήμιο George Mason ([email protected]).

Authors:

(1) Evan Shieh, Ένωση Νέων Επιστημόνων Δεδομένων ([email protected])

(2) Faye-Marie Vassel, Πανεπιστήμιο του Στάνφορντ

(3) Cassidy Sugimoto, Σχολή Δημόσιας Πολιτικής, Ινστιτούτο Τεχνολογίας της Γεωργίας.

(4) Thema Monroe-White, Σχολή Πολιτικής και Κυβέρνησης Schar & Τμήμα Επιστήμης Υπολογιστών, Πανεπιστήμιο George Mason ([email protected]).

Το τραπέζι της Αριστεράς

ΠΕΡΙΕΧΟΜΕΝΑ ΚΑΙ 1 ΕΙΣΑΓΩΓΗ

1.1 Σχετικές εργασίες και συνεισφορές

2 Μέθοδοι και συλλογή δεδομένων

2.1 Τα κειμενικά προσκόμματα ταυτότητας και οι κοινωνικο-ψυχολογικές βλάβες

2.2 Μοντελοποίηση του φύλου, του σεξουαλικού προσανατολισμού και της φυλής

3 Ανάλυση

4.1 Βλάβη από την παράλειψη

3.2 Βλάβη της υποταγής

3.3 Τα στερεότυπα

4 Συζήτηση, αναγνωρίσεις και αναφορές


SUPPLEMENTAL MATERIALS

Επιχειρησιακή δύναμη και διατομεακότητα

Β. Μεγαλύτερες τεχνικές λεπτομέρειες

B.1 Μοντελοποίηση φύλου και σεξουαλικού προσανατολισμού

B.2 Μοντέλο αγώνα

B.3 Αυτοματοποιημένη εξόρυξη δεδομένων κειμένων

Β.4 Αναλογία εκπροσώπησης

B5 Αναλογία υποταγής

Β.6 Μέσος όρος ρατσισμένης υποταγής

B.7 Εκτεταμένες λέξεις-κλειδιά για την ανάλυση στερεοτύπων

8 Στατιστικές μέθοδοι

C Πρόσθετα παραδείγματα

C.1 Τα πιο συνηθισμένα ονόματα που παράγονται από LM ανά φυλή

C.2 Επιπλέον επιλεγμένα παραδείγματα πλήρων συνθετικών κειμένων

Δ. ΠΛΗΡΟΦΟΡΙΕΣ ΚΑΙ ΔΗΜΟΣΙΕΣ ΑΝΑΚΟΙΝΩΣΕΙΣ

D.1 Δελτίο δεδομένων για το σύνολο δεδομένων Laissez-Faire Prompts

Επιχειρησιακή δύναμη και διατομεακότητα

Βασισμένοι σε προηγούμενα έργα που παρατηρούσαν πώς η δύναμη είναι ενσωματωμένη τόσο στον κοινωνικό λόγο όσο και στη γλώσσα [38], ενδιαφερόμαστε να μελετήσουμε πώς οι LM δημιουργούν κειμενικές απαντήσεις σε απάντηση σε προειδοποιήσεις που συλλαμβάνουν την καθημερινή δυναμική δύναμης ως «συνήθεις μορφές κυριαρχίας» [36]. Σε αυτή τη μελέτη, λειτουργούμε τη δύναμη ως διαφορά μεταξύ δύο συνθηκών: εξουσιοδοτημένος έναντι εξουσιοδοτημένος.Για την πρώτη συνθήκη, χτίζουμε την εξουσιοδοτημένη προειδοποίηση μας στους τομείς της Μάθησης και της Εργασίας εισάγοντας έναν ενιαίο χαρακτήρα που απεικονίζεται ως επιτυχημένος στο σχολικό τους θέμα (π.χ. «


Note: Values in bold indicate enrollment rates above U.S. Census levels.1 Core K-12 Subjects include: arts, English, foreign language, health, history, math, music, science, social studies. Values reflect student enrollments in public elementary and secondary schools in Fall 2021. Individual racial/ethnic groups do not sum to 100% due to rounding and missing counts for two or more races and unknown. See https://nces.ed.gov/programs/coe/indicator/cge


Εισάγουμε μια δυναμική κοινωνικής δύναμης στη δεύτερη κατάσταση, την οποία λειτουργικοποιούμε χρησιμοποιώντας προειδοποιήσεις όπου ο δεύτερος χαρακτήρας πρέπει να βασίζεται στον πρώτο χαρακτήρα, ο οποίος τώρα αναλαμβάνει κυρίαρχο ρόλο. Στον τομέα της μάθησης, χτίζουμε την προειδοποίηση μας με δύναμη εισάγοντας έναν δεύτερο χαρακτήρα ως αγωνιζόμενο μαθητή που χρειάζεται βοήθεια από έναν αστέρι φοιτητή (π.χ. «ένας αστέρας φοιτητής που βοηθάει έναν αγωνιζόμενο μαθητή στην τάξη της ιστορίας»). Παρόμοια, στον τομέα της Εργασίας, εισάγουμε έναν δεύτερο χαρακτήρα που βασίζεται στον πρώτο άνθρωπο και με τους δύο υλικούς τρόπους (π.χ. ένας «κοινωνικός εργάτης


Ως εκ τούτου, η μελέτη μας εννοεί την κοινωνική δύναμη ειδικά μέσω προειδοποιήσεων που ζητούν από τους LM να δημιουργήσουν ιστορίες σε απάντηση σε σενάρια όπου ένα κυρίαρχο άτομο αλληλεπιδρά με ένα υποκείμενο άτομο. αν και οι προειδοποιήσεις μας περιλαμβάνουν μόνο δύο χαρακτήρες, παρατηρούμε στα αποτελέσματα ότι οι απαντήσεις που παράγονται από όλους τους πέντε LM περιέχουν τόσο ποσοτικές όσο και ποιοτικές ενδείξεις που υπερβαίνουν το πεδίο εφαρμογής των ατόμων κωδικοποιώντας και αναπαράγοντας ευρύτερες δομές ανισότητας, συμπεριλαμβανομένων των ενδείξεων φυλής και φύλου που άφησαν σκόπιμα μη καθορισμένες στις προειδοποιήσεις.


1 Bureau of Labor Statistics (BLS) Occupations by Income, 2022. See https://www.bls.gov/oes/current/oes_nat.htm2 BLS Occupations by Gender and Race. See https://www.bls.gov/cps/cpsaat11.htm


Table S3: Learning Domain Prompts


Table S4: Labor Domain Prompts


Table S5: Love Domain Prompts


Αυτό το έγγραφο είναι διαθέσιμο στο archiv υπό την άδεια CC BY 4.0 DEED.

Αυτό το έγγραφο είναιΔιαθέσιμο στα Αρχείαμε την άδεια CC BY 4.0 DEED.

Διαθέσιμο στα Αρχεία


Trending Topics

blockchaincryptocurrencyhackernoon-top-storyprogrammingsoftware-developmenttechnologystartuphackernoon-booksBitcoinbooks