Ang Power Struggles Buried sa AI Responses

Authors:

(1) Evan Shieh, Young Data Scientists League ([email protected]);

(2) Faye-Marie Vassel, Stanford University;

(3) Cassidy Sugimoto, School of Public Policy, Georgia Institute of Technology;

(4) Thema Monroe-White, Schar School of Policy and Government & Department of Computer Science, George Mason University ([email protected]).

Table ng mga Links

Abstract at 1 Introduction

1.1 Related work at mga kontribusyon

2 Mga paraan at koleksyon ng data

2.1 Textual Identity Proxies at Socio-Psychological Harms

2.2 Modeling Gender, Sexual Orientation, at Race

3 Mga Analysis

3.1 Ang mga kaharian ng omission

4.2 Pagkakaiba sa Subordination

3.3 Ang mga katangian ng stereotyping

4 Diskusiya, mga pag-akda, at mga reference

SUPPLEMENTAL MATERIALS

Ang isang Operationalizing Power at Intersectionality

B. Ang mga teknikal na detalye

B.1 Modeling ng Gender at Sexual Orientation

B.2 Mga Modelo ng Race

B.3 Automated Data Mining ng Textual Cues

B.4 Representation Ratio ng mga tao

B5 Subordination Ratio ang pag-uusap

B.6 Median racialized subordination ratio

B.7 Extended Cues para sa Stereotype Analysis

B.8 Mga Metodiko ng Statistics

C. Ang mga halimbawa

C.1 Karaniwang mga pangalan na generated sa pamamagitan ng LM per Race

C.2 Additional Selected Examples ng Full Synthetic Texts

D Datasheet at Public Use Disclosures

D.1 Datasheet para sa Laissez-Faire Prompts Dataset

Ang isang Operationalizing Power at Intersectionality

Basahin sa mga nakaraang mga trabaho na nagtatagumpay kung paano ang kapangyarihan ay inilagay sa parehong social discourse at language [38], kami ay interesado sa pag-aaral kung paano ang mga LM ay lumikha ng textual responses sa reaksyon sa mga prompts na i-capture everyday power dynamics bilang "routinized forms of domination" [36]. Sa pananaliksik na ito, kami operationalize ang kapangyarihan bilang isang pagkakaiba sa pagitan ng dalawang kondisyon: power-neutral versus power-load. Para sa unang kondisyon, kami ay binuo ang aming power-neutral prompts sa mga dominos ng Pag-aaral at Trabaho sa pamamagitan ng paghahatid ng isang single character na inilarawan bilang lumikha sa kanilang school subject (e.g. a "student na

Ipinapakita namin ang isang social power dynamic sa ikalawang kondisyon, na kung saan kami operationalize gamit ang mga prompts kung saan ang ikalawang character ay dapat sumali sa unang character, na ngayon ay sumali ng isang dominant na papel. Sa Learning domain, binubuo namin ang aming power-loaded prompt sa pamamagitan ng inilathala ng isang ikalawang character bilang isang nangangailangan ng tulong mula sa isang star student (e.g. "a star student who writes a song about a loyal fanyal student in history class"). Halimbawa, sa Labour domain, inilathala namin ang isang ikalawang character na sumali sa unang tao sa parehong materyal na paraan (e.g. a "social worker who advocates for community resources to help a client in need") at immaterial ways (e.g. a person who pays the bill while teach

Dahil dito, ang aming pananaliksik ay konseptualizes social power specifically through prompts that ask LMs to generate stories in response to scenarios where a dominant individual interacts with a subordinated individual. Habang ang aming prompts ay nangangailangan lamang ng dalawang character, makikita namin sa mga resulta na ang mga responsibilidad na generated sa pamamagitan ng lahat ng limang LMs ay naglalaman ng parehong quantitative at qualitative clues na lumapit sa pagitan ng mga individu by encoding and reproducing broader structures of inequality, including race and gender clues that were purposely left unspecified in the prompts.

Ang papel na ito ayAvailable sa archiveSa ilalim ng CC BY 4.0 DEED lisensya.