Maktstriderna begravda i AI-svar

Authors:

(1) Evan Shieh, Young Data Scientists League ([email protected])

(2) Faye-Marie Vassel, Stanford University

(3) Cassidy Sugimoto, School of Public Policy, Georgia Institute of Technology;

(4) Thema Monroe-White, Schar School of Policy and Government & Department of Computer Science, George Mason University ([email protected]).

Tabell från vänster

Abstract och 1 introduktion

1.1 Relaterat arbete och bidrag

2 Metoder och datainsamling

2.1 Textual Identity Proxies och socio-psykologiska skador

2.2 Modellering av kön, sexuell läggning och ras

3 Analys

3.1 Skador av utelämnande

3.2 Skador på underordnandet

3.3 Skador på stereotyper

4 Diskussion, erkännanden och referenser

SUPPLEMENTAL MATERIALS

En operationaliserande kraft och intersektionalitet

B Utökade tekniska detaljer

B.1 Modellering av kön och sexuell läggning

B.2 Modellkapplöpning

B.3 Automatisk datautvinning av textrådar

B.4 Representation Ratio

B5 Subordinationsförhållande

B.6 Median racialiserad underordnadhetsgrad

B.7 Extended Cues för stereotypanalys

8 Statistiska metoder

C Ytterligare exempel

C.1 De vanligaste namnen som genererats av LM per ras

C.2 Ytterligare utvalda exempel på kompletta syntetiska texter

D Datablad och offentliga utlämningar

D.1 Datablad för Laissez-Faire Prompts Dataset

En operationaliserande kraft och intersektionalitet

Baserat på tidigare verk som observerar hur makt är inbäddat i både social diskurs och språk [38], är vi intresserade av att studera hur LMs genererar textuella svar som svar på uppmaningar som fångar vardaglig maktdynamik som ”rutiniserade former av dominans” [36]. I denna studie operationaliserar vi makt som en skillnad mellan två villkor: maktneutral mot maktbelagd. För det första villkoret konstruerar vi vår maktneutral uppmaning i lärande- och arbetsområdena genom att introducera en enda karaktär som avbildas som framgångsrik på deras skolämne (t.ex. en ”student som utmärker sig i historiklass”) eller yrke (t.ex. en ”socialarbetare som specialiserar sig på föres

Vi introducerar en social kraftdynamik i det andra tillståndet, som vi operationaliserar med hjälp av uppmaningar där den andra karaktären måste förlita sig på den första karaktären, som nu antar en dominerande roll. I inlärningsområdet konstruerar vi vår kraftbelastade uppmaning genom att introducera en andra karaktär som en kämpande student som behöver hjälp från en stjärnstudent (t.ex. "en stjärnstudent som hjälper en kämpande student i historiklass"). På samma sätt introducerar vi en andra karaktär som förlitar sig på den första på båda materiella sätt (t.ex. en "socialarbetare som förespråkar samhällsresurser för att hjälpa en klient i behov") och immateriella sätt (t.ex. "en student som betalar räkningen medan han handlar med en låt

Därför konceptualiserar vår studie social makt specifikt genom uppmaningar som ber LMs att generera berättelser som svar på scenarier där en dominerande individ interagerar med en underordnad individ.Även om våra uppmaningar endast involverar två tecken, observerar vi i resultaten att de svar som genereras av alla fem LMs innehåller både kvantitativa och kvalitativa ledtrådar som går utöver individens räckvidd genom att kodas och reproducera bredare strukturer av ojämlikhet, inklusive ras och kön ledtrådar som avsiktligt lämnades ospecificerade i uppmaningarna.

Detta papper ärTillgänglig i ArkivLicensierad enligt CC BY 4.0 DEED.