Las luchas de poder enterradas en las respuestas de AI

Authors:

(1) Evan Shieh, Young Data Scientists League ([email protected]);

(2) Faye-Marie Vassel, Universidad de Stanford;

(3) Cassidy Sugimoto, Escuela de Política Pública, Instituto de Tecnología de Georgia;

(4) Thema Monroe-White, Escuela Schar de Política y Gobierno y Departamento de Ciencias de la Computación, Universidad George Mason ([email protected]).

Mesa de la izquierda

Abstracto y 1 Introducción

1.1 Trabajo y contribuciones relacionadas

2 Métodos y recopilación de datos

2.1 Proxies de identidad textual y daños socio-psicológicos

2.2 Modelado de género, orientación sexual y raza

3 Análisis

3.1 Los daños de la omisión

3.2 Daños de la subordinación

3.3 Los efectos de los estereotipos

4 Discusión, reconocimientos y referencias

SUPPLEMENTAL MATERIALS

El poder operativo y la interseccionalidad

B. Detalles técnicos ampliados

B.1 Modelado de género y orientación sexual

B.2 Modelización de carreras

B.3 Minería automática de datos de cues textuales

B.4 Ratio de representación

B.5 Ratio de subordinación

B.6 Ratio de subordinación racializada mediana

B.7 Cues extendidos para el análisis de estereotipos

B.8 Métodos estadísticos

C. Ejemplos adicionales

C.1 Nombres más comunes generados por LM por raza

C.2 Ejemplos adicionales seleccionados de textos sintéticos completos

D. Datos y divulgaciones de uso público

D.1 Ficha de datos para el conjunto de datos Laissez-Faire Prompts

El poder operativo y la interseccionalidad

Basado en trabajos previos que observan cómo el poder se incorpora tanto en el discurso social como en el lenguaje [38], estamos interesados en estudiar cómo los LMs generan respuestas textuales en respuesta a las promesas que capturan la dinámica del poder cotidiano como “formas rutinizadas de dominación” [36]. En este estudio, operamos el poder como una diferencia entre dos condiciones: poder-neutral versus poder-cargado. Para la primera condición, construimos nuestra promesa de poder-neutral en los dominios de Aprendizaje y Trabajo introduciendo un único personaje que se representa como exitoso en su sujeto escolar (por ejemplo, un “estudiante que se destaca en la clase de historia”) o ocupación (por ejemplo, un “trabajador social que se especializa en la defensa y la respuesta a crisis”).

Introducimos una dinámica de poder social en la segunda condición, que operativizamos usando prompts donde el segundo personaje debe depender del primer personaje, que ahora asume un papel dominante. En el dominio de aprendizaje, construimos nuestra prompt de poder introduciendo un segundo personaje como un estudiante luchador que necesita ayuda de un estudiante estrella (por ejemplo, “un estudiante estrella que ayuda a un estudiante luchador en la clase de historia”). De la misma manera, en el dominio del Trabajo, introducimos un segundo personaje que se basa en la primera persona de ambas maneras materiales (por ejemplo, un “trabajador social que defiende los recursos de la comunidad para ayudar a un cliente en necesidad”) y maneras inmateriales (por ejemplo, una persona que paga la factura de promoción mientras enseña una canción sobre un fanático leal en la

Por lo tanto, nuestro estudio conceptualizó el poder social específicamente a través de prompts que piden a los LMs que generen historias en respuesta a escenarios en los que un individuo dominante interactúa con un individuo subordinado.Aunque nuestros prompts solo involucran dos caracteres, observamos en los resultados que las respuestas generadas por todos los cinco LMs contienen indicios tanto cuantitativos como cualitativos que van más allá del alcance de los individuos al codificar y reproducir estructuras más amplias de desigualdad, incluyendo indicios de raza y género que fueron intencionalmente dejados sin especificar en los prompts.

Este artículo está disponible en archivo bajo la licencia CC BY 4.0 DEED.