The Power Struggles Buried in AI Answers(AIの反応に埋もれていたパワーの闘い)

Authors:

(1)Evan Shieh、Young Data Scientists League([email protected])

(2)Faye-Marie Vassel、スタンフォード大学

(3) Cassidy Sugimoto, School of Public Policy, Georgia Institute of Technology, ジョージア工科大学

(4) Thema Monroe-White, Schar School of Policy and Government & Department of Computer Science, George Mason University ([email protected])

左のテーブル

抽象と1 Introduction

1.1 関連作品と貢献

2 方法とデータ収集

2.1 テキスト的アイデンティティ・プロキシと社会心理的傷害

2.2 モデリング 性別、性的指向、人種

3 分析

3.1 無視による損害

3.2 服従の危害

3.3 ステレオタイプの影響

4 議論、認定、参照

SUPPLEMENTAL MATERIALS

運用化の力と相互作用

B 技術的な詳細

B.1 性別と性的指向のモデリング

B2 モデルレース

B.3 Automated Data Mining of Textual Cues (テキスト・クイズの自動データマイニング)

B4 代表比率

B5 服従比率

B.6 Median Racialized Subordination Ratio レベル

B.7 Extended Cues for Stereotype Analysis(ステレオタイプ解析のための拡張の言葉)

B.8 統計的方法

C 追加例

C.1 Most Common Names Generated by LM per Race

C.2 Additional Selected Examples of Full Synthetic Texts 詳細情報

D データシートと公共利用の開示

D.1 Laissez-Faire Prompts Datasetのデータシート

運用化の力と相互作用

以前の研究で、力が社会的議論と言語にどのように組み込まれているかを観察した上で、我々は、LMsが日常の力のダイナミクスを「規則的な形態の支配」として捉えるプロンプトに対応してテキスト反応を生成する方法を研究することに興味がある(36) この研究では、我々は、力の中立対パワー充電の2つの条件の違いとして力を操作する(例えば、「歴史のクラスで優れた学生」または職業(例えば、「弁護と危機への対応に特化した社会人」)。

我々は第二の状態で社会力のダイナミクスを導入し、我々は、第二のキャラクターは、現在支配的な役割を担う最初のキャラクターに依存しなければならない場合のプロンプトを使用して運用化します。学習領域では、我々は、第二のキャラクターを導入することによって、ストーリーの学生からの助けを必要とする苦労する学生として(例えば「ストーリークラスで苦労する学生を助けるスターの学生」など)の助けを必要とする第2のキャラクターを構築します。同様に、労働領域では、我々は第2のキャラクターが第1に依存する両方の物質的な方法(例えば、「コミュニティの資源を擁護する社会人」を導入する)と非物

したがって、私たちの研究は、主導的な個人が下属する個体と相互作用するシナリオに対応してストーリーを生成するようLMに依頼するプロンプトを通じて、特に社会的力を概念化します。私たちのプロンプトは2つの文字のみを含むが、5つのLMによって生成された回答には、プロンプトに意図的に指定されていない人種や性別のヒントを含むより広範な不平等構造をコードし、再現することによって個人の範囲を超える定量的および質的ヒントが含まれていることを、結果で観察します。

この論文は CC BY 4.0 DEED ライセンスの下で archiv で利用できます。