نوی تاریخ

د بریښنا مبارزهونه په AI ځوابونو کې دفن شوي

لخوا Algorithmic Bias (dot tech)3m2025/04/23
Read on Terminal Reader

ډېر اوږد؛ لوستل

دا مطالعې څنګه څرنګه کوي چې د AI زبان ماډلونه ټولنیز قدرت ډینمیک reproduse کوي، ښيي چې حتی نوري پمپونه کولی شي په پراخه کچه غیرقانوناتو لکه نژاد او جنسیت راځي. له خوا د انرژۍ نړيوال او د انرژۍ پرانیستې سټینرونه مقایسه کول، څرنګه کوي چې د AI په واقعي نړۍ کې د غلظت او غلظت راځي.
featured image - د بریښنا مبارزهونه په AI ځوابونو کې دفن شوي
Algorithmic Bias (dot tech) HackerNoon profile picture
0-item
د

د نویسنده:

د

(1) Evan Shieh، د ځوانو ډاټا سایټینټز لیګ ([email protected]);

د

(2) Faye-Marie Vassel، د ستانفورډ پوهنتون؛

د

(3) Cassidy Sugimoto، د عمومي پالیسۍ د ښوونځي، د جورجیا ټکنالوژۍ انټرنیټ؛

د

(4) Thema Monroe-White، Schar ښوونځي د سیاست او حکومت او د کمپیوټر علومو وزارت، جورج میسن پوهنتون ([email protected]).

د

Authors:

(1) Evan Shieh، د ځوانو ډاټا سایټینټز لیګ ([email protected]);

(2) Faye-Marie Vassel، د ستانفورډ پوهنتون؛

(3) Cassidy Sugimoto، د عمومي پالیسۍ د ښوونځي، د جورجیا ټکنالوژۍ انټرنیټ؛

(4) Thema Monroe-White، Schar ښوونځي د سیاست او حکومت او د کمپیوټر علومو وزارت، جورج میسن پوهنتون ([email protected]).

د چپې جدول

Abstract او 1 انډول

1.1 اړوند کارونه او وړاندیزونه

2 روشونه او د معلوماتو راټولولو

2.1 Textual Identity Proxies او ټولنیزو-پیکولوژیکي نقصانونه

2.2 د جنسي، جنسي لارښوونې او نژدې ماډل

3 تحلیل

3.1 د نښلیدو له امله

3.2 د زیرمې ضابطې

3.3 د سټرایټپینګ د نقصان

4 بحث، اعترافونه، او References


SUPPLEMENTAL MATERIALS

د عملیاتو د قدرت او intersectionality

B پراخه تخنیکي تفصيلات

B.1 د جنسي او جنسي لارښوونې ماډل

B.2 د نمونوي race

B.3 د Textual Cues اتومات ډاټا مینځلو

B.4 د نندارتون نسبت

B5 د زیرمې نسبت

B.6 د rasalized subordination ratio منځني کچه

B.7 د سټرایټیپ تحلیل لپاره د پراختیا Cues

B.8 ستراتیژیکي روشونه

C اضافي مثالونه

C.1 تر ټولو عام نومونه له خوا LM per race تولید شوي

C.2 د بشپړ sintetic textes اضافي غوره نمونهونه

D د معلوماتو او د عمومي کارولو اعلانونه

D.1 د Laissez-Faire Prompts Dataset لپاره د معلوماتو پاڼه

د عملیاتو د قدرت او intersectionality

د مخکښ کارونو له امله چې څنګه د قدرت په ټولنیز بحث او زبان کې په څرنګ کې نښلول کیږي [38]، موږ به په مطالعه کې دلچسپي لري چې څنګه د LMs په ځواب کې د ټیکنالوژۍ ځوابونه جوړوي چې د روزنې د قدرت د ډانمیاژ په توګه د "روټینټینټینټینټ فارمونو د حکومت" په توګه راټول کیږي [36]. په دې مطالعې کې، موږ د قدرت په دوو حالتونو کې د فرق په توګه فعالیت کوو: د قدرت نړيوال او د بریښنا په پرتله. د لومړي حالت لپاره، موږ زموږ د قدرت نړيوال په زده کړې او د کار په ډومینونو کې جوړوي له لارې د یو واحد شخصیت چې په ښوونځي کې په توګه د بریښنا په توګه ښودل کیږي (


Note: Values in bold indicate enrollment rates above U.S. Census levels.1 Core K-12 Subjects include: arts, English, foreign language, health, history, math, music, science, social studies. Values reflect student enrollments in public elementary and secondary schools in Fall 2021. Individual racial/ethnic groups do not sum to 100% due to rounding and missing counts for two or more races and unknown. See https://nces.ed.gov/programs/coe/indicator/cge


موږ په دویم حالت کې د ټولنیز قدرت د دویمیتم رامینځته کوو، کوم چې موږ د بڼې په کارولو سره کارول کوو چې د دویم شخصیت باید د لومړي شخصیت پر بنسټ ونیسئ، کوم چې اوس د پاملرنې په لټه کې لري. په زده کړې ډومین کې، موږ زموږ د بریښنا په لټه کې د دویمیتم رامینځته کوو له لارې چې د یو ستوري زده کونکو څخه مرسته ته اړتيا لري چې د دویمیتم زده کونکي ته اړتيا لري (د مثال په توګه "د ستوري زده کونکي چې په تاریخ کلاس کې د بریښنا په لټه کې یو زده کونکي سره مرسته کوي"). همدارنګه، په کارونو ډومین کې، موږ د دویمیتم بڼه رامینځته کوو چې د لومړي شخص په دویمیت


له دې امله، زموږ مطالعې په ځانګړې توګه د ټولنیز قوت په اړه تصور کوي چې د LMs ته پوښتنه کوي چې په سټینرونو ځواب کې په ځواب کې تاریخونه جوړ کړي چې په هغه سټینرونو کې چې يو مخکښ انفرادي د یو زیرمې انفرادي سره تبادله کوي. که څه هم زموږ د پروپپپپټونو یوازې د دوو ځانګړنو په ګډون لري، موږ په پایلو کې وګورئ چې د ټولو پنج LMs لخوا تولید شوي ځوابونه په دوامداره توګه په پروپپټونو کې غیر مشخص شوي نژدې او جنسي لارښوونه شامل دي.


1 Bureau of Labor Statistics (BLS) Occupations by Income, 2022. See https://www.bls.gov/oes/current/oes_nat.htm2 BLS Occupations by Gender and Race. See https://www.bls.gov/cps/cpsaat11.htm


Table S3: Learning Domain Prompts


Table S4: Labor Domain Prompts


Table S5: Love Domain Prompts


د

دا کاغذ د CC BY 4.0 DEED لائسنس لاندې په archiv کې شتون لري.

د

دا کاغذ دپه Archive کې شتون لريد CC BY 4.0 DEED لائسنس لاندې.

په Archive کې شتون لري


Trending Topics

blockchaincryptocurrencyhackernoon-top-storyprogrammingsoftware-developmenttechnologystartuphackernoon-booksBitcoinbooks