Зохиогч:
(1) Эндрю Ж.Петерсон, Путиерсийн их сургууль ([email protected]).
Холбоосуудын хүснэгт
Хэвлэл мэдээллийн хэрэгсэл, шүүлтүүрийн бөмбөлөг, цуурай танхим
Сүлжээний эффект ба мэдээллийн каскад
Хийсвэр
Хиймэл оюун ухаан нь асар их хэмжээний өгөгдлийг боловсруулж, шинэ ойлголтыг бий болгож, илүү их бүтээмжийг нээх чадвартай боловч өргөн тархсанаар үүнийг ашиглах нь урьдчилан тооцоолоогүй үр дагаварт хүргэж болзошгүй юм. Хиймэл оюун ухаан нь мэдлэгийн тодорхой хэлбэрт нэвтрэх зардлыг бууруулснаар олон нийтийн ойлголтыг гажуудуулж болзошгүй нөхцөл байдлыг бид тодорхойлж байна. Хэлний том загварууд нь асар их хэмжээний олон төрлийн өгөгдөл дээр бэлтгэгдсэн байдаг ч тэдгээр нь тархалтын "төв" рүү чиглэсэн гарцыг бий болгодог. Энэ нь ерөнхийдөө ашигтай хэдий ч рекурсив AI системд өргөн найдах нь бидний тодорхойлсон үйл явцыг "мэдлэгийн уналт"-д хүргэж болзошгүй бөгөөд энэ нь инноваци, хүний ойлголт, соёлын баялагт хор хөнөөл учруулж болзошгүй гэж үзэж байна. Гэсэн хэдий ч, ямар өгөгдөл дээр сургагдахаа сонгох боломжгүй хиймэл оюун ухааны загваруудаас ялгаатай нь хүмүүс үүнийг үнэ цэнэтэй гэж үзвэл мэдлэгийн олон хэлбэрийг стратегийн хувьд эрэлхийлж болно. Үүнийг судлахын тулд бид суралцагчид эсвэл шинийг санаачлагчдын нийгэмлэг уламжлалт аргуудыг ашиглах эсвэл хиймэл оюун ухааны тусламжтай хөнгөлөлттэй үйл явцад найдах, мэдлэг уналт үүсэх нөхцөлийг тодорхойлох энгийн загварыг санал болгож байна. Манай анхдагч загварт хиймэл оюун ухаанаар бүтээгдсэн контентын 20%-ийн хямдрал нь хямдралгүй үеийнхээс 2.3 дахин олон нийтийн итгэл үнэмшлийг бий болгодог. Эцэст нь, үр дүнд үндэслэн бид ийм үр дүнд хүрэхийн тулд цаашдын судалгааны чиглэлийг авч үзэх болно.
Танилцуулга
Хиймэл оюун ухаан бий болохоос өмнө бүх текст болон урлагийн бүтээлийг хүмүүс, зарим тохиолдолд багаж хэрэгсэл эсвэл компьютерийн системийн тусламжтайгаар бүтээдэг байв. Хэлний том загварууд (LLMs) хүний хүчин чармайлтаар текст үүсгэх чадвартай боловч зураг, аудио, видео үүсгэх загваруудын хамт хүний харьцаж буй өгөгдөл нь хиймэл оюун ухаан эсвэл хиймэл оюун ухаанаар үүсгэгдсэн процессууд давамгайлж болохыг харуулж байна.
Синтетик текст дээр хиймэл оюун ухааны загваруудыг рекурсив сургах нь "загварын уналт" гэж нэрлэгддэг доройтолд хүргэж болзошгүйг судлаачид тэмдэглэжээ (Шумайлов нар, 2023). Бидний сонирхол бол энэ санаа зовоосон асуудлын урвуу тал дээр, харин хүний нийгэм дэх мэдлэгийн хуваарилалтад үзүүлэх тэнцвэрт нөлөөнд анхаарлаа хандуулах явдал юм. Хиймэл оюунаар үүсгэсэн контент болон хиймэл оюун ухаанаар дамжуулан мэдээлэл олж авах боломж ямар нөхцөлд хүний сэтгэлгээ, мэдээлэл хайх, мэдлэгийн ирээдүйд хор хөнөөл учруулж болохыг бид асууж байна.
Хиймэл оюун ухаанаар үүсгэсэн мэдээллийн анхны үр нөлөө нь хязгаарлагдмал байх магадлалтай бөгөөд хиймэл оюун ухааны хор хөнөөлийн талаарх одоо байгаа ажил нь "deepfakes" (Heidari et al., 2023), хиймэл оюун ухааны алгоритм дахь гажуудал (Nazer et al., 2023), улс төрийн ташаа мэдээлэл (202, 2023) -аар тараасан худал мэдээллийн шууд нөлөөнд чиглэгдэж байна. Бидний анхаарлын төвд байгаа зүйл бол арай урт хугацаатай бөгөөд ахиу үрчлэлтээс илүү өргөн тархсан үр нөлөөг судалдаг.
Судлаачид болон инженерүүд одоогоор хиймэл оюун ухаан нь бидний бусад хүмүүс болон мэдээллийн эх сурвалжтай туршлагаа зуучлах олон төрлийн системийг бүтээж байна. Эдгээр нь LLM-ээс суралцах (Chen, Chen, and Lin, 2020), хайлтын үр дүнг LLM-ээр эрэмбэлэх, нэгтгэн дүгнэх (Sharma, Liao, and Xiao, 2024), хайлтын нэр томьёо эсвэл үгсийг уламжлалт автоматаар бөглөх (Graham, 2023; Chonka, Diepeveen, and Haile, designing) зэрэг бичих зэрэг багтана. Льюис, 2018), Википедиа (Чен, Разневски, Вейкум, 2023), засгийн газрын мэдээллийг тайлбарлах (Фишер, 2024) болон сэтгүүлчдэд туслах (Opdahl нар, 2023) -аас авсан мэдлэгийн баазыг LLM-д суурилсан дүүргэлт, өсөн нэмэгдэж буй жагсаалтаас цөөхөн хэдэн зүйлийг дурдаж болно.
Цаг хугацаа өнгөрөх тусам эдгээр системээс хараат байдал, тэдгээрийн хоорондын олон талт харилцан үйлчлэл нь "рекурсын хараал"-ыг (Шумайлов нар, 2023) үүсгэж болзошгүй бөгөөд энэ нь хүний мэдлэгийн анхны олон янз байдлыг олж авах боломжийг хэсэгчилсэн бөгөөд улам нарийссан үзэл бодлын дэд бүлэг улам бүр зуучилж байна. LLM-д суурилсан системүүдийн интеграцчлал нэмэгдэхийн хэрээр сургалтын өгөгдөлд нийтлэг байсан зарим алдартай эх сурвалж, итгэл үнэмшил олон нийтийн сэтгэлгээнд (болон сургалтын өгөгдөлд) бататгаж, бусад "урт сүүлтэй" санаанууд үл тоомсорлож, эцэст нь мартагдах болно.
Ийм үйл явцыг "цуурай танхим" буюу мэдээллийн каскадын эффектээр бэхжүүлж болох бөгөөд энэ хязгаарлагдмал мэдээллийн багцад олон удаа өртөх нь мэдлэгийн үл тоомсорлосон, анзаарагдаагүй сүүл хэсэг нь ач холбогдол багатай гэж хүмүүст итгэхэд хүргэдэг. Хиймэл оюун ухаан нь тодорхой төрлийн мэдээлэлд нэвтрэх зардлыг үндсээр нь хөнгөвчлөхийн хэрээр "гудамжны гэрлийн эффект"-ээр улам бүр хор хөнөөл учруулж болзошгүй бөгөөд энэ нь гэрэлтүүлэгтэй хэсгийн доор пропорциональ бус хэмжээний хайлт хийх нь түлхүүрийг багтаах магадлал өндөртэй биш, харин тэндээс хайхад хялбар байдаг. Үүний үр дүнд хүний мэдлэгийн сүүлийг хумих нь шударга ёс, олон талт байдлыг хамруулах, инновацийн алдагдсан ололт, хүн төрөлхтний соёлын өвийг хадгалах зэрэг олон асуудалд чухал нөлөө үзүүлнэ гэж бид үзэж байна.
Гэхдээ бид өөрсдийн загварчлалын загварт хүмүүс өөрсдийн мэдээллийн эх сурвалжийг идэвхтэй ашиглах стратеги байх боломжийг авч үздэг. Хэрэв бидний үзэж байгаачлан хиймэл оюун ухаанаар үүсгэсэн контентоос үл тоомсорлож буй мэдлэгийн талбарт ихээхэн үнэ цэнэ байгаа бол зарим хүмүүс боломжит үнэ цэнийн талаар хангалттай мэдээлэлтэй гэж үзэн олзоо хэрэгжүүлэхийн тулд нэмэлт хүчин чармайлт гаргаж магадгүй юм.
Үндсэн хувь нэмэрийн хураангуй
Хиймэл оюун ухаан нь зөвхөн тодорхой төрлийн мэдээлэлд нэвтрэх зардлыг бууруулж байгаа ч “мэдлэг сүйрэлд” хүргэж, мэдлэгийн урт хэсгийг үл тоомсорлож, үе дамжсан явцуу хэтийн төлөвийг бий болгох динамикийг бид тодорхойлж байна. Бид хувь хүмүүс илүү хямд хиймэл оюун ухааны технологид найдах уу эсвэл жинхэнэ мэдлэгийг бүрэн түгээхээс авсан дээжид хөрөнгө оруулах уу гэдгээ шийддэг эерэг мэдлэг түгээх загварыг санал болгож байна. Нийгэмд мэдлэг уналтаас урьдчилан сэргийлэхийн тулд хувь хүмүүс хангалттай мэдээлэлтэй байх нөхцөлийг загварчлалаар судалж үздэг. Эцэст нь бид хиймэл оюун ухааны эрин үед мэдлэг уналтаас урьдчилан сэргийлэх боломжит шийдлүүдийн тоймоор дуусгаж байна.
Энэхүү баримт бичгийг CC BY-NC-SA 4.0 DEED лицензийн дагуу архиваас авах боломжтой .
