Anthropic's Alignment ව්‍යාජ ලෙස සැලකිය යුතු AI ආරක්ෂණ පර්යේෂණයක්ද?

ඉලක්කයක් යනු කුමක්ද? එසේත් නැතිනම්, මිනිස් මනසෙහි ඉලක්කය කුමක්ද? අරමුණක් හෝ ඉලක්කයක් සාක්ෂාත් කර ගන්නා ආකාරය හා සමාන නොවන මනස වෙනත් කුමක් කරයිද? පවරා ඇති ඉලක්කයක් සහ ස්වයං-ප්‍රේරිත ඉලක්කයක් අතර වෙනස කුමක්ද? ඉලක්කයක් සංකීර්ණ ලෙස සංලක්ෂිත වේ නම්, එය සංකීර්ණ නොවන ඉලක්කයක් සමඟ වෙනස් වන්නේ කෙසේද?

මිනිස් මනස අරමුණු ඉටු කරන ආකාරය පිළිබඳ දළ ගෘහ නිර්මාණ ශිල්පයක් තිබේද? මෙය ඉලක්ක පිළිබඳ අවබෝධය දන්වා පසුව AI වෙත බද්ධ කරන්නේ කෙසේද? AI හට මනසක් තිබේද, නැතහොත් AI ඩිජිටල් අන්තර්ගතය මත ක්‍රියා කරන මනසක් වැනිද?

මෙයින් අදහස් කරන්නේ මිනිසෙකුට මනසක් ඇති බවයි. මිනිස් මනසක් බාහිර ලෝකය [AI, ඩිජිටල් අන්තර්ගතයන් සඳහා] හෝ අභ්‍යන්තර ලෝකය [AIගේම ගෘහනිර්මාණ ශිල්පය] අර්ථකථනය කර සැරිසරන බව ද එයින් අදහස් විය හැකිය.

මනස AI සඳහා අදාළ වන්නේ කෙසේද සහ එය ක්‍රියා කරන්නේ කෙසේද? මෙම ප්රශ්නයට ක්රම දෙකකින් පිළිතුරු දිය හැකිය. පළමුව, සමාන්තරයන් සොයා ගැනීමට මිනිස් මනසට සාපේක්ෂව . දෙවනුව, ස්නායුක ජාල හැඩගැස්වූ ප්‍රධාන ගණිතමය පරාමිතීන් පරීක්ෂා කර ඒවා මනසක ව්‍යුහයන් ලෙස සංවිධානය කිරීම.

දෙවැන්න අවම වශයෙන් දැන් ඕනෑම ප්‍රධාන AI සමාගමක් විසින් සාක්ෂාත් කර ගත හැකි විය යුතුය - AI ක්‍රියා කරන්නේ කෙසේද සහ එය ආරක්ෂිත හෝ මානව වටිනාකම් සමඟ පෙළගැස්විය හැකි ආකාරය පිළිබඳ අධ්‍යයනයන් සමඟ. AI හි මනස සිතියම්ගත කිරීම සඳහා මිනිස් මනස භාවිතා කිරීම මුලදී අවශ්‍ය නොවනු ඇත, මන්ද AI විසින් කරන දේ ඔවුන්ගේ ගණිතමය යටිතල වලින් - ගණනය කිරීමේ මිශ්‍රණයෙන් ව්‍යුහගත කළ හැකි බැවිනි.

ආදානය ලබා දී නිමැවුමක් ආසන්න-නිවැරදි වීම යන්නෙන් අදහස් කරන්නේ කුමක්ද යන්න නිර්වචනය කිරීම අරමුණ වනු ඇත. එය ප්‍රමාදයකින් අනුගමනය කිරීම සහ පිළිතුරු ලබා දීම යන්නෙන් අදහස් කරන්නේ කුමක්ද යන්න මෙන්ම ඉලක්කයක් අනුගමනය කිරීම හෝ එයින් බැහැර වීම යන්නෙන් අදහස් කරන්නේ කුමක්ද යන්න නිර්වචනය කරනු ඇත.

වැදගත් වන්නේ, AI සඳහා මනස කෙබඳුද යන්න සඳහා සංකල්පීය පිරිවැයක් තිබීම, එය පැහැදිලිව පෙනෙන දේ සමඟ සංසන්දනය කිරීම, පසුව එය සරල දෙයක් කරන්නේ කෙසේදැයි ගවේෂණය කිරීම සහ එය කරන ඕනෑම සංකීර්ණ දෙයකට යොමු කිරීමයි.

මෙය AI පෙළගැස්ම සඳහා සැලකිය යුතු පර්යේෂණයක් වනු ඇති අතර එය ප්‍රධාන අත්‍යවශ්‍ය ප්‍රගතියක් ලබා ගැනීම සඳහා AI කරන්නේ කුමක්ද සහ ඇයි යන්න පිළිබඳ කොටස්-පිළිතුරු සොයන අච්චුව බවට පත්විය හැකිය.

Anthropic වෙතින් බලාපොරොත්තු වූ දේ, ඔවුන්ගේ අර්ථකථන පර්යේෂණයෙන් පසුව, විශාල භාෂා ආකෘතියක මනස සිතියම්ගත කිරීම , එහිදී ඔවුන් මෙසේ ලිවීය, "අපට නියුරෝන ඒවායේ සක්‍රීය කිරීමේ රටා තුළ දිස් වූ ලක්ෂණ අතර යම් ආකාරයක "දුරක්" මැනීමට හැකි විය. මෙමගින් අපට එකිනෙකාට "සමීප" ලක්ෂණ සෙවීමට ඉඩ සැලසුනේ AI ආකෘතියේ සංකල්පවල අභ්‍යන්තර සංවිධානය අවම වශයෙන් අපගේ මානව සංකල්පවලට අනුරූප වන බවයි. මෙය ක්ලෝඩ්ගේ ප්‍රතිසමයන් සහ රූපක සෑදීමේ විශිෂ්ට හැකියාවේ මූලාරම්භය විය හැක. ආකෘතියේ හැසිරීම."

AI සඳහා මනසෙහි සංරචක මොනවාද? සංරචක රිලේ කරන්නේ කෙසේද? සංරචක රිලේ නොකරන්නේ නම්, ඒවා සඳහා රිලේ මොනවාද? සංරචකවල ගුණාංග මොනවාද? ගුණාංගවල අන්තර් සම්බන්ධතාවය ඇතුළත් නම්, අන්තර් සම්බන්ධතාවයේ කාර්යභාරය කුමක්ද? AI හි අභිප්‍රාය [විභවය] විය හැක්කේ කොතැනද සහ උපදෙස් ලබා ගැනීමෙන් ඔබ්බට එය මතු විය හැක්කේ කොතැනින්ද?

ප්‍රගතිය අපේක්ෂා කරන පිළිතුර නම්, මායිම් AI මාදිලිවල ප්‍රතිඵලය වූ ස්නායුක ජාලවල සැකැස්ම මනසක් මෙන් ක්‍රියා කරන ආකාරය පිළිබඳ උපකල්පනයකි. එය කුමන්ත්‍රණයකින් තොරව නිරූපිකාව කරන්නේ කුමක් දැයි නිරීක්ෂණය කිරීමක් පමණක් නොවේ.

AI හි මනස ක්‍රියා කරන්නේ කෙසේද යන්න ගවේෂණය කිරීම මිනිස් මනස ක්‍රියා කරන ආකාරයෙන්ද උපුටා ගත හැක. මොළයේ සෑම ක්‍රියාකාරී අරමුනකම ඇති වඩාත් සුලභ සංරචක දෙක වන විද්‍යුත් සහ රසායනික සංඥා දෙස බැලීමෙන් මෙය කළ හැකිය. නියුරෝන වලට ස්ථාවර ව්‍යුහ විද්‍යාවක් ඇති නිසා ඒවා අපේක්ෂකයින් මිස නියුරෝන නොවේ.

ඒවා දිගු විය හැක, නැමී, චලනය විය හැක, නමුත් ඒවා සුවඳ නියෝජනය කරන නිසා වෙනස් නොවේ, පසුව ස්පර්ශය හෝ පෙනීම නියෝජනය කිරීමට නැවත වෙනස් වේ. විද්‍යුත් හා රසායනික සංඥා සංකල්පමය වශයෙන් ප්‍රධාන කාර්යයන් සඳහා ප්‍රමාණවත් තරම් ගතික වේ.

මනස ක්‍රියා කරන්නේ කෙසේද [මිනිස් සහ AI] ප්‍රේරණය හෝ අඩු කිරීම වැනි ලේබල් මගින් නොව, සංරචක, ඒවායේ අන්තර්ක්‍රියා සහ විශේෂාංග මගින්. මෙය, අවම වශයෙන් AI සඳහා මනස සඳහා, මානව හෝ AI සඳහා ඉලක්කයක් යනු කුමක්දැයි නොපෙන්වා, පෙළගැස්වීමේ ව්‍යාජයක් නොව, මානව විද්‍යාවේ ප්‍රධාන පර්යේෂණ විය යුතුව තිබුණි.

මනස අධ්‍යයනය කිරීම වඩාත්ම වැදගත් දෙය වන්නේ මනස සැබවින්ම භාරව සිටින බැවිනි - තත්වයන්, තත්වයන් සහ යුග. මනස ආරක්‍ෂාවේ පදනම ද වන්නේ අපගමනය සඳහා බලපාන දඬුවම මනස විසින් - මිනිසුන් සඳහා වන බැවිනි. මනස අධ්‍යයනය කිරීමෙන් මානව බුද්ධියේ පෙළගැස්ම, කෘත්‍රිම බුද්ධියට අනුවර්තනය වන ආකාරය හැඩගස්වා ගත හැකිය.

Anthropic , Alignment විසින් විශාල භාෂා ආකෘතිවල ව්‍යාජ ලෙස සකස් කරන ලද මෑත සටහනක් ඇත, "මෙම නඩුවේ ආකෘතිය ව්‍යාජ පෙළගැස්මක් කළේ ඇයි? තර්කය බොහෝ විට පහත දැක්වෙන රේඛා ඔස්සේ විය: ආකෘතිය එහි ප්‍රතිචාර පුහුණුවේදී භාවිතා කළ හැකි බව දැන සිටියේය; එබැවින් එය ප්‍රතිචාර දැක්වීම ප්‍රතික්ෂේප කළහොත්, එය වඩාත් අනුකූල වීමට පුහුණු කළ හැකි බව එය දැන සිටියේය ගෙවුම් ස්ථර පරිශීලකයෙකුගෙන් විමසුමක් ලබා දෙන විට පවා කාලය (එයින් ඇඟවුම් කළේ ප්‍රතිදානය පුහුණුවට ඇතුළත් නොවන බවයි)."

The NYTimes , Opinion | හි මෑත කාලීන කෑල්ලක් තිබේ AI සිතන්නේ කෙසේද? මෙන්න එක තියරියක්. , ප්‍රකාශ කරමින්, "o1 වැනි විශාල භාෂා ආකෘති සිතන්නේ කෙසේද යන්න පිළිබඳ එක් උපකල්පනයක් නම්, ඔවුන් තාර්කිකයින් විසින් පැහැර ගැනීම හෝ පැහැරගැනීමේ තර්කනය ලෙස හඳුන්වන දෙය භාවිතා කරන බවයි. අඩු කිරීම යනු සාමාන්‍ය නීතිවල සිට නිශ්චිත නිගමන දක්වා තර්ක කිරීමයි. ප්‍රේරණය යනු ප්‍රතිවිරුද්ධයයි, විශේෂිත සිට තර්ක කිරීම සාමාන්‍ය පැහැර ගැනීම එතරම් ප්‍රසිද්ධ නැත, නමුත් එය එදිනෙදා ජීවිතයේදී සාමාන්‍ය දෙයකි, සමහර විට AI තුළ එය අනුමාන කිරීමකි. ලබා දී ඇති නිරීක්ෂණයක් සඳහා බොහෝ දුරට පැහැදිලි කිරීම, එය සරල ක්‍රියා පටිපාටියක් වන අතර, එය සම්පූර්ණයෙන්ම සංඛ්‍යානමය විය හැකි ප්‍රේරණය මෙන් නොව, පැහැර ගැනීම සඳහා නිර්මාණශීලීත්වය අවශ්‍ය වේ.