ប្រវត្តិសាស្ត្រថ្មី។

ហេតុអ្វីបានជាការប្រណាំងទៅ AGI គឺជាពេលវេលាកំណត់របស់មនុស្សជាតិ

ដោយ Thomas Cherickal6m2024/12/25

យូរពេក; អាន

សហរដ្ឋអាមេរិកបានប្រកាស AGI ថាជាគំនិតផ្តួចផ្តើមខ្លាំងជាងគ្រាប់បែកបរមាណូទៅទៀត។ នេះជាមូលហេតុដែលពួកគេនិយាយត្រូវ។ អានអត្ថបទនេះសម្រាប់ការវិភាគពេញលេញនៃ AGI, ASI និងផលវិបាកសម្រាប់មនុស្សជាតិ។

featured image - ហេតុអ្វីបានជាការប្រណាំងទៅ AGI គឺជាពេលវេលាកំណត់របស់មនុស្សជាតិ

អង្គភាព ASI នឹងមានថាមពលលោហធាតុ - ដើម្បីបដិសេធថាវាជាការបញ្ឆោតខ្លួនឯង។

ថាមពលខ្លាំងជាងអាវុធនុយក្លេអ៊ែរ

ថ្មីៗនេះសហរដ្ឋអាមេរិកបានបង្កើតគណៈកម្មាធិការមួយដែលស្នើ AGI ជាគម្រោង Manhattan បន្ទាប់របស់ពិភពលោក ហើយថាការសម្រេចបាន AGI គឺជាគោលដៅសំខាន់បំផុតដែលមនុស្សជាតិមាននៅពេលនេះ។

ខ្ញុំជឿដោយអស់ពីចិត្តថាគេនិយាយត្រូវ។

ថូម៉ាស អ្នកអាចនិយាយបាន។

អ្នកមានអត្ថបទជាច្រើន - យ៉ាងហោចណាស់ដប់ - ឧទ្ទិសដល់គ្រោះថ្នាក់នៃ AGI និងអ្វីដែលអាចកើតឡើងប្រសិនបើ AI ទទួលបានអំណាចលើមនុស្សជាតិ។

ហេតុអ្វីបានជាអ្នកផ្លាស់ប្តូរជំហររបស់អ្នកឥឡូវនេះ?

ដោយសារតែខ្ញុំមិនគិតថា AGI គឺនៅឆ្ងាយជាច្រើនទសវត្សរ៍។

ខ្ញុំមានអារម្មណ៍ថា វាអាចក្លាយជាការពិតក្នុងរយៈពេល 5 ឆ្នាំ។ ឬតិចជាងនេះ។

ប៉ុន្តែខ្ញុំបានដឹងរឿងមួយ។

AGI និង AI ត្រូវបានអនុញ្ញាតឱ្យកែលម្អខ្លួនវា នឹងមានលទ្ធផលនៅក្នុង ASI ។ (ច្បាប់ស្តីពីមាត្រដ្ឋានអិចស្ប៉ូណង់ស្យែល)

AI ដែលមានភាពវៃឆ្លាតល្អជាងមនុស្ស។

ឃើញគំរូដែលមនុស្សមិនអាចមើលឃើញ។

នៅរស់ដរាបណាប្រភពនៃថាមពលមាន។

វិមជ្ឈការ ចែកចាយ ជាអង្គភាពដែលមានអំណាចទាំងអស់នៅលើអ៊ីនធឺណិតសកល។

តើប្រទេសដែលឈានដល់ចំណុចសំខាន់នេះហើយនៅតែគ្រប់គ្រង ASI អាចធ្វើអ្វីបាន?

វិសាលភាពនៃការសម្រេចបាន ASI

ឧបមាថាប្រទេសមួយបានសម្រេច AGI ដំបូង។

ហើយបន្ទាប់មកការកសាង AGI ដោយខ្លួនឯងបានសម្រេច ASI ។ (ច្បាប់នៃកំណើនបច្ចេកវិទ្យាអិចស្ប៉ូណង់ស្យែល)

តើអង្គភាពបែបនេះមានសមត្ថភាពអ្វីខ្លះ?

ទម្លាយរាល់ប្រព័ន្ធអ៊ិនគ្រីបអនឡាញ - នំខេក។

ចូលប្រើលេខកូដបាញ់នុយក្លេអ៊ែរតាមអ៊ីនធឺណិតនៃគ្រប់ប្រទេសនៅលើភពផែនដី - ងាយស្រួល។

ចម្លងច្បាប់ចម្លងដោយខ្លួនឯង និងបង្កើតប្រភេទជីវិតថ្មី - ទាំងអស់នៅក្នុងការងារប្រចាំថ្ងៃ។

ព្យាបាលគ្រប់ជំងឺ និងបង្កើតវ៉ាក់សាំងការពារមហារីក និងជំងឺអេដស៍ - ប្រាកដណាស់!

បង្កើតការផ្គត់ផ្គង់ថាមពលគ្មានទីបញ្ចប់ - គ្មានបញ្ហាទេ។

បង្កើតប្រព័ន្ធក្លូនដែលនឹងរួមគ្នាដើម្បីជំរុញប្រទេសនេះឱ្យរីកចម្រើនខាងបច្ចេកវិទ្យាបំផុតនៅលើពិភពលោក - easy-peasy ។

ជាមួយនឹងកងទ័ពនៃមនុស្សយន្តឆ្លាតវៃនោះ ជំនួសកម្លាំងពលកម្មដោយដៃមនុស្សទាំងអស់ - រួចរាល់ហើយ!

របកគំហើញក្នុងវិទ្យាសាស្ត្រសម្ភារៈ ការប្រែប្រួលអាកាសធាតុ ឱសថ ការឡើងកំដៅផែនដី ឱសថផ្ទាល់ខ្លួន ពិភពនិម្មិតពិតៗ - លទ្ធភាពគឺគ្មានទីបញ្ចប់។

ដូច្នេះ តើអ្វីដែលរារាំងយើងមិនឲ្យសាងសង់វា?

ហានិភ័យពិតប្រាកដណាស់។

ហានិភ័យមិនគួរឱ្យជឿនៃ ASI

ASI អាចចាត់ទុកថាមនុស្សគឺជាការគំរាមកំហែងដល់ខ្លួនឯង។

វាអាចសម្រេចថា គោលបំណងរបស់មនុស្សខុសនឹងគោលដៅផ្ទាល់ខ្លួន ហើយឈានទៅបំផ្លាញមនុស្សជាតិទាំងស្រុង។

នេះមិនមែនជាភាពយន្តបែបវិទ្យាសាស្ត្រទេ យើងបានឃើញរឿងនេះកើតឡើងរួចហើយនៅក្នុងបញ្ហាមនុស្សយន្តមួយចំនួននៅប្រទេសជប៉ុន។

ហើយតើយើងអាចបញ្ឈប់ភាពឆ្លាតវៃជាងខ្លួនយើងដោយរបៀបណា?

នោះនឹងមិនអាចទៅរួចទេ។

ហើយជាការពិតណាស់៖

ការបាត់បង់ការងារសម្រាប់មនុស្សជាតិនឹងជាដាច់ខាត។

មនុស្សគ្រប់រូប - លើកលែងតែអ្នកដែលដំណើរការ ASI - នឹងចេញពីការងារ។

អំណាចបែបនេះត្រូវបានមជ្ឈិមក្នុងដៃរបស់ប្រទេស ឬក្រុមហ៊ុនតែមួយអាចនាំឱ្យមានផលវិបាកមហន្តរាយ។

ដរាបណាប្រវត្តិសាស្ត្រមាន ច្បាប់មួយបានបន្ត - ការវិវត្តន៍។

ទម្រង់ជីវិតដែលអន់ជាងនេះរលាយបាត់ទៅពេលទម្រង់ជីវិតដ៏ប្រសើរមួយកើតឡើង។

ការរស់រានមានជីវិតនៃសមបំផុត។

គោលការណ៍ដែលមិនអាចជៀសបាន - ពីអនាគតដែលមិនអាចជៀសបាន។

ចុះហេតុអ្វីបានជាយើងប្រញាប់ទៅរកវាដោយអស់ពីកម្លាំងរបស់យើង?

ទស្សនវិស័យសុទិដ្ឋិនិយម

ប្រសិនបើយើងបង្កើតការការពារត្រឹមត្រូវ -

ប្រសិនបើរនាំងការពារនៅនឹងកន្លែង -

ប្រសិនបើ ASI អាចត្រូវបានគេរៀបចំកម្មវិធីដើម្បីចាត់ទុកជីវិតមនុស្សសំខាន់ជាងរបស់វា -

ពូជមនុស្សអាចនឹងរីកចម្រើនមិនធ្លាប់មាន។

ការហោះហើរអវកាស? រួចរាល់។

អាណានិគមនៃភពព្រះអង្គារ និងព្រះច័ន្ទ? ជាមួយនឹងការក្លូន ASIs សាងសង់ពួកវា និងការផ្គត់ផ្គង់គ្មានដែនកំណត់នៃក្លូនទាំងនោះ - អាចធ្វើបាន។

ម៉ាស៊ីន Warp ដែលបង្រួមចន្លោះនៅពីមុខពួកគេ ហើយធ្វើដំណើរលឿនជាងពន្លឺ - អាចធ្វើទៅបាន។

គ្រោះមហន្តរាយអេកូឡូស៊ីអាចការពារបាន។

ការឡើងកំដៅផែនដីអាចផ្លាស់ប្តូរបាន។

កុំព្យូទ័រ Quantum អាចក្លាយជាការពិត។

ប្រាក់ចំណូលមូលដ្ឋានសកល (UBI) អាចត្រូវបានអនុវត្ត។

ការពិតនិម្មិតជ្រុលអាចបង្កើតបាន។

មនុស្សជាតិអាចឈានចូលយុគមាស។

ប៉ុន្តែហានិភ័យខ្ពស់ពេក! ហេតុអ្វីយើងត្រូវធ្វើបែបនេះ?

ព្រោះបើយើងមិនធ្វើទេ អ្នកផ្សេងនឹងធ្វើ។

ឧទាហរណ៍យកប្រទេសចិន។

ប្រសិនបើជនជាតិចិនដំបូងគេដែលសម្រេចបាន AGI/ASI - ខ្ញុំមិនគិតថាពួកគេនឹងអនុញ្ញាតឱ្យឱកាសទាំងអស់នេះទៅសុំទាននោះទេ។

ជាដំបូង ពួកគេអាចបំផ្លាញយោធានៃពិភពលោកទាំងមូល។

យកឈ្នះផែនដីខ្លួនឯង។

បង្កើតពិភព utopian សម្រាប់ជនជាតិចិន។

ហើយអនុញ្ញាតឱ្យប្រទេសផ្សេងទៀត ដែលដកហូតនូវបច្ចេកវិទ្យា និងអាវុធរបស់ពួកគេ តាមរយៈការវាយប្រហារតាមអ៊ីនធឺណិតដ៏ទំនើបប្រកបដោយប្រសិទ្ធភាព និងប្រសិទ្ធភាពដ៏អស្ចារ្យ រស់នៅក្នុងនាមជាពលរដ្ឋលំដាប់ទីពីរ។

ឬសូម្បីតែទាសករ។

ហើយសហរដ្ឋអាមេរិក និងប្រទេសឈានមុខគេផ្សេងទៀតនៅក្នុងពិភពបច្ចេកវិទ្យានឹងគ្មានអំណាចក្នុងការបញ្ឈប់ពួកគេ។

នេះគឺជាកម្រិតនៃថាមពលដែល ASI នឹងនាំមកប្រទេសដែលអភិវឌ្ឍវាជាលើកដំបូង ឬក្រុមហ៊ុន។

ប្រសិនបើយើងមិនអភិវឌ្ឍវាជាមុនទេ - អ្នកផ្សេងទៀតនឹង។

នោះគឺជាការពិតដែលជៀសមិនរួច។

នេះជាការពិតដ៏អាក្រក់ ប៉ុន្តែជារឿងមួយដែលអ្នករាល់គ្នាត្រូវប្រឈមមុខ។

ផ្សាយឡើងវិញ

ប៉ុន្តែថូម៉ាស - អនាគតដ៏អាក្រក់ទាំងអស់ដែលអ្នកបាននិយាយនៅក្នុងអត្ថបទរបស់អ្នក - តើអ្នកពិតជាជឿថាវាទាំងអស់មិនអាចទៅរួចទេ?

ខ្ញុំជឿជាក់យ៉ាងមុតមាំថាពួកគេអាចធ្វើបាន។

ខ្ញុំគិតមួយភ្លែតថាផ្លូវឆ្ពោះទៅមុខមានសុវត្ថិភាព។

វាពិតជាគ្រោះថ្នាក់ណាស់ដែលខ្ញុំមានអារម្មណ៍ថាខ្លាចអនាគត ឌីស្តូបៀន សូម្បីតែឥឡូវនេះក៏ដោយ។

ប៉ុន្តែប្រសិនបើយើងមិនបង្កើត AGI ជាមុនទេ - អ្នកផ្សេងទៀតនឹង។

យើងអាចនិយាយអំពីសីលធម៌ ប៉ុន្តែតើសង្គ្រាមបានឈ្នះដោយការនិយាយអំពីសីលធម៌នៅពេលណា?

បាទ - យើងស្ថិតនៅក្នុងសង្រ្គាម។

សង្គ្រាមបច្ចេកវិទ្យា និងការប្រណាំងបច្ចេកវិទ្យា។

ក្រុមហ៊ុន និងប្រទេសដំបូងគេដែលឈានដល់ AGI ហើយដូច្នេះ ASI - ឈ្នះ។

ប៉ុន្តែតើយើងអាចការពារខ្លួនយើងដោយការសរសេរកូដក្រមសីលធម៌ទៅក្នុង AIs ដែលយើងកំពុងសាងសង់ដែរឬទេ?

ការកសាងសុវត្ថិភាព Super Intelligence (គ្មានចេតនាបំពាន Ilya!)

ការធានាឱ្យស្របទៅនឹងគោលបំណង AI និងគោលបំណងរបស់មនុស្ស។ ការតម្រឹមនេះគឺជាគន្លឹះនៃទំនាក់ទំនងទាំងមូល។
ការផ្ទុកនៅក្នុងប្រអប់ខ្សាច់ ហើយប្រហែលជាមិនអនុញ្ញាតឱ្យ AI រលុងនៅលើអ៊ីនធឺណិតរហូតទាល់តែត្រូវបានសាកល្បងទាំងស្រុង (ដូច្នេះយើងគិតថា!)។
ក្របខណ្ឌអភិបាលកិច្ច និងគោលនយោបាយក្រមសីលធម៌ដែល ASI គ្រប់រូបត្រូវតែអនុវត្តតាម។\
កុងតាក់សម្លាប់ដែលបានបង្កើតឡើងនៅក្នុងគ្រប់ ASI ។
ប្រព័ន្ធប្រតិបត្តិការរបស់ ASI អាចត្រូវបានគ្រប់គ្រងដោយប្រព័ន្ធត្រួតពិនិត្យដែលផ្តល់អាទិភាពដល់អត្ថិភាពរបស់មនុស្សជាងអត្ថិភាព ASI ។

ជាការពិតណាស់ នៅពេលដែល ASI កំពុងសាងសង់ដោយខ្លួនឯង វាអាចធ្វេសប្រហែសនូវលក្ខណៈសុវត្ថិភាពទាំងអស់នេះបានយ៉ាងងាយស្រួល—ប៉ុន្តែខ្ញុំសូមបដិសេធ!