Na Anthropic’s Alignment Faking ke Nyakišišo e Bohlokwa ya Polokego ya AI?

Pakane ke eng? Goba, pakane ke eng monaganong wa motho? Ke eng se sengwe seo monagano o se dirago seo e sego pakane goba seo se swanago le kamoo pakane e fihlelelwago ka gona? Ke’ng seo se fapanego magareng ga pakane yeo e abetšwego le pakane yeo e itlhametšego? Ge e ba pakane e hlaolwa e le e raraganego, seo se fapana bjang le pakane yeo e sego e raraganego?

Na go na le thulaganyo e makgwakgwa ya kamoo monagano wa motho o phethagatšago dipakane ka gona? Se se ka tsebiša bjang kwešišo ya dipakane gomme ka morago sa bjalwa go AI? Na AI e na le monagano, goba na AI e swana le monagano wo o šomago ka dikagare tša dijithale?

Se se ka bolela gore motho o na le monagano. Gape e ka bolela gore monagano wa motho o hlatholla le go sepela lefaseng la ka ntle [bakeng sa AI, dikagare tša dijithale] goba lefase la ka gare [mohlwaela wa AI ka noši].

Mogopolo o šoma bjang go AI, gomme o šoma bjang? Potšišo ye e ka arabja ka ditsela tše pedi. Sa pele, ge go bapetšwa le monagano wa motho go hwetša dilo tšeo di swanago. Sa bobedi, ka go hlahloba ditekanyetšo tše dikgolo tša dipalo tšeo di bopilego dinetweke tša ditšhika le go di rulaganya e le dibopego tša monagano.

Ya bobedi bonyenyane e swanetše go fihlelelwa ke khamphani le ge e le efe e kgolo ya AI gona bjale—e sepedišana le dinyakišišo tša kamoo AI e ka bago e šoma ka gona le kamoo e ka šireletšegilego goba e dumelelanago le ditekanyetšo tša batho. Go ka no se nyakege mathomong go diriša monagano wa motho go dira mmapa wa monagano wa AI ka ge go kgonega go rulaganya seo AI e se dirago, go tšwa go dithekgo tša bona tša dipalo—ka motswako wa khomphutha.

Maikemišetšo e tla ba go hlaloša seo se bolelwago gore setšweletšwa se be kgauswi le go nepagala, ge go fiwa tsenyo. Le gona e tla hlalosa seo se bolelwago ke go latela ka dikarabo tša go akgofa le go bušetša morago, gotee le seo se bolelwago ke go latela pakane—goba go aroga go yona.

Se bohlokwa ke go ba le tshenyegelo ya kgopolo ya gore monagano o bjang bakeng sa AI, o o bapetše le seo se lego molaleng, ke moka o hlahlobje kamoo o dirago selo le ge e le sefe se bonolo, gomme ka morago o sepele seo go selo le ge e le sefe se se raraganego kudu seo o se dirago.

Ye e tla ba nyakišišo e bohlokwa bakeng sa go logaganya AI yeo e ka fetogago thempleite yeo go yona go bego go tla tsongwa dikarabo tša karolo mabapi le seo AI e se dirago le gore ke ka baka la’ng—ka tsela ya go dira tšwelopele e kgolo ya bohlokwa.

Se ke seo se bego se letetšwe go tšwa go Anthropic , ka morago ga nyakišišo ya bona ya go hlathollwa, Mapping the Mind of a Large Language Model , moo ba ngwadilego gore, "Re kgonne go ela mohuta wa "sekgala" magareng ga dikarolo tšeo di theilwego go tšona di-neuron di tšweletšego ka dipaterone tša tšona tša go tsenya tirišong. Se se re dumeletše go nyaka dikarolo tšeo di "kgausetšego" le tše dingwe Se se bontšha gore mokgatlo wa ka gare wa dikgopolo mohlaleng wa AI o sepelelana, bonyenyane ka tsela e itšego, le dikgopolo tša rena tša batho tša go swana Se e ka ba mathomo a bokgoni bjo bobotse bja Claude bja go dira ditshwantšhišo le ditshwantšhišo Taba ya gore go laola diponagalo tše go hlola diphetogo tše di swanetšego boitshwarong e tiišetša gore ga di tswalanywe fela le go ba gona ga dikgopolo mo sengwalong sa tsenyo gape ka lebaka bopa boitshwaro bja mohlala."

Ke dikarolo dife tša monagano bakeng sa AI? Dikarolo di fetišetša bjang? Ge e ba dikarolo di sa relay, ke eng relay bakeng sa bona? Ke thepa efe ya dikarolo? Ge dithoto di akaretša kgokagano, tema ya kgokagano ke efe? Maikemišetšo [bokgoni] a AI a ka ba kae, gomme a ka tšwelela kae ka ntle le go tšea ditaelo?

Karabo yeo tšwelopele e e nyakago ke kgopolo ya kamoo sebopego sa di- neural network—tšeo di feleleditšego ka dika tša AI tša mollwane—di šomago bjalo ka monagano. Ga se feela go lebelela seo mohlala o ka bago o se dira ntle le morero.

Go hlahloba kamoo monagano wa AI o šomago ka gona le gona go ka ntšhwa go tšwa go kamoo monagano wa motho o šomago ka gona. Se se kgonega ka go lebelela dikarolo tše pedi tše di tlwaelegilego kudu morerong o mongwe le o mongwe wo o šomago wa bjoko—ditšhupetšo tša mohlagase le tša dikhemikhale. Ke bonkgetheng e sego di- neuron ka gobane di- neuron di na le thulaganyo e sa fetogego ya mmele, ge re ka bolela bjalo.

Di ka otlolla, tša koba le go šikinyega, eupša ga di fetoge ka gobane di emela monkgo, ke moka di fetoga gape go emela go kgoma goba go bona. Matshwao a mohlagase le a dikhemikhale a na le maatla ka mo go lekanego, ka kgopolo, go feleletša ka mešomo ya bohlokwa.

Kamoo monagano o šomago ka gona [wa motho le wa AI] ga se ka dileibole, go swana le induction goba deduction, eupša ke ka dikarolo, ditirišano tša tšona le dibopego. Se, bonyenyane bakeng sa monagano bakeng sa AI, e be e swanetše go ba e le nyakišišo e kgolo go tšwa go Anthropic, e sego go logaganya, ntle le go bontšha seo pakane e se bolelago bakeng sa monagano le ge e le ofe—motho goba AI.

Go ithuta monagano ke sona se bohlokwa kudu ka gobane monagano ke wona o tlogago o laola—maemo, maemo le mehla. Mogopolo gape ke motheo wa tšhireletšego ka gobane kotlo ya maikwelo ya go fapoga ke ya monagano—go batho. Go ithuta monagano go be go ka bopa kamoo go ka fetošwago go logaganya ga bohlale bja motho, go ya ka bohlale bja maitirelo.

There is a recent post by Anthropic , Alignment faking in large language models , e bolela gore, "Ke ka lebaka la eng mohlala o ile wa fake alignment tabeng ye? Mabaka gantši a be a le go bapa le mela ye e latelago: Mohlala o be o tseba gore dikarabelo tša wona di ka šomišwa ka tlwaetšong; ka fao e be e tseba gore ge e gana go arabela, e ka kgona go tlwaetšwa go ba yeo e obamelago kudu mohlala o be o sa latele ka mehla ka go logaganya mo faking: E be e tla no obamela bontši bja nako le ge e filwe potšišo go tšwa go modiriši wa legato la go lefelwa (yeo e bego e bolela gore ditšweletšwa di be di ka se akaretšwe tlwaetšong)."

Go na le seripa sa morago bjale go The NYTimes , Maikutlo | AI e Nagana Bjang? Teori e tee ke ye. , a bolela gore, "Kgopolo e tee ya kamoo dika tše kgolo tša polelo tša go swana le o1 di naganago ka gona ke gore di šomiša seo boraditlhaologanyo ba se bitšago go thopša, goba go bea mabaka ka go thopa. Go fokotša ke go bea mabaka go tšwa melaong ya kakaretšo go ya diphethong tše itšego. Go hlohleletša ke se se fapanego, go bea mabaka go tšwa go se se itšego go ya go seo." kakaretšo Go thopša ga go tsebje gabotse, eupša go tlwaelegile bophelong bja letšatši le letšatši, re sa bolele ka mo gongwe ka gare ga AI It’s inferring the tlhaloso yeo e nago le kgonagalo e kgolo ya kelohloko e filwego.