Matsalwa Ya Wena Ma Ni Xikombiso Xa Tintiho—Naswona Modelo Lowu Wa AI Wa Mahungu Lamanene Wu Nga Swi Vona

Tafula ra Swihlanganisi

Xitlhokovetselo na 1 Xingheniso na Ndzavisiso

2 Ku Hlamusela ka Tinhlayohlayo na Swihlawulekisi leswi Humesiweke

3 Swihlawulekisi swa Murhi wa Parse

4 Xihlawulekisi

5 Ku Pfuxetiwa ka Dimenxini

6 Maphepha ya Federalist

6.1 Xihlamusela-marito xa Sanditon

7 Mahetelelo, Bulo Ni Ntirho Wa Nkarhi Lowu Taka

A. Xingheniso xo Koma xa ku Hlamusela ka Tinhlayohlayo

B. Ku Pfuxetiwa ka Dimension: Vuxokoxoko byin’wana bya Tinhlayo

Swikombo

Xianakanyiwa

Eka malembe lawa ya hundzeke ku vile na ku tsakela loku yaka emahlweni ku kuma vutsari bya tsalwa hi ku ya hi swihlawulekisi swa tinhlayo swa tsalwa, ku fana na ku tirhisa mimpimo ya ku humelela ka marito lama nga riki ya mongo. Eka ntirho lowu hundzeke, tithekiniki leti ti tirhisiwile, xikombiso, ku kumisisa vutsari bya Maphepha hinkwawo ya The Federalist. Maendlelo yo tano ya nga pfuna eka minkarhi ya manguva lawa ku kuma vutsari bya vuxisi kumbe bya AI. Nhluvuko eka vahlahluvi va ririmi ra ntumbuluko va tinhlayo wu nghenisa ku koteka ka ku tirhisa xivumbeko xa ririmi ku kuma vutsari. Eka phepha leri hi lavisisa ku koteka lokuntshwa ko kuma vutsari hi ku tirhisa mahungu ya xivumbeko xa ririmi lama humesiweke hi ku tirhisa xihlamusela-marito xa ririmi ra ntumbuluko xa tinhlayo. Papila leri ri nyika vumbhoni bya miehleketo, ri kambela ku hlawuriwa ka vatsari hi ku ya hi xivumbeko xa ririmi eka sete ya “matsalwa ya vumbhoni,” The Federalist Papers na Sanditon leswi nga va tanihi timhaka to kambela eka tidyondzo ta khale ta ku kuma vutsari. Swihlawulekisi swo hlayanyana leswi humesiweke eka muhlahluvi wa ririmi ra ntumbuluko ra tinhlayo swi lavisisiwile: mirhi leyitsongo hinkwayo ya vuenti byo karhi ku suka eka xiyimo xihi kumbe xihi; mirhi ya le hansi leyi dzimeke timitsu ya vuenti byo karhi, xiphemu xa mbulavulo, na xiphemu xa mbulavulo hi levele eka murhi wa parse. Swikumeke swi pfuna ku projekta swivumbeko eka ndzhawu ya dimensional yale hansi. Swikambelo swa tinhlayo eka matsalwa lawa swi kombisa leswaku mahungu lama humaka eka muhlahluvi wa tinhlayo, entiyisweni, ma nga pfuneta ku hambanyisa vatsari.

1 Xingheniso na Ndzavisiso wa le Mahlweni

Ku ve ni matshalatshala lamakulu emalembeni lama hundzeke lama fambisanaka ni ku tirhisa tindlela ta tinhlayo ku kuma vutsari bya matsalwa, lama sekeriweke eka swikombiso leswi humaka eka vatsari lava nga ta va vatsari, eka leswi minkarhi yin’wana swi vuriwaka “stylometry” kumbe “ku tiveka ka mutsari.” Nxopaxopo wa tinhlayo wa matsalwa wu tlhelela endzhaku eka Augustus de Morgan hi 1851 [1, tl. 282], [2, tl. 166], loyi a ringanyeteke leswaku tinhlayo ta ku leha ka marito ti nga tirhisiwa ku kumisisa mutsari wa mapapila ya Pawulo. Stylometry yi tirhisiwile ku sukela hi 1901 ku lavisisa vutsari bya Shakespeare [3]. Ku sukela kwalaho, yi tirhisiwile eka tidyondzo to hambana ta matsalwa (vona, xikombiso [4, 5, 6]), ku katsa na khume mbirhi wa The Federalist Papers leyi a yi ri ya vutsari lebyi nga tiyisekiki [7] — leyi hi yi kambisisaka nakambe laha — na novhele leyi nga hetiwangiki hi Jane Austen —leyi hi tlhelaka hi yi kambisisa nakambe laha. Tithekiniki ta thiyori ya mahungu na tona ti tirhisiwile sweswinyana [8]. Ntirho wa khale eka xitayili wu sekeriwe eka “marito lama nga riki ya mongo,” marito lama nga humelerisiki nhlamuselo yo sungula ya tsalwa, kambe lama tirhaka endzhaku ka tsalwa ku nyika xivumbeko na ku khuluka. Marito lama nga riki ya mongo ya twala, tanihileswi mutsari a nga ha vulavulaka hi tinhlokomhaka to hambana-hambana, hikwalaho marito yo karhi lama hambanisaka a ma paluxi vutsari. Eka tidyondzo ta marito lama nga riki ya mongo, ku hlawuriwa sete ya marito lama tolovelekeke swinene lama nga riki ya mongo [2], naswona matsalwa ya yimeriwile hi ku hlayiwa ka marito, kumbe swipimelo swa nhlayo ya marito eka ku leha ka matsalwa. Ndzavisiso wa maendlelo ya tinhlayo wu le ka [9]. Tanihi ku hambana, tisethi ta ti ratio ta ku hlayela ka swivumbeko swa marito lama nga riki ya mongo eka swivumbeko swin’wana swa marito na swona swa tirhisiwa [10]. Nxopaxopo wa tinhlayo lowu simekiweke eka mpimo wa ntivomarito wa mutsari vs. ku leha ka matsalwa — “ku fuwa ka ntivomarito” — na wona wu lavisisiwile [11]. Ku kuma ntirho wun’wana lowu fambelanaka na wona, vona [12, 13, 14, 15].

Phepha ra sweswinyana [16] ri languta ku humelela ka swiyenge swo hambana swa swihlawulekisi. Tisethi ta swihlawulekisi leti tekeriwaka enhlokweni kwalaho ti katsa: tivekitara leti katsaka mimpfumawulo ya maviti; marito ya ntirho (hileswaku, tiatikili, maviti, swiphemuphemu, swivulavulelo); xiphemu xa mbulavulo (POS); marito lama tolovelekeke ngopfu; swihlawulekisi swa xivumbeko xa marito (ku fana na xivulwa xa maviti, kumbe xivulwa xa riendli); kumbe nkarhi (xikombiso ku tirhisiwa ka nkarhi wa sweswi kumbe wa nkarhi lowu hundzeke); rito (xitirho xa passive). Eka [16], ti feature vectors ti vumbiwa kusuka eka ku hlanganisiwa ka ti histograms, kutani ti hungutiwa eka dimensionality hiku tirhisa endlelo ra switeji swimbirhi ra principle component analysis [17] leri landzeriwaka hi dimension reduction hiku tirhisa linear discriminant analysis (LDA). Eka LDA ya vona, matiriki ya ku hangalaka ya le ndzeni ka xitluletsongo i ya vun’we (hikwalaho ka dimension yale henhla ya ti feature vectors loko ti pimanisiwa na nhlayo ya ti vectors ta ndzetelo letinga kona), hikokwalaho matiriki ya tona yo hangalaka ya regularized. Ku kambela leswi, vatsari va languta nxaxamelo wa tipharamitha ta regularization, va hlawula yin’we leyi nyikaka matirhelo lamanene.

Ntirho wa sweswinyana [18] wu boxa ndzavisiso eka [15] laha swihlawulekisi leswi tirhisiwaka ngopfu eka ntirho wa vutsari ku nga rito na swihlawulekisi swa n-grams. Hilaha swi kombisiweke hakona, ku na makhombo lawa maendlelo ya tinhlayo ya nga ha vaka na xihlawuhlawu hi swivumbeko leswi fambelanaka na nhlokomhaka. Hilaha [18] va xiyaka hakona, “muhlawuri wa vutsari (hambi ku ri loyi a vonakaka a ri kahle) a nga hetelela a endla ku tiveka ka nhlokomhaka hi vomu loko ku tirhisiwa swihlawulekisi leswi titshegeke hi domain. ... Leswaku va papalata leswi, valavisisi va nga ha ringanyeta mpimo wa vona eka swihlawulekisi leswi nga erivaleni leswaku swi nga tivi nhloko-mhaka, swo tanihi marito ya ntirho kumbe swihlawulekisi swa xivumbeko xa marito.” Ntirho lowu nyikeriweke laha wu wela eka xiyenge xo hetelela, hi ku tirhisa swivumbeko swa ririmi leswi humesiweke hi tinhlayo eka tsalwa. Leswi swi vonaka swi tika ku swi kanganyisa. Ku kamberiwa ka matsalwa man'wana ya sweswinyana [19, 20] swi kombisa leswaku ku na ku tsakela loku yaka emahlweni eka maendlelo yo tiveka ka mutsari, kambe ku hava na yin'we leyi tirhisaka swivumbeko swa ririmi leswi tirhisiwaka laha; ku na mboyamelo wo titshega ngopfu hi ti n-gram ta ndhavuko.

Eka ntirho lowu tivekitara ta swihlawulekisi ti kumiwa hi ku tirhisa vuxokoxoko bya mirhi ku suka eka mirhi ya parse ku suka eka xitirhisiwa xo hambanyisa ririmi ra ntumbuluko [21]. Swihlawulekisi leswi a swi nga ri exikarhi ka swihlawulekisi leswi langutisiweke eka [16]. Swivumbeko swa ririmi, swi vonaka swi ri leswi tumbeleke ku tlula ku hlayela ko olova ka mintlawa ya marito, naswona hikwalaho swi nga ha va swi nga ri ehansi ka ku kanganyisa kumbe ku va na xihlawuhlawu xa nhlokomhaka, tanihileswi swi vonakaka swi nga ta endleka leswaku mutsari loyi a kunguhataka ku tekelela un’wana a nga kota ku landzelela hi ku twanana swivumbeko leswi rharhanganeke swa matirhiselo, naswona swihlawulekisi a swi katsi marito wahi na wahi lama humaka eka matsalwa. Ku kumiwile leswaku swihlawulekisi leswi simekiweke eka mirhi swi tirha ku antswa ku tlula swihlawulekisi swa POS eka datha ya xikambelo leyi langutisiweke.

Ti feature vectors leti kumiweke hi ndlela yaleyo tingava ta dimension yale henhla swinene, hikokwalaho kuhungutiwa ka dimension na kona ku endliwa laha. Hambiswiritano, ku tirhana na vun’we bya matiriki ya ku hangalaka ka le ndzeni ka xitluletsongo, ku tirhisiwa endlelo ra SVD leri andlariweke, leri papalataka xilaveko xo hlawula parameter ya regularization.

Papila leri ri nyika vumbhoni bya miehleketo ya swihlawulekisi leswi leswi simekiweke eka mirhi ku hambanyisa vutsari hi ku swi tirhisa eka matsalwa lawa ya nga kamberiwa khale, The Federalist Papers na Sanditon. Vuswikoti byo hlawula hi vutlhokovetseri byi lavisisiwa eka tivekitara to hlayanyana ta swihlawulekisi leti kumiweke eka mahungu lama hlamuseriweke.