Banga ra Generative Al ra Matlhelo Mambirhi: Ku Pfula Vuswikoti Loko U Ri karhi U Pfuxeta Makhombo

Swi teke nkarhi lowu nga ehansi ka lembe leswaku AI yi cinca swinene xiyimo xa vuhlayiseki. Generative AI yisungule kuva ya ntolovelo hi February 2024. Tinhweti tosungula ti hetiwe hiku hlamala. Leswi a yi nga swi endla ni ku tirha kahle loku yi nga ku tisaka a swi nga si twiwi. Hi ku ya hi a 2024 Ndzavisiso wa Vatumbuluxi va Stack Overflow , kwalomu ka 75% wa vatumbuluxi sweswi va tirhisa kumbe ku kunguhata ku tirhisa switirhisiwa swo khoda swa AI.

Exikarhi ka switirhisiwa leswi, OpenAI’s ChatGPT yi tsakeriwa ngopfu, hi 82% wa vatumbuluxi va vika ku tirhisiwa ka nkarhi na nkarhi , na GitHub Copilot leyi landzelaka, leyi tirhisiwaka hi 44% wa vatumbuluxi. Hi mayelana na ku tsala khodi, 82% wa vatumbuluxi va tirhisa AI kasi 68% va tirhisa AI loko va ri karhi va lava tinhlamulo. Loko u hlanganisa muendli loyi a twisisaka ndlela leyinene yo tsala khodi na AI yo tumbuluxa, ku tirha kahle loku tlulaka 50% kumbe ku antswa swi tolovelekile.

Ku amukeriwa ka vanhu ku hangalakile, kambe ku na ku vilela hi ku pakanisa na vuhlayiseki bya khodi leyi endliweke hi AI. Eka muendli la nga ni ntokoto kumbe mutirhi wa vuhlayiseki bya matirhiselo, a swi teki nkarhi wo leha ku vona leswaku khodi leyi endliweke hi Generative AI yi ni swiphiqo swa yona. Hi switsundzuxo swi nga ri swingani ntsena swa xihatla, swihoxo ni timhaka swi humelela hi ku hatlisa.

Kambe vaendli va swilo lava tsakeke hi AI va nghenisa swo tlula swihoxo swa vuhlayiseki swa khale eka khodi. Va tlhela va ya va tisa timodeli ta AI eka swikumiwa leswi va swi tumbuluxaka–hakanyingi handle ka ku lemuka ka vuhlayiseki, hi nga ha vuli mpfumelelo— leswi tisaka nhlayo hinkwayo ya timhaka eka ku pfilunganyeka. Nkateko wa kona, AI yitlhela yiva kahle swinene eka ku lwisana na timhaka leti loko yi kongomisiwa eka tlhelo lerinene.

Xihloko lexi xi ta languta ndlela leyi:

• AI yi nga pfuna tinhlengeletano ku kuma thekinoloji hinkwayo ya AI leyi ti nga na yona ni leyi ti yi tirhisaka, hambi ku ri AI ya ndzhuti leyi mintlawa ya vuhlayiseki yi nga yi tiviki.
• AI yi endla leswaku ku humesiwa ka tinhla ta datha ya semantiki ku suka eka khodi, nhluvukiso wa ndzhundzunuko eka vuhlayiseki bya matirhiselo.
• Ku hlanganisiwa ka swipano swo tshwuka leswi fambiwaka hi AI swi nga paluxa vuhlayiseki eka ti-LLM na switirhisiwa
• AI yi nga pfuneta ku tumbuluxa swisirhelelo na tindlela to hunguta ku sirhelela eka vuhlayiseki lebyi fambelanaka na AI.
• AI yi nga pfuna vaendli ku twisisa na ku sirhelela ti-API leti va ti tirhisaka eka switirhisiwa swa vona.

Shadow AI: Nxungeto lowu nga vonakiki lowu tumbeleke eka Codebase ya wena

Anakanya hi xiyimo lexi vaendli, lava susumetiwaka hi xilaveko xo fambisana na tintangha ta vona kumbe ntsena lava tsakeke ntsena hi leswi AI yi swi nyikaka, va hlanganisaka timodeli ta AI na switirhisiwa eka switirhisiwa handle ka vutivi bya ntlawa wa vuhlayiseki. Leyi i ndlela leyi Shadow AI yi humelelaka ha yona.

Swibumabumelo swa hina eka Mend.io swi paluxe ntshamiseko lowu hlamarisaka: mpimo exikarhi ka leswi swipano swa vuhlayiseki swi swi tivaka na leswi vatumbuluxi va swi tirhisaka hakunene hi mayelana na AI i xivangelo xa 10. Leswi swi vula leswaku eka phurojeke yin’wana na yin’wana ya AI ehansi ka vulawuri bya vuhlayiseki, 10 wun’wana wu tirha endzhutini, leswi tumbuluxaka khombo lerikulu eka vuhlayiseki bya nhlangano.

Ha yini Shadow AI yi karhata swonghasi?

• Vuhlayiseki lebyi nga Lawuriki : Timodelo ta AI leti nga langutisiwangiki ti nga hlayisa vuhlayiseki lebyi tivekaka, leswi endlaka leswaku xitirhisiwa xa wena xi va ekhombyeni kumbe xi hlaseriwa hi ku olova.

• Ku Vupfa ka Data : AI leyi nga hleriwangiki kahle yi nga paluxa data ya nkoka hi ku nga swi xiyi, leswi yisaka eka ku tlula vuhlayiseki bya vuxokoxoko na ku hakerisiwa ka milawu.

• Ku tlula nawu ka ku Landzelela : Ku tirhisa timodeli ta AI leti nga pfumeleriwangiki swi nga tlula milawu ya indasitiri na swipimelo swa vuhlayiseki bya datha.

Nkateko wa kona, AI hi yoxe yi nyikela ntlhantlho eka ntlhontlho lowu. Switirhisiwa swa vuhlayiseki swa xiyimo xa le henhla leswi fambiwaka hi AI swi nga skena codebase ya wena hinkwayo, swi kuma thekinoloji hinkwayo ya AI leyi tirhisiwaka, ku katsa na leyi fihliweke leswaku yi nga voniwi. Nxaxamelo lowu heleleke wu ta endla leswaku swipano swa vuhlayiseki swi kuma ku vonakala eka AI ya ndzhuti, ku pfuneta ku kambela makhombo, na ku tirhisa tindlela to hunguta leti lavekaka.

Vuhlayiseki bya Semantiki: Nguva Leyintshwa eka Nxopaxopo wa Khodi

Switirhisiwa swa vuhlayiseki bya matirhiselo ya ndhavuko swi titshege hi datha ya masungulo na nxopaxopo wa ku khuluka ka vulawuri, leswi nyikaka ku twisisa loku nga nyawuriki ka ntirho wa khodi. AI, hambiswiritano, yi na vuswikoti byo katsa ku twisisa ka nhlamuselo naswona, hikwalaho ka sweswo, yi nyika swikumiwa swo antswa.

Switirhisiwa swa vuhlayiseki leswi pfuniwaka hi AI sweswi swi nga humesa tinhla ta datha ya semantiki eka khodi, ku nyika vutivi lebyi dzikeke eka xikongomelo xa ntiyiso na mahanyelo ya timodeli ta AI. Leswi swi endla leswaku swipano swa vuhlayiseki swi kota ku:

• Kuma vuhlayiseki lebyi rharhanganeke: Kuma vuhlayiseki lebyi handle ka sweswo a byi ta famba byi nga xiyiwi hi switirhisiwa swa vuhlayiseki swa ndhavuko
• Twisisa mahanyelo ya xikombiso xa AI: Kuma ku twisisa loku nga erivaleni ka ndlela leyi timodeli ta AI ti tirhisanaka ha yona na datha na tisisiteme tin’wana, ngopfungopfu na timodeli ta agentic AI kumbe RAG.
• Ku endla swikambelo swa vuhlayiseki hi ku tirhisa michini: Hlakulela swikambelo swa vuhlayiseki leswi rharhanganeke swinene na leswi kongomisiweke leswi simekiweke eka ku twisisa ka semantiki, na ku kota ku hatlisa ku tsala na ku pfuxeta swikripti swa otomatiki swa QA xikan’we na ku kamberiwa ka yuniti ya le ndzeni.

Adversarial AI: Ku tlakuka ka AI Red Teaming

Ku fana ni fambiselo rin’wana ni rin’wana, timodeli ta AI na tona ti hlaseriwa ekhombyeni. AI red teaming yi tirhisa matimba ya AI ku tekelela minhlaselo ya valala, ku paluxa ku tsana eka tisisiteme ta AI na ku tirhisiwa ka tona. Endlelo leri ri katsa ku tirhisa switsundzuxo swa valala, swingheniso leswi endliweke hi ndlela yo hlawuleka leswi endleriweke ku tirhisa vuhlayiseki na ku lawula mahanyelo ya AI. Rivilo leri leswi swi nga endliwaka ha rona ri endla leswaku swi lava ku tiyiseka leswaku AI yi ta tirhisiwa swinene ku nga ri khale.

AI Red Teaming a yi yimi kwalaho. Hi ku tirhisa switirhisiwa swa AI Red Teaming, switirhisiwa swi nga langutana na minhlaselo ya tihanyi leyi endleriweke ku vona ku tsana na ku tekela ehansi tisisiteme. Swin’wana swa switirhisiwa leswi swi fana na ndlela leyi DAST yi tirhaka ha yona, kambe eka xiyimo xo tika swinene.

Swilo Swa Nkoka Leswi Nga Ta Tekiwa:

● Proactive Threat Modeling: Langutela minhlaselo leyi nga vaka kona hi ku twisisa ndlela leyi timodeli ta AI ti nga lawuriwaka ha yona ni ndlela leyi ti nga yingisiwaka ha yona leswaku ti hlasela ndhawu yihi na yihi kumbe modele yin’wana ya AI.

● Ku Kamberiwa ka Vuhlayiseki loku Tiyeke: Tirhisa tithekiniki ta AI red teaming ku kuma hi ku hatlisa na ku hunguta vuhlayiseki.

● Ntirhisano na Vatumbuluxi va AI: Tirha swinene na swipano swa nhluvukiso ku tiyisisa nhluvukiso wa AI lowu sirhelelekeke na maendlelo ya ku khoda lama sirhelelekeke.

Guardrails: Ku vumba Mahanyelo ya AI lama sirhelelekeke

AI yi nyika nkoka wo tala lowu nga honisiwiki. Vuswikoti bya yona byo tswala byi ya emahlweni byi hlamarisa lava tirhaka na yona. Yi vutise leswi u swi tsakelaka kutani yi ta vuyisa nhlamulo leyi nga riki minkarhi hinkwayo kambe hakanyingi yi nga ntiyiso swinene. Hikwalaho ka leswi, i swa nkoka swinene ku tumbuluxa swisirhelelo leswi tiyisisaka ku tirhisiwa ka AI hi vutihlamuleri na ku sirheleleka.

Swisirhelelo leswi swi nga teka swivumbeko swo hambana-hambana, ku katsa ni:

• Khodi leyi Tiyisiweke : Ku tirhisa maendlelo lamanene ya vuhlayiseki eka khodi ku sivela vuhlayiseki byo fana na ku cheriwa hi xihatla.
• Ku Cinca ka Xitsundzuxo xa Sisiteme : Ku endla switsundzuxo swa sisiteme hi vukheta ku ringanyeta vuswikoti bya modele wa AI na ku sivela swiendlo leswi nga languteriwangiki.
• Swihlantswi na Varindzi : Ku hlanganisa tindlela ta vuhlayiseki leti tiyisisaka swilo leswi nghenisiweke, ku sefa leswi humaka, na ku sivela ku nghena loku nga pfumeleriwangiki.

Nchumu wa nkoka lowu tekeriwaka enhlokweni eku tirhiseni ka swisirhelelo i ku cincana exikarhi ka vuhlayiseki na ku cincacinca ka vatumbuluxi. Loko maendlelo yo fana na firewall ya le xikarhi ya nyika ku olova ka ku tirhisiwa, ti guardrails leti kongomisiweke eka matirhiselo leti lulamisiweke hi vaendli ti nga nyika nsirhelelo wa granular swinene na lowu tirhaka.

Xileriso xa Vuhlayiseki bya API eka Nguva ya AI

Switirhisiwa swa AI swi titshege ngopfu hi ti-API ku tirhisana na vukorhokeri bya le handle na swihlovo swa datha. Ku hlanganisiwa loku ku nghenisa makhombo lama nga vaka kona ya vuhlayiseki lawa tinhlengeletano ti faneleke ku ma lulamisa hi ku hatlisa.

Swivilelo swa nkoka hi Vuhlayiseki bya API eka Switirhisiwa swa AI:

• Ku Vupfa ka Data hi ku tirhisa ti-API: Vatlangi lava nga na khombo va nga tirhisa vuhlayiseki bya API ku yiva datha ya nkoka leyi phurosesiweke hi timodeli ta AI.
• Swilotlelo swa API leswi nga ekhombyeni: Swikhiya swa API leswi nga sirhelelekangiki swi nga nyika mfikelelo lowu nga pfumeleriwangiki eka tisisiteme ta AI na datha.
• Makhombo ya API ya Vanhu va Vunharhu: Ku titshega hi ti-API ta vanhu va vunharhu swi nga paluxa tinhlengeletano eka vuhlayiseki eka vukorhokeri byebyo.

Maendlelo Lamanene yo Sirhelela ti-API eka Switirhisiwa swa AI:

• Nxaxamelo wa API lowu heleleke: Hlawula ti-API hinkwato leti tirhisiwaka eka switirhisiwa swa wena swa AI na ku kambela xiyimo xa tona xa vuhlayiseki.
• Vuhlayiseki bya API na Mpfumelelo: Tirhisa tindlela to tiya ta vuhlayiseki na mpfumelelo ku siveriwa mfikelelo wa API. Tiyisisa leswaku u tirhisa modele wa “Least Common Privilege".
• Ku Kamberiwa ka Vuhlayiseki bya API nkarhi na nkarhi: Endla swikambelo swa vuhlayiseki swa nkarhi na nkarhi ku kuma na ku hunguta vuhlayiseki bya API.

Mahetelelo

Nkutsulo wa AI a hi ku koteka ka nkarhi lowu taka, se wu fikile! Hi ku kambisisa vutivi bya vuhlayiseki bya AI lebyi ku buriweke ha byona eka poso leyi, tinhlengeletano ti nga fambisa nguva leyi ya ku cinca no tirhisa matimba ya AI loko ti ri karhi ti hunguta makhombo. AI yi ve mainstream ntsena nkarhinyana, ehleketa leswaku yi ta languteka njhani endzhaku ka lembe. Vumundzuku bya AI bya vangama hikokwalaho lunghekela ku yi tirhisa no tiyisisa leswaku na yona yi sirhelelekile. ** Ku kuma vuxokoxoko byo tala eka AI & AppSec - Languta ya hina webinar ya xirhendzevutani **naswona u kambisisa swivutiso swa nkoka leswi rhendzeleke AppSec leyi fambiwaka hi AI naswona u kuma ndlela yo sirhelela khodi ya wena eka nguva leyi leyintshwa! AI yi hundzula nhluvukiso wa software, kambe xana maqhinga ya wena ya vuhlayiseki ya fambisana na swona?

-Yi tsariwile hi Jeffrey Martin, VP wa Vumaki bya Swikumiwa eka Mend.io