Text-to-SQL A Yi Fanele Ku Va AI’s Killer App. A Swi tano.

Hi ku hisa ka ku hlanya ko sungula ka ChatGPT, ndzi kume rungula leri humaka eka khale ka mutirhi-kulorhi. A a lava ku tsutsuma idea hi mina. Always the one to enjoy brainstorming, hi hopped on a call and he started off with “U tsundzuka ndlela leyi a wu tshama u ndzi kombela ku ndzi kokela data ha yona? Ku vuriwa yini loko a wu nga swi kota ku tiendlela ntsena?” Nakona u ya emahlweni a ndzi hoxa mianakanyo ya leswaku magidi (makhume ya magidi?) ya vanhu van’wana a va ehleketa hi nkarhi wun’we: Ti-LLM ti nga tirhisiwa eka matsalwa-ku-ya-eka-SQL ku pfuna vanhu lava nga riki na vuthekiniki ku hlamula swivutiso swa vona swa data.

Ndzi khomiwe hi mianakanyo leyi, kambe ndzi nga si nwela enhlokweni ku sungula, ndzi byele Lei (sweswi a nga CTO ya mina) leswaku hi fanele hi endla ku tiyisisa ko karhi. Hi tihlanganise ni vanghana ni khale ka vatirhi-kulorhi lava humaka eka tiindasitiri to hambana-hambana. A ku ri na ku tsakela lokukulu eka "vuxopaxopi bya ku ti tirhela" bya xiviri. A hi swi tiva leswaku a swi ta rharhangana swinene ku tlula ndlela leyi a swi vonaka ha yona, kambe nkarhi lowu a wu titwa wu ri wunene ngopfu lerova a wu nga ta hundza. Kutani mina na Lei hi sukile eThe Shire hi sungula riendzo ra hina ro tumbuluxa xivono xa hina: Fabi.ai .

Post leyi a hi ya xiendliwa xa hina hi xoxe (hambi leswi, loko u lava ku tiva, u nga hlaya swo tala hi ndlela leyi yin’wana ya miehleketo leyi nga laha hansi yi tiviseke ntirho wa xitirhisiwa xa hina xa sweswinyana laha ). Ematshan’wini ya sweswo, ndzi lave ku avelana tidyondzo ta nkoka leti hi ti hlengeleteke ku suka eka ku tirha na ti-LLM eka nxopaxopo wa datha eka riendzo ra hina.

Xiya: Riendzo leri ri pfumala hi ndlela yo vava eka valoyi ni tinyimpi ta xiyimo xa le xikarhi ta le xikarhi. 🧙

Ha yini u tirhisa AI eka vuxopaxopi bya ku ti tirhela?

A hi nge tshameli nkarhi wo leha swinene eka “ha yini.” Loko u hlaya leswi, swi nga ha endleka u wela eka wun’wana wa mintlawa yimbirhi:

1. U munhu loyi a navelaka leswaku u va na vuxopaxopi bya ku ti tirhela lebyi kumekaka naswona a nga lavi ku boheka ku tshama u rindza eka ntlawa wa wena wa data
2. U le ka ntlawa wa data naswona u tshame u twa hi ndlela leyi AI yi nga ta ku pfuna ha yona ku tlhantlha xiphiqo xa wena xa swikombelo swa nkarhinyana.

Hi ku honisa ku vilela hi ntirho wa vaxopaxopi va data na vativi va sayense, mianakanyo ya AI leyi tivaka hinkwaswo leyi nga hlamulaka swivutiso swihi na swihi mayelana na data ya nhlangano yi twala yi ri kahle. Kumbe hi xiringaniso, swi twala swi tsakisa eka nhlangano na varhangeri va wona va mabindzu lava vutumbuluxi bya vona bya tindlela letintshwa to vutisa swivutiso byi nga tiviki swipimelo. AI leyi yi nga va xitshunxo xo tumbuluxa nhlangano lowu “fambiwaka hi datha” laha murhangeri un’wana na un’wana a titshegeke hi vumbhoni bya empiriki ku teka swiboho swa vona swa maqhinga. Naswona hinkwaswo hi xiphemu lexitsongo xa ntsengo lowu hi ntolovelo a wu ta wu teka. Heteleleni! Tinhlengeletano ti nga tirhisa “oyili leyintshwa” yoleyo leyi ti twaka ha yona ku sukela hi 2010.

Kambe loko lexi ku ri xiphiqo xa nkoka swonghasi xo xi tlhantlha naswona AI yi ve leyinene swonghasi, ha yini ku nga ri na xiendliwa lexi nga xi tlhantlha hakunene ku fikela sweswi?

Ha yini AI ya vuxopaxopi bya ku ti tirhela yi tsandzekile ku fikela sweswi

Mindzavisiso ya sweswinyana ya indasitiri yi penda xifaniso lexi rharhanganeke xa ku amukeriwa ka AI eka bindzu. 61 wa tiphesente ta tikhampani va ringeta ku tirhisa vayimeri va AI. Hambiswiritano, vo tala va karhateka hi ku tshembeka ni ku sirheleleka. Entiyisweni, 21% wa tinhlengeletano a ti ti tirhisi nikatsongo. Ku kanakana loku ku twiwa ngopfungopfu endzeni ka swipano swa datha, laha ku pakanisa na ku tshembheka swi nga swa nkoka wa vurhumiwa eka vuswikoti bya hina byo endla ntirho.

Vaamukeri va AI–ngopfu ngopfu eka bindzu–va na bar yale henhla loko swita eka leswi languteriweke hi thekinoloji. Eka xiyimo xa vuxopaxopi bya datha na norho wo ti tirhela, hi langutele leswaku switirhisiwa swa hina swa AI swi:

1. Ku nyika vutivi: Matafula na tichati i swikulu, kambe sweswo i ntlawa lowutsongo wa leswi munhu a nga swi vitanaka “vutivi”. Ku twisisa i “Aha!” minkarhi leyi humaka eka ku vona swilo eka data ya wena leswi lwisanaka na ku twisisa ka wena naswona a ndzi nga ta swi ehleketa hi ndlela yin’wana. Minkarhi yin’wana xivutiso xa SQL kumbe pivot swinga voninga ku vonakala eka vutivi lebyi, kambe hiku angarhela switiva ngopfu kufana naku kuma naliti eka nhulu ya byanyi.
2. Tirha hi ku tshembheka kwalomu ka 100% wa nkarhi: Nchumu wun’we ntsena wo biha ku tlula ku pfumala data i data yo biha. Loko AI yi nga tshembi kumbe yi hallucinate tinhlamulo na data, sweswo swi peleta mahungu yo biha eka un’wana na un’wana. Leswi swi vula leswaku loko AI yi ri na data, yi fanele ku yi tirhisa hi ndlela leyinene. Kambe loko yi pfumala data, yi fanele ku papalata ku nyika nhlamulo (nchumu lowu ti-LLM ti dumeke hi ku biha eka wona).
3. Ku fikeleleka eka swiyenge swo hambana swa vuswikoti bya xithekiniki: Ku saseka ka ti-LLM hileswaku u nga tihlanganisa na tona ku fana na mutirhi kuloni eka Slack. U nga tirhisa ririmi leri nga twisisekiki. Munhu un’wana kumbe nchumu wun’wana kumbexana wu nga twisisa xikombelo xa wena eka xiyimo xa bindzu. Hilaha ku hambaneke, loko fambiselo ri lava ku tirhisa marito lama kongomeke hi xivumbeko lexi kongomeke, a ri fikeleleki ngopfu. Muxaka lowu wa fambiselo wu lava ndzetelo ni ku tiyisisiwa, leswi hinkwerhu hi swi tivaka, swi nga va ntlhontlho.

Lexi twisaka ku vava, swintshuxo swo tala swa sweswi swi tirhisa rimba ra ndhavuko ra AI ra monolithic, leri hakanyingi ri tsandzekaka ku fikelela leswi languteriweke. Emalembeni ma nga ri mangani lama hundzeke, mina na ntlawa wa Fabi.ai hi tirhile hi matimba eka mhaka leyi. Hi ake swikombiso swa bindzu naswona hi kambisise tindlela to tala to hlawula. Eku heteleleni, hi swi vonile leswaku hambi ku ri Retrieval Augment Generation (RAG) kumbe fine-tuning a swi nga ta lulamisa xiphiqo lexi hi rimba ra sweswi ra monolithic.

Loko hi ringeta endlelo leri, swilo swi nga ri swingani swi ve erivaleni eka hina:

• RAG yi tsanile. Mongo wutsongo swinene naswona AI a yi swi koti ku hlamula xivutiso naswona yi le khombyeni ro vona swilo leswi nga vonakiki. Mongo wo tala ngopfu naswona AI yi pfilunganyeka naswona yi lahlekeriwa hi ku pakanisa ka yona.
• AI ya one-shot a yi ku yisi kun’wana na kun’wana. AI leyinene ngopfu emisaveni a yi nge pfuki yi swi kotile ku koka ni ku kambisisa rungula hi ku kongoma hi xifaniso xin’we. Ku na ntsena swihlawulekisi swo tala ngopfu eka data na xivutiso. A hi tekeni xikombiso xo olova swinene lexi kotekaka: U na nsimu ya “Muxaka wa akhawunti” leyi nga na 95% leyi taleke hi 10 wa mimpimo yo hambana. Loko u kombela AI ku sefa eka sete ya tinxaka ta akhawunti, yi nga ha tsandzeka ku lemuka leswaku ku na mimpimo leyi nga riki na nchumu, xisweswo yi humesa xivutiso xa SQL lexi nga tirhiki. “Sure,” u nga ha ku, “kambe hi nga ha hlayela ntsena tinhlayo ta nsimu yin’wana na yin’wana na mimpimo ya xikombiso ivi hi hlayisa sweswo eka xitolo xa hina xa vector ya mongo.” Tinxaka ta timhaka ti le kusuhi no pfumala makumu naswona hinkwato ti hlawulekile hi ndlela ya tona.
• Data ya mabindzu yi pfilunganyekile. Leswi swi fambisana ni tinhla timbirhi to sungula, kambe swa fanela ku kandziyisiwa. Hambi loko ku ri swa nkarhinyana, nhlangano wu nga va na matafula ma nga ri mangani ya nsuku lama nga na leyara ya semantiki leyi hlamuseriweke hi ku hetiseka, leswaku hinkwaswo swi ta swi tshoveka ehansi hi ku hatlisa loko murhangeri wa RevOps a teka xiboho xo lulamisa modele wa bindzu. Ndzi tsakela ku dirowa xifaniso xa yindlu: Hi ntolovelo u nga hlayisa yindlu yi hlelekile swinene, kambe minkarhi hinkwayo ku ta va ni nchumu lowu lavaka ku basisiwa kumbe ku lunghisiwa.
• Text-to-SQL yi ringanise ngopfu. Eka swivutiso swo tala swa vuxopaxopi bya data, ku tsala SQL ku koka data i goza ro sungula ntsena. Leri i goza leri u faneleke u ri teka u nga si sungula ni ku vutisa swivutiso leswi tsakisaka. SQL ntsena a yi swi koti ku khoma nxopaxopo lowu rharhanganeke lowu vatirhisi va mabindzu va wu vutisaka. LLMs na Python hi tlhelo rin’wana swi faneleka hi ku hetiseka eka ntirho. Switirhisiwa leswi swi nga teka vuhumelerisi bya wena bya SQL ivi swi kuma naliti yoleyo eka nhulu ya byanyi. Va nga tlhela va fambisa minxopaxopo ya regression ku paluxa mikhuva leyikulu.

Endzhaku ko languta timhaka leti, hi ehlekete hi ndlela yo endla leswaku AI yi tolovela swiphiqo ku antswa. Hi loko vayimeri va AI va nghene eka ntirho naswona va tiyisile mhaka leyi eka hina.

Vumundzuku: Agent meshes

Hi minete leyi hi veke mahlo eka swivumbeko swa vayimeri, hi swi tivile leswaku swi ta cinca ntlangu. Hi xitshuketa hi titwe hi nga tshika AI yi endla xiboho xa ndlela yo hlamula swivutiso. A yi nga tirha hi magoza ni ku lulamisa swiphiqo hi yoxe. Loko AI yi tsala xivutiso xa SQL lexi pfumalaka mimpimo ya null eka nsimu ya "Muxaka wa akhawunti", yi nga omisa xivutiso, yi vona xihoxo, yi tlhela yi xi lulamisa hi yoxe. Kambe ku vuriwa yini loko hi nga teka leswi goza rin’wana hi tshika AI yi tirha ngopfu eka Python na leverage LLMs? Sweswi, AI yi endla swo tlula ku koka data. Yi nga tirhisa tiphasela ta Python kumbe ti-LLM ku kuma swilo leswi nga ehandle, mikhuva, kumbe vutivi byo hlawuleka, lebyi hi ntolovelo u nga ta boheka ku byi languta hi voko.

Kambe ha ha ri na xiphiqo xin’we: data ya mabindzu leyi nga hlelekangiki. Hi tshemba leswaku tinhlengeletano ti nga tlhantlha leswi hi ku tirhisa maendlelo yo tiya ya vunjhiniyara bya data, ku fana na a vumaki bya medallion na leyara ya semantiki yo tika. Hambiswiritano, a hi nga tali ku kuma tinhlengeletano leti entiyisweni ti endleke leswi evuton’wini bya xiviri. Tinhlengeletano to tala ti tirhisa swiphepherhele, matafula lama bakiweke hi hafu ni timodeli ta data leti tshamaka ti ri karhi ti cinca. Ku suka laha, hi tile na miehleketo yo aka tiejensi to hlawuleka ta AI leti nga akiwaka hi ku hatlisa ku hlamula sete yo karhi ya swivutiso.

Loko tikhampani ti ri karhi ti kula, ti khoma rungula ro tala naswona ti ni vatirhisi vo tala. Miehleketo ya agent mesh yi pfuneta ku ringanisela ku teka swiboho hi xihatla na vulawuri lebyi lavekaka eka vulawuri. Vayimeri vo hlawuleka va pfuneta ku veka mindzilakano leyi nga erivaleni na vutihlamuleri eka AI yin’wana na yin’wana. Va tlhela va tumbuluxa ndlela leyi ringanisiwaka ya leswaku vayimeri va vulavurisana. Ku engetela kwalaho, va nga pfuneta ku lawula switirhisiwa hi ndlela leyinene eka swipano na tikhamphani.

Vayimeri vo hlawuleka va AI

Miehleketo ya muyimeri wo hlawuleka hileswaku muyimeri loyi a nga swi kota naswona u ta hlamula ntsena swivutiso eka dataset leyi hlamuseriweke hi ku tiya swinene. Xikombiso, u nga tumbuluxa no sungula muyimeri wa AI loyi a hlamulaka swivutiso mayelana na matshalatshala yo xavisa. Kumbe u nga aka yin’wana ku hlamula swivutiso mayelana na phayiphi yo xavisa, na swin’wana na swin’wana.

Sweswinyana hi sungule Agent Analyst , hi ku tirhisa vumaki lebyi. Swikombiso swo sungula swa tshembisa swinene. Loko ti datasets ti hlayisiwile hi vukheta naswona eka levele ya granularity leyi faneleke, ti agents leti tinga hlamula sete yokarhi ya swivutiso hiku tshembheka swinene. Muaki wa tiejensi leti a nga ti avelana na vatirhisi lava nga riki va xithekiniki naswona a wisa hi ku olova a ri karhi a tiva leswaku AI a yi nge hlamuli swivutiso leswi nga ehandle ka xikalo.

Ku ni xihoxo xin’we ntsena: Vatirhisi va fanele va tiva leswaku i muyimeri wihi loyi va faneleke va ya eka yena eka xivutiso xihi. Swi fana na ku lava ku tiva muhlahluvi wa vuxavisi loyi a faneleke ku vutisa xivutiso xa vs. ku vutisa xivutiso xo angarhela ntsena. Hi xivutiso xo angarhela, un’wana eka xipano a nga xi kongomisa eka munhu loyi a faneleke. Laha hi laha mhaka ya “agent mesh” yi nghenaka kona.

Ku hlanganisa ti-agent swin’we

Loko muyimeri un’we a nga hlamula swivutiso leswi kongomeke hi ku tshembeka, kutani ha yini a nga pfumeleli vayimeri va vulavula? Ha yini, hi xikombiso, muyimeri wa pfhumba ro xavisa a nga vutisi ntsena muyimeri wa tiphayiphi hi ku kongoma loko va nga hlamula xivutiso hi ku olova? Hi tshemba leswaku yi fanele yi swi kota. Tani hi ntiyiso, hi ehleketa leswaku enkarhini lowu taka ku ta va na tinetweke ta vayimeri lava nga na xivumbeko xa xiyimo xa le henhla. U nga ha vona hi mahlo ya mianakanyo “muyimeri wa GTM” loyi a vitanaka “Muyimeri wa ku xavisa.” Muyimeri loyi u tlhela a vitana “Muyimeri wa tiphayiphi” na “Muyimeri wa pfhumba ro xavisa.”

Miehleketo leyi yi fana na miehleketo yo angarhela swinene leyi papamalaka eka AI leyi tivekaka tani hi " Internet ya Vayimeri ." I vumundzuku laha vayimeri va AI va tirhisanaka hi ndlela leyinene eka tinhlengeletano to hambana. Va endla leswi loko va ri karhi va tiyisisa leswaku vuhlayiseki na ku tshembana swi tshama swi tiyile.

Endlelo leri ra mesh ri nyika swipfuno swi nga ri swingani swa nkoka eka AI ya monolithic (eka leyara ya semantiki ya pristine):

• Ku xiyiwa: Tanihi leswi muyimeri un’we a nyikaka tinhlamulo leti sekeriweke eka datha yo karhi, u nga landzelerisa nhlamulo yin’wana na yin’wana ku ya eka muyimeri yoloye. Leswi swi pfuneta ku tiyisisa ku pakanisa hi ku tirhisa oditi. Ku nyika xikombiso lexi kongomeke, hambi leswi xi olovaka ngopfu, anakanya u ri na matafula mambirhi ya swiendlakalo: rin’wana ra ku xavisa kasi rin’wana ra xiendliwa. Loko mutirhisi a vutisa, “Hi swihi swiendlakalo leswi endleke mali yo tala?” AI yi nga ha ehleketa leswaku swi vula swiendlakalo swa swikumiwa. Hambi loko swi hoxile, mutirhisi a nga vona leswaku hi wihi muyimeri loyi a hlamuleke naswona a nga kongomisa AI.
• Ku hlayisiwa: Ku fana ni njhini ya movha, loko u kota ku kuma swiphiqo hi ku olova ivi u cinca swiphemu swa yona hi ku hatlisa, movha wu va lowu tshembekaka swinene. Loko muyimeri un’we a sungula ku tsandzeka hikwalaho ka ku cinca eka modele wa datha, kutani a nga hatla a voniwa naswona muyimeri yoloye a nga pfuxetiwa.
• Ku pakanisa: Leswi agent yin’wana na yin’wana yi tirhaka endzeni ka swipimelo swa yona, a ku na ndhawu ya leswaku yi huma eka swiporo. Swi nga ha endleka yi nga ri na nhlamulo, kambe a yi nge endli nchumu wo hlamarisa.

Eku heleni ka siku, mianakanyo leyi ya mesh a hi novhele. Leswi swi kombisa mhaka ya nkatsakanyo wa vativi leswi kombisiweke ku antswisa ku pakanisa eka ti-LLM. I ku teka ntsena mianakanyo yoleyo leyi fanaka ivi u yi tisa eka vayimeri va AI.

Mintlhontlho ya xithekiniki ya ti agent meshes

Eka Fabi.ai, hi na ndlela yo leha yo famba tani hi leswi hi aka mesh ya Analyst Agent. Kambe, se hi hlule yin’wana ya mintlhontlho leyikulu ya switirhisiwa swa xithekiniki endleleni.

Vayimeri va AI data analyst va lava architecture yo hlawuleka. Dizayini leyi yi fanele ku va pfumelela ku tirhisa Python kumbe ti-LLM ku hlamula swivutiso, ku tshama va ri eka ku fambisana na swihlovo swa datha, na ku nghena eka tipulatifomo ta ntirhisano, loko va ha tshama va hlayisekile no ringaniseriwa. Muyimeri un’wana na un’wana u lava ku tirha eka kernel ya yena ya Python, leyi lavaka ku hatlisa yi rhendzeleka ehenhla kumbe ehansi ku hunguta ku durha na ku tshama yi fambisana na datha ya xihlovo.

Ti architectures letinga nyikiki ti kernels ha yin’we eka agent yin’wana na yin’wana tinga tsutsuma eka rin’wana ra makhombo lawa ya landzelaka:

• Ku kanetana ka mfumo eka swilo leswi cinca-cincaka exikarhi ka vayimeri va AI. Vayimeri vambirhi lava hambaneke va nga ha humesa xihlawulekisi xa “foo” ku hlamula xivutiso, leswi vangaka ku lwisana. Ku nga va na tindlela tin’wana to tumbuluxa swihlawulekisi swo hlawuleka, kambe leswi swi engetela minkarhi ya AI ku tumbuluxa khodi leyi nga tirhiki.
• Makhombo ya vuhlayiseki lama vangiwaka hi ku avelana datha exikarhi ka swipano swo hambana kumbe hambi ku ri tinhlengeletano to hambana.
• Swiphiqo swa matirhelo loko muyimeri un’we a teka nhlayo leyi nga ringaniki ya switirhisiwa swa xibalo.

Ntlhontlho wo aka muxaka lowu wa pulatifomo i ntlhontlho wa AI ku fana na ntlhontlho wa DevOps.

Ku languta emahlweni: Ku amukela vayimeri va AI lava hlawulekeke, lava lawuriwaka eka datha

Loko tikhamphani ta mabindzu ti ri karhi ti lawula switirhisiwa swo tala swa AI eka matirhelo ya tona, ti lava maendlelo yo hlawuleka na lama lawuriwaka kahle. Rimba ra mesh ya vayimeri ri tirhisa vayimeri va datha ya AI yo hlawuleka tanihi ndlela yo ringanisa AI eka vuxopaxopi bya datha. Endlelo leri ri hlayisa vuhlayiseki, ku tshembheka na matirhelo swi nga onhakanga.

Hi nga ha va hi langutele leswaku AI yi ta va yi ri hinkwako-nkwako sweswi, yi hlamula swivutiso swo tala swa data. Kambe, loko hi languta kahle, nhluvuko eka malembe mambirhi ntsena ku sukela loko ChatGPT yi sungurile wa hlamarisa. Ha ha ri ni swo tala leswi hi faneleke hi swi dyondza eka riendzo leri. Kambe emiehleketweni ya mina, tiejensi na swivumbeko swa mesh ya vayimeri swi ta va xilotlelo eka AI ya mabindzu.