ການນໍາໃຊ້ແບບ AI / ML ກັບ MLflow ແລະ Kubernetes: ຈາກການທົດສອບກັບການນໍາໃຊ້ Enterprise-Grade

- Written by Shashi Prakash Patel

My Introduction:

ຂ້າພະເຈົ້າເປັນ Shashi Patel ຈາກບໍລິສັດການຊື້ຂາຍ.

ຂໍຂອບໃຈຫຼາຍດັ່ງນັ້ນສໍາລັບການຝຶກອົບຮົມຂອງຂ້າພະເຈົ້າ. ຂໍຂອບໃຈຫຼາຍດັ່ງນັ້ນສໍາລັບການຝຶກອົບຮົມຂອງຂ້າພະເຈົ້າ. ຂໍຂອບໃຈຫຼາຍດັ່ງນັ້ນສໍາລັບທຸກສິ່ງທຸກຢ່າງ.

ຂ້າພະເຈົ້າສືບຕໍ່ໄດ້ຮັບການປະທັບໃຈຫຼາຍດັ່ງນັ້ນສໍາລັບທຸກສິ່ງທຸກຢ່າງ - ຂ້າພະເຈົ້າຫວັງວ່າຈະໄດ້ເຮັດວຽກຮ່ວມກັບທ່ານອີກເທື່ອຫນຶ່ງ!

ມັນເປັນວິທີທີ່ຂ້າພະເຈົ້າສະແດງໃຫ້ເຫັນວ່າຂ້າພະເຈົ້າບໍ່ພຽງແຕ່ເປັນຜູ້ທີ່ຂາຍເຕັກໂນໂລຊີ - ຂ້າພະເຈົ້າຮູ້ວ່າມັນ, ຂ້າພະເຈົ້າເປັນ passionate ກ່ຽວກັບມັນ, ແລະຂ້າພະເຈົ້າຕ້ອງການທີ່ຈະເຮັດວຽກຮ່ວມງານຫຼາຍກ່ວາການສ້າງຄວາມເປັນໄປໄດ້ຂອງຕົນ. Blog ນີ້ແມ່ນເລີ່ມຕົ້ນຂອງຂ້າພະເຈົ້າກັບການຂະຫຍາຍຕົວລະດັບມືອາຊີບຂອງຂ້າພະເຈົ້າແລະຂ້າພະເຈົ້າຊອກຫາຄວາມຮູ້ສຶກຂອງຂ້າພະເຈົ້າກັບສະມາຊິກເຕັກໂນໂລຊີທົ່ວໂລກ.

ຂ້າພະເຈົ້າສືບຕໍ່ໄດ້ຮັບການປະທັບໃຈກໍໂດຍການຝຶກອົບຮົມ ITS ແລະການຝຶກອົບຮົມ ITSMLflowແລະKubernetesການເຊື່ອມຕໍ່ເພື່ອສ້າງສະພາບແວດລ້ອມທີ່ເຂັ້ມແຂງ, scalable ສໍາລັບການນໍາສະເຫນີຕົວແບບ AI / ML - ແລະວິທີການນີ້ duo ແມ່ນໄດ້ຮັບຄວາມສົນໃຈໃນຄອບຄົວເຕັກໂນໂລຊີ.

What is AI/ML Model Deployment with MLflow & Kubernetes?

ພາສາລາວAI/ML Model Deploymentມັນເປັນການເຮັດວຽກຂອງການນໍາໃຊ້ຮູບແບບການຝຶກອົບຮົມ machine learning ແລະເຮັດໃຫ້ມັນເຂົ້າເຖິງສໍາລັບການນໍາໃຊ້ໃນໂລກທີ່ແທ້ຈິງ - ຖ້າຫາກວ່າມັນເປັນການຄາດຄະເນດໍາເນີນການຂອງລູກຄ້າ, optimizing supply chains, ຫຼືກວດສອບການເຄື່ອນໄຫວ. ຢ່າງໃດກໍຕາມ, ນີ້ແມ່ນຫຼາຍກ່ວາພຽງແຕ່ pushing ລະຫັດໃນການຜະລິດ. ມັນຕ້ອງການການເຮັດວຽກ:

ພາສາລາວ
• Versioning: ການຮັບປະກັນການອອກແບບທີ່ເຫມາະສົມແມ່ນຖືກນໍາໃຊ້.
ພາສາລາວ
• Scalability: ການອັບໂຫລດກັບການຂົນສົ່ງ fluctuating ໂດຍບໍ່ມີຜົນປະໂຫຍດຫຼຸດລົງ.
ພາສາລາວ
• ການຄວບຄຸມ: ການຄວບຄຸມຜົນປະໂຫຍດເພື່ອປິ່ນປົວບັນຫາເຊັ່ນດຽວກັນກັບ model drift ໃນໄລຍະເວລາ.
ພາສາລາວ

ພາສາລາວ
2. MLflow ເປັນໂຄງສ້າງ open-source ທີ່ງ່າຍດາຍການຄວບຄຸມໄລຍະຍາວຂອງການຝຶກອົບຮົມ machine learning - ຈາກການທົດສອບແລະ tracking ກັບການຕິດຕັ້ງແລະການຄວບຄຸມ. ມັນຮັບປະກັນການ reproducerability ໃນຂະນະທີ່ສະຫນອງອຸປະກອນເພື່ອບັນຈຸແລະຕິດຕັ້ງຮູບແບບ.
ພາສາລາວ
3. Kubernetes (K8s) ເປັນໂຄງປະກອບການ orchestration container ທີ່ເຮັດໃຫ້ການຕິດຕັ້ງຮູບແບບໃນຂະຫນາດໃຫຍ່ໄດ້ຢ່າງງ່າຍດາຍແລະປະສິດທິພາບ. ມັນຄຸ້ມຄອງອຸດສາຫະກໍາຫຼັງຈາກການຕິດຕັ້ງ AI, ການປິ່ນປົວການເຮັດວຽກເຊັ່ນ auto-scaling, load balancing, ແລະ self-healing.
ພາສາລາວ

Why use them together?

MLflow ຄຸ້ມຄອງໄລຍະຍາວຂອງມາດຕະຖານ, ໃຫ້ແນ່ໃຈວ່າການທົດສອບທັງ ຫມົດ ແມ່ນ traceable ແລະ reproducable, ໃນຂະນະທີ່ Kubernetes ຄຸ້ມຄອງການຕິດຕັ້ງແລະຂະຫຍາຍຕົວຂອງມາດຕະຖານໄດ້ຢ່າງງ່າຍດາຍ. ໃນຂະນະທີ່ພວກເຮົາກໍາລັງເຮັດວຽກຮ່ວມກັບພວກເຂົາ, ພວກເຮົາກໍາລັງສ້າງທົດສອບທົດສອບທົດສອບທີ່ທ່ານ:

ພາສາລາວ
• ຮູບແບບ track ແລະ package ໃນ MLflow.
ພາສາລາວ
• Containerize ໂມເລກຸນ (ເຊັ່ນດຽວກັນກັບ Docker).
ພາສາລາວ
• Deploy and manage the containers using Kubernetes.
ພາສາລາວ

ການເຊື່ອມໂລຫະນີ້ປະກັນຄວາມວ່າມາດຕະຖານບໍ່ພຽງແຕ່ເຮັດວຽກໃນສະພາບແວດລ້ອມການພັດທະນາ, ແຕ່ປະຕິບັດຕາມຄວາມປອດໄພໃນການຜະລິດໃນທຸກຂະຫນາດ.

Why AI/ML Model Deployment is Hard

ການເດີນທາງຈາກການຝຶກອົບຮົມຂອງມາດຕະຖານເພື່ອຕິດຕັ້ງມັນໃນຂະຫນາດໃຫຍ່ສະແດງໃຫ້ເຫັນວ່າມີປະໂຫຍດຈໍານວນຫຼາຍ:

ພາສາລາວ
• ການຄວບຄຸມຕົວແທນ: ການຄຸ້ມຄອງຕົວແທນທີ່ແຕກຕ່າງກັນແລະຮັບປະກັນການນໍາໃຊ້ຕົວແທນທີ່ເຫມາະສົມ.
ພາສາລາວ
• Scalability: ການປິ່ນປົວຊຸດຂໍ້ມູນຂະຫນາດໃຫຍ່ແລະການປະໂຫຍດຂອງການຂົນສົ່ງ.
ພາສາລາວ
• reproductibility: ການຮັບປະກັນຜົນປະໂຫຍດທີ່ເຫມາະສົມໃນສະພາບແວດລ້ອມ.
ພາສາລາວ
• ການຄວບຄຸມແລະການປົກປັກຮັກສາ: ການຄວບຄຸມຜົນປະໂຫຍດແລະການຄົ້ນຄວ້າຕົວແບບ.
ພາສາລາວ

ນີ້ແມ່ນທີ່MLflowແລະKubernetesການປິ່ນປົວຂອງການປິ່ນປົວແລະການປິ່ນປົວຂອງການປິ່ນປົວຂອງການປິ່ນປົວ

ລະຫັດ QRການຄວບຄຸມ Lifecycle Model

MLflowການປິ່ນປົວສ່ວນຫນຶ່ງຂອງບັນຫາການປິ່ນປົວທີ່ສໍາຄັນທີ່ສຸດໃນໄລຍະຊີວິດຂອງ AI / ML ໂດຍສະເຫນີ:

ພາສາລາວ
• ການຄົ້ນຄວ້າການທົດສອບ: logs parameter, metrics, ແລະ artefacts ເພື່ອຄົ້ນຄວ້າການປະຕິບັດໃນໄລຍະການທົດສອບ.
ພາສາລາວ
• ການຫຸ້ມຫໍ່ຮູບແບບ: ໃຫ້ແນ່ໃຈວ່າຮູບແບບແມ່ນຫຸ້ມຫໍ່ດ້ວຍການເຊື່ອມຕໍ່ສໍາລັບການຕິດຕັ້ງຢ່າງງ່າຍດາຍ.
ພາສາລາວ
• Model Registry: Centralizes model versioning ແລະອະນຸຍາດໃຫ້ການຮ່ວມມືຢ່າງງ່າຍດາຍລະຫວ່າງ teams.
ພາສາລາວ

ໃນຖານະເປັນ, MLflow ສະຫນັບສະຫນູນການກໍ່ສ້າງແລະ traceability ໃນປັດຈຸບັນການເຮັດວຽກ chaotic ຂອງການກໍ່ສ້າງຮູບແບບ AI.

Kubernetes: Scaling Model Deployment

ຫຼັງຈາກນັ້ນ, ໃນເວລາທີ່ຜະລິດຕະພັນຂອງທ່ານໄດ້ຖືກປັບປຸງ,Kubernetesມັນເຮັດໃຫ້ການເຮັດວຽກປະສິດທິພາບທີ່ຖືກຕ້ອງໃນການຜະລິດ. ມັນ automates several key aspects:

ພາສາລາວ
• ອັດຕະໂນມັດ scaling: ຄຸນນະສົມບັດການປັບແຕ່ງໂດຍໃຊ້ການຂົນສົ່ງ, ການຮັບປະກັນຜົນປະໂຫຍດແລະປະສິດທິພາບ.
ພາສາລາວ
• ຄວາມປອດໄພ: ການປະກັນຜົນປະໂຫຍດທີ່ແຕກຕ່າງກັນໃນໄລຍະການພັດທະນາ, ການທົດສອບແລະການຜະລິດ.
ພາສາລາວ
• ຄວາມປອດໄພ: ອັດຕະໂນມັດ reboot containers ທີ່ບໍ່ໄດ້ຮັບຜົນປະໂຫຍດ, ການຮັບປະກັນຄວາມປອດໄພສູງ.
ພາສາລາວ

ການນໍາໃຊ້Kubernetes, AI/MLທີມງານສາມາດຕິດຕັ້ງຮູບແບບຫນຶ່ງແລະສະຫນັບສະຫນູນລະບົບເພື່ອປິ່ນປົວການຂະຫຍາຍຕົວແລະການຄວບຄຸມອຸດສາຫະກໍາ, ເຊິ່ງໃຫ້ພວກເຂົາເຈົ້າສາມາດຕອບສະຫນັບສະຫນູນການປັບປຸງຮູບແບບຕົນເອງ.

Why This Matters for Business

ຈາກ perspektive ທຸລະກິດ, adopting MLflow ແລະ Kubernetes drive:

ພາສາລາວ
• Time-to-Market ອັດຕະໂນມັດ: ການອັດຕະໂນມັດ pipeline reduces ລະບົບການຕິດຕັ້ງ.
ພາສາລາວ
• ການປະຕິບັດຄວາມປອດໄພ: Kubernetes ສະຫນັບສະຫນູນຄວາມປອດໄພທີ່ຍິ່ງໃຫຍ່, ການປັບປຸງຄວາມປອດໄພ.
ພາສາລາວ
• ຄ່າໃຊ້ຈ່າຍປະສິດທິພາບ: Auto-scaling optimizes ຄ່າໃຊ້ຈ່າຍອຸດສາຫະກໍາ.
ພາສາລາວ
• Innovation continuous: ການທົດສອບຄວາມໄວ້ວາງໃຈແລະ iteration ຂອງ pipelines CI / CD.
ພາສາລາວ

Conclusion: Driving AI at Scale

Deploying AI/MLໂມເລກຸນບໍ່ແມ່ນພຽງແຕ່ກ່ຽວກັບການໃຫ້ລະຫັດໃນການຜະລິດ - ມັນແມ່ນກ່ຽວກັບການສ້າງscalable, reproducible, and resilient systemsນີ້ແມ່ນລັກສະນະທີ່ມີຄຸນນະສົມບັດສໍາລັບທຸລະກິດ.MLflowແລະKubernetesສະຫນັບສະຫນູນການເຊື່ອມຕໍ່ທີ່ເຂັ້ມແຂງເພື່ອທົດສອບການຄຸ້ມຄອງຮູບແບບແລະຮັບປະກັນຜົນປະໂຫຍດທີ່ເຊື່ອຖືໃນການຜະລິດ.

ໃນຖານະເປັນຜູ້ຊ່ຽວຊານກ່ຽວກັບຜົນປະໂຫຍດຂອງເຕັກໂນໂລຊີກ່ຽວກັບທຸລະກິດ, ຂໍຂອບໃຈວ່າເຄື່ອງມືເຫຼົ່ານີ້ເປັນສິ່ງທີ່ສໍາຄັນສໍາລັບການຂຸດຄົ້ນບໍ່ແຮ່ລະຫວ່າງ innovation and real-world impactປະເພດ

ບົດຄວາມນີ້ໂດຍ Shashi Prakash Patel ສ້າງເປັນ Runner-up ໃນ Round 1 ຂອງ R Systems Blogbook: Chapter 1.