ክልተ ዝኣፉ ሰይፊ ጀነሬቲቭ ኣል፤ ሓደጋታት እናቐነስካ ዓቕሚ ምኽፋት።

AI ነቲ ጸጥታዊ መልክዕ ብዓቢኡ ንኽቕይሮ ዓመት ዘይመልእ ግዜ ወሲዱሉ። ጀነሬቲቭ ኤኣይ ኣብ ወርሒ ለካቲት 2024 ቀንዲ መስመር ክኸውን ጀሚሩ።እተን ቀዳሞት ሒደት ኣዋርሕ ብኣድናቖት እየን ኣሕሊፈን። እንታይ ክገብር ከም ዝኽእልን ከምጽኦ ዝኽእል ብቕዓትን ዘይተሰምዐ እዩ። ብመሰረት ሀ 2024 ስታክ ኦቨርፍሎው ዲቨሎፐር ዳህሳስ ፣ ኣስታት 75% ካብቶም ዲቨሎፐራት ኣብዚ እዋን እዚ መሳርሒታት AI ኮዲንግ ይጥቀሙ ወይ ክጥቀሙ መደብ ኣለዎም።

ካብዞም መሳርሒታት እዚኣቶም፡ ብፍላይ ናይ OpenAI ChatGPT ተፈታዊ ኮይኑ፡ ምስ... 82% ካብቶም ዲቨሎፐራት ስሩዕ ኣጠቓቕማ ከምዘለዎም ዝሕብሩ ፣ ምስ GitHub Copilot ዝስዕብ፣ ብ44% ካብ ዲቨሎፐራት ዝጥቀሙሉ ዘለዉ። ብመንጽር ምጽሓፍ ኮድ 82% ካብቶም ዲቨሎፐራት መልሲ ኣብ ዝደልዩሉ እዋን AI ክጥቀሙ ከለዉ 68% ድማ AI ይጥቀሙ። ኮድ ብግቡእ ከመይ ጌርካ ከም እትጽሕፎ ዝርዳእ ዲቨሎፐር ምስ ጀነሬቲቭ AI ክትጽምብሮ ከለኻ፡ ልዕሊ 50% ወይ ዝሓሸ ብቕዓት ልሙድ እዩ።

ምቕባል ሰፊሕ ኮይኑ፡ ብዛዕባ ልክዕነትን ድሕነትን ናይቲ ብAI ዝፍጠር ኮድ ግን ስክፍታታት ኣሎ። ንሓደ ምኩር ዲቨሎፐር ወይ ናይ ኣፕሊኬሽን ድሕነት በዓል ሞያ፡ ብጀነሬቲቭ ኤኣይ ዝተፈጥረ ኮድ ጸገማቱ ከም ዘለዎ ንምርኣይ ግዜ ኣይወስድን እዩ። ብውሑዳት ቅልጡፋት ምልክታት ጥራይ፡ ብልሽታትን ጉዳያትን ብቕልጡፍ ይረኣዩ።

ብዛዕባ AI ዝተሓጎሱ ዲቨሎፐራት ግን ካብ ናይ ቀደም ናይ ጸጥታ ስሕተት ንላዕሊ ናብ ኮድ የእትዉ ኣለዉ። ብተወሳኺ ኣብቲ ዘማዕብልዎ ፍርያት ሞዴላት AI እናኣምጽኡ ይመጹ ኣለዉ-መብዛሕትኡ ግዜ ብዘይ ንቕሓት ጸጥታ፡ ኣሽንኳይዶ ፍቓድ- እዚ ድማ ምሉእ ብምሉእ ጉዳያት ናብ ምብትታን የምጽእ ኣሎ። ዕድል ኮይኑ AI ናብ ቅኑዕ ኣንፈት ምስ ዝሕብር ነዞም ጉዳያት ኣብ ምምካት እውን ብሉጽ እዩ።

እዚ ጽሑፍ እዚ ብኸመይ፤

• AI ትካላት ኩሉ እቲ ዘለዎምን ዝጥቀሙሉን ዘለዉ ናይ AI ቴክኖሎጂታት ንኽረኽባ ክሕግዘን ይኽእል እዩ፣ ዋላ እውን ናይ ጸጥታ ጋንታታት ዘይፈልጥዎ ጽላሎት AI።
• AI ካብ ኮድ ትርጉማዊ ዳታ ነጥቢ ምውጻእ የኽእል፣ እዚ ድማ ኣብ ድሕነት መተግበሪ ሰውራዊ ምዕባለ እዩ።
• AI-powered red teaming ኣብ LLMsን ኣፕሊኬሽናትን ንዘሎ ተቓላዕነት ከቃልዕ ይኽእል።
• AI ምስ AI ዝተኣሳሰሩ ተቓላዕነት ንምክልኻል መከላኸሊታትን ናይ ምቅላል ስትራተጂታትን ኣብ ምፍጣር ክሕግዝ ይኽእል።
• AI ንደቨሎፐራት ኣብ ኣፕሊኬሽናቶም ዝጥቀምሉ ኤፒኣይ ንምርዳእን ውሑስ ንምግባርን ክሕግዞም ይኽእል።

ጽላሎት AI: ኣብ ኮድቤዝካ ዝሕባእ ዘይርአ ስግኣት

ሓደ ስናርዮ እሞ ሕሰብዎ፡ ዲቨሎፐራት፡ ምስ መዛኑኦም ምትእስሳር ዘለዎም ኣድላይነት ዝድረኹ ወይ ድማ በቃ ብዛዕባ እቲ AI ዘቕርቦ ተሓጒሶም፡ ብዘይ ኣፍልጦ ናይቲ ናይ ጸጥታ ጉጅለ፡ ናይ AI ሞዴላትን መሳርሕታትን ናብ ኣፕሊኬሽናት ዘዋሃህድዎ ዘለዉ። Shadow AI ብኸምዚ እዩ ዝፍጸም።

ኣብ Mend.io ዝገበርናዮ ትዕዝብቲ ሓደ ዘሰንብድ ዝንባለ ኣቃሊዑ ኣሎ፡ ኣብ መንጎ ጋንታታት ጸጥታ እንታይ ይፈልጥዎን ብጭቡጥ ዲቨሎፐራት ብመንጽር AI እንታይ ይጥቀሙ ከምዘለዉን ዘሎ ሬሾ ረቛሒ 10 እዩ።እዚ ማለት ንነፍሲ ወከፍ ፕሮጀክት AI ኣብ ትሕቲ ስልጣን ውሕስነት፡ 10 ተወሳኺ ኣብ ጽላሎት ይንቀሳቐሱ ኣለዉ፡ እዚ ድማ ንጸጥታ እቲ ትካል ዓቢ ሓደጋ ይፈጥር።

ሻዶ ኤኣይ ስለምንታይ እዩ ኣዝዩ ዘተሓሳስብ?

• ዘይተቖጻጸሩ ተቓላዕነት : ዘይተቖጻጸሩ ሞዴላት AI ዝፍለጡ ተቓላዕነት ክዕቅቡ ይኽእሉ፣ እዚ ድማ መተግበሪኻ ተቓላዓይ ወይ ንመጥቃዕቲ ተቓላዓይ ይገብሮ።

• ምፍሳስ መረዳእታ : ብዘይግቡእ ዝተዋቕረ AI ብዘይ ፍላጥ ንሃሳስ ዳታ ከቃልዕ ይኽእል እዩ፣ እዚ ድማ ናብ ምፍራስ ብሕታዊነትን ንመቆጻጸሪ መቕጻዕትን የስዕብ።

• ምጥሓስ ምኽባር : ዘይተፈቕዱ ናይ AI ሞዴላት ምጥቃም ንመምርሒታት ኢንዱስትሪን ደረጃታት ድሕነት ዳታን ክጥሕስ ይኽእል።

ጽቡቕ ኣጋጣሚ ኮይኑ፡ AI ባዕሉ ነዚ ብድሆ መፍትሒ የቕርብ። ምዕቡላት ብAI ዝምራሕ መሳርሒታት ድሕነት ንብምሉኡ ኮድቤዝካ ስካን ክገብሩ ይኽእሉ፣ ንኹሎም ኣብ ጥቕሚ ዘለዉ ቴክኖሎጂታት AI፣ እንተላይ ነቶም ካብ ምርኣይ ዝተሓብኡ ቴክኖሎጂታት ከለልዩ ይኽእሉ። እቲ ኩለመዳያዊ ዝርዝር ንብረት፡ ጋንታታት ጸጥታ ኣብ ጽላሎት AI ርኡይነት ንኽረኽባ፡ ሓደጋታት ንምግምጋምን ኣድለይቲ ናይ ምቅላል ስትራተጂታት ንምትግባርን ዘኽእል እዩ።

ትርጉማዊ ድሕነት፡ ሓድሽ ዘመን ኣብ ትንተና ኮድ

ባህላዊ መሳርሒታት ድሕነት መተግበሪ ኣብ መሰረታዊ ዳታን ትንታነ ዋሕዚ ቁጽጽርን ይምርኮሱ፣ እዚ ድማ ብዛዕባ ተግባር ኮድ ውሱን ርድኢት ይህቡ። AI ግን ትርጉማዊ ርድኢት ናይ ምሕዋስን ከም ውጽኢቱ ድማ ዝሓሸ ርኽበታት ናይ ምሃብን ክእለት ኣለዎ።

ሕጂ AI-enabled ዝኾኑ ናይ ጸጥታ መሳርሒታት ካብ ኮድ ትርጉማዊ ዳታ ነጥብታት ከውጽኡ ይኽእሉ፣ እዚ ድማ ብዛዕባ ሓቀኛ ዕላማን ባህርን AI ሞዴላት ዝዓሞቐ ርድኢት ይህቡ። እዚ ድማ ናይ ጸጥታ ጋንታታት፤

• ዝተሓላለኹ ተቓላዕነት ኣለሊ፦ ብኻልእ ኣገባብ ብባህላዊ መሳርሒታት ጸጥታ ከይተዓዘቡ ዝጸንሑ ተቓላዕነት ርኸብ
• ባህሪ ሞዴል AI ምርዳእ፦ ሞዴላት AI ምስ ዳታን ካልኦት ስርዓታትን ብፍላይ ምስ ወኪል AI ወይ RAG ሞዴላት ብኸመይ ከም ዝራኸቡ ንጹር ርድኢት ምርካብ።
• ፈተነ ድሕነት ኣውቶማቲክ ምግባር፦ ኣብ ትርጉማዊ ርድኢት ዝተመርኮሰ ዝያዳ ዝተራቐቐን ዕላማ ዝገበረን ናይ ድሕነት ፈተነታት ምምዕባል፣ ከምኡ’ውን QA ኣውቶማቲክ ስክሪፕትታት ከምኡ’ውን ውሽጣዊ ኣሃዱ ፈተነ ብቕልጡፍ ምጽሓፍን ምዕራፍን ምኽኣል።

ተጻባኢ AI: ምልዓል AI ቀይሕ ጋንታታት

ልክዕ ከም ዝኾነ ካልእ ስርዓት፡ ሞዴላት AI እውን ንመጥቃዕቲ ተቓላዕቲ እዮም። AI red teaming ሓይሊ AI ተጠቒሙ ተጻባኢ መጥቃዕቲ ንምምሳል ይጥቀመሉ፣ ኣብ ስርዓታት AIን ኣተገባብርኡን ንዘሎ ድኽመታት የቃልዕ። እዚ ኣገባብ እዚ ተጻባኢ ምልክታት ምጥቃም ዘጠቓልል ኮይኑ፡ ብፍሉይ ዝተሰርሑ እታዎታት ተቓላዕነት ንምምዝማዝን ባህርያት AI ንምትዕጽጻፍን ዝተዳለዉ እዩ። እዚ ክፍጸመሉ ዝኽእል ፍጥነት፡ AI ኣብ ቀረባ እዋን ብብዝሒ ኣብ ጥቕሚ ክውዕል ምዃኑ ዳርጋ ርግጸኛ ይገብሮ።

AI Red Teaming ኣብዚ ደው ዝብል ኣይኮነን። መሳርሒታት AI Red Teaming ብምጥቃም፡ ኣፕሊኬሽናት ድኽመታት ንምልላይን ስርዓታት ንምውራድን ዝተዳለወ ኣረሜናዊ መጥቃዕቲ ከጋጥሞም ይኽእል። ገለ ካብዞም መሳርሒታት ምስቲ ዳስት ከመይ ከም ዝሰርሕ ዝመሳሰሉ ኮይኖም፡ ግን ብኣዝዩ ዝኸበደ ደረጃ።

ቁልፊ ንውሽጢ ዝወስዱ ነገራት፤

● ንቕድሚት ዝስጉም ሞዴሊንግ ስግኣት (Proactive Threat Modeling)፦ ሞዴላት AI ብኸመይ ክእለዩ ከም ዝኽእሉን ንዝኾነ ከባቢ ወይ ካልእ ሞዴል AI ንምጥቃዕ ብኸመይ ክቃነዩ ከም ዝኽእሉን ብምርዳእ ክመጽእ ዝኽእል መጥቃዕቲ ምግማት።

● ድልዱል ናይ ጸጥታ ፈተነ፡- ንተቓላዕነት ብንጥፈት ንምልላይን ንምቅላልን ናይ AI red teaming ሜላታት ምትግባር።

● ምስ AI Developers ምትሕብባር፦ ምስ ናይ ምዕባለ ጋንታታት ብቐረባ ብምስራሕ ክልቲኡ ውሑስ AI ምዕባለን ውሑስ ናይ ኮዲንግ ኣሰራርሓን ንምርግጋጽ።

Guardrails: ምቕራጽ ውሑስ AI ባህሪ

AI ብዙሕ ሸለል ክበሃል ዘይክእል ዋጋ የቕርብ። ናይ ምፍራይ ክእለታ ነቶም ምስኡ ዝሰርሑ ሰባት የገርሞም ኣሎ። እንታይ ከም ዝፈተኻዮ ሕተቶ ኩሉ ግዜ ዘይኮነስ መብዛሕትኡ ግዜ ግን ኣዝዩ ቅኑዕ መልሲ ክመልሰካ እዩ። በዚ ምኽንያት ድማ ሓላፍነታውን ውሑስን ኣጠቓቕማ AI ዘረጋግጹ መከላኸሊታት ምምዕባል ኣዝዩ ኣገዳሲ እዩ።

እዞም መከላኸሊታት ዝተፈላለየ መልክዕ ክሕዙ ይኽእሉ፣ ንሳቶም ድማ፤

• Hardened Code : ከም ቅልጡፍ መርፍእ ዝኣመሰሉ ተቓላዕነት ንምክልኻል ኣብ ኮድ ብሉጻት ኣሰራርሓታት ድሕነት ምትግባር።
• System Prompt Modification : ብጥንቃቐ ናይ system prompts ምህዞ ንናይ AI ሞዴል ዓቕሚ ንምድራትን ዘይተሓሰበ ተግባራት ንምክልኻልን እዩ።
• ሳኒታይዘርን ሓለውትን : እታዎታት ዘረጋግጹ፣ ንውጽኢት ዝፍልፍልን ዘይተፈቕደ ምእታው ዝከላኸልን ናይ ጸጥታ ኣገባባት ምውህሃድ።

ኣብ ምትግባር መከላኸሊታት ቁልፊ ኣብ ግምት ዝኣቱ ኣብ መንጎ ጸጥታን ተዓጻጻፍነት ኣማዕበልትን ዝግበር ምትሕውዋስ እዩ። ማእከላይ ፋየርዎል ዝመስሉ ኣገባባት ምዝርጋሕ ምቕሉል ክህቡ እንከለዉ፡ ብደቨሎፐራት ዝተሰርሑ ንኣፕሊኬሽን ዝምልከት መከላኸሊታት ዝያዳ ንእሽቶን ውጽኢታውን መከላኸሊ ክህቡ ይኽእሉ።

ኣብ ዘመነ ኤ.ኣይ.ኣይ ዝነበረ ናይ ኤፒኣይ ድሕንነት ግዴታ

ናይ AI መተግበሪታት ምስ ናይ ደገ ኣገልግሎታትን ምንጪ ዳታን ንምትእስሳር ኣብ APIs ብብዝሒ ይምርኮሱ። እዚ ምትእስሳር እዚ፡ ትካላት ብንጥፈት ክገጥምዎም ዘለዎም ክህልዉ ዝኽእሉ ናይ ጸጥታ ሓደጋታት የተኣታቱ።

ቁልፊ ስክፍታታት ምስ ኤፒኣይ ድሕንነት ኣብ ኤኣይ ኣፕሊኬሽናት፤

• ዳታ ምፍሳስ ብመንገዲ ኤፒኣይ፦ ጐዳእቲ ተዋሳእቲ ንናይ ኤፒኣይ ተቓላዕነት ተጠቒሞም ብኤኣይ ሞዴላት ዝስራሕ ተሃዋሲ ዳታ ክሰርቁ ይኽእሉ።
• ኣብ ዋጋ ዕዳጋ ዝኣተዉ መፍትሕታት ኤፒኣይ፦ ውሑስ ዘይኮኑ መፍትሕታት ኤፒኣይ ብዘይፍቓድ ናብ ስርዓታትን ዳታን ኤ.ኣይ.
• ሓደጋታት ሳልሳይ ወገን ኤፒኣይ፦ ኣብ ሳልሳይ ወገን ኤፒኣይ ምጽጋዕ ንውድባት ኣብቶም ኣገልግሎታት ንዘሎ ተቓላዕነት ከቃልዕ ይኽእል።

ብሉጻት ልምድታት ውሕስነት ኤፒኣይ ኣብ ኤኣይ ኣፕሊኬሽናት፤

• ምሉእ ኤፒኣይ ኢንቨንትሪ: ኩሎም ኣብ ኤኣይ ኣፕሊኬሽናትካ ዝጥቀሙ ኤፒኣይ ኣለሊኻ ናይ ጸጥታ ኣቃውሞኦም ገምግም።
• ውሑስ ኤፒኣይ ምርግጋጽን ፍቓድን፦ ንኤፒኣይ ምብጻሕ ንምድራት ድልዱል ናይ ምርግጋጽን ፍቓድን ኣገባባት ምትግባር። ነቲ “Least Common Privilege" ዝብል ሞዴል ትትግብሮ ከምዘለኻ ኣረጋግጽ።
• ስሩዕ ፈተነ ድሕነት ኤፒኣይ፡- ንናይ ኤፒኣይ ተቓላዕነት ንምልላይን ንምቅላልን ስሩዕ ናይ ድሕነት ገምጋማት ምክያድ።

መደምደምታ

ሰውራ AI ናይ መጻኢ ተኽእሎ ኣይኮነን ድሮ ኣብዚ በጺሑ ኣሎ! ኣብዚ ጽሑፍ ዝተዘተየሉ ናይ AI ድሕነት ርድኢታት ብምግምጋም፡ ትካላት ነዚ ለውጢ ዘምጽእ ዘመን ክጓዓዛን ሓደጋታት እናነከያ ሓይሊ AI ክጥቀማሉ ይኽእላ። AI ንሓጺር እዋን ጥራይ እዩ ቀንዲ መስመር ኮይኑ ዘሎ፡ ድሕሪ ዓመት ከመይ ከም ዝመስል እሞ ሕሰብዎ። መጻኢ ናይ AI ብሩህ ስለ ዝኾነ ክትጥቀመሉ ድሉው ኩን ውሑስ ምዃኑ እውን ኣረጋግጽ። ** ንዝያዳ ዝርዝር ሓበሬታ ኣብ AI & AppSec - Watch our... ዌቢናር **ከምኡ ውን ኣብ ዙርያ AI-driven AppSec ንዘለዉ ወሳኒ ሕቶታት ዳህሲስኩም ኣብዚ ሓድሽ ዘመን ከመይ ጌርካ ኮድካ ውሑስ ከም እትገብረሉ ፍለጥ! AI ኣብ ምምዕባል ሶፍትዌር ሰውራ ይገብር ኣሎ፡ ስትራተጂ ድሕነትካ ግን ምስኡ ይኸይድ ኣሎ ድዩ?

-ብጀፍሪ ማርቲን፡ VP ናይ ፍርያት ዕዳጋ ኣብ Mend.io ዝተጻሕፈ