Гонка ўзбраенняў са штучным інтэлектам у галіне кібербяспекі: не давярайце нічому, правярайце ўсё

Барацьба паміж кіберзлачынцамі і спецыялістамі ў галіне кібербяспекі штодня ўзмацняецца. У справаздачы аб кібербяспецы гаворыцца, што кіберзлачынства можа каштаваць столькі ж, колькі 10,5 трыльёнаў долараў штогод да 2025 г. Штучны інтэлект стаў зброяй у гэтай гонцы ўзбраенняў. Як а Старэйшы інжынер па надзейнасці сайта (SRE) у Microsoft з больш чым 15-гадовым вопытам работы ў галіне кібербяспекі, я бачыў эвалюцыю кібератак. Я таксама быў сведкам важнасці штучнага інтэлекту ў бяспецы ў спалучэнні са ступенню магістра ў Georgia Tech і сертыфікатам CISSP; гэта дало мне практычны вопыт у тым, як штучны інтэлект дапамагае кібербяспецы.

**Кіберпагрозы на аснове штучнага інтэлекту \ Кіберзлачынцы выкарыстоўваюць штучны інтэлект для распрацоўкі больш дасканалых атак з дапамогай шкоднасных праграм і фішынгу. Гэтыя фішынгавыя кампаніі выкарыстоўваюць AI, каб пераканаць карыстальнікаў раскрыць канфідэнцыяльную інфармацыю, такую як паролі і банкаўскія рэквізіты. Штучны інтэлект выкарыстоўвае тэхналогію deepfake для выдачы асобы. Напрыклад, фінансавага работніка транснацыянальнай фірмы падманам прымусілі выплаціць 25 мільёнаў долараў ашуканцам з дапамогай тэхналогіі deepfake. Ашуканцы прадставіліся кампаніяй галоўны фінансавы дырэктар у відэаканферэнц-сувязі, паведамляе паліцыя Ганконга.

Групы аналізу пагроз і рэагавання на інцыдэнты зараз маюць справу з больш хуткімі і мэтанакіраванымі атакамі, якія ўсё цяжэй выявіць з дапамогай традыцыйных мер бяспекі.

Кіберзлачынцы выкарыстоўваюць чат-боты AI, каб выдаваць сябе за службу падтрымкі кліентаў. У гэтым выпадку кліенты гатовыя падзяліцца такімі канфідэнцыяльнымі дадзенымі, як паролі і банкаўскія рэквізіты, не задумваючыся. Дзякуючы гэтаму хакеры атрымліваюць доступ да банкаўскай інфармацыі кліентаў і крадуць з рахункаў.

Акрамя таго, AI дапамагае кіберзлачынцам ствараць шкоднасныя праграмы, якія распрацоўшчыкі не выявілі, што робіць уразлівасці нулявога дня больш складанымі.

У сваёй ролі ў сферы ідэнтыфікацыі і бяспекі Microsoft я бачыў, як разгортваюцца мадэлі прыняцця рашэнняў, якія кіруюцца штучным інтэлектам, каб супрацьстаяць гэтым новым пагрозам.

ШІ як абарончая сіла

З боку абароны ІІ дапамагае кібербяспецы. Інструменты бяспекі штучнага інтэлекту могуць аналізаваць велізарныя аб'ёмы даных, выяўляць анамаліі і аўтаматызаваць рэакцыі на патэнцыйныя пагрозы. Архітэктура нулявога даверу, структура, за якую я выступаю ў воблачнай бяспецы, у значнай ступені абапіраецца на штучны інтэлект. Інструмент штучнага інтэлекту пастаянна правярае доступ карыстальнікаў і правярае ўліковыя дадзеныя. Гэта дапамагае паменшыць атакі на ўліковыя запісы карыстальнікаў і канфідэнцыйную інфармацыю. Здольнасць штучнага інтэлекту выяўляць узломы зрабіла яго важным інструментам у DevSecOps і аўтаматызацыі. Дзякуючы гэтаму бяспека і надзейнасць сістэмы значна палепшыліся.

Інструменты штучнага інтэлекту могуць папярэджваць адміністратараў і карыстальнікаў аб магчымых узломах і ўзломах. Microsoft прадаставіла для праверкі шырокія інструменты AI з кіраваннем ідэнтыфікацыяй і доступам (IAM).

Нягледзячы на гэта, спецыялісты па кібербяспецы павінны актыўна кантраляваць і правяраць абвесткі, якія ствараюцца інструментам кіравання ідэнтыфікацыяй і доступам.

Роля нулявога даверу і кіравання ідэнтыфікацыяй і доступам (IAM)

Мантра майкрасофт для Нулявы давер «Ніколі не давярай, заўсёды правярай». Гэта патрабуе пастаяннай аўтэнтыфікацыі карыстальнікаў, уліковых запісаў, прылад і асоб. Кіберзлачынцы шукаюць розныя формы, каб выдаваць сябе за карыстальнікаў, таму аўтэнтыфікацыя мае вырашальнае значэнне, асабліва ў дамене ідэнтыфікацыі Microsoft.

Кіраванне ідэнтыфікацыяй і доступам (IAM) Microsoft правярае кожную асобу, уліковы запіс і ўваход у сістэму ў мадэлі нулявога даверу. Гэта забяспечвае аўтэнтыфікацыю асоб і прылад перад прадастаўленнем доступу. Гэта робіцца з дапамогай такіх метадаў аўтэнтыфікацыі, як шматфактарная аўтэнтыфікацыя (MFA) і палітыкі ўмоўнага доступу. Платформа, якую Microsoft выкарыстоўвае для кіравання ідэнтыфікацыяй і доступам, называецца Microsoft Entra . Microsoft таксама выкарыстоўвае Purview і Compliance для кіравання бяспекай. Defender выкарыстоўваецца для абароны прылад, воблачных уліковых запісаў і пасведчанняў. Абаронцы цяпер выкарыстоўваюць выведку пагроз і рэагаванне на інцыдэнты на аснове штучнага інтэлекту, архітэктуру нулявога даверу і аўтаматызацыю, каб атрымаць поспех у выяўленні і рэагаванні ў рэжыме рэальнага часу.

Microsoft Entra дапамагае з выведкай пагроз і рэагаваннем на інцыдэнты. Гэта дапамагае паменшыць атакі і пагрозы бяспецы. Дзякуючы рэагаванню на інцыдэнты спецыялісты па кібербяспецы могуць атрымліваць абвесткі.

Вобласць, у якой Microsoft вылучаецца, - гэта платформа AI Threat Intelligence. У 2024 годзе Microsoft абвясціла аб інвестыцыях у AI Security, запрасіўшы экспертаў прыняць удзел у Zero Day Quest з абяцаннямі значных грашовых узнагарод. Гэта робіць Microsoft буйным інвестарам у кібербяспеку. Microsoft таксама аналізуе трыльёны сігналаў кібербяспекі і дае арганізацыям інструменты для пошуку пагроз.

Гэтыя тэхналогіі і ініцыятывы дапамагаюць павысіць устойлівасць і надзейнасць сістэмы для прафесіяналаў.

DevSecOps: бяспека з хуткасцю распрацоўкі

DevSecOps інтэграваў штучны інтэлект у кібербяспеку, воблачную бяспеку і працоўныя працэсы. DevSecOps гарантуе, што бяспека ўбудавана ў кожную фазу жыццёвага цыкла распрацоўкі праграмнага забеспячэння, а не з'яўляецца запозненай думкай. Як лаўрэат прэміі Microsoft Award і лепшы кансультант у 2016 годзе, я бачыў, як арганізацыі змагаюцца з вузкімі месцамі бяспекі. Аўтаматызацыя DevSecOps на аснове штучнага інтэлекту ліквідуе гэтыя перашкоды, дазваляючы кампаніям падтрымліваць хуткасць і бяспеку.

Аналіз пагроз і рэагаванне на інцыдэнты на базе AI

ШІ забяспечвае выведку пагроз для выяўлення кібер-узломаў. Мадэлі штучнага інтэлекту выкарыстоўваюць машыннае навучанне для аналізу заканамернасцей і выяўлення анамалій. Дзякуючы машыннаму навучанню штучны інтэлект прадказвае пагрозы і інцыдэнты.

У сваёй ролі я працаваў з штучным інтэлектам у сістэмах бяспекі, якія выяўляюць і рэагуюць на пагрозы хутчэй, чым традыцыйныя метады. Гэта выяўленне дапамагло камандам бяспекі быць актыўнымі і хутка выяўляць асноўную прычыну праблем. Сістэма выяўлення пагроз ад Microsoft выяўляе і ліквідуе ўзломы, выдае папярэджанні і блакуе ўваход.

Будучыня: бесперапынная бітва

Як член рэдкалегіі часопіса ESP - Міжнародны часопіс дасягненняў у галіне вылічальных тэхналогій і старэйшы член IEEE, я меў магчымасць даследаваць і аналізаваць дасягненні штучнага інтэлекту ў галіне бяспекі. Поспех у галіне кібербяспекі залежыць ад спалучэння штучнага інтэлекту, архітэктуры нулявога даверу, IAM, аўтаматызацыі DevSecOps і кваліфікаваных спецыялістаў.

Кіберзлачынцы пастаянна мяняюць тактыку, і спецыялісты па кібербяспецы павінны апярэджваць стратэгіі бяспекі, пашыраныя штучным інтэлектам. Адно можна сказаць напэўна: гонка ўзбраенняў штучнага інтэлекту ў сферы кібербяспекі яшчэ далёкая ад завяршэння. Тым не менш, з ІІ ёсць 75% шанцаў апярэдзіць кіберзлачынцаў.