Preteky v zbrojení AI v kybernetickej bezpečnosti: Nedôverujte ničomu, overujte všetko

Bitka medzi kyberzločincami a odborníkmi na kybernetickú bezpečnosť sa každým dňom zvyšuje. V správe o kybernetickej bezpečnosti sa uvádza, že počítačová kriminalita môže stáť až toľko 10,5 bilióna dolárov každoročne do roku 2025. Umelá inteligencia sa stala zbraňou v týchto pretekoch v zbrojení. Ako a Senior Site Spoľahlivosť Engineer (SRE) v spoločnosti Microsoft s viac ako 15-ročnými skúsenosťami v oblasti kybernetickej bezpečnosti som videl vývoj kybernetických útokov. Bol som tiež svedkom dôležitosti AI v oblasti bezpečnosti spojenej s magisterským titulom z Georgia Tech a certifikáciou CISSP; to mi dalo praktické skúsenosti s tým, ako AI pomáha kybernetickej bezpečnosti.

**Kybernetické hrozby poháňané AI \ Kyberzločinci používajú AI na vývoj sofistikovanejších útokov prostredníctvom malvéru a phishingu. Tieto phishingové kampane využívajú AI na presvedčenie používateľov, aby odhalili citlivé informácie, ako sú heslá a bankové údaje. AI používa technológiu deepfake na zosobnenie identity. Napríklad finančný pracovník bol oklamaný v nadnárodnej spoločnosti, aby vyplatil 25 miliónov dolárov podvodníkom pomocou technológie deepfake. Podvodníci sa vydávali za firmu finančný riaditeľ vo videokonferenčnom hovore podľa hongkonskej polície.

Tímy pre spravodajstvo o hrozbách a reakciu na incidenty sa teraz zaoberajú rýchlejšími a cielenejšími útokmi, ktoré je čoraz ťažšie odhaliť pomocou tradičných bezpečnostných opatrení.

Kyberzločinci používajú AI chatboty na vydávanie sa za zákaznícku podporu. V tomto prípade sú zákazníci ochotní zdieľať citlivé údaje, ako sú heslá a bankové údaje, bez rozmýšľania. Prostredníctvom toho sa hackeri dostanú k bankovým informáciám zákazníkov a kradnú z účtov.

Umelá inteligencia navyše pomáha počítačovým zločincom navrhovať malvér, ktorý vývojári neodhalili, čo robí zraniteľnosť zero-day náročnejšou.

Vo svojej úlohe v doméne identity a bezpečnosti spoločnosti Microsoft som videl, ako sa modely rozhodovania založené na AI nasadzujú na boj proti týmto vyvíjajúcim sa hrozbám.

AI ako obranná sila

Na strane obrany AI napomáha kybernetickej bezpečnosti. Bezpečnostné nástroje AI dokážu analyzovať obrovské množstvo údajov, odhaliť anomálie a automatizovať reakcie na potenciálne hrozby. Architektúra nulovej dôvery, rámec, ktorý obhajujem v cloudovej bezpečnosti, sa vo veľkej miere spolieha na AI. Nástroj AI neustále kontroluje prístup používateľov a overuje poverenia. To pomáha znižovať útoky na používateľské účty a citlivé informácie. Schopnosť AI detekovať kompromisy z nej urobila nevyhnutný nástroj v DevSecOps a automatizácii. Z tohto dôvodu sa výrazne zlepšila bezpečnosť a spoľahlivosť systému.

Nástroje umelej inteligencie môžu upozorniť správcov a používateľov na potenciálne hacky a kompromisy. Spoločnosť Microsoft poskytla rozsiahle nástroje AI so správou identity a prístupu (IAM) na overenie.

Napriek tomu musia odborníci na kybernetickú bezpečnosť proaktívne monitorovať a auditovať výstrahy generované nástrojom na správu identity a prístupu.

Úloha nulovej dôvery a správy identity a prístupu (IAM)

Mantra Microsoftu pre Nulová dôvera je „Nikdy nedôveruj, vždy preveruj“. To si vyžaduje neustále overovanie používateľov, účtov, zariadení a identít. Kyberzločinci hľadajú rôzne formy na vydávanie sa za používateľov, takže autentifikácia je kľúčová, najmä v rámci domény identity spoločnosti Microsoft.

Riadenie identity a prístupu (IAM) od spoločnosti Microsoft overuje každú identitu, účet a prihlásenie v modeli nulovej dôveryhodnosti. To zaisťuje, že identity a zariadenia budú pred udelením prístupu overené. Robí sa to pomocou metód autentifikácie, ako je viacfaktorová autentifikácia (MFA) a politiky podmieneného prístupu. Platforma, ktorú Microsoft používa na správu identity a prístupu, sa nazýva Microsoft Entra . Spoločnosť Microsoft tiež používa Purview a Compliance na správu zabezpečenia. Defender sa používa na ochranu zariadení, cloudových účtov a identít. Obrancovia teraz využívajú umelú inteligenciu na hrozby a reakciu na incidenty, architektúru nulovej dôveryhodnosti a automatizáciu, aby vynikli v detekcii a reakcii v reálnom čase.

Microsoft Entra pomáha s informáciami o hrozbách a reakciou na incidenty. Pomáhajú zmierniť útoky a bezpečnostné hrozby. Vďaka reakcii na incident môžu odborníci na kybernetickú bezpečnosť dostávať upozornenia.

Oblasť, v ktorej Microsoft exceluje, je platforma AI Threat Intelligence Platform. V roku 2024 Microsoft oznámil svoju investíciu do AI Security tým, že pozval odborníkov, aby sa zúčastnili na Zero Day Quest s prísľubmi značných peňažných odmien. Vďaka tomu je Microsoft významným investorom v oblasti kybernetickej bezpečnosti. Microsoft tiež analyzuje bilióny signálov kybernetickej bezpečnosti a poskytuje organizáciám nástroje, ktoré môžu používať pri hľadaní hrozieb.

Tieto technológie a iniciatívy pomáhajú profesionálom budovať odolnosť a spoľahlivosť systému.

DevSecOps: Bezpečnosť pri rýchlosti vývoja

DevSecOps integroval AI do kybernetickej bezpečnosti, cloudovej bezpečnosti a pracovných postupov. DevSecOps zaisťuje, že zabezpečenie je zabudované do každej fázy životného cyklu vývoja softvéru a nie je to len dodatočný nápad. Ako príjemca ceny Microsoft Award a víťaz ceny Best Consultant Award v roku 2016 som videl, ako organizácie zápasia s bezpečnostnými problémami. Automatizácia DevSecOps založená na AI odstraňuje tieto prekážky a umožňuje spoločnostiam udržiavať rýchlosť a bezpečnosť.

Inteligencia hrozieb a reakcia na incidenty s podporou AI

Umelá inteligencia poskytuje informácie o hrozbách na odhalenie kybernetických útokov. Modely AI využívajú strojové učenie na analýzu vzorcov a zisťovanie anomálií. Pomocou strojového učenia AI predpovedá hrozby a incidenty.

Vo svojej úlohe som pracoval s AI v bezpečnostných systémoch, ktoré detegujú a reagujú na hrozby rýchlejšie ako tradičné metódy. Toto zistenie pomohlo bezpečnostným tímom byť proaktívne a rýchlo odhaliť hlavnú príčinu problémov. Systém analýzy hrozieb od spoločnosti Microsoft zisťuje a zmierňuje hacky, poskytuje upozornenia a blokuje prihlásenie.

Budúcnosť: Nepretržitý boj

Ako člen redakčnej rady ESP - International Journal of Advancements in Computational Technology a ako senior člen IEEE som mal príležitosť skúmať a analyzovať pokroky AI v bezpečnosti. Úspech v kybernetickej bezpečnosti závisí od kombinácie AI, architektúry nulovej dôvery, IAM, automatizácie DevSecOps a skúsených profesionálov.

Kyberzločinci neustále menia taktiku a odborníci na kybernetickú bezpečnosť musia zostať na čele s bezpečnostnými stratégiami vylepšenými AI. Jedna vec je istá, preteky v zbrojení AI v kybernetickej bezpečnosti sa ani zďaleka neskončili. S AI je však 75% šanca, že si udržíte náskok pred kyberzločincami.