AI epäonnistuu kyberissä

Lokakuussa 2022 julkaisin urani noloimman artikkelin, mutta 2 vuotta myöhemmin olen alkanut ajatella, että saatoin olla oikeassa.

Vuonna 2022 BlackHatin valtavassa myyjähallissa kulkiessa jokainen myyntipiste esitti rohkeita väitteitä tekoälystä. " Tekoälyllä toimiva analytiikka", "Tekoälyn yhdistäminen reaaliaikaiseen havaitsemiseen" tai jokin muu iskulause. Aina kun keskustelet myyntitiimin kanssa kysyäksesi tarkalleen, mitä heidän tekoälynsä teki, saat joko peräkkäisen tekoälyn ammattikieltä tai väitteen Etelämantereen maanalaisissa holvissa olevista salaisista tutkimusryhmistä.

Sen jälkeen julkaisin itsevarmasti artikkelin, jossa sanottiin, että tekoäly on pelkkä BS:n markkinointi… "BlackHat 2022, enemmän A kuin minä". Kelaus pari kuukautta eteenpäin ja ChatGPT julkaistiin. Yhtäkkiä tekoäly muuttui todeksi, ja yhtäkkiä loistava artikkelini oli vitsi ja räikeän väärä.

Mutta kuljettuani BlackHat 2024 -myyjäsalissa tänä vuonna, en ehkä ollut niin kaukana.

On kiistatonta, että tekoäly on todellakin todellinen ja että sillä on valtava potentiaali muuttaa maisemaa. Ja monella tapaa onkin jo käynyt. Jotain, jota en uskonut 2 vuotta sitten. Mutta kun kävelet Mandalay Bayn laajojen hallien läpi BlackHat 2024 -tapahtumaa varten, näet edelleen samat iskulauseet, enkä vieläkään ole löytänyt mielekästä tekoälyn toteutusta tietoturvassa, jonka voin osoittaa, että se vastaa etäältä rohkeita väitteitä.

"Yksi asia, jonka huomaan [BlackHatissa] oli, että ihmiset olivat kyllästyneitä tekoälyyn"

Ashish Rajan AI CyberSecurity Podcast

Miksi tekoäly ei ole onnistunut tehostamaan turvallisuutta?

Estääkseni vastalauseesi tiedän, että tietoturvatoimittajat todella käyttävät tekoälyä tuotteissaan. Mutta toistaiseksi meillä ei ole mitään peliä muuttavia tuloksia, joihin voimme viitata, ja suuri osa tästä riippuu siitä, kuinka he käyttävät tekoälyä.

ChatGPT:n ja sitä seuraavien tekoälymallien julkaisun jälkeen monet myyjät ryntäsivät lisäämään nämä uudet työkalut alustoilleen. Toteutus oli "tekoälypohjaiset korjausohjeet" ja "hälytysten lisäkonteksti".

Mutta tässä on todellisuus tämän takana: tämä toteutus auttaa enimmäkseen myyjää ei käyttäjää. Tämä tarkoittaa yksinkertaisesti sitä, että heidän ei tarvitse käyttää niin paljon aikaa dokumentointiinsa. Paitsi että asiayhteystiedot ovat aina vähintään 2 vuotta vanhentuneet useimmissa kaupallisissa tekoälymalleissa.

Tosiasia on, että suuri osa tästä toteutuksesta oli yksinkertaisesti tapa toteuttaa myyjien lupaukset "AI"-pohjaisten tuotteidensa takana.

Toinen ongelma, joka rajoittaa tekoälyn kykyä turvassa, on kyky kouluttaa tekoälymalleja tietyille tietoturvatiedoille. ChatGPT:n kaltaiset mallit sopivat erinomaisesti esittelemään, mitä tekoälymalli voi tehdä, mutta ne ovat kaukana luotettavista tietyissä käyttötapauksissa. Kuten Dean De Beer sanoi AI + A16z Podcast "ChatGPT on loistava vasara, [mutta] en todellakaan suosittele sitä, kun aloitat tuotteistamisen ja mittakaavan tehtäviä" . Turvallisuuteen keskittyvän mallin kouluttaminen nyt vaatii poikkeuksellista laskentatehoa, ja vaikka - ja se on iso jos - pieni yritys voisi ostaa tarpeeksi grafiikkasuorituksia tämän suorittamiseen, kustannukset olisivat tähtitieteelliset!

"Emme ole saavuttaneet hetkeä, jossa tekoäly on enemmän kuin tuotepuolen ominaisuus"

Caleb Sima AI CyberSecurity Podcast

Tämä tarkoittaa, että vain harvat suuret pelaajat pystyvät toteuttamaan tekoälyominaisuuksia, jotka ylittävät yleisen tiedon lähettämisen yleisiin AI-koulutettuihin malleihin. Tänä päivänä tekoäly on enimmäkseen sivuominaisuus suurimmassa osassa tietoturvatyökaluja, melkeinpä kikka, jonka markkinointitiimit voivat räjähtää maailmaan.

Kuinka voit tehdä tekoälyn oikein?

Kaikesta skeptisisyydestäni huolimatta myönnän, että tekoälyllä on muutamia mielenkiintoisia toteutuksia. Purppura AI SentinelOne, jota markkinoidaan tekoälyn tietoturvaanalyytikkona, on varmasti vaikuttavaa nähtäväksi toiminnassa (ainakin demossa).

Joten miten voit käyttää tekoälyä, varsinkin jos sinulla ei ole Formula 1 -joukkueen budjettia?

1. Valtuuta ihmisiä, älä yritä korvata heitä

   Yksinkertainen totuus on, että tällä hetkellä emme luota emmekä saa luottaa tekoälyyn korvaavan ihmisen. Se on aina takana, jos emme voi luottaa siihen, ja sen kyky on rajallinen. Tekoäly on tehokas työkalu ihmisten auttamiseksi.

2. Keskity siihen, missä tekoäly on hyvä juuri nyt, luokittelu.

   Tekoälyn alkuperäinen vahvuus oli luokittelu. Voimme syöttää tekoälylle paljon kontekstia haavoittuvuuden ympärille ja saada mallin haavoittuvuuksien luokittelemiseksi ja priorisoimiseksi.

3. Varmista, että käytät oikeaa mallia

   Mitä enemmän priorisoimme tekoälyä, sitä enemmän tarvitsemme mallia, joka on yhtä erikoistunut. Näiden mallien itse kouluttaminen voi olla useimpien mahdollisuuksien ulkopuolella. Mutta on paljon malleja, jotka ylittävät tavalliset vasarat.

Onko "A" koskaan "I" turvassa?

Älykkyys on rohkea - ja melko moniselitteinen - sana. Tekoäly sulautuu joka päivä entistä enemmän osaksi jokapäiväistä elämäämme, ja tietoturvatyökaluilla on valtava potentiaali tekoälylle. Minulla ei ole epäilystäkään siitä, että tehokkaita innovatiivisia tekoälyn toteutuksia on ehdottomasti saatavilla tietoturvatyökaluissa. Mutta emme ole vielä siellä.

Tietoturvatoimittajat ovat venyttäneet tekoälykykyään vuosia, ja kun ChatGPT heitti heille pelastusköyden, he yrittivät taivuttaa työkalut iskulauseisiinsa. Tosiasia on, että tehokas toteutus eroaa siitä, mitä olimme aluksi kuvitelleet. Tekoäly on tehokas, kun iskulauseet vastaavat työkalua, eikä päinvastoin.