AI kiberdrošībai ir ļoti jauna lieta un bīstama azartspēle

Koda attēls, kas pārklāts ar roku fotoattēlu uz klēpjdatora tastatūras Atbrīvojieties no šļakatām

Kad staigāju pa izstādi šīs nedēļas lielajā Black Hat kiberdrošības konferencē Lasvegasā, mani pārsteidza to uzņēmumu skaits, kuri lepojas ar to, kā viņi izmanto mašīnmācīšanos un mākslīgo intelektu, lai palīdzētu padarīt pasauli drošāku.

Taču daži eksperti uztraucas, ka pārdevēji nepievērš pietiekamu uzmanību riskiem, kas saistīti ar lielu paļaušanos uz šīm tehnoloģijām. Notiekošais ir nedaudz satraucošs un dažos gadījumos pat bīstams, brīdina Rafaels Mārtijs no drošības firmas Forcepoint.

Drošības nozares bads pēc algoritmiem ir saprotams. Tā saskaras ar kiberuzbrukumu cunami, tāpat kā strauji pieaug to ierīču skaits, kas ir savienotas ar internetu. Tajā pašā laikā ir milzīgs kvalificētu kiberstrādnieku trūkums (skatiet Kiberdrošības jaunos mānīgos draudus: darbaspēka stress).

Mašīnmācības un AI izmantošana, lai palīdzētu automatizēt draudu noteikšanu un reaģēšanu, var atvieglot darbinieku slogu un, iespējams, palīdzēt identificēt draudus efektīvāk nekā citas programmatūras vadītas pieejas.

Datu briesmas

Taču Mārtijs un daži citi, kas runā Black Hat, saka, ka daudzi uzņēmumi tagad izlaiž uz mašīnmācībām balstītus produktus, jo uzskata, ka tas ir jādara, lai piesaistītu klientus, kuri ir iesaistījušies AI hype ciklā. Un pastāv risks, ka viņi neievēros veidus, kādos mašīnmācības algoritmi var radīt nepatiesu drošības sajūtu.

Daudzi produkti, kas tiek ieviesti, ietver uzraudzītu mācīšanos, kas prasa uzņēmumiem izvēlēties un marķēt datu kopas, kurās tiek apmācīti algoritmi, piemēram, atzīmējot kodu, kas ir ļaunprātīga programmatūra, un kodu, kas ir tīrs.

Mārtijs saka, ka viens no riskiem ir tāds, ka, steidzoties laist savus produktus tirgū, uzņēmumi izmanto apmācību informāciju, kas nav rūpīgi iztīrīta no anomāliem datu punktiem. Tas var novest pie tā, ka algoritmam trūkst dažu uzbrukumu. Vēl viens ir tas, ka hakeri, kas iegūst piekļuvi drošības uzņēmuma sistēmām, var sabojāt datus, mainot etiķetes, lai daži ļaunprātīgas programmatūras piemēri tiktu atzīmēti kā tīrs kods.

Ļaunprātīgajiem pat nav nepieciešams manipulēt ar datiem; Tā vietā viņi varētu izstrādāt koda funkcijas, ko modelis izmanto, lai atzīmētu ļaunprātīgu programmatūru, un pēc tam noņemt tās no sava ļaunprātīgā koda, lai algoritms to neuztvertu.

Viens pret daudziem

Konferences sesijā Holija Stjuarte un Džugals Pariks no Microsoft atzīmēja risku, ka drošības sistēmas vadīšanai var tikt pārlieka paļaušanās uz vienu galveno algoritmu. Bīstamība ir tāda, ka, ja šis algoritms tiek apdraudēts, nav citu signālu, kas norādītu uz problēmu.

Lai palīdzētu izvairīties no tā, Microsoft Windows Defender draudu aizsardzības pakalpojums izmanto dažādus algoritmus ar dažādām treniņu datu kopām un funkcijām. Tātad, ja tiek uzlauzts viens algoritms, citu algoritmu rezultāti, pieņemot, ka arī to integritāte nav apdraudēta, izcels anomāliju pirmajā modelī.

Ārpus šiem jautājumiem. Forcepoint Mārtijs atzīmē, ka ar dažiem ļoti sarežģītiem algoritmiem var būt ļoti grūti noskaidrot, kāpēc viņi patiesībā izspiež noteiktas atbildes. Šī izskaidrojamības problēma var apgrūtināt noteikt, kas izraisa jebkādas anomālijas, kas parādās (skatiet sadaļu AI tumšais noslēpums).

Nekas no tā nenozīmē, ka AI un mašīnmācībai nevajadzētu būt nozīmīgai aizsardzības arsenālā. Mārtija un citu cilvēku vēstījums ir tāds, ka drošības uzņēmumiem un to klientiem ir ļoti svarīgi uzraudzīt un samazināt ar algoritmiskajiem modeļiem saistītos riskus.

Tas nav mazs izaicinājums, ņemot vērā to, ka cilvēki ar ideālu dziļu kiberdrošības un datu zinātnes zināšanu kombināciju joprojām ir tikpat reti sastopami kā vēsa diena Lasvegasas vasarā.

paslēpties