Retais mašīnmācības veids, kas var pamanīt hakerus, kuri jau ir ielauzušies

Darktrace datora platformas saskarnes attēls. Darktrace

2013. gadā britu izlūkdienesta aģentu grupa pamanīja kaut ko dīvainu. Lai gan lielākā daļa centienu nodrošināt digitālo infrastruktūru tika vērsti uz to, lai neļautu ļaundariem iekļūt, tikai daži koncentrējās uz pretējo: neļautu viņiem izpludināt informāciju. Pamatojoties uz šo ideju, grupa nodibināja jaunu kiberdrošības uzņēmumu Darktrace.

Uzņēmums sadarbojās ar Kembridžas universitātes matemātiķiem, lai izstrādātu rīku, kas izmantotu mašīnmācīšanos, lai konstatētu iekšējos pārkāpumus. Tā vietā, lai apmācītu algoritmus pēc vēsturiskiem uzbrukumu piemēriem, viņiem bija nepieciešams veids, kā sistēma atpazīt jaunus anomālas uzvedības gadījumus. Viņi pievērsās nekontrolētai apmācībai — metodei, kuras pamatā ir reta veida mašīnmācīšanās algoritms, kas neprasa cilvēkiem norādīt, ko meklēt.

Darktrace ir iekļāvusi inficētu ierīci, kas uzrāda anomālu darbību. Darktrace

'Tas ļoti līdzinās cilvēka ķermeņa imūnsistēmai,' saka uzņēmuma izpilddirektore Nikola Īgana. 'Lai cik tas ir sarežģīts, tam ir iedzimta sajūta par to, kas ir es, nevis es. Un, kad tā atrod kaut ko, kas nepieder — tas nav pats, tam ir ārkārtīgi precīza un ātra reakcija.

Lielākā daļa mašīnmācības lietojumprogrammu balstās uz uzraudzītu mācīšanos. Tas ietver milzīgu rūpīgi marķētu datu daudzumu, lai mašīna atpazītu šauri definētu modeli. Pieņemsim, ka vēlaties, lai jūsu iekārta atpazīst zeltainos retrīverus. Jūs barojat to ar simtiem vai tūkstošiem zelta retrīveru attēlu un tādu lietu, kas nav, vienlaikus skaidri norādot, kuri no tiem ir kuri. Galu galā jūs iegūsit diezgan pienācīgu zelta retrīveru novērošanas mašīnu.

Kiberdrošībā uzraudzīta mācīšanās darbojas diezgan labi. Jūs apmācāt mašīnu par dažāda veida apdraudējumiem, ar kuriem jūsu sistēma ir saskārusies iepriekš, un tā nerimstoši dzenas pēc tiem.

Bet ir divas galvenās problēmas. Pirmkārt, tas darbojas tikai ar zināmiem draudiem; nezināmi draudi joprojām slēpjas zem radara. Citā gadījumā uzraudzītas apmācības algoritmi vislabāk darbojas ar līdzsvarotām datu kopām, citiem vārdiem sakot, tādām, kurām ir vienāds skaits piemēru tam, ko tas meklē un ko var ignorēt. Kiberdrošības dati ir ļoti nelīdzsvaroti: ir ļoti maz draudu uzvedības piemēru, kas ietverti milzīgā daudzumā parastās uzvedības.

Visu savienojumu vizualizācija noteiktā apakštīklā. Darktrace

Par laimi, kur uzraudzīta mācīšanās klibo, nepārraudzīta mācīšanās ir izcila. Pēdējais var aplūkot milzīgus nemarķētu datu apjomus un atrast gabalus, kas neatbilst tipiskajam modelim. Rezultātā tas var atklāt apdraudējumus, ko sistēma vēl nekad nav redzējusi, un, lai to izdarītu, ir nepieciešami daži anomāli datu punkti.

Kad Darktrace izvieto savu programmatūru, tā iestata fiziskos un digitālos sensorus klienta tīklā, lai noteiktu savu darbību. Šie neapstrādātie dati tiek novirzīti uz vairāk nekā 60 dažādiem neuzraudzītas mācīšanās algoritmiem, kas konkurē viens ar otru, lai atrastu anomālu uzvedību.

NEPĀRTRAUKTA TELPA

• Vairāki citi uzņēmumi arī ir vienojušies, lai izmantotu neuzraudzītu mācīšanos, lai uzlabotu digitālās drošības sistēmas.

• Formas drošība

  To 2011. gadā dibināja bijušie Pentagona aizsardzības eksperti, un tā ir vērsta uz to, lai novērstu viltus kontu izveidošanu vai krāpšanos ar kredīta pieteikumiem, kā arī citas nelietīgas darbības. Shape Security apvieno gan uzraudzīto, gan neuzraudzīto metožu papildu stiprās puses.

  
  
  

• DataVisor

  To 2013. gadā dibināja Microsoft absolventi, un tas sadarbojas ar bankām, sociālo mediju un e-komercijas uzņēmumiem, lai cīnītos pret krāpšanu darījumos, naudas atmazgāšanu un citu liela mēroga ļaunprātīgu izmantošanu. DataVisor saka, ka tas galvenokārt izmanto neuzraudzītas metodes.

Šie algoritmi izdala savu izvadi vēl vienā galvenajā algoritmā, kas izmanto dažādas statistikas metodes, lai noteiktu, kuru no 60 klausīties un kurus ignorēt. Visa šī sarežģītība ir iekļauta galīgajā vizualizācijā, kas ļauj operatoriem ātri redzēt iespējamos pārkāpumus un reaģēt uz tiem. Kamēr cilvēki izdomā, ko darīt tālāk, sistēma darbojas, lai pārkāpums tiek karantīnā, līdz tas ir novērsts, piemēram, pārtraucot visus ārējos sakarus no inficētās ierīces.

Tomēr mācīšanās bez uzraudzības nav nekāda sudraba lode. Tā kā uzbrucēji kļūst arvien sarežģītāki, viņi arvien vairāk spēj apmānīt mašīnas neatkarīgi no izmantotās mašīnmācības veida. 'Ir šī kaķa un peles spēle, kurā uzbrucēji var mēģināt mainīt savu uzvedību,' saka Dawn Song, kiberdrošības un mašīnmācības eksperts no Kalifornijas Universitātes Bērklijā.

Reaģējot uz to, kiberdrošības kopiena ir pievērsusies proaktīvām pieejām — “labākas drošības arhitektūras un principi, lai sistēma būtu drošāka pēc uzbūves,” viņa saka. Taču joprojām ir tāls ceļš, lai pilnībā izskaustu visus pārkāpumus un krāpnieciskas darbības. Galu galā viņa piebilst: 'visa sistēma ir tik droša, cik tās vājākais posms.'

paslēpties