211service.com
AI cīņas klubs varētu mūs glābt no supergudru kiberuzbrukumu nākotnes
Džons Malta
Jauns konkurss vēsta par to, kas, visticamāk, kļūs par kiberdrošības un kiberkara nākotni, cīnoties uzbrukuma un aizsardzības AI algoritmiem.
The konkurss , kas tiks izspēlēts nākamo piecu mēnešu laikā, vada Kaggle , datu zinātnes konkursu platforma. Tas sastādīs pētnieku algoritmus viens pret otru, mēģinot sajaukt un apmānīt viens otru, cerot, ka šī cīņa sniegs ieskatu par to, kā nostiprināt mašīnmācības sistēmas pret turpmākiem uzbrukumiem.
Tā ir lieliska ideja katalizēt pētījumus gan par dziļu neironu tīklu apmānīšanu, gan tādu dziļu neironu tīklu izstrādi, kurus nevar apmānīt, saka. Džefs Klūns , Vaiomingas Universitātes docents, kurš pēta mašīnmācības robežas.
Konkursam būs trīs sastāvdaļas. Viens izaicinājums ietvers vienkārši mēģinājumu sajaukt mašīnmācības sistēmu, lai tā nedarbotos pareizi. Cits ietvers mēģinājumus piespiest sistēmu klasificēt kaut ko nepareizi. Un trešā daļa ietvers visspēcīgākās aizsardzības izstrādi. Rezultāti tiks prezentēti lielā AI konferencē vēlāk šogad.
Mašīnmācība un jo īpaši dziļā mācīšanās ātri kļūst par neaizstājamu rīku daudzās nozarēs. Šī tehnoloģija ietver datu ievadīšanu īpaša veida datorprogrammā, konkrēta rezultāta precizēšanu un liekot iekārtai izstrādāt savu algoritmu rezultāta sasniegšanai. Padziļināta mācīšanās to panāk, pielāgojot milzīga, savstarpēji savienota matemātiski simulētu neironu tīkla parametrus.
Jau sen ir zināms, ka mašīnmācības sistēmas var maldināt. Surogātpasta izplatītāji var, piemēram, izvairīties no mūsdienu surogātpasta filtriem, izdomājot, kādus modeļus identificēt filtra algoritms ir apmācīts.
Tomēr pēdējos gados pētnieki ir pierādījuši, ka pat visgudrākos algoritmus dažkārt var maldināt pārsteidzošos veidos. Piemēram, dziļas mācīšanās algoritmi ar gandrīz cilvēka prasmēm atpazīt objektus attēlos var apmānīt ar šķietami abstraktiem vai nejaušiem attēliem, kas izmanto zema līmeņa modeļus, ko meklē šie algoritmi (skatiet The Dark Secret at the Heart of AI ).
Konkurences mašīnmācīšanos ir grūtāk izpētīt nekā parasto mašīnmācīšanos — ir grūti noteikt, vai jūsu uzbrukums ir spēcīgs vai jūsu aizsardzība patiešām ir vāja, saka Ians Gudfellovs, pētnieks Google smadzenes , Google nodaļa, kas nodarbojas ar mašīnmācības izpēti un pielietošanu, kas organizēja konkursu.
Tā kā mašīnmācība kļūst plaši izplatīta, pastāv bažas, ka šādus uzbrukumus var izmantot peļņas gūšanai vai tīriem ļaunumiem. Hakeri var izvairīties no drošības pasākumiem, lai, piemēram, instalētu ļaunprātīgu programmatūru.
Datoru drošība noteikti virzās uz mašīnmācīšanos, saka Gudfelovs. Sliktie puiši izmantos mašīnmācīšanos, lai automatizētu savus uzbrukumus, un mēs izmantosim mašīnmācīšanos, lai aizsargātos.
Teorētiski noziedznieki var arī izjaukt balss un sejas atpazīšanas sistēmas vai pat izlikt plakātus, lai apmānītu pašbraucošo automašīnu redzes sistēmas, izraisot to avāriju.
Kaggle ir kļuvusi par nenovērtējamu augsni algoritmu izstrādei un talantīgu datu zinātnieku perēkli. Uzņēmums Google iegādājās martā, un tagad tas ir daļa no Google Cloud platformas. Goodfellow un cits Google Brain pētnieks Aleksejs Kurakins iesniedza ideju izaicinājumam pirms iegādes.
Benjamin Hamner, Kaggle līdzdibinātājs un CTO, saka, ka viņš cer, ka konkurss pievērsīs uzmanību draudošai problēmai. Tā kā mašīnmācība kļūst arvien plašāk izmantota, arvien svarīgāka kļūst izpratne par problēmām un riskiem, kas saistīti ar mācībām pretrunām, viņš saka.
Viņš piebilst, ka atklātā konkursa priekšrocības atsver visus riskus, kas saistīti ar jaunu uzbrukumu veidu publicēšanu: Mēs uzskatām, ka šo pētījumu vislabāk var izveidot un kopīgot atklāti, nevis aiz slēgtām durvīm.
Tikmēr Klūns saka, ka vēlas, lai konkurss pārbaudītu algoritmus, kas it kā var izturēt uzbrukumus. Viņš saka, ka mana nauda ir tīklos, kas pārskatāmā nākotnē tiek maldināta.