Šis AI izveidos tvītus, par kuriem jūs nekad nezināt, ka tie ir mēstules

Pagājušajā mēnesī daži cilvēki, kas tvītoja par Pokémon Go, kļuva par nejaušiem eksperimenta subjektiem, kas varētu paredzēt satraucošu jauna veida tiešsaistes uzbrukumu.





Nozares pētnieki apmācīja mašīnmācības programmatūru, lai tā rakstītu tvītus kā cilvēks, lai atbildētu dažiem cilvēkiem, izmantojot tēmturi #Pokemon, demonstrējot, kā valodu saprotošas ​​programmatūras sasniegumus var izmantot, lai apmānītu cilvēkus tiešsaistē. Apmēram trešā daļa cilvēku, kuru mērķauditorija ir programmatūra, noklikšķināja uz programmatūras nosūtītās labdabīgās saites, lai pārbaudītu, cik tā ir pārliecinoša.

Tas ir daudz augstāks nekā 5–10 procentu veiksmes rādītājs, kas raksturīgs automatizētiem pikšķerēšanas ziņojumiem, kuru mērķis ir maldināt cilvēkus noklikšķināt uz saitēm, lai piegādātu ļaunprātīgu programmatūru vai nozagtu paroles, saka Džons Seimūrs, drošības uzņēmuma vecākais datu zinātnieks. ZeroFOX . Viņš saka, ka mašīnmācīšanās sistēma tuvojas aptuveni 40 procentu panākumu līmenim, kad tiek izkrāptas ziņas, kas ar rokām ir izveidotas, lai apmānītu konkrētu personu.

Sīmūrs saka, ka pikšķerēšana ir ļoti manuāla un aizņem desmitiem minūšu vienam mērķim. Šī pieeja ir gandrīz tikpat precīza un automatizēta, tāpēc to varētu izmantot daudz plašākā mērogā. Viņš saka, ka visi tvīti neizskatās īpaši noslīpēti, taču tie ir efektīvi. Daži cilvēki atbildēja, ka saite ir bojāta, un lūdza to nosūtīt vēlreiz.

Seimūrs ceturtdien Lasvegasā Black Hat datordrošības konferencē iepazīstināja ar savu eksperimentu rezultātiem ar kolēģi Filu Tulliju. Pāris saka, ka viņu darbs liecina, ka mašīnmācīšanās tehnoloģija varētu ļaut noziedzniekiem ievērojami palielināt savu panākumu līmeni.

Pikšķerēšana un slepenā pikšķerēšana jau ir būtiskas problēmas. Cisco pagājušajā gadā ziņoja, ka pikšķerēšanas ziņojumi, kas nosūtīti, izmantojot Facebook, bija pirmais iemesls nesankcionētai piekļuvei korporatīvajiem tīkliem.



ZeroFOX pētnieku programmatūra SNAP_R var darboties divos veidos. Viens izmanto to pašu mākslīgā intelekta paņēmienu, dziļo mācīšanos, ko izmanto tādi uzņēmumi kā Google, lai izveidotu sistēmas, kas var saprast un tulkot valodu. Tas tika apmācīts par diviem miljoniem Twitter ziņojumu, ļaujot tam izveidot reālistiskus tvītus.

Sistēmas otrais režīms ir mērķtiecīgāks. Tā apgūst, kā čivināt, aplūkojot personas jaunākos tvītus, un ievada tos vecākā tehnikā, ko sauc par Markova ķēdi. Pēc tam tas var ģenerēt tvītus, kas ir līdzīgi mērķa rakstītajiem, uz kuriem lietotājs var noklikšķināt, domājot, ka ziņojumu ir uzrakstījusi persona ar līdzīgām interesēm.



SNAP_R var arī identificēt un atlasīt ietekmīgākos un aktīvākos cilvēkus, kas runā par konkrētām tēmām vai izmanto konkrētu atsauci. Tā meklē personas profilā tādus atslēgvārdus kā izpilddirektors un tādus rādītājus kā sekotāju skaits. ZeroFOX izlaiž programmatūras versiju, lai palīdzētu pētniekiem domāt par šāda veida uzbrukumu iespējām un to, kā pret tiem aizsargāties.

ZeroFox programmatūra ģenerēja šos tvītus, lai mēģinātu apmānīt cilvēkus pakalpojumā Twitter.

Maiks Marejs, mobilās drošības uzņēmuma Lookout drošības pētījumu viceprezidents, izredzes izmantot mašīnmācīšanos, lai automatizētu cilvēku apmānīšanu tiešsaistē, sauc par biedējošu. Taču viņš domā, ka paies zināms laiks, līdz šāda pieeja tiks izmantota reālu uzbrukumu organizēšanai.



Neraugoties uz nesenajiem panākumiem, labākajām mašīnmācības metodēm joprojām ir vajadzīgas īpašas zināšanas, un tās ne tuvu nav perfektas valodas ģenerēšanā. Google ir līderis mašīnmācībā un valodu jomā. Taču tā lietotne Inbox, kas spēj ģenerēt atbildes uz e-pastiem, var ieteikt tikai īsas, viena teikuma atbildes, saka Marejs. Ja Google nevar ģenerēt vairāk par teikumu, es, iespējams, nevaru izveidot patiešām labu pikšķerēšanas e-pastu.

ZeroFOX's Tully arī rīt neprognozē plašu noziedzīgu automatizētās pikšķerēšanas izmantošanu. Taču viņš apgalvo, ka mašīnmācības algoritmi kļūst arvien vieglāk lietojami, un tiem nav perfekti jāpārvalda valoda, lai gūtu panākumus sociālajos medijos. Viņš saka, ka cilvēki, kas izmanto Twitter, sagaida mijiedarbību ar svešiniekiem un redzēs mazāk noslīpētu sintaksi. Vietnē Twitter kultūra ir tik pieļaujama, un jums nav nepieciešama perfekta angļu valoda vai gramatika.

paslēpties