211service.com
Cik ilgi pirms AI sistēmas tiek uzlauztas radoši jaunos veidos?
Jaunākās mākslīgā intelekta metodes tiek pieņemtas uzņēmumos straujā tempā. Drīzumā arī hakeri varētu sākt to aplūkot tuvāk, un viņi var radīt visdažādākās problēmas, apmānot šīs sistēmas ar iluzoriem datiem.
Runājot nesenajā AI konferencē Barselonā, Spānijā, OpenAI pētnieks Ians Gudfelovs, kurš ir veicis novatorisku darbu mašīnmācīšanās sistēmu maldināšanā, sacīja, ka uzbrukt sistēmām ir viegli. Viņš teica, ka gandrīz visu sliktu, ko varat iedomāties, var izdarīt ar mašīnmācības modeli. Un to aizstāvēt ir ļoti, ļoti grūti.
Dažu pēdējo gadu laikā pētnieki ir parādījuši dažādus veidus, kā var manipulēt ar mašīnmācības programmām, izmantojot to tieksmi pamanīt datu modeļus. Viņi ir neaizsargāti, daļēji tāpēc, ka viņiem trūkst patiesas inteliģences. Piemēram, ir iespējams izmantot reklāmas stendu, lai pašbraucošo automašīnu redzes sistēmas saskatītu lietas, kas tur nav. Nedzirdami signāli var pievilt ar balsi vadāmiem palīgiem veikt nevēlamas darbības, piemēram, apmeklēt vietni un lejupielādēt ļaunprātīgu programmatūru.
Goodfellow un citi izstrādā pretpasākumus. Ir iespējams apmācīt mašīnmācības sistēmu atpazīt un pēc tam ignorēt maldinošus piemērus. Bet ir sarežģīti aizsargāties pret katru iespējamo uzbrukumu.
Mašīnmācības sistēmu maldināšana var kļūt par vairāk nekā tikai akadēmisku uzdevumu. Tas ir ļoti reāls, saka Patriks Makdaniels, Pensilvānijas štata universitātes profesors, kurš ir izpētījis šo problēmu. Mašīnmācīšanās sistēmas nodrošina visu veidu funkcijas, ar kurām pretinieki var gūt peļņu, tāpēc organizēti un izsmalcināti uzbrucēji pieņems šos uzbrukumus.
Makdaniels norāda, ka hakeri gadiem ilgi ir pārspējuši mašīnmācības sistēmas. Piemēram, surogātpasta izplatītāji ir pabarojuši mācību algoritmus ar viltus e-pastiem, lai surogātpasta ziņojumi varētu tikt cauri vēlāk. Viņš saka, ka var nepaiet ilgs laiks, kad parādīsies sarežģītāki uzbrukumi.
Pirmie uzbrukumi tiešsaistes klasifikācijas sistēmām notiks ļoti drīz, saka Makdaniels. Tas varētu ietvert modernus surogātpasta filtrus, sistēmas, kas paredzētas nelikumīga vai ar autortiesībām aizsargāta materiāla atklāšanai, un uzlabotas, uz mašīnmācībām balstītas datoru drošības sistēmas.
Jauns dokuments liecina, ka problēma varētu būt plašāka nekā iepriekš zināms. Tas parāda, ka noteiktas maldināšanas var tikt atkārtoti izmantotas pret dažādām mašīnmācīšanās sistēmām vai pat pret lielu melnās kastes sistēmu, par kuru uzbrucējam nav priekšzināšanu.
Kļūdas, kas slēpjas šajos populārajos mašīnmācības rīkos, varētu būt vēl viens veids, kā tos atlasīt. Jauni mašīnmācīšanās rīki attīstās strauji, un bieži vien tie tiek izlaisti bez maksas tiešsaistē, pirms tos izmanto aktīvos pakalpojumos, piemēram, attēlu atpazīšanas vai dabiskās valodas analīzes rīkos.
Uzstājoties tajā pašā konferencē Spānijā, Merilendas universitātes doktorants Oktavians Suciu uzsvēra vairākas šādas ievainojamības dažos populāros rīkos. Suciu analizēja šo programmu pirmkodu un atklāja, ka ar to var manipulēt. Viņš atklāja problēmas ar veidu, kā daži rīki saglabā informāciju atmiņā, kas nozīmē, ka ļoti liela datu ievadīšana var pārrakstīt daļu programmas, mainot tās darbību.
Suciu spekulē, ka šī pieeja varētu nodrošināt ērtu veidu, kā manipulēt, piemēram, ar rīku, kas piedāvā akciju prognozes, ko pēc tam varētu izmantot tirgus saīsināšanai. Ja [modelis] saka, ka akciju vērtība pieaugs, jūs varētu mainīt prognozi, lai teiktu, ka tās samazināsies, viņš saka.