Militāro mākslīgo intelektu var viegli un bīstami apmānīt

Bruņurupucis un šautene satriecoši attēli

Pagājušā gada martā Ķīnas pētnieki paziņoja par ģeniālu un potenciāli postošu uzbrukumu vienam no Amerikas vērtīgākajiem tehnoloģiskajiem īpašumiem - Tesla elektromobilim.

Ķīnas tehnoloģiju giganta Tencent drošības laboratorijas komanda demonstrēja vairākus veidus, kā apmānīt AI algoritmus Teslas automašīnā. Smalki mainot datus, kas tika ievadīti automašīnas sensoriem, pētnieki varēja sagrozīt un apmulsināt mākslīgo intelektu, kas darbina transportlīdzekli.

Šis stāsts bija daļa no mūsu 2019. gada novembra numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Vienā gadījumā televizora ekrānā bija slēpts raksts, kas lika aktivizēt logu tīrītājus. Citā joslu apzīmējumi uz ceļa tika tik nedaudz pārveidoti, lai sajauktu autonomās braukšanas sistēmu, tādējādi pārbraucot tiem pāri un iebraucot pretimbraucošās satiksmes joslā.

Teslas algoritmi parasti lieliski spēj pamanīt lietus lāses uz vējstikla vai sekot līnijām uz ceļa, taču tie darbojas tādā veidā, kas būtiski atšķiras no cilvēka uztveres. Tas padara šādus dziļas mācīšanās algoritmus, kas strauji izplatās dažādās nozarēs tādām lietojumprogrammām kā sejas atpazīšana un vēža diagnostika, pārsteidzoši viegli apmānīt, ja atrodat to vājās vietas.

Tesla maldināšana varētu nešķist stratēģisks drauds Amerikas Savienotajām Valstīm. Bet kā būtu, ja līdzīgas metodes tiktu izmantotas, lai apmānītu uzbrukuma dronus vai programmatūru, kas analizē satelītattēlus, lai redzētu lietas, kas tur nav, vai neredzētu lietas, kas ir?

Mākslīgā intelekta vākšana

Visā pasaulē mākslīgais intelekts jau tiek uzskatīts par nākamo lielo militāro priekšrocību.

Šī gada sākumā ASV paziņoja par grandiozu stratēģiju mākslīgā intelekta izmantošanai daudzās militārās jomās, tostarp izlūkošanas analīzē, lēmumu pieņemšanā, transportlīdzekļu autonomijā, loģistikā un ieročos. Aizsardzības departamenta ierosinātais 718 miljardu ASV dolāru budžets 2020. gadam atvēl 927 miljonus ASV dolāru AI un mašīnmācībai. Esošie projekti ietver diezgan ikdienišķus (pārbaudot, vai mākslīgais intelekts var paredzēt, kad tankiem un kravas automašīnām ir nepieciešama apkope), kā arī ieroču tehnoloģiju vadošās lietas (dronu bari).

Pentagona AI virzību daļēji veicina bailes no tā, kā konkurenti varētu izmantot šo tehnoloģiju. Pagājušajā gadā Džims Matiss, toreizējais aizsardzības ministrs, nosūtīja piezīmi prezidentam Donaldam Trampam, brīdinot, ka ASV jau atpaliek attiecībā uz mākslīgo intelektu. Viņa bažas ir saprotamas.

2017. gada jūlijā Ķīna formulēja savu mākslīgā intelekta stratēģiju, paziņojot, ka pasaules lielākās attīstītās valstis AI izstrādi uzskata par galveno stratēģiju valsts konkurētspējas uzlabošanai un valsts drošības aizsardzībai. Un dažus mēnešus vēlāk Krievijas Vladimirs Putins draudīgi paziņoja: kurš kļūs par līderi [AI] jomā, kļūs par pasaules valdnieku.

Ambīcijas izveidot gudrākos un nāvējošākos ieročus ir saprotamas, taču, kā liecina Tesla uzlaušana, ienaidnieks, kurš zina, kā darbojas AI algoritms, var padarīt to nederīgu vai pat vērst pret tā īpašniekiem. AI karos uzvaras noslēpums var būt nevis iespaidīgāko ieroču izgatavošanā, bet gan programmatūras satraucošās nodevības apgūšanā.

Kaujas roboti

Kādā gaišā un saulainā pagājušās vasaras dienā Vašingtonā, DC, Maikls Kanaans sēdēja Pentagona kafejnīcā, ēda sviestmaizi un brīnījās par jaudīgu jaunu mašīnmācīšanās algoritmu komplektu.

Dažas nedēļas iepriekš Kanaans bija noskatījies videospēli, kurā pieci mākslīgā intelekta algoritmi strādāja kopā, lai gandrīz pārspētu, pārspētu un apspēlētu piecus cilvēkus sacensībās, kas ietvēra spēku, nometņu un resursu kontroli sarežģītā, plašā kaujas laukā. Tomēr uzacis zem Kanaana apgrieztajiem blondajiem matiem bija saraucis, kad viņš aprakstīja darbību. Tā bija viena no iespaidīgākajām mākslīgā intelekta stratēģijas demonstrācijām, ko viņš jebkad bija redzējis, negaidīta attīstība, kas līdzinās AI sasniegumiem šahā, Atari un citās spēlēs.

Kara spēle notika Dota 2 — populārā zinātniskās fantastikas videospēlē, kas ir neticami sarežģīta datoriem. Komandām jāaizstāv sava teritorija, uzbrūkot pretinieku nometnēm vidē, kas ir sarežģītāka un maldinošāka par jebkuru galda spēli. Spēlētāji var redzēt tikai nelielu daļu no visa attēla, un var paiet aptuveni pusstunda, lai noteiktu, vai stratēģija ir uzvaroša.

AI kaujiniekus izstrādāja nevis militārpersonas, bet gan OpenAI — uzņēmums, ko izveidoja Silīcija ielejas lielvārdi, tostarp Elons Masks un Sems Altmans, lai veiktu fundamentālus AI pētījumus. Uzņēmuma algoritmiskie karotāji, kas pazīstami kā OpenAI Five, izstrādāja paši savas uzvaras stratēģijas, nerimstoši praktizējot un reaģējot ar gājieniem, kas izrādījās visizdevīgākie.

Ar mākslīgā intelekta vadītās raķetes varētu būt apžilbinātas ar pretinieku datiem un, iespējams, pat virzīt atpakaļ uz draudzīgiem mērķiem.

Tieši tāda veida programmatūra ieintriģē Kanaanu, vienu no cilvēkiem, kam uzdots izmantot mākslīgo intelektu, lai modernizētu ASV militāros spēkus. Viņam tas parāda, ko militārpersonas var iegūt, piesaistot pasaules labāko AI pētnieku palīdzību. Taču arvien vairāk tiek apšaubīts, vai viņi vēlas.

Kanaans vadīja gaisa spēku projektu Maven — militāro iniciatīvu, kuras mērķis bija izmantot mākslīgo intelektu, lai automatizētu objektu identificēšanu gaisa attēlos. Google bija Maven darbuzņēmējs, un, kad citi Google darbinieki to uzzināja, 2018. gadā uzņēmums nolēma atteikties no projekta. Pēc tam tika izstrādāts AI rīcības kodekss, kurā teikts, ka Google neizmantos savu mākslīgo intelektu, lai izstrādātu ieročus vai citas tehnoloģijas, kuru galvenais mērķis vai ieviešana ir radīt vai tieši veicināt cilvēku ievainojumus.

Dažu citu lielo tehnoloģiju uzņēmumu darbinieki prasīja darba devējiem izvairīties no militāriem līgumiem. Daudzi ievērojami AI pētnieki ir atbalstījuši centienus uzsākt globālu aizliegumu izstrādāt pilnībā autonomus ieročus.

Tomēr Kanaanam tā būtu liela problēma, ja militārpersonas nevarētu strādāt ar tādiem pētniekiem kā tie, kas izstrādāja OpenAI Five. Vēl satraucošāka ir iespēja, ka pretinieks varēs piekļūt šādām progresīvām tehnoloģijām. Kods ir pieejams ikvienam, viņš teica. Viņš piebilda: karš ir daudz sarežģītāks nekā dažas videospēles.

Pieci algoritmi darbojas kopā, lai pārspētu piecus cilvēkus kaujas lauka videospēlē Dota 2. courTesy image

AI pieaugums

Kanaans parasti ļoti izturas pret mākslīgo intelektu, daļēji tāpēc, ka viņš pats zina, cik noderīgs tas ir karaspēkam. Pirms sešiem gadiem, būdams Gaisa spēku izlūkošanas virsnieks Afganistānā, viņš bija atbildīgs par jauna veida izlūkdatu vākšanas rīka izvietošanu: hiperspektrālo attēlu veidotāju. Instruments var pamanīt objektus, kas parasti ir paslēpti, piemēram, kamuflāžas tvertnes vai improvizētas bumbu izgatavošanas rūpnīcas emisijas. Kanaans saka, ka sistēma palīdzēja ASV karaspēkam izvest no kaujas lauka tūkstošiem mārciņu sprāgstvielu. Pat ja tā ir, analītiķiem bieži bija nepraktiski apstrādāt attēlu veidotāja savākto milzīgo datu apjomu. Viņš saka, ka mēs pavadījām pārāk daudz laika, apskatot datus, un nepietiekami daudz laika pieņemot lēmumus. Dažreiz tas prasīja tik ilgu laiku, ka jūs domājāt, vai jūs varētu izglābt vairāk dzīvību.

Risinājums varētu būt Džefrija Hintona vadītās komandas Toronto universitātes izrāviens datorredzēšanā. Tas parādīja, ka algoritms, ko iedvesmojis daudzslāņu neironu tīkls, var atpazīt objektus attēlos ar nepieredzētu prasmi, ja tam ir pietiekami daudz datu un datora jaudas.

Neironu tīkla apmācība ietver datu ievadīšanu, piemēram, pikseļus attēlā, un nepārtrauktu tīkla savienojumu maiņu, izmantojot matemātiskas metodes, lai izvade tuvotos konkrētam rezultātam, piemēram, objekta identificēšanai attēlā. Laika gaitā šie dziļās apmācības tīkli iemācās atpazīt pikseļu modeļus, kas veido mājas vai cilvēkus. Padziļinātās mācīšanās sasniegumi ir izraisījuši pašreizējo AI uzplaukumu; tehnoloģija ir Tesla autonomo sistēmu un OpenAI algoritmu pamatā.

Kanaans nekavējoties atpazina dziļās mācīšanās potenciālu, lai apstrādātu dažāda veida attēlus un sensoru datus, kas ir būtiski militārām operācijām. Viņš un citi gaisa spēku darbinieki drīz sāka lobēt savus priekšniekus, lai tie investētu tehnoloģijā. Viņu centieni ir veicinājuši Pentagona lielo AI virzību.

Taču neilgi pēc tam, kad uz skatuves parādījās dziļa mācīšanās, pētnieki atklāja, ka īpašības, kas padara to tik spēcīgu, ir arī Ahileja papēdis.

Tāpat kā ir iespējams aprēķināt, kā pielāgot tīkla parametrus, lai tas pareizi klasificētu objektu, ir iespējams aprēķināt, kā minimālas izmaiņas ievades attēlā var izraisīt tīkla nepareizu klasifikāciju. Šādos pretrunīgos piemēros attēlā tiek izmainīti tikai daži pikseļi, atstājot to cilvēkam vienādu, bet ļoti atšķirīgu no AI algoritma. Problēma var rasties visur, kur var izmantot dziļu mācīšanos, piemēram, vadot autonomus transportlīdzekļus, plānojot misijas vai atklājot tīkla ielaušanos.

Pieaugot mākslīgā intelekta izmantošanai militāriem nolūkiem, šīm noslēpumainajām programmatūras ievainojamībām tiek pievērsta daudz mazāka uzmanība.

Kustīgi mērķi

Viens ievērojams objekts kalpo, lai ilustrētu pretrunīgās mašīnmācības spēku. Tas ir bruņurupuča modelis.

Jums vai man tas izskatās normāli, bet dronam vai robotam, kas darbojas ar noteiktu dziļas mācīšanās redzes algoritmu, tas šķiet ... šautene. Atsevišķā projektā pētnieki bija izmantojuši 2D attēlus, lai AI redzes sistēma, kas pieejama, izmantojot Google mākoni, to sajauktu ar gandrīz jebko. (Google kopš tā laika ir atjauninājis algoritmu, lai tas netiktu maldināts.)

Bruņurupuci radīja nevis kāds nacionālās valsts pretinieks, bet gan četri puiši MIT. Viens no viņiem ir Anišs Atālijs, slaids un ļoti pieklājīgs jauneklis, kurš nodarbojas ar datoru drošību MIT Datorzinātnes un mākslīgā intelekta laboratorijā (CSAIL). Videoklipā uz Atālijas klēpjdatora ar pārbaudāmajiem bruņurupučiem (viņš saka, ka daži modeļi tika nozagti konferencē), tas ir pagriezts par 360 grādiem un apgriezts otrādi. Algoritms atkal un atkal nosaka vienu un to pašu: šautene, šautene, šautene.

Agrākie pretrunīgie piemēri bija trausli un pakļauti neveiksmēm, taču Atālijs un viņa draugi uzskatīja, ka viņi varētu izstrādāt versiju, kas ir pietiekami izturīga, lai strādātu ar 3D drukātu objektu. Tas ietvēra objektu 3D renderēšanas modelēšanu un algoritma izstrādi, lai izveidotu bruņurupuci — pretrunīgu piemēru, kas darbotos dažādos leņķos un attālumos. Vienkāršāk sakot, viņi izstrādāja algoritmu, lai izveidotu kaut ko tādu, kas droši maldinātu mašīnmācības modeli.

Militārie pielietojumi ir acīmredzami. Izmantojot pretinieku algoritmisko maskēšanos, tanki vai lidmašīnas var paslēpties no satelītiem un droniem, kas aprīkoti ar mākslīgo intelektu. Ar mākslīgā intelekta vadītās raķetes varētu būt apžilbinātas ar pretinieku datiem un, iespējams, pat virzīt atpakaļ uz draudzīgiem mērķiem. Informācija, kas tiek ievadīta izlūkošanas algoritmos, var tikt saindēta, lai maskētu terorisma draudus vai izveidotu slazdus karaspēkam reālajā pasaulē.

Atāliju pārsteidz tas, cik maz viņš ir saskāries ar bažām par pretrunīgo mašīnmācību. Esmu runājis ar daudziem nozares cilvēkiem un jautāju viņiem, vai viņi ir noraizējušies par pretrunīgiem piemēriem. Viņš saka, ka atbilde gandrīz visās jomās ir nē, jo uzņēmumi ir vērsti uz to, lai viņu AI sistēmas darbotos kā galvenā prioritāte.

Par laimi, Pentagons sāk to pamanīt. Šī gada augustā Aizsardzības progresīvo pētījumu projektu aģentūra (DARPA) paziņoja par vairākiem lieliem AI pētniecības projektiem. Starp tiem ir GARD, programma, kas vērsta uz pretrunīgu mašīnmācību. Hava Zīgelmans, Masačūsetsas Universitātes Amherstas profesors un GARD programmas vadītājs, saka, ka šie uzbrukumi militārās situācijās var būt postoši, jo cilvēki tos nevar identificēt. It kā mēs būtu akli, viņa saka. Tas padara to patiešām ļoti bīstamu.

Problēmas, ko rada pretrunīga mašīnmācība, arī izskaidro, kāpēc Pentagons tik ļoti vēlas sadarboties ar tādiem uzņēmumiem kā Google un Amazon, kā arī akadēmiskām iestādēm, piemēram, MIT. Tehnoloģija strauji attīstās, un jaunākie sasniegumi tiek īstenoti laboratorijās, kuras vada Silīcija ielejas uzņēmumi un augstākās universitātes, nevis tradicionālie aizsardzības darbuzņēmēji.

Būtiski, ka tie notiek arī ārpus ASV, jo īpaši Ķīnā. Es domāju, ka tuvojas cita pasaule, saka Kanaans, gaisa spēku AI eksperts. Un tas ir viens, kas mums ir jācīnās ar AI.

Pretreakcija pret mākslīgā intelekta izmantošanu militāriem nolūkiem ir saprotama, taču tā var nepamanīt plašāku priekšstatu. Pat ja cilvēki uztraucas par inteliģentiem robotiem-slepkavām, iespējams, tuvākajā laikā lielāks risks ir algoritmiska kara migla — tāda, kurai pat visgudrākās mašīnas nevar tikt cauri.

Vils Naits vēl nesen bija MI vecākais redaktors MIT Technology Review un tagad strādā Wired.

paslēpties