Kāpēc AI pētniekiem nevajadzētu pagriezt muguru militārpersonām?

ASV armija

Vairāk nekā 2400 AI pētnieku nesen parakstīja a ķīla solot nebūvēt tā sauktos autonomos ieročus — sistēmas, kas pašas izlemtu, kuru nogalināt. Tas seko Google lēmumam neatjaunot līgumu par Pentagona piegādi ar mākslīgo intelektu, lai analizētu dronu uzņemto materiālu, pēc tam, kad uzņēmums bija pakļauts daudzu darbinieku spiedienam, kas iebilda pret tā darbu pie projekta, kas pazīstams kā Maven.

Pols Šārs, jaunas grāmatas autors, Army of None: autonomie ieroči un kara nākotne , uzskata, ka AI pētniekiem ir jādara vairāk, nekā jāatsakās, ja viņi vēlas panākt pārmaiņas.

Pols Šārs. Uzvariet McNamee/Getty Images

Armijas reindžeris Irākā un Afganistānā un tagad vecākais līdzstrādnieks Jaunās Amerikas drošības centrā, Šars apgalvo, ka AI ekspertiem jāsadarbojas ar politikas veidotājiem un militārajiem profesionāļiem, lai izskaidrotu, kāpēc pētnieki ir nobažījušies, un palīdzētu viņiem saprast ierobežojumiem AI sistēmām.

Šārs runāja ar AR Tehnoloģiju apskats vecākais redaktors Vils Naits par labāko veidu, kā apturēt potenciāli bīstamu AI bruņošanās sacensību.

paulscharre.com

Cik ļoti vēlas ASV militārpersonas izstrādāt mākslīgā intelekta ieročus?

ASV aizsardzības līderi ir vairākkārt norādīts ka viņu nodomu ir paturēt cilvēku cilpā un būt atbildīgiem par nāvējošiem lēmumiem. Tagad brīdinājums ir tāds, ka viņi ir arī atzinuši, ka, ja citas valstis būvēs autonomus ieročus, tās var būt spiestas sekot šim piemēram. Un tas ir reālais risks — ja viena valsts pārkāpj šo robežu, tad citām var šķist, ka tām ir jāreaģē tāpat, lai saglabātu konkurētspēju.

Vai tiešām šiem solījumiem var uzticēties?

Es domāju, ka ASV augstākās aizsardzības amatpersonas patiesi vēlas, lai cilvēki joprojām būtu atbildīgi par nāvējoša spēka izmantošanu. Militārie profesionāļi noteikti nevēlas, lai viņu ieroči darbotos. To sakot, joprojām ir atklāts jautājums, kā tādu plašu jēdzienu kā cilvēka atbildība par letālu spēku pārvērst īpašās inženiertehniskās vadlīnijās par to, kādi ieroču veidi ir atļauti. Definīcija par to, kas ir autonoms ierocis, jau ir apstrīdēta, tāpēc var būt dažādi viedokļi par to, kā šos principus īstenot praksē.

Kāpēc ir jāiesaista tehnologi?

AI pētniekiem ir jāpiedalās šajās sarunās, jo viņu tehniskās zināšanas ir ļoti svarīgas politikas izvēles veidošanā. Mums ir jāņem vērā AI neobjektivitāte, pārredzamība, izskaidrojamība, drošība un citas problēmas. AI tehnoloģijai mūsdienās ir šīs dubultās funkcijas — tā ir spēcīga, taču tai ir arī daudz ievainojamību, līdzīgi kā datori un kiberriski. Diemžēl šķiet, ka valdības ir saņēmušas šī ziņojuma pirmo daļu (AI ir spēcīgs), bet ne otro (tas ir saistīts ar riskiem). AI pētnieki var palīdzēt valdībām un militārpersonām labāk izprast, kāpēc tās ir tik noraizējušās par šīs tehnoloģijas ieroču izmantošanas sekām. Lai to īstenotu efektīvi, AI pētniekiem ir jāpiedalās konstruktīvā dialogā.

Ko jūs domājat par neseno solījumu pret autonomiem ieročiem, ko organizēja Future of Life institūts?

Tas nav pirmais AI zinātnieku aicinājums rīkoties; tas balstās uz iepriekšējām atklātām vēstulēm par autonomiem ieročiem 2015. gads un 2017. gads . Taču šīs vēstules ir simbolisks žests, un, iespējams, to efektivitāte samazinās. Valstis arī kopš 2014. gada ir apspriedušas autonomos ieročus Apvienoto Nāciju Organizācijā, un mākslīgā intelekta zinātnieku spiediens pievieno šai sarunai svarīgu dimensiju, taču tam vēl nav jāpanāk lielas militārās pilnvaras, lai atbalstītu visaptverošu aizliegumu. Būtu efektīvāk, ja vairāk AI pētnieku apmeklētu ANO sanāksmes un palīdzētu politikas veidotājiem saprast, kāpēc AI zinātnieki ir tik noraizējušies.

Kā ir ar Google lēmumu nepagarināt līgumu ar Pentagonu?

Tas bija nedaudz pārsteidzoši, jo Maven faktiski neietvēra autonomus ieročus vai mērķēšanu, un šķita, ka tas atbilst Google nesen izlaistajam AI principi . Taču konkurence par labākajiem AI talantiem ir sīva, un man ir aizdomas, ka Google nevarētu riskēt, ka daži no saviem labākajiem inženieriem protestējot atkāpsies no amata.

Vai jūs domājat, ka šādi žesti palīdzēs palēnināt autonomo ieroču attīstību?

Runājot par Maven, Google nebija iesaistīts pat cilvēka kontrolētu ieroču, vēl jo mazāk autonomu ieroču, izveidē, tāpēc tur nav tiešas saiknes. Solījuma vēstule, protams, ir tieši vērsta uz autonomiem ieročiem. Bet es nedomāju, ka nevienam no tiem būs liela ietekme uz to, kā militārpersonas savos ieročos iekļauj AI un autonomiju, jo ieročus, visticamāk, būvēs aizsardzības darbuzņēmēji. Ja lielākie tehnoloģiju uzņēmumi, piemēram, Google, atteiksies no darba ar militārpersonām, tas varētu palēnināt AI tehnoloģiju iekļaušanu tādās svarīgās atbalsta funkcijās kā datu analīze, ko darīja Mavens. Bet galu galā citi uzņēmumi iesaistīsies, lai aizpildītu plaisu. Mēs jau esam redzējuši cits kompānijas diezgan publiski pateikt, ka vēlas strādāt ar armiju.

Vai šiem centieniem varētu būt arī neparedzētas sekas?

Daudzu likumīgu mākslīgā intelekta izmantošanas veidu norādīšana kā nepieņemama varētu vēl vairāk iedzīt ķīli starp tehnisko un politikas kopienu un padarīt saprātīgu diskursu grūtāku. Inženieriem noteikti vajadzētu atturēties no darba pie projektiem, kurus viņi nevar atbalstīt, taču, ja šī personīgā motivācija pāriet uz citu spiedienu, lai viņi strādātu pie svarīgiem un likumīgiem valsts drošības lietojumiem, tie kaitē sabiedrības drošībai un aizskar citu inženieru tiesības vadīties pēc savas sirdsapziņas. Demokrātiskajām valstīm būs jāizmanto AI tehnoloģija dažādiem svarīgiem un likumīgiem valsts drošība mērķiem — izlūkošanai, terorisma apkarošanai, robežu drošībai, kiberdrošībai un aizsardzībai.

Vai ASV jau piedalās AI ieroču bruņošanās sacensībās ar Ķīnu?

Ķīna ir publiski paziņojusi par savu nodomu kļūt par pasaules līderis mākslīgā intelekta jomā līdz 2030. gadam un paplašina pētījumus un piesaista labākos talantus no visas pasaules. Ķīnas militārās un civilās saplūšanas modelis nozīmē arī to, ka mākslīgā intelekta pētījumi no tehnoloģiju firmām viegli nonāks militārajā jomā bez tādiem šķēršļiem, kādus daži Google darbinieki vēlas izveidot Amerikas Savienotajās Valstīs. Ķīnai ir jau sācies lai liktu pamatus tehnouzraudzības valstij, kurā darbojas mākslīgais intelekts.

Ja mākslīgā intelekta pētnieku taktika izdosies tikai palēnināt mākslīgā intelekta rīku ieviešanu atvērtās, demokrātiskās sabiedrībās, kas augstu vērtē ētisku uzvedību, viņu darbs varētu veicināt nākotni, kurā visspēcīgākās tehnoloģijas ir to režīmu rokās, kuri vismazāk rūpējas par ētiku. un tiesiskumu.

Savā grāmatā jūs norādāt, ka autonomijas noteikšana var būt sarežģīta. Vai tas nesarežģīs diskusiju par mākslīgā intelekta izmantošanu militāriem nolūkiem?

Nesenā solījuma pret autonomiem ieročiem autori iebilst pret autonomiem ieročiem, kas nogalinātu cilvēku, taču atzīst, ka būtu nepieciešamas noteiktas autonomas sistēmas, lai aizsargātos pret citiem šādiem ieročiem. Tā ir pelēkā zona, kur var būt nepieciešama autonomija, lai aizsargātos pret ieročiem, un cilvēks joprojām atrodas uz klāja, piemēram, mērķējot uz iznīcinātāju vai zemūdeni, kur ir īstais izaicinājums. Konkurējošo mērķu līdzsvarošana nav vienkārša, un, pieņemot šo tehnoloģiju, politikas veidotāji saskarsies ar reālām izvēlēm.

AI inženieri visvairāk ietekmēs šo izvēli, ja viņi iesaistīsies konstruktīvā, nepārtrauktā dialogā ar politikas veidotājiem, nevis atteiksies. AI pētnieki, kuriem rūp šīs tehnoloģijas izmantošana, būs efektīvāki, ja viņi pāries uz spiediena kampaņām un sāks palīdzēt izglītot politikas veidotājus par AI tehnoloģiju mūsdienās un tās ierobežojumiem.

paslēpties