211service.com
Militārie roboti: bruņoti, bet cik bīstami?
An atklāta vēstule Tūkstošiem zinātnieku un tehnologu pagājušajā nedēļā parakstīja aicinājumu aizliegt nāvējošos ieročus, ko kontrolē mākslīgi viedās iekārtas, atspoguļojot pieaugošās bažas par to, ka mākslīgā intelekta straujais progress varētu tikt izmantots, lai padarītu nogalināšanas mašīnas efektīvākas un mazāk atbildīgas gan kaujas laukā. un izslēgts. Taču ekspertu viedokļi jautājumā par robotu nogalināšanas mašīnām ir vairāk sadalīti, nekā jūs varētu gaidīt.
Vēstule, kas iesniegta plkst Starptautiskā apvienotā konference par mākslīgo intelektu Buenosairesā, Argentīnā, parakstīja daudzi vadošie mākslīgā intelekta pētnieki, kā arī ievērojami zinātnieki un uzņēmēji, tostarp Elons Masks, Stīvens Hokings un Stīvs Vozņaks. Vēstulē teikts:
Mākslīgā intelekta (AI) tehnoloģija ir sasniegusi punktu, kurā šādu sistēmu izvietošana — praktiski, ja ne juridiski — ir iespējama gadu, nevis gadu desmitu laikā, un likmes ir augstas: autonomie ieroči ir aprakstīti kā trešā revolūcija karadarbībā pēc šaujampulvera un kodolieroči.
Pēdējos gados mākslīgā intelekta jomā patiešām ir panākts straujš progress, jo īpaši mašīnmācības jomā, kas ietver datoru mācīšanu atpazīt bieži sarežģītus vai smalkus modeļus lielos datu daudzumos. Un tas noved pie ētiskiem jautājumiem par šīs tehnoloģijas pielietojumu reālajā pasaulē (skatiet Kā likt pašbraucošām automašīnām pieņemt ētiskus lēmumus).
Tikmēr militārās tehnoloģijas ir attīstījušās, ļaujot darbības veikt attālināti, piemēram, izmantojot bezpilota lidaparātus vai bumbu iznīcināšanas robotus, radot iespēju, ka šīs darbības varētu tikt automatizētas.
Jautājums par letālo ieroču automatizāciju jau kādu laiku ir satraucis zinātniekus, kā arī militāros un politikas ekspertus. 2012. gadā ASV Aizsardzības departaments izdeva a direktīva aizliedzot uz 10 gadiem izstrādāt un lietot autonomus un daļēji autonomus ieročus. Šī gada sākumā Apvienoto Nāciju Organizācija rīkoja sanāksmi, lai apspriestu jautājumu par nāvējošiem automatizētiem ieročiem un šāda aizlieguma iespējamību.
Bet, lai gan militārie droni vai roboti varētu kļūt automatizētāki, daži saka, ka ideja par pilnīgi neatkarīgām mašīnām, kas spēj veikt letālas misijas bez cilvēka palīdzības, ir izdomātāka. Tā kā mākslīgā intelekta jomā joprojām ir daudz būtisku problēmu, nav skaidrs, kad pilnībā autonomiem ieročiem nepieciešamā tehnoloģija varētu nonākt.
Mēs virzām jaunas mākslīgā intelekta robežas, saka Patriks Lins , Kalifornijas Politehniskās Valsts universitātes filozofijas profesors. Un daudzi cilvēki ir pamatoti skeptiski, ka tas kādreiz sasniegs līmeni, kad tam būs kaut kas, ko sauc par pilnīgu autonomiju. Neviens īsti nav eksperts nākotnes prognozēšanā.
Lins, kurš sniedza liecības nesenajā ANO sanāksmē, piebilst, ka vēstule neskar sarežģītās ētiskās debates par automatizācijas izmantošanu ieroču sistēmās. Viņš saka, ka vēstule ir noderīga, lai palielinātu izpratni, taču tā nav tik daudz aicinājums uz debatēm; tas mēģina izbeigt debates, sakot: 'Mēs to esam sapratuši, un jums visiem ir jāiet.'
Stjuarts Rasels , vadošais mākslīgā intelekta pētnieks un Kalifornijas universitātes profesors Bērklijā, noraida šo ideju. Tā vienkārši nav taisnība, ka nav notikušas debates, viņš saka. Taču tā ir taisnība, ka AI un robotikas kopienas lielākoties ir svētlaimīgi neziņā par šo jautājumu, iespējams, tāpēc, ka viņu profesionālās sabiedrības to ir ignorējušas.
Viens no diskusiju jautājumiem, kas vēstulē tiek atzīts, ir tāds, ka automatizēti ieroči dažās situācijās varētu palīdzēt samazināt nevēlamu upuru skaitu, jo tie būtu mazāk pakļauti kļūdām, nogurumam vai emocijām nekā kaujinieki.
Tomēr tiem, kas atrodas aiz vēstules, šim argumentam ir maz laika.
Makss Tegmarks , MIT fiziķis un dibinātājs Dzīves nākotnes institūts , kas koordinēja vēstules parakstīšanu, saka, ka ideja par ētiskiem automatizētiem ieročiem ir sarkanā siļķe. Es domāju, ka tas ir diezgan mazsvarīgi, atklāti sakot, viņš saka. Trūkst galvenās lietas par to, pie kā tas novedīs, ja kāds sāks šīs AI bruņošanās sacensības. Ja jūs pieņemat, ka tikai ASV gatavojas būvēt šos ieročus un konfliktu skaits paliks tieši tāds pats, tad tas būtu svarīgi.
Dzīvības nākotnes institūts ir izdevis vispārīgāku brīdinājumu par ilgtermiņa riskiem, ko rada neierobežots AI, brīdinot, ka nākotnē tas var radīt nopietnas briesmas.
Tas ir pavisam cits jautājums, saka Rasels. Lai gan pastāv saikne, jo, ja kāds uztraucas par kontroles zaudēšanu pār mākslīgā intelekta sistēmām, tām kļūstot gudrākām, varbūt nav ieteicams viņiem nodot mūsu aizsardzības sistēmas.
Lai gan šķiet, ka daudzi AI eksperti piekrīt šīm plašajām bažām, daži uzskata, ka tas ir nedaudz nevietā. Piemēram, Gerijs Markuss , kognitīvais zinātnieks un mākslīgā intelekta pētnieks no Ņujorkas universitātes, ir strīdējās ka datoriem nav jākļūst mākslīgi viediem, lai tie radītu daudzus citus nopietnus riskus, piemēram, finanšu tirgiem vai gaisa satiksmes sistēmām.
Lins saka, ka, lai gan nepārbaudītu slepkavu robotu koncepcija acīmredzami ir satraucoša, automatizēto ieroču jautājums ir pelnījis niansētāku diskusiju. Emocionāli tas ir diezgan vienkāršs gadījums, saka Lins. Intelektuāli es domāju, ka viņiem ir jādara vairāk darba.