211service.com
ASV militārpersonas vēlas, lai tās autonomās mašīnas izskaidrotu sevi
Izlūkošanas aģenti un militārie darbinieki var lielā mērā paļauties uz mašīnmācību, lai analizētu milzīgu datu daudzumu un kontrolētu pieaugošo autonomo sistēmu arsenālu. Taču ASV militārpersonas vēlas pārliecināties, ka tas neizraisa aklu uzticēšanos nevienam algoritmam.
Aizsardzības progresīvo pētījumu projektu aģentūra (DARPA), Aizsardzības departamenta nodaļa, kas pēta jaunas tehnoloģijas, finansē vairākus projektus, kuru mērķis ir likt mākslīgajam intelektam sevi izskaidrot. Šīs pieejas svārstās no papildu mašīnmācības sistēmu pievienošanas, lai sniegtu skaidrojumu, līdz jaunu mašīnmācības pieeju izstrādei, kas ietver skaidrojumu pēc konstrukcijas.
Mums tagad ir šis patiesais AI sprādziens, saka Deivids Gunings, DARPA programmas vadītājs, kurš finansē centienus izstrādāt mākslīgā intelekta metodes, kas ietver zināmu skaidrojumu to argumentācijai. Iemesls tam galvenokārt ir mašīnmācība un jo īpaši dziļa mācīšanās.
Padziļinātas mācīšanās un citas mašīnmācīšanās metodes ir sagrābušas Silīcija ieleju, ievērojami uzlabojot balss atpazīšanu un attēlu klasifikāciju, un tās tiek izmantotas arvien plašākā kontekstā, tostarp tādās jomās kā tiesībaizsardzība un medicīna, kur var rasties kļūdu sekas. esi nopietns. Bet, lai gan dziļā mācīšanās ir neticami laba, lai atrastu datu modeļus, var būt neiespējami saprast, kā tā nonāk pie secinājuma. Mācību process ir matemātiski ļoti sarežģīts, un bieži vien nav iespējams to pārvērst tādā veidā, ko cilvēks saprastu.
Un, lai gan dziļo mācīšanos ir īpaši grūti interpretēt, citas mašīnmācīšanās metodes var būt arī sarežģītas. Šie modeļi ir ļoti necaurredzami un cilvēkiem grūti interpretējami, it īpaši, ja viņi nav AI eksperts, saka Gunings.
Padziļināta mācīšanās ir īpaši noslēpumaina tās neticamās sarežģītības dēļ. Tas ir aptuveni iedvesmots no procesa, kurā smadzeņu neironi mācās, reaģējot uz ievadi. Daudzi simulētu neironu un sinapsu slāņi ir apzīmēti ar datiem, un to uzvedība tiek pielāgota, līdz viņi iemācās atpazīt, piemēram, kaķi fotoattēlā. Taču sistēmas apgūtais modelis ir iekodēts daudzu miljonu neironu svarā, un tāpēc to ir ļoti grūti pārbaudīt. Kad padziļinātas apmācības tīkls atpazīst, piemēram, kaķi, nav skaidrs, vai sistēma attēlā var fokusēties uz ūsām, ausīm vai pat kaķa segu.
Bieži vien tas var nebūt tik svarīgi, ja mašīnmācības modelis ir necaurredzams, taču tas neattiecas uz izlūkošanas virsnieku, kurš mēģina identificēt potenciālo mērķi. Ir dažas svarīgas lietojumprogrammas, kurās jums ir nepieciešams paskaidrojums, Gunning saka.
Gunings piebilst, ka militārpersonas izstrādā neskaitāmas autonomas sistēmas, kas neapšaubāmi lielā mērā paļausies uz mašīnmācības metodēm, piemēram, dziļo mācīšanos. Viņš saka, ka turpmākajos gados arvien vairāk tiks izmantoti pašbraucošie transportlīdzekļi, kā arī gaisa droni, un tie kļūs arvien spējīgāki.
Izskaidrojamība ir svarīga ne tikai lēmumu attaisnošanai. Tas var palīdzēt novērst to, ka lietas noiet greizi. Pūkains paklājs var apmānīt attēlu klasifikācijas sistēmu, kas ir iemācījusies koncentrēties tikai uz tekstūru kaķu klasifikācijā. Tātad skaidrojuma piedāvāšana varētu palīdzēt pētniekiem padarīt savas sistēmas izturīgākas un novērst kļūdas tiem, kas uz tām paļaujas.
DARPA finansē 13 dažādas pētniecības grupas, kuras izmanto dažādas pieejas, lai AI padarītu saprotamāku.
Viena komanda, kas izvēlēta finansējuma saņemšanai, nāk no Charles River Analytics — uzņēmuma, kas izstrādā augsto tehnoloģiju rīkus dažādiem klientiem, tostarp ASV militārpersonām. Šī komanda pēta jaunas padziļinātas apmācības sistēmas, kurās ir ietverts skaidrojums, piemēram, tādas, kas izceļ attēla jomas, kas klasifikācijai šķiet visatbilstošākās. Pētnieki arī eksperimentē ar datoru saskarnēm, kas padara mašīnmācības sistēmu darbību skaidrāku, izmantojot datus, vizualizācijas un pat dabiskās valodas skaidrojumus.
Sja Hu , Teksasas A&M universitātes profesors, kurš vada vēl vienu no finansēšanai izvēlētajām komandām, saka, ka problēma ir svarīga arī citās jomās, kurās tiek pieņemta mašīnmācība, piemēram, medicīnā, tiesību aktos un izglītībā. Bez kaut kāda skaidrojuma vai pamatojuma domēna eksperti neticēs rezultātiem, saka Hu. Tas ir galvenais iemesls, kāpēc daudzi domēna eksperti atsakās pieņemt mašīnmācīšanos vai dziļo mācīšanos.