211service.com
Finanšu pasaule vēlas atvērt AI melnās kastes
Spēcīgas mašīnmācības metodes pēdējos gados ir sagrābušas tehnoloģiju pasauli, ievērojami uzlabojot balss un attēlu atpazīšanu, mašīntulkošanu un daudzas citas lietas.
Tagad šīs metodes ir gatavas sagraut neskaitāmas citas nozares, tostarp finanšu pasauli. Taču progresu var kavēt nopietna problēma: bieži vien nav iespējams izskaidrot, kā šie dziļās mācīšanās algoritmi pieņem lēmumu (skatiet sadaļu The Dark Secret at the Heart of AI).
Adams Venšels, Capital One mašīnmācības un datu inovācijas viceprezidents, saka, ka uzņēmums vēlētos izmantot dziļo mācīšanos visu veidu funkcijām, tostarp izlemjot, kam tiek piešķirta kredītkarte. Taču tā nevar to darīt, jo saskaņā ar likumu uzņēmumiem ir jāpaskaidro šāda lēmuma iemesls potenciālajam klientam. Pagājušā gada beigās Capital One izveidoja pētnieku grupu, kuru vadīja Venšels un kuras mērķis bija atrast veidus, kā padarīt šīs datortehnikas saprotamākas.
Viņš saka, ka mūsu izpētes mērķis ir nodrošināt, ka mēs varam saglabāt šo augsto izskaidrojamības latiņu, virzoties uz šiem daudz progresīvākiem un pēc būtības necaurredzamākiem modeļiem.
Padziļināta mācīšanās parādījās pēdējos piecos gados kā spēcīgs veids, kā atdarināt cilvēka uztveres spējas. Šī pieeja ietver ļoti liela neironu tīkla apmācību, lai atpazītu datu modeļus. Tas ir brīvi iedvesmots no teorijas par to, kā neironi un sinapses atvieglo mācīšanos. Lai gan katrs simulētais neirons ir vienkārši matemātiska funkcija, šo savstarpēji saistīto funkciju sarežģītība padara dziļa tīkla pamatojumu ārkārtīgi grūti atšķetināmu.
Dažas citas mašīnmācības metodes, tostarp tās, kas noteiktos scenārijos pārspēj dziļo mācīšanos, ir daudz pārredzamākas. Taču padziļinātu mācīšanos, kas ļauj veikt izsmalcinātu analīzi, kas ir noderīga finanšu nozarei, var būt ļoti grūti nopratināt.
Dažu jaunuzņēmumu mērķis ir izmantot bažas par esošo algoritmu necaurredzamību, solot izmantot pārskatāmākas pieejas (skatiet AI kredīta formula, kas varētu palīdzēt saņemt aizdevumu).
Dažu nākamo gadu laikā šī problēma varētu kļūt nozīmīgāka, jo arvien biežāk tiks izmantota padziļināta apmācība un regulatori pievērš uzmanību algoritmiskajai atbildībai. Sākot ar nākamo gadu, saskaņā ar tās Vispārīgo datu aizsardzības regulu Eiropas Savienība var pieprasīt jebkuram uzņēmumam izskaidrot lēmumu, kas pieņemts ar kādu no tās algoritmiem.
Problēma ir pievērsusi arī Aizsardzības progresīvo pētījumu projektu aģentūras uzmanību, kas veic pētījumus ASV Aizsardzības departamentam. Pagājušajā gadā DARPA sāka centienus finansēt pieejas, lai mašīnmācīšanos padarītu mazāk necaurredzamu (skatiet sadaļu The U.S. Military Wants Autonomous Machines to Explain Themselves). 13 finansēšanai atlasītie projekti parāda dažādas pieejas, kā padarīt algoritmus pārredzamākus.
Cerams, ka padziļinātu mācīšanos var izmantot, lai sasniegtu vairāk nekā tikai cilvēka uztveres spēju saskaņošanu. Kredītkaršu uzņēmums, piemēram, var ievadīt kredītvēsturi un citus finanšu datus dziļā tīklā un apmācīt to atpazīt cilvēkus, kuri varētu nepildīt kredītkaršu maksājumus.
Capital One meklē arī dziļu mācīšanos kā veidu, kā automātiski ticamāk noteikt krāpnieciskas maksas, saka Venšels, lai gan uzņēmums uzmanās uzticēties šādai sistēmai, ja tās pamatojumu nevar pārbaudīt. Viņš saka, ka mēs strādājam stingri regulētā nozarē. Mums ir jāspēj izskaidrot gan iekšēji, gan cilvēkiem, kāpēc mēs pieņemam lēmumus. Un pārliecinieties, ka mēs pieņemam lēmumus pareizo iemeslu dēļ.
Padziļināta mācīšanās šobrīd ir ļoti populārs vārds, un ir panākts liels progress datorredzēšanā un dabiskās valodas apstrādē, saka. Trevors Darels , profesors UC Berkeley, kurš vada vienu no projektiem, kas atlasīti finansējumam no DARPA. Taču [padziļinātās apmācības sistēmas] tiek kritizētas, jo dažreiz ir grūti saprast, kas tajās notiek.
DARPA projektam Darrell grupa izstrādā vairākas jaunas padziļinātas apmācības pieejas, tostarp sarežģītākus dziļos tīklus, kas spēj apgūt vairākas lietas vienlaikus. Ir arī pieejas, kas ietver paskaidrojumu apmācības datos: piemēram, attēla parakstu gadījumā attēls, kas klasificēts kā kaķis, tiktu savienots pārī ar paskaidrojumu, kāpēc tas tika klasificēts kā tāds. To pašu pieeju varētu izmantot, klasificējot kredītkaršu izmaksas kā krāpnieciskas. Visas šīs lietas mūs noved pie interpretējamākiem dziļajiem tīkliem, saka Darels.