211service.com
Viedo programmatūru var piemānīt, lai tā ieraudzītu to, kas tur nav
Paņēmiens, ko sauc par dziļo apmācību, ir ļāvis Google un citiem uzņēmumiem gūt panākumus, liekot datoriem saprast fotoattēlu saturu. Tagad Kornela Universitātes un Vaiomingas Universitātes pētnieki ir parādījuši, kā izveidot attēlus, kas apmāna šādu programmatūru redzēt lietas, kas tur nav .
Šādi attēli tika izveidoti, lai apmānītu mašīnmācīšanās algoritmus. Programmatūra redz katru modeli kā vienu no cipariem no 1 līdz 5.
Pētnieki var izveidot attēlus, kas cilvēkam šķiet sajaukti muļķīgi vai vienkārši ģeometriski raksti, bet programmatūra tos identificē kā ikdienas priekšmetu, piemēram, skolas autobusu. Triku attēli sniedz jaunu ieskatu par atšķirībām starp to, kā reālās smadzenes un vienkārši simulēti neironi tiek izmantoti dziļās mācīšanās procesa attēlos.
Pētnieki parasti apmāca dziļās apmācības programmatūru, lai atpazītu kaut ko interesantu, piemēram, ģitāru, parādot tai miljoniem ģitāru attēlu, katru reizi paziņojot datoram, ka šī ir ģitāra. Pēc kāda laika programmatūra var identificēt ģitāras attēlos, ko tā vēl nekad nav redzējusi, piešķirot savai atbildei ticamības vērtējumu. Ģitārai, kas attēlota vienatnē uz balta fona, var tikt piešķirts augsts ticamības novērtējums, bet ģitārai, kas redzama graudaina, pārblīvēta attēla fonā, – zemāks ticamības novērtējums (sk. 10 Breakthrough Technologies 2013: Deep Learning ).
Šai pieejai ir vērtīgas lietojumprogrammas, piemēram, sejas atpazīšana vai programmatūras izmantošana drošības vai satiksmes kameru ierakstu apstrādei, piemēram, lai mērītu satiksmes plūsmas vai noteiktu aizdomīgas darbības.
Bet, lai gan matemātiskās funkcijas, ko izmanto mākslīgā neironu tīkla izveidošanai, tiek saprastas atsevišķi, nav zināms, kā tās darbojas kopā, lai atšifrētu attēlus. Mēs saprotam, ka viņi strādā, nevis kā viņi strādā, saka Džefs Klūns , Vaiomingas universitātes datorzinātņu docents. Viņi var iemācīties darīt lietas, kuras mēs pat paši nevaram iemācīties.
Šie attēli cilvēkiem izskatās abstrakti, taču tos redz attēlu atpazīšanas algoritms, kas tika izveidots, lai tos apmānītu kā etiķetēs aprakstītos objektus.
Lai parādītu jaunu gaismu par šo tīklu darbību, Clune grupa izmantoja neironu tīklu ar nosaukumu AlexNet, kas ir sasniedzis iespaidīgus attēlu atpazīšanas rezultātus. Viņi to darbojās otrādi, pieprasot programmatūras versiju bez ģitārām zināšanām izveidot viena attēla, ģenerējot nejaušus pikseļus visā attēlā.
Pētnieki lūdza otro tīkla versiju, kas bija apmācīta pamanīt ģitāras, lai novērtētu pirmā tīkla izveidotos attēlus. Šo uzticības novērtējumu izmantoja pirmais tīkls, lai uzlabotu savu nākamo mēģinājumu izveidot ģitāras tēlu. Pēc tūkstošiem apgriezienu starp abām programmatūras daļām pirmais tīkls varēja izveidot attēlu, ko otrais tīkls atpazina kā ģitāru ar 99% pārliecību.
Tomēr cilvēkiem šie ģitāras attēli izskatījās kā krāsaini TV statiski vai vienkārši raksti. Klūns saka, ka tas liecina, ka programmatūra nav ieinteresēta strukturālo detaļu, piemēram, stīgu vai grifu, savienošanā, jo cilvēks, kurš mēģina kaut ko identificēt, varētu būt. Tā vietā šķiet, ka programmatūra aplūko noteiktu attālumu vai krāsu attiecības starp pikseļiem vai kopējo krāsu un tekstūru.
Tas sniedz jaunu ieskatu par to, kā mākslīgie neironu tīkli patiešām darbojas, saka Clune, lai gan ir vajadzīgi vairāk pētījumu.
Raiens Adamss , Hārvardas datorzinātņu profesora asistents, saka, ka rezultāti nav pilnīgi pārsteidzoši. Fakts, ka lieli triku attēlu laukumi izskatās kā statiskā jūra, iespējams, izriet no tā, kā tīkli tiek baroti ar treniņu attēliem. Interesējošais objekts parasti ir tikai neliela daļa no fotoattēla, un pārējais ir mazsvarīgs.
Adams arī norāda, ka Klūna pētījumi liecina, ka cilvēkiem un mākslīgajiem neironu tīkliem ir dažas kopīgas lietas. Cilvēki ir domājuši, ka redz ikdienas priekšmetus nejaušā veidā, piemēram, zvaigznes, tūkstošiem gadu.
Klūns saka, ka būtu iespējams izmantot viņa tehniku, lai apmānītu attēlu atpazīšanas algoritmus, kad tie tiek izmantoti tīmekļa pakalpojumos un citos produktos. Tomēr to būtu ļoti grūti izvilkt. Piemēram, Google ir algoritmi, kas filtrē pornogrāfiju no tā attēlu meklēšanas pakalpojuma rezultātiem. Taču, lai izveidotu attēlus, kas to apmānītu, draiskulim būtu jāzina nozīmīga informācija par Google programmatūras izveidi.