Apple AI direktors: Lūk, kā uzlabot padziļinātu mācīšanos

Apple mākslīgā intelekta direktors Ruslans Salahutdinovs uzskata, ka dziļie neironu tīkli, kas pēdējos gados ir devuši iespaidīgus rezultātus, turpmākajos gados varētu tikt papildināti, pievienojot atmiņu, uzmanību un vispārīgas zināšanas.





Runājot plkst MIT tehnoloģiju apskats EmTech Digital konferencē Sanfrancisko otrdien Salakhutdinovs sacīja, ka šie atribūti varētu palīdzēt atrisināt dažas neatrisinātās mākslīgā intelekta problēmas.

Salahutdinovs, kurš saglabā amatu kā Kārnegija Melona universitātes asociētais profesors Pitsburgā, savā runā norādīja uz ierobežojumiem, kas saistīti ar dziļas mācīšanās virzītu mašīnredzi un dabiskās valodas izpratni.

Dziļā mācīšanās — paņēmiens, kurā tiek izmantots liels skaits aptuveni simulētu neironu, kas sakārtoti daudzos savstarpēji savienotos slāņos, pēdējos gados ir radījusi dramatisku progresu mašīnu uztverē, taču ir daudz veidu, kā šie tīkli ir ierobežoti.

Salakhutdinovs, piemēram, parādīja, kā attēlu parakstu sistēmas, kuru pamatā ir tehnoloģija, var nepareizi marķēt attēlus, jo tām ir tendence koncentrēties uz visu attēlā. Pēc tam viņš norādīja uz risinājumu tā saukto uzmanības mehānismu veidā, kas ir padziļinātas mācīšanās uzlabojums, kas ir izstrādāts pēdējos gados. Pieeja var novērst šīs kļūdas sistēma koncentrējas uz noteiktām attēla daļām, kad parakstā tiek lietoti dažādi vārdi. Tāda pati pieeja var palīdzēt uzlabot arī dabiskās valodas izpratni, ļaujot mašīnai koncentrēties uz attiecīgo teikuma daļu, lai secinātu tā nozīmi.

Tehnika, ko sauc atmiņas tīkli , ko izstrādājuši Facebook pētnieki, var uzlabot to, kā mašīnas runā ar cilvēkiem. Kā norāda nosaukums, šī pieeja neironu tīkliem pievieno ilgtermiņa atmiņas komponentu, lai tie atcerētos tērzēšanas vēsturi.

Ir pierādīts, ka atmiņas tīkli uzlabo arī cita veida AI, kas pazīstama kā pastiprināšanas mācīšanās. Piemēram, divi CMU pētnieki nesen parādīja, kā tas varētu radīt gudrāku spēļu spēlēšanas algoritms . To ir pierādījuši arī pētnieki no DeepMind, Alphabet meitasuzņēmuma, kas orientēts uz mākslīgo intelektu padziļinātas apmācības sistēmu izveides un piekļuves veidi atmiņas forma.

Pastiprināšanas mācības strauji kļūst par vērtīgu veidu, kā atrisināt grūti programmējamas problēmas robotikā un automatizētajā braukšanā. Tas bija viens no MIT tehnoloģiju apskats 10 2017. gada izrāvienu tehnoloģijas.

Vēl viena aizraujoša nākotnes pētījumu joma, sacīja Salakhutdinovs, būtu atrast veidus, kā apvienot ar rokām veidotus zināšanu avotus ar dziļu mācīšanos. Viņš norādīja uz vispārīgu zināšanu datubāzēm, piemēram Freebase un vārdu nozīmes krātuves, piemēram WordNet .

Tāpat kā cilvēki, analizējot valodu vai interpretējot vizuālo ainu, lielā mērā paļaujas uz vispārējām zināšanām, tas varētu palīdzēt padarīt AI sistēmas viedākas, sacīja Salahutdinovs. Kā mēs varam iekļaut visas šīs iepriekšējās zināšanas dziļā mācībā? viņš teica savas runas laikā. Tas ir liels izaicinājums.

Salahutdinovs runāja sesijas laikā, kurā pulcējās pētnieki no vairākām dažādām mākslīgā intelekta skolām. Runātāju kopīgā tēma bija nepieciešamība pēc dažādām pieejām, lai AI paceltu nākamajā līmenī.

Sesijas laikā Pētera svētdienas Vašingtonas universitātes profesors, kurš pēta dažādas mašīnmācības pieejas, teica, ka ir arī jāturpina meklēt pilnīgi jaunas pieejas AI. Viņš teica, ka mašīnmācībā pastāv domu skola, ka mums nav vajadzīgi jauni izdomāti algoritmi, mums ir nepieciešams tikai vairāk datu. Es domāju, ka ir patiešām dziļas, fundamentālas idejas, kas ir jāatklāj, pirms mēs patiešām varam atrisināt AI.

paslēpties