Vai Google virzās uz tirgu padziļinātas mācīšanās virzienā?

Cik ir vērts ducis dziļi izglītojošu pētnieku? Acīmredzot vairāk nekā 400 miljoni dolāru.





Sadaļā “Plex : Google tērē simtiem miljonu, lai izveidotu programmatūru, kas var mācīties no tās datu centros glabātās informācijas.

Šonedēļ Google tiek ziņots, ka samaksāja tik daudz iegūt DeepMind tehnoloģijas , Londonā bāzēts starta uzņēmums, kurā bija viena no lielākajām pētnieku koncentrācijām, kas nodarbojas ar dziļo mācīšanos, kas ir salīdzinoši jauna mākslīgā intelekta pētniecības joma, kuras mērķis ir sasniegt tādus uzdevumus kā seju atpazīšana video vai vārdos cilvēka runā (skatiet Deep Learning ).

Iegāde, kuras mērķis ir pievienot kvalificētus ekspertus, nevis konkrētus produktus, iezīmē Google, Facebook un citu interneta firmu centienus monopolizēt lielākos mākslīgā intelekta pētījumos iesaistītos uzņēmumus.



Intervijā pagājušajā mēnesī pirms DeepMind iegādes Pēteris Norvigs , Google pētniecības direktors, aplēsa, ka viņa uzņēmumā jau ir nodarbināti mazāk nekā 50 procenti, bet noteikti vairāk nekā 5 procenti no pasaulē vadošajiem mašīnmācības ekspertiem, kuru plašākā disciplīna ir dziļā mācīšanās.

Uzņēmumi, piemēram, Google, sagaida padziļinātu mācīšanos, lai palīdzētu tiem radīt jauna veida produktus, kas spēj saprast attēlus, tekstu un video, kas aizsprosto tīmekli, un mācīties no tiem. Un ievērojamā mērā vadošie akadēmiskie zinātnieki ir aptvēruši Silīcija ieleju, kur studentu vietā viņi var vadīt inženieru komandas un piekļūt lielākajām, interesantākajām datu kopām. Tā ir mūsu rīcībā esošo skaitļošanas resursu un mūsu piedāvāto darbinieku skaita kombinācija, sacīja Norvigs. Ja vēlaties tīmekļa kopiju Google, mums tas vienkārši ir blakus.

Jošua Bendžo , MI pētnieks Monreālas Universitātē, lēš, ka visā pasaulē ir tikai aptuveni 50 dziļās mācīšanās ekspertu, no kuriem daudzi joprojām ir maģistranti. Viņš lēsa, ka DeepMind nodarbināja apmēram desmitus no viņiem, strādājot apmēram 50 cilvēku. Manuprāt, tas ir galvenais iemesls, kāpēc Google iegādājās DeepMind. Tajā ir viena no lielākajām dziļās mācīšanās ekspertu koncentrācijām, saka Bengio.

Ar Google cīnās par talantiem, tostarp Amazon, Microsoft un arī Facebook, kas septembrī izveidoja savu dziļās apmācības grupu (skatiet Facebook Launches Advanced AI Effort to Find Meaning in Your Posts ). Tajā tika pieņemts darbā, iespējams, pasaulē pazīstamākais dziļās mācīšanās zinātnieks, Jans Lekuns Ņujorkas universitātē, lai to vadītu. Viņa NYU kolēģis, Robs Fērguss , arī pieņēma darbu sociālajā tīklā.

Kara spēles : DeepMind programmatūra pati iemācījās spēlēt Space Invaders.

Tā kā uzlabotā mašīnmācīšanās pāriet no galvenokārt zinātniskas darbības uz tādu, kam ir liela rūpnieciska nozīme, Google sols, iespējams, ir visdziļākais. Starp vārdiem, ko tas ir piesaistījis akadēmisko aprindu pilnas vai nepilnas slodzes lomām, ir Sebastians Thruns (kurš ir strādājis pie uzņēmuma autonomo automašīnu projekta); Fernando Pereira, kādreizējais Pensilvānijas universitātes datorzinātnieks; Stenforda Endrjū Ng; un Singularitātes universitātes vadītājs Rejs Kurcveils.

Pagājušajā gadā Google satvēra arī slaveno Toronto universitātes pētnieku Džefu Hintonu un viņa studentu apstiprinājumu, iegādājoties Hintona uzņēmumu DNNresearch. Hintons tagad strādā nepilnu darba laiku uzņēmumā Google. Mēs teicām Džefam: 'Mums patīk jūsu lietas. Vai jūs vēlētos vadīt modeļus, kas ir 100 reizi lielāki par citiem?» Tas viņam bija pievilcīgi, sacīja Norvigs.

Ne visi ir priecīgi par sakāmvārdu Google autobusa ienākšanu vienā no akadēmisko aprindu retajiem apgabaliem. Decembrī zinātniskās sanāksmes laikā Taho ezerā Facebook dibinātājs un izpilddirektors Marks Cukerbergs ar pārsteigumu uzstājās uniformās tērptu apsargu pavadībā, sacīja Sinaja kalna medicīnas centra bioinformātikas pētnieks Alekss Rubinšteins, kurš sūdzējās emuāra ieraksts ka ir pārkāpta kultūras robeža starp akadēmisko vidi un Silīcija ieleju.

Akadēmiskajā vidē statuss ir pētniecības nopelns, tas ir tas, ko jūs zināt, saka Rubinšteins. Silīcija ielejā tas ir tāpēc, ka jūs vadāt uzņēmumu vai esat bagāts. Un tad arī apkārtējie cilvēki domā par to, kā kļūt bagātam.

Pīters Lī, Microsoft Research vadītājs, stāstīja Bloomberg biznesa nedēļa ka dziļās mācīšanās eksperti bija tik pieprasīti, ka viņiem ir tādas pašas septiņu ciparu algas kā dažiem NFL pirmā gada aizsargiem.

Daži ir pretojušies nozares aicinājumam. No trim datorzinātniekiem, kas tiek uzskatīti par padziļinātās mācīšanās aizsācējiem — Hintonu, Lekunu un Bendžo —, tikai Benjo līdz šim ir palicis ziloņkaula tornī. Es vienkārši nedomāju, ka nopelnot 10 reizes vairāk, es padarīšu laimīgāku, viņš saka. Kā akadēmiķis varu izvēlēties, pie kā strādāt, un apsvērt ļoti ilgtermiņa mērķus. Turklāt viņš saka, ka nozares dotācijas ir sākušas plūst viņam ceļā, jo uzņēmumi saprot, ka viņiem drīz beigsies darbinieku. Šogad viņš plāno palielināt apmācāmo absolventu skaitu no četriem uz 15.

DeepMind pirms diviem gadiem līdzdibināja 37 gadus vecais Demiss Hasibiss. aprakstījis Laiki Londonas kā spēļu dizainers, neirozinātnieks un kādreizējais šaha brīnumbērns. DeepMind pētnieki bija labi pazīstami zinātnieku aprindās, apmeklēja sanāksmes un publicēja diezgan augsta līmeņa dokumentus mašīnmācībā, lai gan viņi vēl nebija izlaiduši produktu, saka Bengio.

DeepMind zināšanas ir jomā, ko sauc par pastiprināšanas apmācību, kas ietver datoru iegūšanu, lai uzzinātu par pasauli pat no ļoti ierobežotām atsauksmēm. Iedomājieties, ja es jums tikai pateiktu, kādas atzīmes jūs ieguvāt kontroldarbā, bet nepateiktu, kāpēc un kādas ir atbildes, saka Bengio. Ir grūti zināt, kā jūs varētu darīt labāk.

Bet decembrī DeepMind publicēja papīrs, kurā parādīts, ka tā programmatūra var to paveikt, iemācoties spēlēt septiņas Atari2600 spēles kā ievadi izmantojot tikai video ekrānā redzamo informāciju, piemēram, rezultātu. Trīs no spēlēm, klasiskajām Breakout, Enduro un Pong spēlēm, dators darbojās labāk nekā lietpratējs. Tas darbojās mazāk labi Q*bert un Space Invaders spēlēs, kurās labākā stratēģija nav tik acīmredzama.

Šādām prasmīgām datorprogrammām varētu būt svarīgas komerciālas lietojumprogrammas, tostarp meklētājprogrammu uzlabošana (skatiet sadaļu Kā pasaules zināšanu datu bāze veido Google nākotni), un tās varētu būt īpaši noderīgas, lai palīdzētu robotiem iemācīties orientēties cilvēku pasaulē. Pagājušajā gadā Google iegādājās vairākus vadošos robotikas uzņēmumus, tostarp dažāda veida humanoīdu robotu ražotājus (skatiet Google jaunāko robotu iegūšanu vēl gudrākais).

Protams, lielie uzņēmumi netērētu tik lielus līdzekļus, lai monopolizētu talantus mākslīgā intelekta jomā, ja vien viņi neticētu, ka šīs datoru smadzenes dos viņiem spēcīgu priekšrocību. Tas var izklausīties pēc filmas sižeta, taču, iespējams, ir pat laiks aizdomāties, ko pirmais uzņēmums, kura rīcībā ir īsts AI, darītu ar tā sniegto jaudu.

Bengio saka, ka nevajag par to uztraukties. Viņš saka, ka nozare ir ieinteresēta mašīnmācības un jo īpaši dziļās mācīšanās pielietošanā uzdevumiem, kurus viņi vēlas atrisināt. Šie [centieni] ir ceļā uz AI, taču joprojām ir tālu no tā.

paslēpties