Debates starp AI ekspertiem parāda cīņu par tehnoloģiju nākotni

Gerijs Markuss un Denijs Lange Markuss: R. Farels/ITU; Lange: Kodijs Glens/Web Summit

Kopš 1950. gadiem mākslīgais intelekts ir atkārtoti solījis pārspīlēti un nepietiekami nodrošināts. Lai gan pēdējos gados ir notikuši neticami lēcieni, pateicoties padziļinātai apguvei, AI mūsdienās joprojām ir šaurs: tas ir trausls, saskaroties ar uzbrukumiem, nevar vispārināt, lai pielāgotos mainīgajai videi, un tas ir pārņemts ar aizspriedumiem. Visi šie izaicinājumi apgrūtina tehnoloģiju uzticēšanos un ierobežo tās potenciālu sniegt labumu sabiedrībai.

26. martā MIT Technology Review ikgadējā EmTech Digital pasākumā divas ievērojamas mākslīgā intelekta personas uzkāpa uz virtuālās skatuves, lai apspriestu, kā šī joma varētu pārvarēt šīs problēmas.

Gerijs Markuss, NYU emeritētais profesors un Robust.AI dibinātājs un izpilddirektors, ir labi pazīstams dziļās mācīšanās kritiķis. Savā grāmatā AI pārstartēšana , kas publicēts pagājušajā gadā, viņš apgalvoja, ka AI trūkumi ir raksturīgi šai tehnikai. Tāpēc pētniekiem ir jāskatās tālāk par dziļu mācīšanos, viņš apgalvo, un jāapvieno tas ar klasiskām vai simboliskām mākslīgā intelekta sistēmām, kas kodē zināšanas un spēj argumentēt.

Denijs Lange, AI un mašīnmācības viceprezidents uzņēmumā Unity, atrodas padziļinātās apmācības nometnē. Savu karjeru viņš veidoja, balstoties uz šīs tehnikas solījumu un potenciālu, strādājot par Uber mašīnmācības vadītāju, Amazon Machine Learning ģenerāldirektoru un produktu vadītāju uzņēmumā Microsoft, kas koncentrējās uz liela mēroga mašīnmācību. Uzņēmumā Unity viņš tagad palīdz tādām laboratorijām kā DeepMind un OpenAI izveidot virtuālās apmācības vides, kas iemāca viņu algoritmiem izprast pasauli.

Pasākuma laikā katrs lektors sniedza īsu prezentāciju un pēc tam sēdās paneļdiskusijā. Viņu paustās domstarpības atspoguļo daudzas sadursmes šajā jomā, uzsverot, cik spēcīgi tehnoloģiju ir veidojusi neatlaidīga ideju cīņa un cik maz ir pārliecības par to, kurp tā virzīsies tālāk.

Zemāk viņu paneļdiskusija ir saīsināta un skaidrības labad viegli rediģēta.

Gerij, jūs izmantojat savas zināšanas neirozinātnē un psiholoģijā, lai noskaidrotu, kas pašlaik trūkst AI. Kas tas ir par klasisko AI, kas, jūsuprāt, padara to par pareizo sistēmu, ko apvienot ar padziļinātu mācīšanos?

Gerijs Markuss: Pirmā lieta, ko es teikšu, mums var būt nepieciešami hibrīdi, kas ir sarežģītāki nekā tikai dziļa mācīšanās un klasiskā AI. Mums vajag plkst vismazāk ka. Bet var būt vesela virkne lietu, par kurām mēs vēl neesam pat sapņojuši. Mums ir jābūt atvērtiem.

Kāpēc maisījumam pievienot klasisko AI? Mēs darām visu veidu argumentāciju, pamatojoties uz mūsu zināšanām pasaulē. Padziļināta mācīšanās to vienkārši neatspoguļo. Šajās sistēmās nav iespējams attēlot, kas ir bumba vai pudele un ko šīs lietas dara viena ar otru. Tātad rezultāti izskatās lieliski, taču parasti tie nav ļoti vispārināmi.

Klasiskais AI — tā ir tā stūres māja. Tas, piemēram, var parsēt teikumu tā semantiskajā attēlojumā vai iegūt zināšanas par to, kas notiek pasaulē, un pēc tam izdarīt par to secinājumus. Tam ir savas problēmas: parasti tam nav pietiekami daudz pārklājuma, jo pārāk daudz no tā ir rakstīts ar roku utt. Bet vismaz principā tas ir vienīgais veids, kā mēs zinām, kā izveidot sistēmas, kas var veikt tādas lietas kā loģisks secinājums un induktīvs secinājums, salīdzinot ar abstraktām zināšanām. Tas joprojām nenozīmē, ka tas ir pilnīgi pareizi, taču tas ir neapšaubāmi labākais, kas mums ir.

Un tad ir daudz psiholoģisku pierādījumu, ka cilvēki var veikt zināmu simbolisku attēlojumu. Savā iepriekšējā dzīvē kā kognitīvās attīstības cilvēks es veicu eksperimentus ar septiņus mēnešus veciem zīdaiņiem un parādīju, ka šie zīdaiņi var vispārināt simboliskās zināšanas. Tātad, ja septiņus mēnešus vecs zīdainis to spēj, tad kāpēc mēs turam rokas aiz muguras, mēģinot izveidot mākslīgo intelektu bez mehānismiem, kādi ir zīdaiņiem?

Vai esat redzējuši projektus, kuros viņi ir veiksmīgi apvienojuši dziļo mācīšanos un simbolisko AI daudzsološā veidā?

GM: Rakstā, kuru es uzrakstīju sauc Nākamā desmitgade AI , es uzskaitīju apmēram 20 dažādus nesenus projektus, kas mēģina izveidot hibrīdu modeļus, kuriem ir dziļa mācīšanās un dažas simboliskas zināšanas. Viens piemērs, ko visi zina, ir Google meklēšana. Kad ierakstāt meklēšanas vaicājumu, tur ir kāds klasisks AI, kas mēģina atšķirt vārdus. Izmantojot Google zināšanu grafiku, tas mēģina noskaidrot, vai runājat par Parīzi, vai jūs runājat par Parisu Hiltoni Parīzē, Teksasā vai Parīzē, Francijā. Un pēc tam tā izmanto dziļu mācīšanos, lai veiktu citas darbības, piemēram, lai atrastu sinonīmus, izmantojot BERT modelis . Protams, Google meklēšana nav AI, ko mēs galu galā ceram sasniegt, taču tas ir diezgan pārliecinošs pierādījums tam, ka tas nav neiespējams sapnis.

Denij, vai jūs piekrītat, ka mums vajadzētu aplūkot šos hibrīda modeļus?

Denijs Lange: Nē, es nepiekrītu. Problēma ar simbolisko AI ir tā mēģinājums atdarināt cilvēka smadzenes ļoti dziļā nozīmē. Tas man nedaudz atgādina, ziniet, 18. gadsimtā, ja jūs gribējāt ātrāku transportu, jūs strādājat pie mehāniska zirga uzbūves, nevis izgudrojat iekšdedzes dzinēju. Tāpēc es esmu ļoti skeptisks par mēģinājumu atrisināt AI, mēģinot atdarināt cilvēka smadzenes.

Padziļināta mācīšanās ne vienmēr ir vērtīga, taču, ja jūs tai ievadāt pietiekami daudz datu un jums ir pareiza neironu tīkla arhitektūra, tā spēj apgūt abstrakcijas, kuras mēs kā cilvēki nevaram interpretēt, taču tas padara sistēmu ļoti efektīvu plaša diapazona risināšanā. uzdevumiem.

Izklausās, ka būtībā jums abiem ir domstarpības par to, kāds ir AI mērķis.

GM: Es domāju, ka tur ir ironija. Kad man decembrī bija debates ar Jošua Bendžo, Bengio teica, ka vienīgā dziļās mācīšanās apņemšanās ir tā, lai tā būtu neiroloģiski balstīta. Tāpēc no dziļas mācīšanās esmu dzirdējis abas pretējās galējības. Tas ir mazliet dīvaini, un es nedomāju, ka mums vajadzētu uztvert šos argumentus nopietni.

Tā vietā mums vajadzētu teikt: vai simboli var mums palīdzēt? Un atbilde pārsvarā ir jā. Gandrīz visa pasaules programmatūra ir balstīta uz simboliem. Un tad jums jāsaka: empīriski, vai padziļinātās mācīšanās lietas dara to, ko mēs vēlamies? Un līdz šim problēma ir tā, ka tas ir bijis bez modeļa. Vicariousam [ar AI darbināmam industriālās robotikas uzņēmumam] bija a lieliska demonstrācija no Atari spēļu mācību sistēmas, ko DeepMind padarīja ļoti populāru, kur tas iemācījās spēlēt Breakout pārcilvēciskā līmenī. Bet tad Vicarious pakustināja lāpstiņu dažus pikseļus un viss izjuka, jo mācību līmenis bija pārāk zems. Tam nebija lāpstiņas, bumbas, ķieģeļu komplekta koncepcijas. Simbolisks Breakout algoritms ļoti viegli varētu kompensēt šīs lietas.

Iemesls aplūkot cilvēkus ir tāpēc, ka ir dažas lietas, ko cilvēki dara daudz labāk nekā dziļās mācīšanās sistēmas. Tas nenozīmē, ka cilvēki galu galā būs īstais modelis. Mēs vēlamies sistēmas, kurām ir dažas datoru īpašības un dažas īpašības, kas ir aizgūtas no cilvēkiem. Mēs nevēlamies, lai mūsu AI sistēmām būtu slikta atmiņa tikai tāpēc, ka cilvēki to dara. Bet, tā kā cilvēki ir vienīgais sistēmas modelis, kas var attīstīt dziļu izpratni par kaut ko — burtiski vienīgais modelis, kas mums ir pieejams, mums šis modelis ir jāuztver nopietni.

DL: Jā, tātad piemērs, ka pasaules programmēšanas valodas balstās uz simboliem — tā ir patiesība, jo tās ir paredzētas cilvēkiem, lai īstenotu savas idejas un domas.

Dziļā mācīšanās nav cilvēka smadzeņu replikācija. Varbūt jūs varat teikt, ka tas ir iedvesmots no neironu pasaules, bet tas ir programmatūras gabals. Mēs vēl neesam tikuši pie dziļas mācīšanās. Līdz šim mums ir bijis ierobežots apmācības datu apjoms. Mums ir bijušas ierobežotas struktūras ar ierobežotu skaitļošanas jaudu. Bet galvenais ir tas, ka dziļā mācīšanās apgūst jēdzienu, tā apgūst funkcijas. Tā nav cilvēka radīta lieta. Es domāju, ka lielā atšķirība starp Gerija pieeju un manu pieeju ir tāda, vai inženieri sniedz inteliģenci sistēmai vai sistēma pati apgūst inteliģenci.

Denij, jūs minējāt, ka mēs neesam pilnībā redzējuši padziļinātas mācīšanās potenciālu datu un aprēķinu ierobežojumu dēļ. Vai mums nevajadzētu izstrādāt jaunas metodes, ņemot vērā, ka dziļa mācīšanās ir tik neefektīva? Mums bija krasi jāpalielina aprēķins, lai atvērtu jaunas padziļinātas mācīšanās spējas.

DL: Viena no padziļinātās mācīšanās problēmām ir tā, ka tā līdz šim ir bijusi balstīta uz sava veida klasisku pieeju: jūs ģenerējat lielu apmācību datu kopu un pēc tam ievadāt to. Viena lieta, kas patiešām varētu uzlabot dziļo mācīšanos, ir aktīva apmācība. mācību process, kurā tīkls tiek apmācīts, lai optimizētu apmācības datus. Lai uzlabotu mācību procesu, jums nav tikai jāievada prātam satriecošs datu apjoms. Jūs varat pastāvīgi pielāgot savus treniņu datus, lai tie būtu mērķēti uz noteiktu apgabalu.

Gerij, jūs norādāt dziļās mācīšanās ievainojamību aizspriedums un uz pretinieku uzbrukumi . Denij, jūs minējāt, ka sintētiskie dati ir risinājums šim jautājumam, jo ​​nav neobjektivitātes, un jūs varat palaist miljoniem simulāciju, kas, iespējams, atbrīvos no pretinieku ievainojamības. Kādas ir jūsu atbildes uz to?

GM: Dati vien vēl nav risinājums. Sintētiskie dati nepalīdzēs tādām lietām kā aizspriedumi vai aizspriedumi darba intervijās. Patiesā problēma ir tā, ka šīm sistēmām ir tendence saglabāt aizspriedumus, kas pastāvēja vēsturisku iemeslu dēļ. Nav acīmredzams, ka sintētiskie dati ir risinājums, nevis tādu sistēmu izveide, kas ir pietiekami sarežģītas, lai saprastu kultūras aizspriedumus, ko mēs cenšamies aizstāt.

Sacensību uzbrukumi ir cita veida lieta. Dati varētu palīdzēt ar dažiem no tiem, taču līdz šim mēs neesam īsti novērsuši daudzos dažādu veidu pretrunīgos uzbrukumus. Es jums parādīju beisbolu ar putām, kas aprakstītas kā espresso. Ja kāds jau iepriekš domā izgatavot beisbola bumbiņas ar espresso simulācijā un rūpīgi marķēt, labi. Vienmēr būs gadījumi, par kuriem neviens nav iedomājies. Sistēma, kas ir pilnībā balstīta uz datiem, arī turpmāk būs neaizsargāta.

DL: Reālās pasaules dati ir ļoti neobjektīvi neatkarīgi no tā, ko jūs darāt. Jūs vācat datus noteiktā vidē, piemēram, par pašbraucošiem transportlīdzekļiem, un uz ielām ir pārstāvēti varbūt 90% pieaugušo un 10% bērnu. Tas ir normālais sadalījums. Taču mašīnmācības sistēmai ir jāapmāca vienāds skaits pieaugušo un bērnu, lai droši izvairītos no trieciena kādam no viņiem. Tātad ar sintētiskiem datiem jūs principā varat līdzsvarot un izvairīties no neobjektivitātes, ja esat uzmanīgs. Tas nenozīmē, ka nevarat radīt jaunus aizspriedumus. No tā jums ir jāuzmanās. Jūs noteikti atrisināsit privātuma problēmas, jo jūsu treniņu datos nav īstu cilvēku vai īstu bērnu.

Kas attiecas uz pretrunīgiem piemēriem, daudzu no tiem problēma ir tā, ka tie pamatā tiek izstrādāti pret vājiem datorredzes modeļiem — modeļiem, kas ir apmācīti 10 vai 20 miljoniem attēlu, piemēram, no ImageNet. Tas nebūt nav pietiekami daudz datu, lai faktiski vispārinātu modeli. Mums ir nepieciešams liels datu kopu apjoms ar neticami lielu domēna nejaušības pielāgošanu, lai vispārinātu šos datorredzes modeļus, lai tie netiktu apmānīti.

Kas ir tas, par ko jūs visvairāk sajūsmina AI nākotne?

GM: Pagājušajā gadā ir notikusi reāla kustība uz hibrīdmodeļiem. Cilvēki pēta jaunas lietas, ko viņi iepriekš nav darījuši, un tas ir aizraujoši.

DL: Es domāju, ka tās patiešām ir vairāku modeļu sistēmas — sistēmas, kas ir veidotas no daudziem dažādiem uztveres un uzvedības modeļiem kopā, lai atrisinātu reālus sarežģītus uzdevumus.

paslēpties