Viens no AI tēviem ir noraizējies par tā nākotni

Yoshua Bengio fotoattēls Politehniskā skola | Flickr

Yoshua Bengio ir modernā mākslīgā intelekta lielmeistars.

Līdzās Džefs Hintons un Jans Lekuns , Bengio ir slavens ar to, ka atbalsta paņēmienu, kas pazīstams kā dziļa mācīšanās, kas pēdējos gados no akadēmiskās zinātkāres ir kļuvusi par vienu no visspēcīgākajām tehnoloģijām uz planētas.

Padziļināta mācīšanās ietver datu padevi lieliem neironu tīkliem, kas rupji simulē cilvēka smadzenes, un tā ir izrādījusies neticami spēcīga un efektīva visu veidu praktiskos uzdevumos, sākot no balss atpazīšanas un attēlu klasifikācijas līdz pašbraucošu automašīnu kontrolei un biznesa lēmumu automatizēšanai.

Bengio ir pretojies jebkura liela tehnoloģiju uzņēmuma vilinājumam. Kamēr Hintons un Lekuns pievienojās attiecīgi Google un Facebook, viņš joprojām ir pilnas slodzes profesors Monreālas Universitātē. (Tomēr viņš 2016. gadā līdzdibināja Element AI, un tas ir izveidojis ļoti veiksmīgu biznesu, palīdzot lieliem uzņēmumiem izpētīt AI pētniecības komerciālos pielietojumus.)

Bengio nesen MIT pasākumā tikās ar MIT Technology Review vecāko AI redaktoru Vilu Naitu.

Ko jūs domājat par domu, ka starp dažādām valstīm notiek AI sacīkstes?

man tas nepatīk. Es nedomāju, ka tas ir pareizais veids, kā to darīt.

Mēs varētu kolektīvi piedalīties sacīkstēs, bet kā zinātnieks un kāds, kurš vēlas domāt par kopējo labumu, es domāju, ka mums ir labāk domāt par to, kā izveidot viedākas mašīnas un pārliecināties, ka AI tiek izmantots cilvēku labklājībai. pēc iespējas vairāk cilvēku.

Vai ir veidi, kā veicināt ciešāku sadarbību starp valstīm?

Mēs varētu atvieglot jaunattīstības valstu ierašanos šeit. Šobrīd tā ir liela problēma. Eiropā vai ASV vai Kanādā Āfrikas pētniekam ir ļoti grūti iegūt vīzu. Tā ir loterija, un ļoti bieži viņi izmantos jebkuru attaisnojumu, lai atteiktu piekļuvi. Tas ir pilnīgi negodīgi. Viņiem jau tagad ir grūti veikt pētījumus ar maziem resursiem, bet turklāt, ja viņi nevar piekļūt kopienai, es domāju, ka tas ir patiešām negodīgi. Lai to novērstu, 2020. gadā Āfrikā notiks ICLR konference [liela AI konference].

Iekļautībai ir jābūt vairāk nekā vārdam, ko mēs sakām, lai izskatītos labi. AI potenciāls jaunattīstības valstīs ir vēl lielāks. Viņiem ir jāuzlabo tehnoloģija vēl vairāk nekā mums, un viņiem ir dažādas vajadzības.

Vai jūs uztrauc tikai daži AI uzņēmumi Rietumos un, iespējams, Ķīnā, kas dominē AI jomā?

Jā, tas ir vēl viens iemesls, kāpēc mums ir vajadzīga lielāka demokrātija AI izpētē. Tas ir tāds, ka AI pētniecība pati par sevi novedīs pie varas, naudas un pētnieku koncentrācijas. Labākie studenti vēlas doties uz labākajiem uzņēmumiem. Viņiem ir daudz vairāk naudas, viņiem ir daudz vairāk datu. Un tas nav veselīgi. Pat demokrātiskā valstī ir bīstami, ja pārāk daudz varas ir koncentrētas dažās rokās.

Ir bijis daudz strīdu par AI izmantošanu militāriem nolūkiem. Kur jūs stāvat uz to?

Es ļoti stingri iestājos pret.

Pat nenāvējoši AI lietojumi?

Nu, es nevēlos to novērst. Es domāju, ka mums ir jāpadara amorāli robotu slepkavas. Mums ir jāmaina kultūra, un tas ietver arī likumu un līgumu izmaiņas. Tas var iet tālu.

Protams, jūs to nekad pilnībā nenovērsīsit, un cilvēki saka: kāda negodīga valsts šīs lietas attīstīs. Mana atbilde ir tāda, ka, pirmkārt, mēs vēlamies likt viņiem justies vainīgiem par tā izdarīšanu, un, otrkārt, nekas neliedz mums izveidot aizsardzības tehnoloģijas. Pastāv liela atšķirība starp aizsardzības ieročiem, kas nogalinās dronus, un uzbrukuma ieročiem, kas vērsti pret cilvēkiem. Abi var izmantot AI.

Vai AI ekspertiem nevajadzētu sadarboties ar militārpersonām, lai nodrošinātu, ka tas notiek?

Ja viņiem būtu pareizas morālās vērtības, tad labi. Bet es pilnībā neuzticos militārām organizācijām, jo ​​​​tās mēdz pienākumus izvirzīt augstāk par morāli. Es vēlos, lai būtu savādāk.

Kas jūs visvairāk sajūsmina saistībā ar jauno AI pētījumu?

Es domāju, ka mums ir jāapsver sarežģītie AI izaicinājumi un nav jāapmierinās ar īstermiņa, pakāpeniskiem sasniegumiem. Es nesaku, ka vēlos aizmirst dziļo mācīšanos. Gluži pretēji, es gribu uz to balstīties. Bet mums ir jāspēj to paplašināt, lai veiktu tādas lietas kā spriešana, cēloņsakarību apguve un pasaules izpēte, lai mācītos un iegūtu informāciju.

Ja mēs patiešām vēlamies tuvoties cilvēka līmeņa AI, tā ir cita bumbas spēle. Mums ir vajadzīgi ilgtermiņa ieguldījumi, un es domāju, ka akadēmiskās aprindas ir labākā vieta, kur nēsāt šo lāpu.

Jūs pieminējat cēloņsakarību, citiem vārdiem sakot, iztveriet ne tikai datu modeļus, bet arī kāpēc kaut kas notiek. Kāpēc tas ir svarīgi un kāpēc tas ir tik grūti?

Ja jums ir labs pasaules, ar kuru jums ir darīšana, cēloņsakarības modelis, jūs varat vispārināt pat nepazīstamās situācijās. Tas ir būtiski. Mēs, cilvēki, spējam projicēt sevi situācijās, kas ļoti atšķiras no mūsu ikdienas pieredzes. Mašīnas nav, jo tām nav šo cēloņsakarību modeļu.

Mēs varam tos izgatavot ar rokām, taču ar to nepietiek. Mums ir vajadzīgas mašīnas, kas var atklāt cēloņsakarības modeļus. Zināmā mērā tas nekad nebūs ideāls. Mums nav ideāla realitātes cēloņsakarības modeļa; tāpēc mēs pieļaujam daudz kļūdu. Bet mēs to darām daudz labāk nekā citi dzīvnieki.

Pašlaik mums nav īsti labu algoritmu šim nolūkam, bet es domāju, ka, ja pietiekami daudz cilvēku strādās pie tā un uzskatīs to par svarīgu, mēs veiksim progresu.

paslēpties