211service.com
Vai mašīnas mūs iznīcinās?
Cilvēki, kuri uztraucas, ka mēs gatavojamies izgudrot bīstami inteliģentas iekārtas, nepareizi saprot datorzinātņu stāvokli. 2016. gada 29. janvāris
Yoshua Bengio vada vienu no pasaules izcilākajām pētniecības grupām, kas izstrādā jaudīgu AI tehniku, kas pazīstama kā dziļa mācīšanās. Pārsteidzošās iespējas, ko datoriem pēdējos gados ir sniegusi dziļa mācīšanās, sākot no cilvēka līmeņa balss atpazīšanas un attēlu klasifikācijas līdz pamata sarunvalodas prasmēm, ir pamudinājušas brīdinājumus par progresu, ko AI panāk cilvēka intelekta saskaņošanas vai, iespējams, pārspējas virzienā. Tādas ievērojamas personas kā Stīvens Hokings un Elons Masks pat brīdinājušas, ka mākslīgais intelekts var radīt eksistenciālus draudus cilvēcei. Musks un citi iegulda miljoniem dolāru AI iespējamo apdraudējumu, kā arī iespējamo risinājumu izpētē. Taču drausmīgākie paziņojumi izklausās pārspīlēti daudziem cilvēkiem, kuri faktiski izstrādā tehnoloģiju. Bengio, Monreālas universitātes datorzinātņu profesors, intervijā ar MIT tehnoloģiju apskats AI un robotikas vecākais redaktors Vils Naits.
Vai mums vajadzētu uztraukties par to, cik ātri mākslīgais intelekts attīstās?
Šis stāsts bija daļa no mūsu 2016. gada marta numura
- Skatiet pārējo izdevuma daļu
- Abonēt
Ir cilvēki, kuri rupji pārvērtē sasniegto progresu. Aiz daudzām šīm lietām slēpjas daudzu, daudzu gadu neliels progress, tostarp tādas ikdienišķas lietas kā vairāk datu un datora jaudas. Ažiotāža nav saistīta ar to, vai lietas, ko mēs darām, ir noderīgas vai nē, tā ir. Bet cilvēki par zemu novērtē, cik daudz zinātnes ir jādara. Un ir grūti nošķirt ažiotāžu no realitātes, jo mēs redzam šīs lieliskās lietas un arī ar neapbruņotu aci tās izskatās maģiskas.
Vai pastāv risks, ka mākslīgā intelekta pētnieki var nejauši atbrīvot dēmonu, kā to teicis Musks?
Nav tā, ka kāds pēkšņi atrada kādu maģisku recepti. Lietas ir daudz sarežģītākas nekā vienkāršais stāsts, ko daži cilvēki vēlētos pastāstīt. Žurnālisti dažreiz vēlētos pastāstīt stāstu, ka kādam viņu garāžā radīsies šī apbrīnojamā ideja, un tad mums ir izrāviens un AI. Tāpat uzņēmumi vēlas pastāstīt jauku stāstu, ka Ak, mums ir šī revolucionārā tehnoloģija, kas mainīs pasauli — AI ir gandrīz klāt, un mēs esam uzņēmums, kas to piegādās. Tas nepavisam nedarbojas.
Mums pietrūkst kaut kā liela. Mēs esam guvuši diezgan ātru progresu, taču tas joprojām nav tādā līmenī, kurā mēs teiktu, ka mašīna saprot. Mēs vēl esam tālu no tā.
Kā ir ar ideju, kas ir galvenā šajās bažās, ka AI varētu kaut kā sākt sevi uzlabot un pēc tam kļūt grūti kontrolējams?
Mūsdienās mākslīgais intelekts netiek veidots tā. Mašīnmācība nozīmē, ka jums ir rūpīgs, lēns informācijas iegūšanas process, izmantojot miljoniem piemēru. Jā, mašīna pati sevi uzlabo, bet ļoti, ļoti lēni un ļoti specializētos veidos. Un algoritmi, ar kuriem mēs spēlējam, nepavisam nav kā mazi vīrusi, kas paši programmējas. Tas nav tas, ko mēs darām.
Kādas ir dažas no lielākajām neatrisinātajām AI problēmām?
Mācīšanās bez uzraudzības ir patiešām svarīga. Šobrīd veids, kā mēs mācām mašīnām būt viedām, ir tāds, ka mums ir jāpasaka datoram, kas ir attēls, pat pikseļu līmenī. Autonomai braukšanai cilvēki marķē lielu skaitu automašīnu attēlu, lai parādītu, kuras daļas ir gājēji vai ceļi. Tas nepavisam nav tas, kā cilvēki mācās, un tas nav tas, kā mācās dzīvnieki. Mums pietrūkst kaut kā liela. Šī ir viena no galvenajām lietām, ko darām manā laboratorijā, taču nav īstermiņa lietojumu — iespējams, nebūs lietderīgi rīt izveidot produktu.
Vēl viens liels izaicinājums ir dabiskā valodas izpratne. Pēdējos gados mēs esam guvuši diezgan ātru progresu, tāpēc tas ir ļoti iepriecinoši. Bet tas joprojām nav tajā līmenī, kurā mēs teiktu, ka mašīna saprot. Tas būtu tad, kad mēs varētu izlasīt rindkopu un pēc tam uzdot jebkuru jautājumu par to, un mašīna būtībā atbildētu saprātīgā veidā, kā to darītu cilvēks. Mēs vēl esam tālu no tā.
Kādas pieejas būs vajadzīgas, ne tikai padziļināti, lai izveidotu patiesu mašīninteliģenci?
Tradicionālie centieni, tostarp argumentācija un loģika, mums ir jāapvieno šīs lietas ar dziļu mācīšanos, lai virzītos uz AI. Esmu viens no retajiem cilvēkiem, kas domā, ka cilvēkiem, kas mācās mašīnmācībā, un jo īpaši cilvēkiem, kuri mācās dziļi, vairāk uzmanības būtu jāpievērš neirozinātnei. Smadzenes strādā, un mēs joprojām nezinām, kāpēc daudzos veidos. Šīs izpratnes uzlabošanai ir liels potenciāls palīdzēt AI izpētē.
Un es domāju, ka neirozinātnes cilvēki daudz iegūtu, sekojot līdzi tam, ko mēs darām, un cenšoties saskaņot to, ko viņi novēro smadzenēs, ar tādiem jēdzieniem, kādus mēs izstrādājam mašīnmācībā.
Vai kādreiz domājāt, ka jums būs jāpaskaidro cilvēkiem, ka AI negrasās pārņemt pasauli? Tam jābūt dīvainam.
Tas noteikti ir jauns jautājums. Tik daudzus gadus mākslīgais intelekts ir bijis vilšanās. Kā pētnieki mēs cīnāmies, lai padarītu mašīnu nedaudz inteliģentāku, taču viņi joprojām ir tik stulbi. Es kādreiz domāju, ka šo lauku nevajadzētu saukt par mākslīgo intelektu, bet gan par mākslīgo stulbumu. Patiešām, mūsu mašīnas ir stulbas, un mēs tikai cenšamies tās padarīt mazāk mēmas.
Tagad, pateicoties šiem sasniegumiem, ko cilvēki var redzēt, izmantojot demonstrācijas, tagad mēs varam teikt: Ak, Dievs, tas patiesībā var pateikt lietas angļu valodā, var saprast attēla saturu. Nu, tagad mēs šīs lietas savienojam ar visu redzēto zinātnisko fantastiku, un tas ir kā: Ak, es baidos!
Labi, bet noteikti joprojām ir svarīgi padomāt par AI iespējamām sekām.
Pilnīgi noteikti. Mums vajadzētu runāt par šīm lietām. Pārskatāmā nākotnē mani vairāk uztrauc, nevis datori, kas pārņems pasauli. Mani vairāk uztrauc AI ļaunprātīga izmantošana. Tādas lietas kā slikta militārā izmantošana, manipulēšana ar cilvēkiem, izmantojot patiešām gudru reklāmu; arī sociālā ietekme, piemēram, daudzi cilvēki zaudē darbu. Sabiedrībai ir jāapvienojas un jānāk klajā ar kolektīvu atbildi, nevis jāatstāj džungļu likuma ziņā lietu kārtošana.