Deep Learning Machine pārspēj cilvēkus IQ testā

Pirms nedaudz vairāk kā 100 gadiem vācu psihologs Viljams Stērns ieviesa intelekta koeficienta testu kā veidu, kā novērtēt cilvēka intelektu. Kopš tā laika IQ testi ir kļuvuši par mūsdienu dzīves standarta iezīmi un tiek izmantoti, lai noteiktu bērnu piemērotību skolai un pieaugušo spēju veikt darbu.

Šie testi parasti satur trīs jautājumu kategorijas: loģikas jautājumus, piemēram, attēlu secību modeļus, matemātiskos jautājumus, piemēram, modeļu atrašanu skaitļu secībās un verbālās argumentācijas jautājumus, kuru pamatā ir analoģijas, klasifikācijas, kā arī sinonīmi un antonīmi.

Tieši šī pēdējā kategorija ir ieinteresējusi Huazhenu Vanu un viņa draugus Ķīnas Zinātnes un tehnoloģijas universitātē un Bin Gao un draugus Microsoft Research Pekinā. Datori nekad nav bijuši labi šajā jomā. Uzdodiet verbālu spriešanas jautājumu dabiskās valodas apstrādes iekārtai, un tās veiktspēja būs slikta, daudz sliktāka par vidējām cilvēka spējām.

Mūsdienās tas mainās, pateicoties Huazheng un draugiem, kuri ir izveidojuši dziļas mācīšanās mašīnu, kas pirmo reizi pārspēj vidējo cilvēka spēju atbildēt uz verbāliem argumentācijas jautājumiem.

Pēdējos gados datorzinātnieki ir izmantojuši datu ieguves metodes, lai analizētu milzīgus tekstu korpusus, lai atrastu saites starp tajos ietvertajiem vārdiem. Tas jo īpaši ļauj viņiem uzzināt vārdu modeļu statistiku, piemēram, cik bieži konkrēts vārds parādās citu vārdu tuvumā. No tā ir iespējams noskaidrot, kā vārdi ir saistīti viens ar otru, kaut arī milzīgā parametru telpā.

Gala rezultāts ir tāds, ka vārdus var uzskatīt par vektoriem šajā augstas dimensijas parametru telpā. priekšrocība ir tāda, ka pēc tam tos var apstrādāt matemātiski: salīdzināt, pievienot, atņemt tāpat kā citus vektorus. Tas noved pie tādām vektoru attiecībām kā šī: karalis – vīrietis + sieviete = karaliene.

Šī pieeja ir bijusi ļoti veiksmīga. Google to izmanto automātiskai valodas tulkošanai, pieņemot, ka vārdu secībām dažādās valodās, kuras attēlo līdzīgi vektori, ir līdzvērtīga nozīme. Tātad tie ir viens otra tulkojumi.

Taču šai pieejai ir labi zināms trūkums: tā pieņem, ka katram vārdam ir viena nozīme, ko attēlo viens vektors. Ne tikai tas, ka bieži tas tā nav, verbālās pārbaudes parasti koncentrējas uz vārdiem, kuriem ir vairāk nekā viena nozīme, lai padarītu jautājumus grūtākus.

Huazheng un draugi to risina, ņemot katru vārdu un meklējot citus vārdus, kas bieži parādās blakus lielā teksta korpusā. Pēc tam viņi izmanto algoritmu, lai redzētu, kā šie vārdi tiek grupēti. Pēdējais solis ir meklēt vārdnīcā dažādas vārda nozīmes un pēc tam saskaņot kopas katrai nozīmei.

To var izdarīt automātiski, jo vārdnīcas definīcijā ir iekļauti teikumu paraugi, kuros vārds tiek lietots dažādos veidos. Tātad, aprēķinot šo teikumu vektora attēlojumu un salīdzinot tos ar vektoru attēlojumu katrā klasterī, ir iespējams tos saskaņot.

Kopējais rezultāts ir veids, kā atpazīt vairākas dažādas maņas, kas var būt dažiem vārdiem.

Huazheng un draugiem ir vēl viens triks, lai dators varētu vieglāk atbildēt uz verbāliem argumentiem. Tas notiek tāpēc, ka šie jautājumi iedalās vairākās kategorijās, kuru risināšanai nepieciešamas nedaudz atšķirīgas pieejas.

Tāpēc viņu ideja ir sākt ar katra jautājuma kategoriju identificēšanu, lai dators pēc tam zinātu, kura atbildes stratēģija tam jāizmanto. Tas ir vienkārši, jo jautājumiem katrā kategorijā ir līdzīga struktūra.

Tātad jautājumi, kas ietver analoģijas, ir šādi:

Izoterma atbilst temperatūrai kā izobarai? (i) atmosfēra, (ii) vējš, (iii) spiediens, (iv) platums, (v) straume.

un

Identificējiet divus vārdus (vienu no katras iekavu kopas), kas veido savienojumu (analoģiju), ja tos savieno pārī ar vārdiem, kas rakstīti ar lielajiem burtiem: NODAĻA (grāmata, pants, lasīt), DARBĪBA (skatījums, skatītāji, luga).

Vārdu klasifikācijas jautājumi ir šādi:

Kura ir nepāra? (i) mierīgs, (ii) kluss, (iii) relaksēts, (iv) rāms, (v) nesatricināms.

Un jautājumi, kas meklē sinonīmus un antonīmus, ir šādi:

Kurš vārds ir vistuvāk vārdam IRRATIONAL? (i) nepārejošs, (ii) neatgriezenisks, (iii) nedrošs, (iv) pazaudēts, (v) bezjēdzīgs.

Un

Kurš vārds ir visvairāk pretējs vārdam MŪZIKA? (i) nesaskaņots, (ii) skaļš, (iii) lirisks, (iv) verbāls, (v) eifonisks.

Katra veida jautājumu noteikšana ir samērā vienkārša mašīnmācīšanās algoritmam, jo ​​ir pietiekami daudz piemēru, no kuriem mācīties. Un tieši tā to dara Huazheng un co.

Pēc jautājuma veida noteikšanas Huazheng un draugi izstrādā algoritmu katra risināšanai, izmantojot standarta vektoru metodes, kā arī viņu izstrādāto vairāku maņu jauninājumu.

Viņi salīdzina šo dziļās mācīšanās paņēmienu ar citām algoritmiskām pieejām verbālās spriešanas testos, kā arī ar cilvēku spēju to izdarīt. Lai to izdarītu, viņi uzdeva jautājumus 200 cilvēkiem, kas tika savākti, izmantojot Amazon Mechanical Turk pūļa pakalpojumu iestādi, kā arī pamatinformāciju par viņu vecumu un izglītību.

Un rezultāti ir iespaidīgi. Mums par pārsteigumu, viņi saka, ka cilvēku vidējais sniegums ir nedaudz zemāks nekā mūsu piedāvātajai metodei.

Cilvēka sniegums šajos testos parasti korelē ar izglītību. Tātad cilvēkiem ar vidusskolas izglītību parasti klājas vismazāk, savukārt tiem, kuriem ir bakalaura grāds, veicas labāk, bet tiem, kuriem ir doktora grāds, vislabāk veicas. Mūsu modelis var sasniegt intelekta līmeni starp cilvēkiem ar bakalaura grādu un tiem, kuriem ir maģistra grāds, saka Huazheng un citi.

Tas ir aizraujošs darbs, kas atklāj dziļas mācīšanās metožu potenciālu. Huazheng un co ir nepārprotami optimistiski par turpmāko attīstību. Pareizi izmantojot dziļās mācīšanās tehnoloģijas, mēs varētu būt vēl viens solis tuvāk patiesajam cilvēka intelektam.

Padziļinātas mācīšanās metodes pašlaik plūst cauri datorzinātnēm, un to radītā revolūcija joprojām ir agrīnā stadijā. Nav iespējams pateikt, kur šī revolūcija mūs aizvedīs, taču viens ir skaidrs: Viljams Stērns būtu pārsteigts.

Atsauce: arxiv.org/abs/1505.07909 : verbālās izpratnes jautājumu risināšana IQ testā, izmantojot uz zināšanām balstītu vārdu iegulšanu

paslēpties