Datu ieguve atklāj cilvēka domāšanas pamatmodeli

Tālajā 1935. gadā amerikāņu valodnieks Džordžs Zipfs veica ievērojamu atklājumu. Zipfam interesēja attiecības starp izplatītiem vārdiem un retāk sastopamiem vārdiem. Tāpēc viņš saskaitīja, cik bieži vārdi sastopami parastajā valodā, un pēc tam sakārtoja tos pēc to biežuma.

Tas atklāja ievērojamu likumsakarību. Zipf atklāja, ka vārda biežums ir apgriezti proporcionāls tā vietai reitingā. Tātad vārds, kas reitingā ir otrais, parādās uz pusi biežāk nekā visizplatītākais vārds. Trešajā vietā esošais vārds parādās vienu trešdaļu biežāk un tā tālāk.

Angļu valodā vispopulārākais vārds ir , kas veido apmēram 7 procentus no visiem vārdiem, kam seko un , kas notiek 3,5 procentus laika utt. Patiešām, aptuveni 135 vārdi veido pusi no visiem vārdiem. Tāpēc daži vārdi parādās bieži, bet lielākā daļa gandrīz nekad parādās.

Bet kāpēc? Viena intriģējoša iespēja ir tāda, ka smadzenes apstrādā parastos vārdus atšķirīgi un ka, pētot Zipf izplatību, vajadzētu atklāt svarīgus ieskatus šajā smadzeņu procesā.

Tomēr ir problēma. Valodnieki ne visi piekrīt, ka vārdu biežuma statistiskais sadalījums ir kognitīvo procesu rezultāts. Tā vietā daži saka, ka sadalījums ir statistisko kļūdu rezultāts, kas saistītas ar zemas frekvences vārdiem, kas var radīt līdzīgu sadalījumu.

Protams, ir nepieciešams plašāks pētījums par dažādām valodām. Šāds liela mēroga pētījums būtu statistiski jaudīgāks un tādējādi varētu izjaukt šīs iespējas.

Šodien mēs iegūstam tieši šādu pētījumu, pateicoties Shuiyuan Yu un kolēģu darbam Ķīnas Komunikācijas universitātē Pekinā. Šie puiši ir atraduši Zipfa likumu 50 valodās, kas iegūtas no dažādām valodu klasēm, tostarp indoeiropiešu, urāļu, altiešu, kaukāziešu, ķīniešu-tibetiešu, dravīdu, afroaziātu un tā tālāk.

Yu un co saka, ka vārdu biežumam šajās valodās ir kopīga struktūra, kas atšķiras no tās, ko radītu statistikas kļūdas. Turklāt viņi saka, ka šī struktūra liek domāt, ka smadzenes apstrādā parastos vārdus atšķirīgi no neparastiem, un šī ideja būtiski ietekmē dabiskās valodas apstrādi un automātisku teksta ģenerēšanu.

Yu un co metode ir vienkārša. Tie sākas ar divām lielām teksta kolekcijām, ko sauc par Britu nacionālo korpusu un Leipcigas korpusu. Tie ietver paraugus no 50 dažādām valodām, katrs paraugs satur vismaz 30 000 teikumu un līdz 43 miljoniem vārdu.

Pētnieki atklāja, ka vārdu biežums visās valodās atbilst modificētajam Zipf likumam, kurā sadalījumu var iedalīt trīs segmentos. Statistikas rezultāti liecina, ka Zipf likumiem 50 valodās ir trīs segmentu struktūras modelis, un katrs segments demonstrē atšķirīgas valodas īpašības, viņi saka Yu.

Šī struktūra ir interesanta. Yu un co ir mēģinājuši to simulēt, izmantojot vairākus modeļus vārdu radīšanai. Viens no modeļiem ir modelis pērtiķis rakstāmmašīnā, kas ģenerē nejaušus burtus, kas veido vārdus ikreiz, kad parādās atstarpe.

Šis process ģenerē varas likuma sadalījumu, piemēram, Zipf likumu. Tomēr tas nevar ģenerēt trīs segmentu struktūru, ko ir atraduši Yu un co. Šo struktūru nevar ģenerēt arī kļūdas, kas saistītas ar zemas frekvences vārdiem.

Tomēr Yu un co spēj reproducēt šo struktūru, izmantojot smadzeņu darbības modeli, ko sauc par divu procesu teoriju. Šī ir ideja, ka smadzenes darbojas divos dažādos veidos.

Pirmā ir ātra intuitīvā domāšana, kas prasa maz vai nemaz. Tiek uzskatīts, ka šāda veida domāšana ir attīstījusies, lai ļautu cilvēkiem ātri reaģēt bīstamās situācijās. Tas parasti nodrošina labus risinājumus sarežģītām problēmām, piemēram, modeļa atpazīšanai, taču to var viegli piemānīt neintuitīvās situācijās.

Tomēr cilvēki ir spējīgi daudz racionālāk domāt. Šis otrais domāšanas veids ir lēnāks, aprēķinošāks un apzināts. Tieši šāda domāšana ļauj mums atrisināt sarežģītas problēmas, piemēram, matemātiskas mīklas un tā tālāk.

Divu procesu teorija liecina, ka parastie vārdi patīk un, ja un tā tālāk tiek apstrādāti ar ātru, intuitīvu domāšanu un tāpēc tiek izmantoti biežāk. Šie vārdi veido sava veida teikumu mugurkaulu.

Tomēr mazāk izplatīti vārdi un frāzes, piemēram, hipotēze un Zipfa likums prasa daudz rūpīgāku pārdomāšanu. Un tāpēc tie rodas retāk.

Patiešām, kad Yu un co simulē šo duālo procesu, tas noved pie tās pašas trīs segmentu struktūras vārdu biežuma sadalījumā, ko viņi mēra 50 dažādās valodās.

Pirmais segments atspoguļo izplatīto vārdu izplatību, pēdējais segments atspoguļo neparasto vārdu izplatību, bet vidējais segments ir šo divu režīmu krustošanās rezultāts. Šie rezultāti liecina, ka Zipf likumu valodās motivē kognitīvi mehānismi, piemēram, dubultā apstrāde, kas regulē cilvēka verbālo uzvedību, saka Yu un citi.

Tas ir interesants darbs. Ideja, ka cilvēka smadzenes apstrādā informāciju divos dažādos veidos, pēdējos gados ir ieguvusi ievērojamu impulsu, ne tikai grāmatas dēļ. Domāšana, ātra un lēna Nobela prēmijas laureāts psihologs Daniels Kānemans, kurš ir detalizēti pētījis šo ideju.

Labi zināma problēma, ko izmanto ātras un lēnas domāšanas izraisīšanai, ir šāda:

Nūja un bumba kopā maksāja 1,10 USD. Nūja maksā par 1,00 USD vairāk nekā bumba. Cik maksā bumba?

Atbilde, protams, ir 5 centi. Bet gandrīz katram ir sākotnējā tieksme domāt par 10 centiem. Tas ir tāpēc, ka 10 centi šķiet pareizi. Tā ir pareizā lieluma secība, un to nosaka problēmas ietvars. Šī atbilde nāk no jūsu smadzeņu ātrās, intuitīvās puses.

Bet tas ir nepareizi. Pareizai atbildei ir nepieciešama lēnāka, aprēķinošāka jūsu smadzeņu daļa.

Yu un co saka, ka teikumu ģenerēšanā ir iesaistīti tie paši divi procesi. The ātri domājoša daļa no jūsu smadzenes rada uz pamatstruktūra no teikums ( uz vārdus šeit atzīmēts iekšā treknrakstā). The citi vārdi prasa uz lēnāk, vairāk aprēķina daļa jūsu smadzenes.

Šis ir duālais process, kas noved pie trīs segmentu Zipfa likuma.

Tam vajadzētu radīt interesantas sekas datorzinātniekiem, kas strādā pie dabiskās valodas apstrādes. Šī joma pēdējos gados ir guvusi labumu no milzīgiem sasniegumiem. Tie ir iegūti no mašīnmācības algoritmiem, kā arī no lielām teksta datu bāzēm, ko apkopojuši tādi uzņēmumi kā Google.

Taču ģenerēt dabisko valodu joprojām ir grūti. Jums nav ilgi jātērzē ar Siri, Cortana vai Google palīgu, lai pārvarētu viņu sarunu ierobežojumus.

Tāpēc labāka izpratne par to, kā cilvēki ģenerē teikumus, varētu ievērojami palīdzēt. Zipfs noteikti būtu aizrāvies.

Atsauce: arxiv.org/abs/1807.01855 : Zipfa likums 50 valodās: tā strukturālais modelis, lingvistiskā interpretācija un kognitīvā motivācija

paslēpties