Vīrietis, kurš palīdzēja izgudrot virtuālos palīgus, domā, ka bez jaunas AI pieejas viņi ir lemti

Tehniķa kundze

Siri, Alexa, Google Home — tehnoloģija, kas parsē valodu, arvien biežāk nonāk ikdienas dzīvē.

Boriss Katzs , galvenais pētnieks MIT, nav tik pārsteigts. Pēdējo 40 gadu laikā Katz ir devis būtisku ieguldījumu mašīnu lingvistiskajās spējās. 80. gados viņš attīstījās SĀKT , sistēma, kas spēj atbildēt uz dabiski formulētiem vaicājumiem. START izmantotās idejas palīdzēja IBM Watson uzvarēt Apdraudējums! un lika pamatus mūsdienu pļāpājošajiem mākslīgajiem kalpiem.

Taču Kats tagad uztraucas, ka šī joma cieš no paļaušanās uz gadu desmitiem vecām idejām un ka šīs idejas nedos mums mašīnas ar īstu inteliģenci. Es tikos ar viņu, lai apspriestu pašreizējos mākslīgā intelekta asistentu ierobežojumus un uzklausītu viņa domas par to, kur būtu jāvirzās pētniecībai, ja viņi kādreiz kļūs gudrāki.

Kā jūs interesējaties par to, kā datori izmantot valodu?

Pirmo reizi ar datoriem saskāros 60. gados, būdams Maskavas universitātes bakalaura students. Konkrētā mašīna, ko izmantoju, bija lieldators ar nosaukumu BESM-4. Lai sazinātos ar to, varētu izmantot tikai oktālo kodu. Mans pirmais datorprojekts ietvēra datora mācīšanu lasīt, saprast un risināt matemātikas uzdevumus.

Tad es izstrādāju dzejas rakstīšanas datorprogrammu. Es joprojām atceros, kā stāvēju mašīntelpā un gaidīju, lai redzētu nākamo mašīnas ģenerēto dzejoli. Mani satrieca dzejoļu skaistums; šķiet, ka tos ir radījusi saprātīga būtne. Un es toreiz zināju, ka vēlos visu atlikušo mūžu strādāt, lai radītu viedas mašīnas un atrastu veidus, kā ar tām sazināties.

Ko jūs domājat par Siri, Alexa un citiem personīgajiem asistentiem?

Ir smieklīgi par to runāt, jo, no vienas puses, mēs ļoti lepojamies ar šo neticamo progresu — katram ir kaut kas tāds, ko mēs šeit palīdzējām radīt pirms daudziem, daudziem gadiem, un tas ir brīnišķīgi.

AR

Bet, no otras puses, šīs programmas ir tik neticami stulbas. Tāpēc ir lepnuma un gandrīz apmulsuma sajūta. Jūs palaižat kaut ko tādu, kas cilvēkiem šķiet inteliģents, bet tas nav pat tuvu.

Pateicoties mašīnmācībai, AI jomā ir panākts ievērojams progress. Vai tas nepadara mašīnas labākas valodā?

No vienas puses, ir šis dramatiskais progress, un tad daļa no šī progresa tiek uzpūsta. Ja paskatās uz mašīnmācības sasniegumiem, visas idejas radās pirms 20 līdz 25 gadiem. Galu galā inženieri paveica lielisku darbu, lai šīs idejas īstenotu. Šī tehnoloģija, lai arī cik tā ir, neatrisinās patiesas izpratnes — patiesas inteliģences — problēmu.

Šķiet, ka mēs gūstam progresu AI jomā, tomēr… (skatiet sadaļu 10 izrāvienu tehnoloģijas: vienmērīgi runājoši personīgie asistenti ) ?

Ļoti augstā līmenī mūsdienu tehnikas — tādas statistikas metodes kā mašīnmācība un dziļā mācīšanās — ļoti labi spēj atrast likumsakarības. Un tā kā cilvēki parasti veido vienus un tos pašus teikumus, tos ir ļoti viegli atrast valodā.

Apskatiet jutīgo tekstu. Mašīna zina labāk nekā jūs, ko jūs grasāties teikt. To varētu saukt par inteliģentu, bet tas ir tikai vārdu un skaitļu skaitīšana. Tā kā mēs pastāvīgi sakām vienu un to pašu, ir viegli izveidot sistēmas, kas uztver likumsakarības un darbojas tā, it kā tās būtu inteliģentas. Tāda ir lielākās daļas pašreizējā progresa fiktīva būtība.

Kas par bīstamo valodu ģenerēšanas rīku nesen paziņoja OpenAI ?

Šie piemēri patiešām ir ļoti iespaidīgi, bet es neesmu pārliecināts, ko tie mums māca. OpenAI valodas modelis tika apmācīts 8 miljonos tīmekļa lapu, lai paredzētu nākamo vārdu, ņemot vērā visus iepriekšējos vārdus kādā tekstā (kas bija par to pašu tēmu, par kuru tika apmācīts modelis). Šis milzīgais apmācību apjoms noteikti nodrošināja teksta lokālo (sintaktisko un pat semantisko) saskaņotību.

Kāpēc, jūsuprāt, mākslīgais intelekts valodā virzās nepareizā virzienā?

Valodas apstrādē, tāpat kā citās jomās, tika panākts progress, apmācot modeļus uz milzīgu datu apjomu — daudziem miljoniem teikumu. Bet cilvēka smadzenes nespētu iemācīties valodu, izmantojot šo paradigmu. Mēs neatstājam savus mazuļus ar enciklopēdiju gultiņā, sagaidot, ka viņi pārvaldīs valodu.

Kad kaut ko redzam, mēs to aprakstam valodā; dzirdot kādu par kaut ko runājam, iztēlojamies, kā aprakstītie objekti un notikumi izskatās pasaulē. Cilvēki dzīvo fiziskā vidē, kas ir piepildīta ar vizuālām, taustes un lingvistiskām maņu ievadēm, un šo ievades elementu liekais un papildinošais raksturs ļauj cilvēkiem izprast pasauli un vienlaikus apgūt valodu. Varbūt, pētot šīs metodes atsevišķi, mēs esam padarījuši problēmu grūtāku, nevis vieglāku?

Kāpēc veselais saprāts ir svarīgs?

Sakiet, ka jūsu robots palīdz jums iepakot, un jūs sakiet: šī grāmata neietilpst sarkanajā kastē, jo to ir arī mazs. Skaidrs, ka vēlaties, lai jūsu robots to saprastu tīkls kaste ir pārāk mazs, lai jūs varētu turpināt saturīgu sarunu. Tomēr, ja jūs sakāt robotam: Šī grāmata neietilpst sarkanajā lodziņā, jo to ir arī liels, vēlaties, lai jūsu robots to saprastu grāmatu ir pārāk liels.

Zināt, uz kuru entītiju sarunā attiecas vietniekvārds, ir ļoti izplatīts uzdevums, ko cilvēki veic katru dienu, un tomēr, kā jūs varētu redzēt no šiem un citiem piemēriem, tas bieži vien ir atkarīgs no dziļas pasaules izpratnes, kas pašlaik ir neaizsniedzama. mūsu iekārtām: veselā saprāta un intuitīvās fizikas izpratne, citu cilvēku uzskatu un nodomu izpratne, spēja vizualizēt un spriest par cēloņiem un sekām un daudz kas cits.

Jūs mēģināt iemācīt mašīnām valodu, izmantojot simulētas fiziskās pasaules. Kāpēc ir tā, ka?

Es vēl neesmu redzējis mazuli, kura vecāki ieliek gultiņā enciklopēdiju un saka: Ej mācīties. Un tas ir tas, ko mūsu datori dara šodien. Es nedomāju, ka šīs sistēmas mācīsies tā, kā mēs to vēlamies, vai nesapratīs pasauli tā, kā mēs to vēlamies.

Tas, kas notiek ar mazuļiem, ir tas, ka viņi nekavējoties iegūst taustes pieredzi par pasauli. Tad mazuļi sāk redzēt pasauli un uztver notikumus un objektu īpašības. Un tad mazulis galu galā dzird lingvistisko ievadi. Un tieši šis papildinošais ieguldījums padara saprašanas burvību.

Kāda ir labāka pieeja?

Viens no tālākajiem virzieniem ir iegūt labāku izpratni par cilvēka intelektu un pēc tam izmantot šo izpratni, lai izveidotu viedas mašīnas. AI pētījumiem jābalstās uz attīstības psiholoģijas, kognitīvās zinātnes un neirozinātnes idejām, un AI modeļiem ir jāatspoguļo tas, kas jau ir zināms par to, kā cilvēki mācās un saprot pasauli.

Īsts progress būs tikai tad, kad pētnieki izkļūs no mūsu birojiem un sāks runāt ar cilvēkiem citās jomās. Kopā mēs pietuvosimies intelekta izpratnei un izdomāsim, kā to atkārtot viedās iekārtās, kas spēj runāt, redzēt un darboties mūsu fiziskajā pasaulē.

Izaicinājums izveidot patiesi inteliģentas iekārtas ir ļoti grūts, taču tas ir arī viens no svarīgākajiem izaicinājumiem, kas mums ir.

paslēpties