Kāpēc Google AI var uzrakstīt skaistas dziesmas, bet joprojām nevar izstāstīt joku?

Džeremijs Portjē

Makaronu klavieru melodiju un bezgalīgu kaķu zīmējumu konfigurāciju izveide, izmantojot AI, var neizklausīties kā acīmredzams Google projekts, taču Duglasam Ekam tas ir ļoti jēgas.

Eks ir pavadījis aptuveni 15 gadus, pētot mākslīgo intelektu un mūziku, un mūsdienās viņš ir Google Brain komandas pētnieks, vadot Magenta — Google atvērtā koda pētniecības projektu, kura mērķis ir radīt mākslu un mūziku, izmantojot mašīnmācīšanos.

Viņš runāja ar MIT tehnoloģiju apskats par to, kā Google rada jaunas skaņas, izmantojot dziļus neironu tīklus, kur Magenta izmanto AI mūziku un kāpēc datori nevēlas stāstīt jokus.

Zemāk ir rediģēts intervijas fragments. Premium MIT tehnoloģiju apskats abonenti var noklausīties pilnu interviju .

AI izmantošana mākslas radīšanai nav nekas jauns, tāpēc ar ko Google pieeja ir unikāla?

Mēs pētām šo ļoti specifisko virzienu, kas saistīts ar dziļiem neironu tīkliem un atkārtotiem neironu tīkliem un citiem mašīnmācības veidiem. Mēs arī ļoti cenšamies vienlaikus iesaistīt gan māksliniecisko kopienu, gan radošos kodētājus un atvērtā pirmkoda izstrādātājus, tāpēc esam padarījuši to par atvērtā koda projektu.

Liela daļa Magenta ir vērsta uz mūziku. Kāpēc AI ir labs mūzikas veidošanai un papildināšanai?

Godīgi sakot, tas ir tikai mans aizspriedums. Visa mana pētnieka karjera ir bijusi saistīta ar mūziku un audio. Es domāju, ka Magenta darbības joma vienmēr ir bijusi par mākslu kopumā, stāstu, mūziku, stāstījumu, tēliem un mēģinājumu saprast, kā izmantot AI kā radošu rīku. Bet kaut kur jāsāk. Un es domāju, ka, ja jūs panākat nopietnu progresu kaut ko tik sarežģītā kā mūzika un mums tik svarīgā kā mūzika, tad es ceru, ka daļa no tā tiks iekļauta arī citās jomās.

Vai varam klausīties kādu mūziku, kas tapusi ar Magenta?

Šis ir kāda mūzika no modeļa, ko sauc Izrāde RNN .

Klausieties un vienkārši pievērsiet uzmanību tekstūrai un visam tur. Tas ir sava veida mūzikas skaņdarbs, bet vienlaikus arī mūzikas izpildījums, jo modelis ne tikai ģenerē ceturtdaļas notis — tas nosaka, cik ātri tās tiks atskaņotas, cik skaļi tās tiks atskaņotas, un patiesībā tas reproducē to, uz ko tas tika apmācīts, kas bija klavierspēles, kas tika veiktas klavieru konkursa ietvaros.

Kā liecina šis skaņdarbs, līdz šim ar Magenta radītā mūzika būtībā ir improvizācija. Vai AI var izmantot, lai izveidotu saskaņotu mūzikas gabalu ar struktūru?

Mēs pie tā strādājam. Tātad viens no galvenajiem nākotnes pētniecības virzieniem mums un, atklāti sakot, visai ģeneratīvo modeļu jomai — ar to es domāju mašīnmācības modeļus, kas var mēģināt radīt kaut ko jaunu — ir mācīšanās struktūra. Un tas šeit parādās mūzikā. Jūs dzirdat, ka nav visaptveroša modeļa, kas noteiktu, kur lietas virzītos.

Ja mēs vēlētos tai mainīt akordu, pat mainās akordu simboli un kontekstuāli uzzināt, kā izmantot šīs akordu izmaiņas, mēs to varētu darīt. Mums pat varētu būt atsevišķs modelis, kas ģenerē akordu izmaiņas. Mūsu mērķis ir izstrādāt šo visaptverošo modeli, kas izdomā visus šos struktūras līmeņus.

Pastāsti man par Skice-RNN , kas ir nesen veikts Magenta eksperiments, kas ļauj jums izdarīt ar atkārtotu neironu tīklu — būtībā jūs sākat zīmēt ananāsu, un tad Sketch-RNN pārņem un pabeidz to atkal un atkal, daudzos dažādos stilos.

Mēs varējām izmantot virkni zīmējumu, ko veidojuši cilvēki, kuri spēlē Pictionary pret mašīnmācības algoritmu — šie bija [dati no cita Google AI zīmēšanas eksperimenta, ko veica Google Creative Lab,] Ātri, zīmē!

Datiem ir ierobežojumi. No šiem mazajiem 20 sekunžu zīmējumiem jūs iegūsit tikai tik daudz. Bet es domāju, ka galvenā [Sketch-RNN] pētnieka Deivida Ha darbs bija patiešām skaists. Viņš būtībā apmācīja atkārtotu neironu tīklu, lai uzzinātu, kā reproducēt šos zīmējumus. Viņš it kā piespieda modeli uzzināt, kas ir svarīgi. Modelis nebija pietiekami spēcīgs, lai iegaumētu visu zīmējumu. Tā kā tas nevar iegaumēt visus redzamos triepienus, tā uzdevums ir tikai reproducēt daudz kaķu vai citu, tas ir spiests uzzināt, kas ir svarīgs par kaķiem — kādi ir kaķu zīmējumu kopējie aspekti miljoniem kaķu zīmējumu? Un tāpēc, spēlējoties ar šo modeli, varat lūgt tam no zila gaisa radīt jaunus kaķus. Tas rada patiešām interesanta izskata kaķus, kas, manuprāt, izskatās neticami līdzīgi kā cilvēki zīmē kaķus.

TensorFlow

Es lasīju, ka jūs strādājat ar Magenta, lai mācītu datorus stāstīt jokus. Kādus jokus rada datori? (Tā nebija pirmā joku rindiņa.)

Projekts bija ļoti provizorisks, ļoti pētniecisks, uzdodot jautājumu: vai mēs varam saprast to joku stāstīšanas komponentu, kas ir par pārsteigumu? Īpaši ar perforatoru saistītiem jokiem un vārdu spēlēm, ir skaidrs, ka viss notiek kā parasti, es domāju, ka zinu, kas notiek ar šo teikumu, un tad, bums! Taisnība? Un arī es domāju, ka intuitīvi sitiena līnijai ir sava ģeometrija. Tas ir pārsteidzoši, ja ēka sabrūk jums uz galvas; [sita līnija] nav tāds pārsteigums. Tas ir, piemēram, ak, pareizi, es to saprotu! Jūs zināt? Un šī sajūta, ka es to saprotu, manuprāt, ir sava veida atkāpšanās, kas jums ir spiesta darīt, lai to iegūtu. Tāpēc mēs apskatījām konkrētus mašīnmācīšanās modeļu veidus, kas var ģenerēt šīs lietas, ko sauc par patiesības vektoriem, kas mēģina saprast, kas semantiski notiek teikumā, un vai mēs varam ar tiem aktīvi manipulēt, lai iegūtu citu efektu?

Un joks, par kuru mēs dzirdējām, bija... Burve bija tik dusmīga, ka izvilka savu zaķi. Un vārdu spēle par zaķi un matiem, un trusi — jūs saprotat, vai ne?

Jā. Bet jums ir daudz jāzina par vārdiem un valodu, lai to saprastu.

Jā, tev ir daudz jāzina. Šis modelis ne tikai nestāstīja nekādus jokus, smieklīgus vai ne, bet mēs arī nepanācām, ka kods saplūst.

Ko jūs pašlaik mēģināt izdomāt ar Magenta?

Mēģinot vairāk izprast mūzikas ilgtermiņa struktūru, kā arī mēģināt atzarot citu interesantu jautājumu, proti: vai mēs varam mācīties no atsauksmēm, nevis no mākslinieka, bet no auditorijas?

Tas aplūko māksliniecisko procesu kā iteratīvu. The Beatles bija 12 albumi, un katrs no tiem bija atšķirīgs. Un viņi visi parādīja, ka šie mūziķi mācās no atsauksmēm, ko viņi saņem no vienaudžiem un pūļiem, kā arī no citām lietām, kas notiek ar citiem māksliniekiem. Viņi patiešām ir saistīti ar kultūru. Mākslinieki nav statiski.

Un šī ļoti vienkāršā ideja: vai kāds var izveidot kaut ko, izmantojot ģeneratīvu modeli, izliekot to, bet pēc tam izmantojot to, ka viņi saņem atsauksmes? Ak, tas bija labi, tas bija slikti. Šīs atsauksmes, ko mēs saņemam, mākslinieks var mācīties no tā vienā veidā, bet varbūt arī mašīnmācības modelis var mācīties no tām un teikt: 'Ak, es redzu, šeit ir visi cilvēki, un lūk, ko viņi domā par to. Es daru, un man ir šie parametri. Mēs varam iestatīt šos parametrus attiecībā pret atgriezenisko saiti, izmantojot pastiprināšanas mācīšanos, un mēs arī strādājam pie tā.

Klausoties mūziku, kas radīta ar Magenta, man rodas jautājums: ja jūs izmantojat datus, lai apmācītu mākslīgo intelektu, vai mākslīgais intelekts var radīt kaut ko patiesi oriģinālu, vai arī tas būs tikai atvasinājums no tā, uz ko tas ir apmācīts, neatkarīgi no tā, vai tās ir Madonnas dziesmas vai impresionisma gleznas vai abas?

Es domāju, ka tas ir atkarīgs no tā, ko mēs saprotam ar oriģinālu. Es domāju, ka man ir maz ticams, ka radīsies mašīnmācības algoritms un radīs jaunu, transformējošu mākslas veidu. Es domāju, ka cilvēks, kas strādā ar šo tehnoloģiju, varētu to izdarīt. Un es domāju, ka mēs esam tik, tik, tik tālu no šī mākslīgā intelekta izpratnes par to, kāda patiesībā ir pasaule. It kā tas būtu tik, tik tālu. Tajā pašā laikā es domāju, ka liela daļa mākslas ir oriģināla citā nozīmē. Piemēram, es uztaisu vēl vienu foršu EDM dziesmu ar pilienu īstajā vietā, pēc kuras ir jautri dejot un kas ir jaunums, bet, iespējams, nerada pilnīgi jaunu žanru. Un es domāju, ka šāda veida radošums ir patiešām interesants. Lielākoties lielākā daļa no tā, ko mēs darām, ir žanrs, kuru mēs zināmā mērā saprotam, un mēs izmēģinām jaunas lietas, un šāda veida radošums, manuprāt, mūsu pašreizējais AI var spēlēt milzīgu lomu. Tas nav reproducēšana datu kopa, vai ne? Tas sajauc lietas.

paslēpties