Augstas veiktspējas, zemu izmaksu mašīnmācīšanās infrastruktūra paātrina inovācijas mākonī

Nodrošina Amazon tīmekļa pakalpojumi

Mākslīgais intelekts un mašīnmācīšanās (AI un ML) ir galvenās tehnoloģijas, kas palīdz organizācijām izstrādāt jaunus veidus, kā palielināt pārdošanas apjomu, samazināt izmaksas, racionalizēt biznesa procesus un labāk izprast savus klientus. AWS palīdz klientiem paātrināt AI/ML ieviešanu, pēc pieprasījuma nodrošinot jaudīgus aprēķinus, ātrdarbīgu tīklu un mērogojamas augstas veiktspējas krātuves iespējas jebkuram mašīnmācīšanās projektam. Tas samazina šķēršļus ienākšanai organizācijām, kuras vēlas izmantot mākoni, lai mērogotu savas ML lietojumprogrammas.

Izstrādātāji un datu zinātnieki virza tehnoloģiju robežas un arvien vairāk pieņem dziļo mācīšanos, kas ir mašīnmācīšanās veids, kura pamatā ir neironu tīklu algoritmi. Šie padziļinātās mācīšanās modeļi ir lielāki un sarežģītāki, kā rezultātā pieaug izmaksas, kas saistītas ar pamata infrastruktūras vadīšanu, lai apmācītu un ieviestu šos modeļus.

Lai klienti varētu paātrināt AI/ML transformāciju, AWS veido augstas veiktspējas un zemu izmaksu mašīnmācīšanās mikroshēmas. AWS Inferentia ir pirmā mašīnmācīšanās mikroshēma, ko no paša sākuma ir izveidojusi AWS, lai nodrošinātu viszemāko izmaksu mašīnmācības secinājumus mākonī. Faktiski Amazon EC2 Inf1 gadījumi, ko darbina Inferentia, nodrošina 2,3 reizes lielāku veiktspēju un līdz pat 70% zemākas izmaksas par mašīnmācīšanās secinājumiem nekā pašreizējās paaudzes GPU bāzētie EC2 gadījumi. AWS Trainium ir otrā AWS mašīnmācīšanās mikroshēma, kas ir īpaši izstrādāta dziļas mācīšanās modeļu apmācībai un būs pieejama 2021. gada beigās.

Klienti visās nozarēs ir izvietojuši savas ML lietojumprogrammas Inferentia ražošanā un ir redzējuši ievērojamus veiktspējas uzlabojumus un izmaksu ietaupījumus. Piemēram, AirBnB klientu atbalsta platforma nodrošina viedu, mērogojamu un izcilu pakalpojumu pieredzi tās miljoniem saimnieku un viesu kopienai visā pasaulē. Tas izmantoja uz Inferentia balstītus EC2 Inf1 gadījumus, lai izvietotu dabiskās valodas apstrādes (NLP) modeļus, kas atbalstīja tā tērzēšanas robotus. Tas nodrošināja 2 reizes veiktspējas uzlabojumus, salīdzinot ar gadījumiem, kuru pamatā ir GPU.

Izmantojot šos silīcija jauninājumus, AWS ļauj klientiem viegli apmācīt un izpildīt dziļās apmācības modeļus ražošanā ar augstu veiktspēju un caurlaidspēju par ievērojami zemākām izmaksām.

Mašīnmācīšanās izaicina ātruma pāreju uz mākoņa infrastruktūru

Mašīnmācība ir iteratīvs process, kurā komandām ir ātri jāizveido, jāapmāca un jāizvieto lietojumprogrammas, kā arī bieži jāapmāca, jāpārmācas un jāeksperimentē, lai palielinātu modeļu prognozēšanas precizitāti. Ieviešot apmācītus modeļus savās biznesa lietojumprogrammās, organizācijām ir arī jāmēro savas lietojumprogrammas, lai tās apkalpotu jaunus lietotājus visā pasaulē. Viņiem ir jāspēj apkalpot vairākus pieprasījumus, kas tiek saņemti vienlaikus ar gandrīz reāllaika latentumu, lai nodrošinātu izcilu lietotāja pieredzi.

Jaunie lietošanas gadījumi, piemēram, objektu noteikšana, dabiskās valodas apstrāde (NLP), attēlu klasifikācija, sarunvalodas AI un laika rindu dati, balstās uz dziļās mācīšanās tehnoloģiju. Dziļās mācīšanās modeļu apjoms un sarežģītība pieaug eksponenciāli, dažu gadu laikā no miljoniem parametru līdz miljardiem.

Šo sarežģīto un izsmalcināto modeļu apmācība un ieviešana rada ievērojamas infrastruktūras izmaksas. Izmaksas ātri var kļūt pārmērīgi lielas, jo organizācijas mērogojas savas lietojumprogrammas, lai nodrošinātu lietotājiem un klientiem gandrīz reāllaika pieredzi.

Šeit var palīdzēt uz mākoņiem balstīti mašīnmācīšanās infrastruktūras pakalpojumi. Mākonis nodrošina pēc pieprasījuma piekļuvi skaitļošanai, augstas veiktspējas tīkliem un lielai datu krātuvei, kas ir nemanāmi apvienota ar ML operācijām un augstāka līmeņa AI pakalpojumiem, lai organizācijas varētu nekavējoties sākt darbu un mērogot savas AI/ML iniciatīvas.

Kā AWS palīdz klientiem paātrināt AI/ML transformāciju

AWS Inferentia un AWS Trainium mērķis ir demokratizēt mašīnmācīšanos un padarīt to pieejamu izstrādātājiem neatkarīgi no pieredzes un organizācijas lieluma. Inferentia dizains ir optimizēts augstai veiktspējai, caurlaidspējai un zemam latentumam, kas padara to ideāli piemērotu ML secinājumu izvietošanai mērogā.

Katrā AWS Inferentia mikroshēmā ir četri NeuronCore, kas ievieš augstas veiktspējas sistoliskā masīva matricas reizināšanas dzinēju, kas ievērojami paātrina tipiskas dziļās mācīšanās darbības, piemēram, konvolūciju un transformatorus. NeuronCores ir aprīkoti arī ar lielu mikroshēmas kešatmiņu, kas palīdz samazināt ārējās atmiņas piekļuvi, samazinot latentumu un palielinot caurlaidspēju.

AWS Neuron, Inferentia programmatūras izstrādes komplekts, sākotnēji atbalsta vadošos ML ietvarus, piemēram, TensorFlow un PyTorch. Izstrādātāji var turpināt izmantot tās pašas sistēmas un dzīves cikla izstrādes rīkus, ko viņi zina un mīl. Daudziem viņu apmācītajiem modeļiem viņi var apkopot un izvietot Inferentia, mainot tikai vienu koda rindiņu, bez papildu lietojumprogrammas koda izmaiņām.

Rezultāts ir augstas veiktspējas secinājumu izvietošana, ko var viegli palielināt, vienlaikus kontrolējot izmaksas.

Programmatūras kā pakalpojuma uzņēmumam Sprinklr ir uz mākslīgā intelekta balstīta vienota klientu pieredzes pārvaldības platforma, kas ļauj uzņēmumiem apkopot un pārvērst reāllaika klientu atsauksmes vairākos kanālos praktiskos ieskatos. Tas nodrošina proaktīvu problēmu risināšanu, uzlabotu produktu attīstību, uzlabotu satura mārketingu un labāku klientu apkalpošanu. Sprinklr izmantoja Inferentia, lai izvietotu savu NLP un dažus datora redzes modeļus, un novēroja ievērojamus veiktspējas uzlabojumus.

Vairāki Amazon pakalpojumi arī izvieto savus mašīnmācīšanās modeļus vietnē Inferentia.

Amazon Prime Video izmanto datorredzes ML modeļus, lai analizētu tiešraides notikumu video kvalitāti, lai nodrošinātu optimālu skatītāju pieredzi Prime Video dalībniekiem. Tas izvietoja savus attēlu klasifikācijas ML modeļus EC2 Inf1 instancēs un redzēja 4x veiktspējas uzlabojumus un līdz pat 40% izmaksu ietaupījumu, salīdzinot ar instancēm, kuru pamatā ir GPU.

Vēl viens piemērs ir Amazon Alexa AI un ML balstītais intelekts, ko nodrošina Amazon Web Services un kas šodien ir pieejams vairāk nekā 100 miljonos ierīču. Alexa sola klientiem, ka tā vienmēr kļūst gudrāka, sarunīgāka, aktīvāka un vēl apburošāka. Lai izpildītu šo solījumu, ir pastāvīgi jāuzlabo atbildes laiks un mašīnmācīšanās infrastruktūras izmaksas. Izvietojot Alexa teksta pārvēršanas runā ML modeļus Inf1 instancēs, tas spēja samazināt secinājumu latentumu par 25% un maksu par secinājumu par 30%, lai uzlabotu pakalpojumu pieredzi desmitiem miljonu klientu, kuri katru mēnesi izmanto Alexa.

Jaunu mašīnmācīšanās iespēju atraisīšana mākonī

Tā kā uzņēmumi cenšas nodrošināt savu biznesu nākotnē, iespējojot labākos digitālos produktus un pakalpojumus, neviena organizācija nevar atpalikt, ieviešot sarežģītus mašīnmācības modeļus, lai palīdzētu uzlabot savu klientu pieredzi. Dažu pēdējo gadu laikā ir ievērojami palielinājusies mašīnmācīšanās pielietojamība dažādiem lietošanas gadījumiem, sākot no personalizēšanas un apmaiņu prognozēšanas līdz krāpšanas atklāšanai un piegādes ķēdes prognozēšanai.

Par laimi, mašīnmācīšanās infrastruktūra mākonī paver jaunas iespējas, kas iepriekš nebija iespējamas, padarot to daudz pieejamāku nepieredzējušiem speciālistiem. Tāpēc AWS klienti jau izmanto Inferentia darbināmus Amazon EC2 Inf1 gadījumus, lai sniegtu informāciju par saviem ieteikumu dzinējiem un tērzēšanas robotiem un iegūtu praktisku ieskatu no klientu atsauksmēm.

Izmantojot AWS mākoņdatošanas mašīnmācības infrastruktūras iespējas, kas piemērotas dažādiem prasmju līmeņiem, ir skaidrs, ka jebkura organizācija var paātrināt inovāciju un aptvert visu mašīnmācīšanās dzīves ciklu mērogā. Tā kā mašīnmācība turpina kļūt arvien izplatītāka, organizācijas tagad var būtiski pārveidot klientu pieredzi un veidu, kā tās veic uzņēmējdarbību, izmantojot rentablu, augstas veiktspējas mākoņdatošanas mašīnmācības infrastruktūru.

Uzziniet vairāk par to, kā AWS mašīnmācīšanās platforma var palīdzēt jūsu uzņēmumam ieviest jauninājumus šeit .

Šo saturu veidoja AWS. To nav rakstījuši MIT Technology Review redakcijas darbinieki.

paslēpties