Algoritms pārsteidzoši labi apkopo garu tekstu

Mr. tech





Kuram ir laiks izlasīt katru rakstu, kas ir kopīgots pakalpojumā Twitter vai Facebook, vai katru dokumentu, kas attiecas uz viņu darbu? Tā kā informācijas pārslodze kļūst arvien lielāka, datori var kļūt par mūsu vienīgo cerību tikt galā ar pieaugošo dokumentu birumu. Un var kļūt par ikdienu paļauties uz mašīnu, lai analizētu un pārfrāzētu rakstus, pētnieciskos darbus un citu tekstu jūsu vietā.

Salesforce pētnieku izstrādātais algoritms parāda, kā datori galu galā var uzņemties dokumentu apkopošanas darbu. Tajā tiek izmantoti vairāki mašīnmācības triki, lai no garākiem fragmentiem izveidotu pārsteidzoši saskaņotus un precīzus teksta fragmentus. Un, lai gan tas vēl nav tik labs kā cilvēks, tas norāda uz to, kā teksta saīsināšana galu galā varētu kļūt automatizēta.

Algoritms izveidoja, piemēram, šādu nesen veiktā kopsavilkumu Ņujorkas Laiks rakstu par Facebook mēģinājumu apkarot viltus ziņas pirms gaidāmajām vēlēšanām Apvienotajā Karalistē:



  • Sociālais tīkls pirmdien publicēja virkni sludinājumu Lielbritānijas laikrakstos.
  • Tas Lielbritānijā ir noņēmis desmitiem tūkstošu viltotu kontu.
  • Tā arī paziņoja, ka nolīgs vēl 3000 moderatoru, gandrīz dubultojot to cilvēku skaitu visā pasaulē, kuri meklē nepiemērotu vai aizskarošu saturu.

Salesforce algoritms ir ievērojami labāks par jebko iepriekš izstrādāto, saskaņā ar izplatītu programmatūras rīku teksta kopsavilkumu precizitātes mērīšanai.

Es domāju, ka nekad neesmu redzējis tik lielus uzlabojumus nevienā [dabiskās valodas apstrādes] uzdevumā, saka Ričards Sočers , Salesforce galvenais zinātnieks. Sočers ir ievērojams vārds mašīnmācībā un dabiskās valodas apstrādē, un viņa starta, MetaMind , Salesforce iegādājās 2016. gadā.

Programmatūra joprojām ir tālu no tā, lai tā atbilstu cilvēka spējai uztvert dokumenta teksta būtību, un citi tās izveidotie kopsavilkumi ir aplieti un mazāk saskaņoti. Patiešām, lai perfekti apkopotu tekstu, būtu nepieciešama patiesa inteliģence, tostarp veselā saprāta zināšanas un valodas prasme.



Valodas parsēšana joprojām ir viens no lielākajiem mākslīgā intelekta izaicinājumiem (skatiet AI valodas problēmu). Bet tas ir izaicinājums ar milzīgu komerciālo potenciālu. Pat ierobežota lingvistiskā inteliģence — spēja parsēt mutiskus vai rakstiskus vaicājumus un atbildēt sarežģītākos un saskaņotākos veidos — var pārveidot personālo skaitļošanu. Daudzās specializētās jomās, piemēram, medicīnā, zinātniskajā pētniecībā un tiesībās, informācijas apkopošanai un ieskatu iegūšanai var būt milzīgas komerciālas priekšrocības.

Caiming Xiong, Salesforce pētnieks, kurš piedalījās darbā, saka, ka viņa komandas algoritms, lai gan tas ir nepilnīgs, varētu apkopot ikdienas ziņu rakstus vai sniegt kopsavilkumu par klientu e-pastiem. Pēdējais varētu būt īpaši noderīgs paša Salesforce platformai.

Komandas algoritms izmanto dažādu pieeju kombināciju, lai panāktu uzlabojumus. Sistēma mācās no labu kopsavilkumu piemēriem, pieeja, ko sauc par uzraudzītu mācīšanos, bet arī izmanto mākslīgu uzmanību tekstam, ko tā uzņem un izvada. Tas palīdz nodrošināt, ka tas nerada pārāk daudz atkārtotu teksta daļu, kas ir izplatīta kopsavilkuma algoritmu problēma.



Sistēma eksperimentē, lai izveidotu savus kopsavilkumus, izmantojot procesu, ko sauc par pastiprināšanas mācīšanos. Iedvesmojoties no tā, kā šķiet, ka dzīvnieki mācās, tas ietver pozitīvu atgriezenisko saiti par darbībām, kas ved uz noteiktu mērķi. Pastiprināšanas mācības ir izmantotas, lai apmācītu datorus veikt iespaidīgas jaunas lietas, piemēram, spēlēt sarežģītas spēles vai vadīt robotus (skatiet 10 Breakthrough Technologies 2017: Reinforcement Learning ). Tie, kas strādā ar sarunvalodas saskarnēm, arvien vairāk meklē pastiprināšanas mācīšanos kā veidu, kā uzlabot savas sistēmas.

Kristians Hamonds , Ziemeļrietumu universitātes profesors un dibinātājs Naratīvā zinātne Uzņēmums, kas ģenerē stāstījuma pārskatus no neapstrādātiem datiem, saka, ka Salesforce pētījums ir labs sasniegums, taču tas arī parāda ierobežojumus, kas saistīti ar paļaušanos tikai uz statistisko mašīnmācību. Kādā brīdī mums ir jāatzīst, ka šajās sistēmās mums ir vajadzīgas nedaudz semantikas un nedaudz sintaktiskās zināšanas, lai tās būtu plūstošas ​​un plūstošas, saka Hamonds.

Hamonds saka, ka uzmanības mehānisma izmantošana ļoti vienkāršā līmenī atdarina veidu, kā cilvēks pievērš uzmanību tam, ko viņš tikko teica. Kad jūs kaut ko sakāt, detaļas par to, kā jūs to sakāt, ir atkarīgas no jūsu iepriekš teiktā konteksta, viņš saka. Šis darbs ir solis šajā virzienā.



Datoru valodu prasmju uzlabošana var izrādīties svarīga arī mākslīgā intelekta attīstības meklējumos. Piezvanīja startup Maluuba , kuru šī gada sākumā iegādājās Microsoft, nesen izveidoja sistēmu, kas spēj ģenerēt atbilstošus jautājumus no teksta. Maluuba komanda izmantoja arī uzraudzītas mācīšanās un pastiprināšanas mācību kombināciju.

Ādams Trišlers, Maluuba vecākais pētnieks, saka, ka svarīgu jautājumu uzdošana ir svarīga mācīšanās sastāvdaļa, tāpēc ir svarīgi izveidot arī zinātkāras mašīnas. Trišlers saka, ka galvenais mērķis ir dialogā izmantot jautājumus un atbildes. Ko darīt, ja iekārta varētu iziet un savākt informāciju un pēc tam uzdot savus jautājumus?

paslēpties