211service.com
Pavārgrāmatas, Vikipēdija un automātiski ģenerēta spanglish: savdabīgie veidi, kā AI pētnieki apkopo datus
Džo Rēls/Getty Images
Dati ir eļļa, kas veicina AI attīstību, un tie sniedz mums daudzus sasniegumus, ko uzskatām par pašsaprotamiem: YouTube subtitri, Spotify mūzikas ieteikumi, tās rāpojošās reklāmas, kas seko jums visā internetā.
Bet, kad runa ir par noderīgu datu vākšanu, AI ekspertiem bieži ir jākļūst radošiem. Izmantojiet dabiskās valodas apstrādi (NLP) — mākslīgā intelekta apakšjomu, kas koncentrējas uz to, lai mācītu datoriem parsēt cilvēka valodu. Ikgadējā konferencē par empīriskajām metodēm NLP eksperti prezentēja plašu pētījumu klāstu, kas balstījās uz informāciju, kas savākta dažos ģeniālos veidos. Tālāk mēs esam apkopojuši četrus no mūsu iecienītākajiem projektiem.
SPĀŅU VALODĀ
Starp dokumentiem par daudzvalodu NLP šogad Microsoft prezentēja vienu kas koncentrējās uz koda jauktas valodas apstrādi — tekstu vai runu, kas nepārtraukti pārslēdzas starp divām valodām. Ņemot vērā, ka vairāk nekā puse pasaules iedzīvotāju pārvalda vairākas valodas, šī nepietiekami izpētītā joma ir svarīga.
Pētnieki sāka ar spanglish (spāņu un angļu valodu), taču viņiem trūka pietiekami daudz teksta spanglish, lai apmācītu mašīnu. Lai arī kā kodu sajaukšana ir izplatīta daudzvalodu sarunās, tā reti sastopama tekstā. Lai pārvarētu šo izaicinājumu, pētnieki uzrakstīja programmu, lai iekļautu angļu valodu Microsoft Bing tulkotājā un iekļautu dažas frāzes no spāņu valodas tulkojuma atpakaļ oriģinālajā tekstā. Programma nodrošināja, ka apmainītajiem vārdiem un frāzēm ir tāda pati nozīme. Tieši tāpat viņi varēja izveidot tik daudz Spanglish, cik viņiem vajadzēja.
Iegūtais NLP modelis pārspēja iepriekšējos modeļus, kas tika apmācīti tikai spāņu un angļu valodā atsevišķi. Pētnieki cer, ka viņu darbs galu galā palīdzēs izstrādāt daudzvalodu tērzēšanas robotus, kas var dabiski runāt koda jauktā valodā.
PAVĀRGRĀMATAS
Receptes ir lieliski piemērotas ēdiena pagatavošanai, taču tās var nodrošināt arī mašīnu barošanu. Tie visi ievēro līdzīgu soli pa solim shēmu, un tajos bieži ir iekļauti attēli, kas atbilst tekstam — lielisks strukturētu datu avots, lai mācību mašīnas varētu vienlaikus saprast tekstu un attēlus. Tāpēc pētnieki Hacettepe universitātē Turcijā apkopoja milzu datu kopu aptuveni 20 000 ilustrētu gatavošanas recepšu. Viņi cer, ka tas būs jauns resurss kopīgas attēla un teksta izpratnes veiktspējas salīdzinošai novērtēšanai.
Tas, ko viņi sauc par RecipeQA, balstīsies uz iepriekšējiem pētījumiem, kas ir vērsti uz mašīnlasīšanas izpratni un vizuālo izpratni atsevišķi. Pirmajā gadījumā iekārtai ir jāsaprot jautājums un ar to saistītais fragments, lai rastu atbildi; pēdējā tā vietā meklē atbildi saistītā fotoattēlā. Ja teksts un fotoattēli atrodas blakus, uzdevums kļūst sarežģītāks, jo fotoattēli un teksts var kopīgot papildu vai lieku informāciju.
ĪSĀKI TEIKUMI
Google vēlas, lai AI izceltu jūsu prozu. Šim nolūkam pētnieki tur izveidoja visu laiku lielākā datu kopa garu teikumu sadalīšanai mazākos teikumos ar līdzvērtīgu nozīmi. Kur jūs varētu atrast milzīgu daudzumu rediģēšanas datu? Vikipēdija, protams.
No Vikipēdijas bagātīgās rediģēšanas vēstures pētnieku grupa izvilka gadījumus, kad cilvēki sadala garus teikumus. Rezultāts: 60 reizes atšķirīgāki teikumu dalījumu piemēri un 90 reizes vairāk vārdu krājuma, nekā tika atrasts iepriekšējā šī uzdevuma etalona datu kopā. Datu kopa aptver arī vairākas valodas.
Kad viņi apmācīja mašīnmācības modeli, izmantojot savus jaunos datus, tas sasniedza 91% precizitāti. (Šeit procents atspoguļo to teikumu īpatsvaru, kuri pēc pārrakstīšanas saglabāja savu nozīmi un gramatisko pareizību.) Salīdzinājumam, modelis, kas apmācīts uz iepriekšējiem datiem, sasniedza tikai 32% precizitāti. Kad viņi apvienoja abas datu kopas un apmācīja citu modeli, tas sasniedza 95% precizitāti. Pētnieki secināja, ka turpmākos uzlabojumus varētu veikt, atrodot vēl vairāk datu avotu.
SOCIĀLO MEDIJU NOZĪMĪBA
Pētījumi ir parādījuši, ka mūsu ģenerētā valoda var lieliski prognozēt mūsu rasi, dzimumu un vecumu, pat ja šī informācija nekad nav skaidri norādīta. Paturot to prātā, pētnieki no Bar-Ilan universitātes Izraēlā un Alena Mākslīgā intelekta institūta mēģināja izmantot AI, lai novērstu teksta novirzi. noņemot šos iegultos indikatorus .
Lai iegūtu pietiekami daudz datu, kas varētu atspoguļot valodu modeļus dažādās demogrāfiskajās grupās, viņi vērsās pie Twitter. Viņi savāca virkni tvītu no lietotājiem, kas bija vienmērīgi sadalīti starp baltajiem, kas nav spāņi, un melnādainiem, kas nav spāņi; starp vīriešiem un sievietēm; un starp cilvēkiem vecumā no 18 līdz 34 gadiem un vecākiem par 35 gadiem.
Pēc tam viņi izmantoja pretrunīgu pieeju, sastādot divus neironu tīklus viens pret otru, lai noskaidrotu, vai tie varētu automātiski noņemt tviterī raksturīgos demogrāfiskos rādītājus. Viens neironu tīkls mēģināja paredzēt demogrāfiskos datus, bet otrs mēģināja pielāgot tekstu, lai tas būtu pilnīgi neitrāls, lai samazinātu pirmā modeļa prognozēšanas precizitāti līdz 50% (vai iespējamībai). Šī pieeja galu galā ievērojami, bet ne pilnībā mazināja rases, dzimuma un vecuma rādītājus.