Pārāk daudzi AI pētnieki uzskata, ka reālās pasaules problēmas nav būtiskas

Ms Tech | Getty

Jebkurš pētnieks, kurš koncentrējas uz mašīnmācības pielietošanu reālās pasaules problēmām, visticamāk, ir saņēmis šādu atbildi: autori piedāvā risinājumu oriģinālai un ļoti motivējošai problēmai, taču tā ir lietojumprogramma, un šķiet, ka tās nozīme mašīnmācībā ir ierobežota. kopienai.

Šie vārdi ir tieši no atsauksmes, ko saņēmu par darbu, ko iesniedzu NeurIPS (Neural Information Processing Systems) konference , labākā vieta mašīnmācības izpētei. Es atkal un atkal esmu redzējis atturēšanos rakstu apskatos, kuros es un mani līdzautori iepazīstinājām ar metodi, kuras pamatā ir lietojumprogramma, un esmu dzirdējis līdzīgus stāstus no neskaitāmiem citiem.

Tas man liek aizdomāties: ja kopienai šķiet, ka mērķim atrisināt lielas ietekmes reālās pasaules problēmas ar mašīnmācību ir ierobežota nozīme, tad ko mēs cenšamies panākt?

The mākslīgā intelekta mērķis (pdf) ir virzīt uz priekšu mašīninteliģences robežu. Mašīnmācīšanās jomā jauna izstrāde parasti nozīmē jaunu algoritmu vai procedūru vai — dziļas mācīšanās gadījumā — jaunu tīkla arhitektūru. Kā jau citi ir norādījuši, šī pārmērīgā koncentrēšanās uz jaunām metodēm noved pie posta rakstura, kas ziņo nelieli vai pakāpeniski uzlabojumi par etalona datu kopām un izstādīt kļūdainu stipendiju (pdf) pētniekiem sacenšoties par virsotni līderu saraksts .

Tikmēr daudzi dokumenti, kas apraksta jaunas lietojumprogrammas, piedāvā gan jaunas koncepcijas, gan augstas ietekmes rezultātus. Taču šķiet, ka pat mājiens uz vārdu pieteikums sabojā darbu recenzentiem. Tā rezultātā lielajās konferencēs šādi pētījumi ir marginalizēti. Viņu autoru vienīgā patiesā cerība ir panākt, lai viņu darbi tiktu pieņemti semināros, kas reti saņem tādu pašu sabiedrības uzmanību.

Tā ir problēma, jo mašīnmācībai ir liels solījums uzlabot veselību, lauksaimniecību, zinātniskus atklājumus un daudz ko citu. Pirmais melnā cauruma attēls tika ražots, izmantojot mašīnmācīšanos. Visprecīzākais proteīnu struktūru prognozes , kas ir svarīgs solis narkotiku atklāšanā, tiek veikti, izmantojot mašīnmācīšanos. Ja citi šajā jomā būtu izvirzījuši prioritāti reālās pasaules lietojumprogrammām, kādus citus revolucionārus atklājumus mēs līdz šim būtu veikuši?

Tā nav jauna atklāsme. Citējot klasisku rakstu ar nosaukumu Mašīnmācība, kas ir svarīga (pdf) NASA datorzinātnieks Pameta Vāgstafu f Liela daļa pašreizējo mašīnmācīšanās pētījumu ir zaudējuši saistību ar problēmām, kas ir svarīgas plašākai zinātnes pasaulei un sabiedrībai. Tajā pašā gadā, kad Vāgstafa publicēja savu rakstu, konvolucionālais neironu tīkls ar nosaukumu AlexNet uzvarēja augsta līmeņa konkursā par attēlu atpazīšanu, kura centrā bija populārs. ImageNet datu kopu, izraisot intereses eksploziju dziļa mācīšanās . Diemžēl šķiet, ka kopš tā laika viņas aprakstītais atvienojums ir kļuvis vēl sliktāks.

Nepareizi jautājumi

Lietojumprogrammu pētniecības marginalizācijai ir reālas sekas. Etalona datu kopas, piemēram, ImageNet vai KOKONSrieksts , ir bijuši galvenie mašīnmācības veicināšanā. Tie ļauj algoritmiem apmācīt un salīdzināt tos pašus datus. Tomēr šīs datu kopas satur aizspriedumus ko var iebūvēt iegūtajos modeļos.

Vairāk nekā puse attēlu pakalpojumā ImageNet (pdf) nāk no ASV un Lielbritānijas, piemēram. Šīs nelīdzsvarotības dēļ sistēmas neprecīzi klasificē attēlus kategorijās, kas atšķiras ģeogrāfija (pdf) . Populāras sejas datu kopas, piemēram, AT&T seju datu bāze , galvenokārt satur gaišus vīriešus, kas noved pie sistēmām, kuras grūti atpazīt tumšādainas un sieviešu sejas .

Kamēr pētnieki cenšas pārspēt viens otru, pamatojoties uz izdomātiem kritērijiem, viens no katriem devītajiem cilvēkiem pasaulē cieš no bada.

Ja pētījumi par mašīnmācības lietojumprogrammām reālajā pasaulē tiek izslēgti no vispārējās plūsmas, pētniekiem ir grūti saskatīt savu neobjektīvo modeļu ietekmi, tāpēc ir daudz mazāka iespēja, ka viņi strādās, lai atrisinātu šīs problēmas.

Viens no iemesliem, kāpēc lietojumprogrammu izpēte tiek samazināta līdz minimumam, varētu būt tas, ka citi mašīnmācības dalībnieki domā, ka šis darbs sastāv tikai no jau esošo metožu pielietošanas. Tomēr patiesībā mašīnmācības rīku pielāgošana konkrētām reālās pasaules problēmām prasa ievērojamu algoritmu un inženierijas darbu. Mašīnmācības pētnieki, kuri to neapzinās un sagaida, ka rīki darbosies no plaukta, bieži vien izveido neefektīvus modeļus. Vai nu viņi novērtē modeļa veiktspēju, izmantojot metriku, kas neliecina par ietekmi uz reālo pasauli, vai arī izvēlas nepareizu mērķi.

Piemēram, lielākā daļa pētījumu, kuros ehokardiogrammas analīzei izmanto dziļu mācīšanos, cenšas pārspēt ārsta spēju paredzēt slimību. Bet prognozējot normāli sirds funkcija (pdf) faktiski ietaupītu kardiologiem vairāk laika, identificējot pacientus, kuriem viņu zināšanas nav vajadzīgas. Daudzu pētījumu mērķis ir izmantot mašīnmācīšanos vīnkopībā optimizēt vīnogu ražu (pdf) , bet vīndari vēlas pareizo cukura un skābes līmeni, nevis tikai daudz lielu ūdeņainu ogu, saka Dreiks Vitkrafts. Whitcraft vīna darītava Kalifornijā.

Vairāk kaitējuma nekā labuma

Vēl viens iemesls, kāpēc lietojumprogrammu izpētei vajadzētu būt svarīgai mašīnmācības ieviešanā, ir tas, ka lauka etalondatu kopas ir nožēlojami neatbilstošas ​​realitātei.

Jaunie mašīnmācīšanās modeļi tiek mērīti, salīdzinot ar lielām, atlasītām datu kopām, kurām trūkst trokšņa un kurām ir precīzi definētas, skaidri marķētas kategorijas (kaķis, suns, putns). Padziļināta mācīšanās palīdz risināt šīs problēmas, jo tā pieņem lielākoties stabilu pasauli (pdf) .

Taču reālajā pasaulē šīs kategorijas pastāvīgi mainās laika gaitā vai atkarībā no ģeogrāfiskā un kultūras konteksta. Diemžēl reakcija nav bijusi jaunu metožu izstrāde, kas risinātu reālās pasaules datu grūtības; drīzāk lietojumprogrammu pētnieki ir mudināti izveidot savas etalondatu kopas.

Šo centienu mērķis būtībā ir iespiest reālās pasaules problēmas paradigmā, ko citi mašīnmācības pētnieki izmanto, lai novērtētu veiktspēju. Taču domēnam raksturīgās datu kopas, visticamāk, nebūs labākas par esošajām versijām, atspoguļojot reālās pasaules scenārijus. Rezultāti var nodarīt vairāk ļauna nekā laba. Cilvēki, kuriem varētu būt palīdzējis šo pētnieku darbs, kļūs vīlušies no tehnoloģijām, kas darbojas slikti kad tas ir vissvarīgākais.

Jomas nepareizo prioritāšu dēļ cilvēki, kuri cenšas atrisināt pasaules lielākās problēmas, negūst tik lielu labumu no AI ļoti reālā solījuma. Kamēr pētnieki cenšas pārspēt viens otru, izmantojot izdomātus etalonus, viens no katriem deviņiem cilvēkiem pasaulē ir badā . Zeme sasilst un jūras līmenis ceļas satraucošā ātrumā.

Kā neirozinātnieks un AI domu vadītājs Gerijs Markuss reiz rakstījis (pdf) : AI lielākais ieguldījums sabiedrībā… galu galā varētu būt un tam vajadzētu būt tādās jomās kā automatizēti zinātniski atklājumi, kas cita starpā noved pie daudz sarežģītākām medicīnas versijām, nekā tas pašlaik ir iespējams. Taču, lai tur nokļūtu, mums ir jāpārliecinās, ka lauks kopumā neiesprūst vietējā minimumā.

Lai pasaule gūtu labumu no mašīnmācīšanās, kopienai atkal ir jāuzdod sev jautājums, kā savulaik izteicās Vagstafs: kāda ir lauka mērķfunkcija? Ja atbilde ir pozitīva ietekme uz pasauli, mums ir jāmaina veids, kā mēs domājam par lietojumprogrammām.

Hanna Kernere ir pētnieka docente Merilendas Universitātē Koledžparkā. Viņa pēta mašīnmācīšanās metodes attālās uzrādes lietojumiem lauksaimniecības uzraudzībā un pārtikas nodrošinājumā NASA raža programma.

paslēpties