AI cīnās ar replikācijas krīzi

Tehnoloģiju giganti dominē pētniecībā, taču robeža starp patiesu izrāvienu un produktu demonstrēšanu var būt neskaidra. Dažiem zinātniekiem pietika.





  • Vils Duglass Heavens arhīva lapa
2020. gada 12. novembris

Pagājušajā mēnesī Nature publicēja a nosodoša atbilde rakstījis 31 zinātnieks uz a pētījums no Google Health kas žurnālā parādījās šī gada sākumā. Google aprakstīja veiksmīgus AI izmēģinājumus, kas medicīniskos attēlos meklēja krūts vēža pazīmes. Taču, pēc kritiķu domām, Google komanda sniedza tik maz informācijas par savu kodu un to, kā tas tika pārbaudīts, ka pētījums nebija nekas vairāk kā patentētu tehnoloģiju veicināšana.

Mēs to vairs nevarējām izturēt, saka Bendžamins Haibe-Kains, atbildes galvenais autors, kurš pēta skaitļošanas genomiku Toronto Universitātē. Tas nav īpaši par šo pētījumu — tā ir tendence, ko esam novērojuši jau vairākus gadus un kas mūs patiešām ir sākusi apgrūtināt.

Haibe-Kains un viņa kolēģi ir starp arvien lielākam skaitam zinātnieku, kuri atturas pret šķietamo AI pētījumu pārredzamības trūkumu. Kad mēs ieraudzījām šo Google dokumentu, mēs sapratām, ka tas ir vēl viens piemērs ļoti augsta līmeņa žurnālam, kurā publicēts ļoti aizraujošs pētījums, kam nav nekāda sakara ar zinātni, viņš saka. Tā drīzāk ir foršu tehnoloģiju reklāma. Mēs ar to īsti neko nevaram darīt.



Zinātne ir balstīta uz uzticības pamatu, kas parasti ietver pietiekami daudz informācijas par to, kā tiek veikti pētījumi, lai citi varētu to atkārtot, pārbaudot rezultātus paši. Tādā veidā zinātne paši labo un izrauj rezultātus, kas neiztur. Replikācija arī ļauj citiem izmantot šos rezultātus, palīdzot virzīties uz priekšu šajā jomā. Zinātne, ko nevar atkārtot, atkrīt.

Vismaz tāda ir doma. Praksē daži pētījumi tiek pilnībā atkārtoti, jo lielākā daļa pētnieku ir vairāk ieinteresēti iegūt jaunus rezultātus, nevis reproducēt vecos rezultātus. Taču tādās jomās kā bioloģija un fizika, kā arī datorzinātne kopumā, parasti tiek sagaidīts, ka pētnieki sniegs informāciju, kas nepieciešama eksperimentu atkārtotai veikšanai, pat ja šie atkārtojumi ir reti.

Ambiciozs noob

AI izjūt karstumu vairāku iemeslu dēļ. Iesākumam tas ir jaunpienācējs. Tā patiešām ir kļuvusi par eksperimentālu zinātni tikai pēdējo desmit gadu laikā, saka Džoelle Pineau, Facebook AI pētniecības un Makgila universitātes datorzinātniece, kas bija sūdzības līdzautore. Agrāk tas bija teorētiski, bet arvien vairāk mēs veicam eksperimentus, viņa saka. Un mūsu uzticība saprātīgai metodoloģijai atpaliek no mūsu eksperimentu ambīcijām.



Problēma nav tikai akadēmiska. Pārredzamības trūkums neļauj pienācīgi novērtēt jauno AI modeļu un metožu izturību, neobjektivitāti un drošību. AI ātri pāriet no pētniecības laboratorijām uz reālajām lietojumprogrammām, tieši ietekmējot cilvēku dzīvi. Taču mašīnmācības modeļi, kas labi darbojas laboratorijā, var neizdoties savvaļā — ar potenciāli bīstamām sekām. Dažādu pētnieku replikācija dažādos apstākļos radītu problēmas ātrāk, padarot AI spēcīgāku ikvienam.

Saistīts stāsts

Mākslīgais vispārējais intelekts: vai mēs esam tuvu un vai ir jēga mēģināt?

Mašīna, kas varētu domāt kā cilvēks, ir bijusi mākslīgā intelekta izpētes vadošā vīzija kopš seniem laikiem, un joprojām ir tās visšķautīgākā ideja.

AI jau tagad cieš no melnās kastes problēmas: var būt neiespējami precīzi pateikt, kā un kāpēc mašīnmācības modelis dod rezultātus. Pārredzamības trūkums pētniecībā situāciju pasliktina. Uz lieliem modeļiem ir jāvelta pēc iespējas vairāk acu, vairāk cilvēku tos pārbauda un izdomā, kas liek tiem atzīmēties. Tādā veidā mēs padarām AI veselības aprūpē drošāku, AI in kārtības nodrošināšana godīgāka , un tērzēšanas roboti ir mazāk naidīgi.



Tas, kas neļauj AI replikācijai notikt, kā vajadzētu, ir piekļuves trūkums trim lietām: kodam, datiem un aparatūrai. Saskaņā ar 2020. gada AI stāvokļa ziņojums , investoru Nathan Benaich un Ian Hogarth rūpīgi pārbaudīta gada analīze šajā jomā, tikai 15% AI pētījumu koplieto savu kodu. Nozares pētnieki ir lielāki likumpārkāpēji nekā tie, kas ir saistīti ar universitātēm. It īpaši, ziņojumā ir norādīts OpenAI un DeepMind par koda slēpšanu.

Pēc tam pieaug plaisa starp tiem, kam ir un kam nav, attiecībā uz diviem AI pīlāriem — datiem un aparatūru. Dati bieži ir patentēti, piemēram, informācija, ko Facebook apkopo par saviem lietotājiem, vai arī sensitīvi, piemēram, personas medicīniskie ieraksti. Un tehnoloģiju giganti veic arvien vairāk pētījumu par milzīgām, dārgām datoru kopām, kurām tikai dažām universitātēm vai mazākiem uzņēmumiem ir pieejami resursi.

Piemēram, valodu ģeneratora GPT-3 apmācība ir tiek lēsts, ka tas maksās OpenAI no 10 līdz 12 miljoniem ASV dolāru, un tas ir tikai pēdējais modelis, neskaitot prototipu izstrādes un apmācības izmaksas. Jūs, iespējams, varētu reizināt šo skaitli ar vismaz vienu vai divām kārtām, saka Benaičs, kurš ir Air Street Capital dibinātājs, riska kapitāla uzņēmums, kas iegulda AI jaunizveidotajos uzņēmumos. Viņš saka, ka tikai neliela saujiņa lielu tehnoloģiju firmu var atļauties veikt šādu darbu: neviens cits nevar vienkārši tērēt milzīgus budžetus šiem eksperimentiem.



Progresa ātrums ir reibinošs, katru gadu tiek publicēti tūkstošiem rakstu. Bet, ja pētnieki nezina, kuriem uzticēties, jomai ir grūti virzīties uz priekšu. Replikācija ļauj citiem pētniekiem pārbaudīt, vai rezultāti nav atlasīti un vai jaunās AI metodes patiešām darbojas, kā aprakstīts. Pineau saka, ka kļūst arvien grūtāk un grūtāk noteikt, kuri rezultāti ir ticami un kuri nav.

Ko var darīt? Tāpat kā daudzi AI pētnieki, Pineau sadala savu laiku starp universitātes un korporatīvajām laboratorijām. Dažus pēdējos gadus viņa ir bijusi virzītājspēks, kas mainījis AI pētījumu publicēšanas veidu. Piemēram, pagājušajā gadā viņa palīdzēja ieviest kontrolsarakstu ar lietām, kas pētniekiem ir jāiesniedz, ieskaitot kodu un detalizētus eksperimentu aprakstus, iesniedzot dokumentus NeurIPS, vienai no lielākajām AI konferencēm.

Replikācija ir sava atlīdzība

Pineau ir arī palīdzējis uzsākt dažas reproducējamības problēmas, kurās pētnieki mēģina atkārtot publicēto pētījumu rezultātus. Dalībnieki izvēlas dokumentus, kas ir pieņemti konferencē, un sacenšas, lai atkārtotu eksperimentus, izmantojot sniegto informāciju. Bet vienīgā balva ir slava.

Šis stimulu trūkums ir šķērslis šādiem centieniem visās zinātnēs, ne tikai AI. Replikācija ir būtiska, taču tā netiek atalgota. Viens no risinājumiem ir likt studentiem veikt darbu. Pēdējos pāris gadus Rozmarija Ke, Jošua Bengio dibinātā Monreālas pētniecības institūta Mila doktorante, ir organizējusi reproducējamības izaicinājums kur studenti mēģina atkārtot pētījumus, kas iesniegti NeurIPS kā daļu no sava mašīnmācības kursa. Savukārt dažas veiksmīgas replikācijas tiek recenzētas un publicētas žurnālā ReScience.

Ir nepieciešams diezgan daudz pūļu, lai no jauna pavairotu citu papīru, saka Ke. Reproducējamības izaicinājums atzīst šīs pūles un piešķir atzinību cilvēkiem, kuri veic labu darbu. Ke un citi arī izplata vārdu AI konferencēs, izmantojot seminārus, kas izveidoti, lai mudinātu pētniekus padarīt savu darbu pārredzamāku. Šogad Pineau un Ke paplašināja reproducējamības izaicinājumu septiņās no populārākajām AI konferencēm, tostarp ICML un ICLR.

Vēl viens virziens uz pārredzamību ir Papīri ar kodu projekts, ko izveidoja mākslīgā intelekta pētnieks Roberts Stojniks, kad viņš mācījās Kembridžas universitātē. (Tagad Stojniks ir Pineau’s kolēģis pakalpojumā Facebook.) Tā tika izveidota kā atsevišķa vietne, kurā pētnieki varēja saistīt pētījumu ar kodu, kas tam pievienots, un šogad Papers with Code uzsāka sadarbību ar arXiv, populāru pirmsdrukas serveri. Kopš oktobra visiem arXiv mašīnmācības dokumentiem ir sadaļa Papers with Code, kas ir tieši saistīta ar kodu, kuru autori vēlas darīt pieejamu. Mērķis ir padarīt dalīšanu par normu.

Vai šādi centieni kaut ko maina? Pineau atklāja, ka pagājušajā gadā, kad tika ieviests kontrolsaraksts, pieauga pētnieku skaits, ieskaitot kodu ar dokumentiem, kas tika iesniegti NeurIPS. no mazāk nekā 50% līdz aptuveni 75% . Tūkstošiem recenzentu saka, ka viņi izmantoja kodu, lai novērtētu iesniegumus. Un dalībnieku skaits reproducējamības izaicinājumos pieaug.

Detaļu svīšana

Bet tas ir tikai sākums. Haibe-Kains norāda, ka eksperimenta atkārtošanai bieži vien nepietiek ar kodu vien. AI modeļu veidošana ietver daudzu mazu izmaiņu veikšanu — šeit jāpievieno parametri, tur jāpielāgo vērtības. Jebkurš no tiem var atšķirt modeli, kas darbojas un nedarbojas. Bez metadatiem, kas apraksta, kā modeļi tiek apmācīti un pielāgoti, kods var būt bezjēdzīgs. Viņš saka, ka velns patiešām slēpjas detaļās.

Tāpat ne vienmēr ir skaidrs, tieši kāds kods vispirms jākopīgo. Daudzas laboratorijas izmanto īpašu programmatūru, lai palaistu savus modeļus; dažreiz tas ir patentēts. Ir grūti zināt, cik daudz no šī atbalsta koda arī ir jādala, saka Haibe-Kains.

Pineau par šādiem šķēršļiem pārāk neuztraucas. Viņa saka, ka mums vajadzētu ļoti cerēt uz koda kopīgošanu. Datu koplietošana ir sarežģītāka, taču arī šeit ir risinājumi. Ja pētnieki nevar kopīgot savus datus, viņi var sniegt norādījumus, lai citi varētu izveidot līdzīgas datu kopas. Vai arī jūs varētu izmantot procesu, kurā nelielam skaitam neatkarīgu auditoru tika dota piekļuve datiem, pārbaudot rezultātus visiem pārējiem, saka Haibe-Kains.

Aparatūra ir lielākā problēma. Bet DeepMind apgalvo, ka liela apjoma pētījumiem, piemēram, AlphaGo vai GPT-3, ir samazināšanās efekts, jo bagāto laboratoriju iztērētā nauda galu galā noved pie rezultātiem, kas ir izdevīgi visiem. AI, kas ir nepieejams citiem pētniekiem tās sākumposmā, jo tas prasa lielu skaitļošanas jaudu, bieži vien tiek padarīts efektīvāks un līdz ar to pieejamāks, kad tas tiek izstrādāts. AlphaGo Zero pārspēja sākotnējo AlphaGo, izmantojot daudz mazāk skaitļošanas resursu, saka Korejs Kavukcuoglu, DeepMind pētniecības viceprezidents.

Teorētiski tas nozīmē, ka pat tad, ja replikācija tiek aizkavēta, tā vismaz joprojām ir iespējama. Kavukcuoglu atzīmē, ka Džans Karlo Paskuto, Mozilla beļģu kodētājs, kurš brīvajā laikā raksta šaha un Go programmatūru, varēja no jauna izveidot AlphaGo Zero versiju ar nosaukumu Leela Zero, izmantojot DeepMind savos dokumentos izklāstītos algoritmus. Pineau arī uzskata, ka tādi vadošie pētījumi kā AlphaGo un GPT-3 ir reti. Viņa saka, ka lielākā daļa AI pētījumu tiek veikti datoros, kas ir pieejami vidējai laboratorijai. Un problēma nav raksturīga tikai AI. Gan Pineau, gan Benaihs norāda uz daļiņu fiziku, kur dažus eksperimentus var veikt tikai ar dārgām iekārtām, piemēram, lielo hadronu paātrinātāju.

Tomēr fizikā universitāšu laboratorijas veic kopīgus eksperimentus ar LHC. Lieli AI eksperimenti parasti tiek veikti ar aparatūru, kas pieder uzņēmumiem un to kontrolē. Bet pat tas mainās, saka Pineau. Piemēram, grupa Compute Canada veido skaitļošanas klasterus, lai ļautu universitātēm veikt lielus AI eksperimentus. Daži uzņēmumi, tostarp Facebook, arī piešķir universitātēm ierobežotu piekļuvi savai aparatūrai. Tas nav līdz galam, viņa saka. Bet dažas durvis veras vaļā.

Haibe-Kains ir mazāk pārliecināts. Kad viņš lūdza Google Health komandai kopīgot vēža skrīninga AI kodu, viņam tika teikts, ka tai ir nepieciešama papildu pārbaude. Komanda atkārto šo pamatojumu a formāla atbilde uz Haibes-Kains kritiku, kas publicēta arī Nature: Mēs plānojam savu programmatūru plaši pārbaudīt pirms tās izmantošanas klīniskajā vidē, sadarbojoties ar pacientiem, pakalpojumu sniedzējiem un regulatoriem, lai nodrošinātu efektivitāti un drošību. Pētnieki arī teica, ka viņiem nebija atļaujas dalīties ar visiem izmantotajiem medicīniskajiem datiem.

Tas nav pietiekami labs, saka Haibe-Kains: Ja viņi vēlas no tā izveidot produktu, es pilnībā saprotu, ka viņi neatklās visu informāciju. Bet viņš domā, ka, ja publicējat zinātniskā žurnālā vai konferencē, jums ir pienākums atbrīvot kodu, ko var palaist citi. Dažreiz tas var nozīmēt tādas versijas kopīgošanu, kurā ir mazāk datu vai tiek izmantota lētāka aparatūra. Tas var dot sliktākus rezultātus, bet cilvēki varēs ar to lāpīt. Robežas starp produkta izveidi un izpētes veikšanu ar katru brīdi kļūst neskaidrākas, saka Haibe-Kains. Es domāju, ka kā lauks mēs zaudēsim.

Pētniecības paradumi mirst smagi

Ja uzņēmumus grasās kritizēt par publicēšanu, kāpēc to vispār darīt? Protams, ir zināma sabiedrisko attiecību pakāpe. Bet galvenais iemesls ir tas, ka labākās korporatīvās laboratorijas ir piepildītas ar pētniekiem no universitātēm. Zināmā mērā kultūru tādās vietās kā Facebook AI Research, DeepMind un OpenAI veido tradicionālie akadēmiskie ieradumi. Arī tehnoloģiju uzņēmumi uzvar, piedaloties plašākā pētniecības kopienā. Visi lielie AI projekti privātajās laboratorijās ir balstīti uz publiskās pētniecības slāņiem un slāņiem. Un daži AI pētnieki nav izmantojuši atvērtā pirmkoda mašīnmācības rīkus, piemēram, Facebook PyTorch vai Google TensorFlow.

Tā kā milzu tehnoloģiju uzņēmumos tiek veikts vairāk pētījumu, noteikti kompromisi starp konkurējošām biznesa un pētniecības prasībām kļūs neizbēgami. Jautājums ir par to, kā pētnieki tajās orientējas. Haibe-Kains vēlētos, lai žurnāli, piemēram, Nature, sadalītu to, ko tie publicē, atsevišķās plūsmās: reproducējami pētījumi, no vienas puses, un tehnoloģiju vitrīnas, no otras puses.

Bet Pineau ir optimistiskāks. Es nestrādātu Facebook, ja tam nebūtu atvērtas pieejas pētniecībai, viņa saka.

Arī citas lielas korporatīvās laboratorijas uzsver savu apņemšanos nodrošināt pārredzamību. Zinātniskais darbs prasa rūpīgu pārbaudi un atkārtošanu, ko veic citi šajā jomā, saka Kavukcuoglu. Šī ir būtiska mūsu pieejas daļai DeepMind pētījumiem.

OpenAI ir kļuvusi par kaut ko ļoti atšķirīgu no tradicionālās laboratorijas, saka uzņēmuma pārstāve Kayla Wood. Protams, tas rada dažus jautājumus. Viņa atzīmē, ka OpenAI sadarbojas ar vairāk nekā 80 nozares un akadēmiskām organizācijām partnerībā par mākslīgo intelektu, lai domātu par ilgtermiņa publicēšanas normām pētniecībai.

Pineau uzskata, ka tajā ir kaut kas. Viņa domā, ka AI uzņēmumi demonstrē trešo veidu, kā veikt pētījumus, kaut kur starp Haibes-Kains divām plūsmām. Viņa pretstata privāto AI laboratoriju intelektuālo produkciju ar, piemēram, farmācijas kompānijām, kas iegulda miljardus narkotikās un lielu daļu darba glabā aiz slēgtām durvīm.

Pineau un citu ieviestās prakses ilgtermiņa ietekme vēl jāredz. Vai ieradumi mainīsies uz labu? Kādas atšķirības tas ietekmēs AI izmantošanu ārpus pētniecības? Daudz kas ir atkarīgs no AI virziena. Tendence pēc arvien lielākiem modeļiem un datu kopām, ko atbalsta, piemēram, OpenAI, joprojām padarīs AI progresīvākās iespējas nepieejamas lielākajai daļai pētnieku. No otras puses, jaunas tehnikas, piemēram, modeļa saspiešana un dažu kadru mācības , varētu mainīt šo tendenci un ļautu lielākam skaitam pētnieku strādāt ar mazāku, efektīvāku AI.

Jebkurā gadījumā AI izpētē joprojām dominēs lielie uzņēmumi. Ja tas tiek darīts pareizi, tam nav jābūt sliktam, saka Pineau: AI maina sarunu par to, kā darbojas nozares pētniecības laboratorijas. Galvenais būs pārliecināties, ka plašākam laukam ir iespēja piedalīties. Jo mākslīgā intelekta uzticamība, no kuras tik daudz ir atkarīgs, sākas visprogresīvākajā līmenī.