Pieci veidi, kā 2021. gadā AI padarīt par lielāku spēku

Balons ir piesiets pie metāla atsvara. Šķēres griež auklu, kas to nostiprina vietā. Getty

Pirms gada es nebiju gudrāks par to, ko nesīs 2020. gads atspoguļots par izšķirošo brīdi, kurā atradās AI kopiena. Iepriekšējā, 2018. gadā, bija vairākas augsta līmeņa automatizētas kļūmes, piemēram, pašbraucošu automašīnu avārijas un diskriminējoši darbā pieņemšanas instrumenti . 2019. gadā šī joma atbildēja ar vairāk runām par AI ētiku nekā jebkad agrāk. Bet ar runām, es teicu, nepietika. Mums bija jāveic taustāmas darbības. Divus mēnešus vēlāk koronavīruss slēdza pasauli.

Mūsu jaunajā, sociāli attālinātajā, attālinātajā realitātē šīs sarunas par algoritmisko kaitējumu pēkšņi sagrāva. Sistēmas, kas bijušas nomalē, piemēram HireVue sejas skenēšanas algoritmi un darba vietas uzraudzības instrumenti , bija mainstream. Citi, piemēram, instrumenti, lai uzraudzīt un novērtēt studentus , griezās reāllaikā. Augustā pēc iespaidīga neveiksme Apvienotās Karalistes valdībai, lai klātienes eksāmenus aizstātu ar algoritmu uzņemšanai universitātēs, simtiem studentu pulcējās Londonā, lai skandētu: “Nāc uz algoritmu”. Tas kļūst par 2020. gada kaujas saucienu, tvītoja AI atbildības pētnieks Debs Raji, kad kāds Stenfordas protestētājs atkal to kliedza, atbildot uz cita neveiksme dažus mēnešus vēlāk.

Tajā pašā laikā patiešām bija vairāk darbības. Vienā svarīgā uzvarā Amazon, Microsoft un IBM aizliedza vai apturēja savu sejas atpazīšanas pārdošanu tiesībaizsardzības iestādēm pēc tam, kad Džordža Floida nogalināšana izraisīja globālus protestus pret policijas brutalitāti. Tā bija kulminācija divus gadus ilgas cīņas pētnieki un civiltiesību aktīvisti, lai parādītu uzņēmumu tehnoloģiju neefektīvo un diskriminējošo ietekmi. Vēl viena izmaiņa bija neliela, taču ievērojama: pirmo reizi NeurIPS, viena no ievērojamākajām AI pētniecības konferencēm, pieprasīja pētniekiem iesniedz ētikas apliecinājumu ar saviem papīriem.

Tātad mēs esam 2021. gada sākumā ar lielāku sabiedrības un regulējošo uzmanību AI ietekmei nekā jebkad agrāk. Mana Jaungada apņemšanās: pieņemsim to vērā. Šeit ir piecas manas cerības uz AI nākamajā gadā.

Samazināt korporatīvo ietekmi pētniecībā

Tehnoloģiju gigantiem ir nesamērīga kontrole pār AI pētniecības virzienu. Tas ir mainījis visas jomas virzienu uz arvien vairāk lielu datu un lieliem modeļiem, kam ir vairākas sekas. Tas uzspridzina mākslīgā intelekta sasniegumu ietekmi uz klimatu, neļauj laboratorijām, kurām ir ierobežoti resursi, piedalīties šajā jomā, un noved pie slinkākiem zinātniskiem pētījumiem, ignorējot dažādas citas iespējamās pieejas. Kā Google atklājās Timnit Gebru izstumšana , tehnoloģiju giganti viegli ierobežos iespēju izmeklēt arī citas sekas.

Taču liela daļa uzņēmumu ietekmes ir saistīta ar naudu un alternatīva finansējuma trūkumu. Kā es rakstīju pagājušajā gadā mans OpenAI profils , laboratorija sākotnēji centās paļauties tikai uz neatkarīgiem, bagātiem donoriem. Derības izrādījās neilgtspējīgas, un četrus gadus vēlāk OpenAI parakstīja investīciju līgumu ar Microsoft. Es ceru, ka mēs redzēsim vairāk valdību, kas ieies šajā tukšumā, lai nodrošinātu pētniekiem ar aizsardzību nesaistītas finansēšanas iespējas. Tas nebūs ideāls risinājums, bet tas būs sākums. Valdības ir sabiedrībai, nevis zemākajai līnijai.

Pārorientējieties uz veselā saprāta izpratni

Lielā uzmanība lielākiem un sliktākiem modeļiem ir aizēnojusi vienu no galvenajiem AI pētniecības mērķiem: radīt inteliģentas mašīnas kas ne tikai sakrīt, bet arī saprot nozīmi. Lai gan korporatīvā ietekme ir galvenais šīs tendences veicinātājs, ir arī citi vainīgie. Pētniecības konferencēs un salīdzinošās pārskatīšanas publikācijās liels uzsvars tiek likts uz jaunāko rezultātu sasniegšanu. Taču tehnikas stāvoklis ir tāds bieži vien slikti izmērīts ar testiem ko var pārspēt, izmantojot vairāk datu un lielākus modeļus.

Saistīts stāsts

Mēs lasījām rakstu, kas lika Timnitam Gebru atteikties no Google. Lūk, kas tajā teikts.

Uzņēmuma zvaigznes ētikas pētnieks uzsvēra lielo valodu modeļu riskus, kas ir Google biznesa atslēga.

Nav tā, ka liela mēroga modeļi nekad nevarētu sasniegt veselo saprātu. Tas joprojām ir atklāts jautājums. Taču ir arī citi pētniecības virzieni, kas ir pelnījuši lielāku ieguldījumu. Daži eksperti ir izdarījuši savas likmes neirosimboliskais AI , kas apvieno dziļu mācīšanos ar simboliskām zināšanu sistēmām. Citi eksperimentē ar varbūtīgākas metodes kas izmanto daudz mazāk datu, ko iedvesmojusi cilvēkbērna spēja mācīties no ļoti dažiem piemēriem.

Es ceru, ka 2021. gadā šī joma pārkārtos savus stimulus, lai priekšroka dotu izpratni par prognozēšanu. Tas ne tikai varētu radīt tehniski izturīgākas sistēmas, bet arī uzlabojumiem būtu liela sociālā ietekme. Piemēram, pašreizējo padziļināto mācību sistēmu iespēja tikt apmānītai, tiek apdraudēta pašbraucošās automašīnas un rada bīstamas iespējas autonomie ieroči . Sistēmu nespēja atšķirt korelāciju no cēloņsakarības ir arī iemesls algoritmiskā diskriminācija .

Pilnvarot marginalizētos pētniekus

Ja algoritmi kodificē to veidotāju vērtības un perspektīvas, to izstrādes laikā pie galda vajadzētu būt plašam cilvēces šķērsgriezumam. Es neredzēju tam labāku pierādījumu kā 2019. gada decembrī, kad apmeklēju NeurIPS. Togad ar rekordlielu skaitu sieviešu un mazākumtautību runātāju un dalībnieku, es varēju sajust procesa norisi. taustāmi pāriet . Bija vairāk sarunu nekā jebkad agrāk par AI ietekmi uz sabiedrību.

Toreiz es slavēju kopienu par tās progresu. Bet Google attieksme pret Gebru , viena no nedaudzajām ievērojamajām melnādainajām sievietēm nozarē, parādīja, cik tālu vēl ir jāiet. Skaitļu daudzveidība ir bezjēdzīga, ja šīs personas nav pilnvarotas savā darbā izmantot savu pieredzi. Tomēr esmu optimistisks, ka paisums mainās. Uzliesmošanas punkts, ko iezīmēja Gebru šaušana, kļuva par kritisku pārdomu brīdi nozarei. Es ceru, ka šis impulss novedīs pie ilgstošām, sistēmiskām izmaiņām.

Centrējiet ietekmēto kopienu perspektīvas

Ir arī cita grupa, ko celt pie galda. Viena no aizraujošākajām tendencēm pagājušajā gadā bija parādīšanās līdzdalības mašīnmācība . Tā ir provokācija no jauna izgudrot AI izstrādes procesu, iekļaujot tos, kuri galu galā tiek pakļauti algoritmiem.

Jūlijā, pirmā konferences darbnīca veltīta šai pieejai, apkopoja dažādas idejas par to, kā tas varētu izskatīties. Ierosinājumi ietvēra jaunas pārvaldības procedūras kopienas atsauksmju pieprasīšanai; jaunas modeļa audita metodes sabiedrības informēšanai un iesaistīšanai; un ierosināja AI sistēmu pārveidojumus, lai lietotāji varētu vairāk kontrolēt savus iestatījumus.

Es ceru, ka 2021. gadā vairāk šo ideju tiks izpētītas un nopietni pieņemtas. Facebook jau sāk darbu: ja tas ļaus ārējai pārraudzības padomei veikt saistošas ​​izmaiņas platformas satura regulēšanas politikā, pārvaldības struktūra varētu kļūt par atgriezeniskās saites mehānismu, kas būtu līdzināšanas cienīgs.

Kodificēt aizsargmargas noteikumos

Līdz šim tautas centieni ir radījuši kustību, lai mazinātu algoritmisko kaitējumu un sauktu tehnoloģiju milžus pie atbildības. Taču pastāvīgāku aizsargmargu izveidošana būs valstu un starptautisko regulatoru ziņā. Labā ziņa ir tā, ka likumdevēji visā pasaulē to ir vērojuši un pašlaik izstrādā tiesību aktus. ASV Kongresa locekļi jau ir ieviests rēķini, lai novērstu sejas atpazīšanu, AI aizspriedumus un dziļus viltojumus. Vairākas no tām arī nosūtīja vēstuli decembrī Google, paužot nodomu turpināt šīs regulas īstenošanu.

Tāpēc mana pēdējā cerība uz 2021. gadu ir, ka daži no šiem likumprojektiem tiks pieņemti. Ir pienācis laiks kodificēt to, ko esam iemācījušies pēdējos gados, un attālināties no pašregulācijas izdomājumiem.

paslēpties