211service.com
Kāpēc AI apdraud demokrātiju un ko mēs varam darīt, lai to apturētu
Futūriste un Ņujorkas universitātes profesore Eimija Veba par tuvojošos mākslīgā intelekta katastrofu un to, kāpēc joprojām pastāv cerība, ka to var novērst. 2019. gada 26. februāris
Eimija Veba, futūriste un Ņujorkas universitātes profesore Jeļena Seiberta
Eimija Veba, futūriste, Ņujorkas universitātes profesore un godalgotā autore, pēdējo desmit gadu laikā ir pavadījusi lielu daļu, pētot, diskutējot un tiekoties ar cilvēkiem un organizācijām par mākslīgo intelektu. Mēs esam sasnieguši drudža līmeni visās AI jomās, viņa saka. Tagad ir pienācis laiks atkāpties, lai redzētu, kur tas virzās.
Tas ir viņas jaunās grāmatas uzdevums, Lielie deviņi: kā tehniskie titāni un viņu domāšanas mašīnas varētu sagrozīt cilvēci , kur viņa no putna lidojuma raugās uz tendencēm, kas, viņa brīdina, ir nostādījušas tehnoloģiju attīstību uz bīstama ceļa. Amerikas Savienotajās Valstīs Google, Microsoft, Amazon, Facebook, IBM un Apple (G-MAFIA) ir nomāktas kapitālistiskā tirgus nerimstošās īstermiņa prasības, padarot neiespējamu ilgtermiņa, pārdomātu mākslīgā intelekta plānošanu. Ķīnā Tencent, Alibaba un Baidu konsolidē un iegūst milzīgus datu apjomus, lai veicinātu valdības autoritārās ambīcijas.
Ja mēs nemainīsim šo trajektoriju, apgalvo Vebs, mēs varam nonākt taisnā ceļā uz katastrofu. Bet vēl ir laiks rīkoties, un katram sava loma. MIT Technology Review apsēdās ar viņu, lai runātu par to, kāpēc viņa ir noraizējusies un ko, viņasprāt, mēs varam darīt lietas labā.
Šie jautājumi un atbildes skaidrības labad ir saīsināti un rediģēti.
Jūs pieminējat, ka mēs šobrīd redzam satraucošu tehnoloģisku, politisko un ekonomisko tendenču konverģenci. Vai varat izvērst, kādas ir tehnoloģiju tendences?
Kad jūs runājat ar pētnieku, kas strādā šajā jomā, viņš jums pateiks, ka paies ļoti ilgs laiks, līdz mēs redzēsim daudzus solījumus, kas ir doti saistībā ar AI: tādas lietas kā pilnīga automatizācija transportlīdzekļos, absolūta atpazīšana vai mākslīgais vispārējais intelekts — AGI — sistēmas, kas spēj izzināt un vairāk domāt cilvēkiem.
No mana viedokļa raugoties uz apvārsni par dienu, kad mums ir sava veida staigājoša, runājoša mašīna vai mašīna ar bezķermeņa balsi, kas pieņem autonomus lēmumus, mazliet garām. Mēs jau redzam miljardiem sīku sasniegumu, kas laika gaitā radīs sarežģītus efektus un novedīs pie sistēmām, kas var patstāvīgi pieņemt daudzus lēmumus vienlaikus.
Piemēram, DeepMind komanda ir smagi strādājusi, lai iemācītu mašīnām pārspēt cilvēkus spēlējot spēles. Viņi ir kļuvuši diezgan tālu uz priekšu tādās jomās kā hierarhiskā pastiprināšanas mācīšanās un daudzuzdevumu mācīšanās. Jaunākā AlphaGo algoritma versija AlphaZero spēj iemācīties spēlēt trīs spēles vienlaikus bez cilvēka. Tas ir diezgan liels lēciens. Ir arī ļoti jauna ģeneratīvo pretrunīgo tīklu joma, kurā ar pienācīga izmēra attēlu korpusu tagad varat ģenerēt cilvēku sejas, kas izskatījās ļoti, ļoti reālistiskas.
Šie sasniegumi nav tik seksīgi vai tik aizraujoši kā tas, kas mums tika stāstīts par AGI. Bet, ja varat aplūkot 40 000 pēdu skatu, varat redzēt, ka mēs nonākam situācijā, kurā sistēmas izdarīs izvēli mūsu vietā. Un mums ir jāapstājas un jājautā sev, kas notiek, ja šīs sistēmas noliek malā cilvēku stratēģiju par labu kaut kam mums pilnīgi nezināmam.
Kā ar politiskajām un ekonomiskajām tendencēm? Vai varat aprakstīt tos, kas jūs visvairāk satrauc?
Amerikas Savienotajās Valstīs brīva ideju plūsma var izplatīties neapgrūtināta. Tas ir veids, kā tika dibināta Silīcija ieleja. Tas ir veicinājis gan konkurenci, gan inovācijas, un tādējādi mēs nokļuvām tur, kur esam pašlaik, izmantojot AI un citas tehnoloģijas.
Lielie deviņi: kā tehniskie titāni un viņu domāšanas mašīnas varētu sagrozīt cilvēci, Eimija Veba
Tomēr ASV arī mēs ciešam no traģiska tālredzības trūkuma. Tā vietā, lai izveidotu grandiozu AI vai mūsu ilgtermiņa nākotnes stratēģiju, federālā valdība ir atņēmusi finansējumu no zinātnes un tehnoloģiju pētniecības. Tātad naudai jānāk no privātā sektora. Taču investori sagaida arī kaut kādu atdevi. Tā ir problēma. Jūs nevarat ieplānot savus pētniecības un attīstības sasniegumus, kad strādājat pie fundamentālām tehnoloģijām un pētījumiem. Būtu lieliski, ja lielajiem tehnoloģiju uzņēmumiem būtu iespēja patiešām smagi strādāt, neradot ikgadēju konferenci, lai demonstrētu savu jaunāko un vislielāko uzplaukumu. Tā vietā mums tagad ir neskaitāmi piemēri sliktiem lēmumiem, ko kāds G-MAFIA pieņēmis, iespējams, tāpēc, ka viņi strādāja ātri. Mēs sākam redzēt negatīvās sekas, ko rada spriedze starp tādu pētījumu veikšanu, kas ir cilvēces interesēs, un investoru iepriecināšanu.
Tagad tas būtu pietiekami slikti, kā tas ir, vai ne? Bet tas viss notiek tajā pašā laikā, kad Ķīnā tiek konsolidēts milzīgs spēks. Ķīnai ir valsts ieguldījumu fonds, kas veltīts AI fundamentālajiem fundamentālajiem pētījumiem. Viņi izmet milzīgas naudas summas AI. Un viņiem ir pilnīgi atšķirīga ideja par privātumu un datiem nekā ASV. Tas nozīmē, ka viņiem ir daudz vairāk datu, ko var iegūt un pilnveidot. Izmantojot centrālo iestādi, valdībai ir ļoti vienkārši pārbaudīt un izveidot AI pakalpojumus, kas ietver datus no 1,3 miljardiem cilvēku. Un tas ir tikai viņu pašu valstī.
Tad viņiem ir Belt and Road Initiative, kas izskatās kā tradicionāla infrastruktūras programma, bet daļēji ir arī digitāla. Tas attiecas ne tikai uz ceļu un tiltu būvniecību; tas attiecas arī uz 5G tīklu izveidi un šķiedru ieklāšanu, kā arī par datu ieguvi un rafinēšanu ārvalstīs. Šo tehnoloģiju ieviešana apdraud cilvēkus, kuriem rūp tādas lietas kā vārda brīvība un Rietumu demokrātijas ideāli.
Kāpēc mums jātiecas pēc Rietumu demokrātijas ideāliem?
Tas ir lielisks jautājums. Esmu dzīvojis Ķīnā, Japānā un, protams, Amerikas Savienotajās Valstīs. Un jūs varētu paskatīties uz mūsu valsts stāvokli šobrīd un to, kas notiek Ķīnā, un padomāt, vai tas tiešām ir vissliktākais? Starp citu, Ķīnas sociālo kredītu vērtēšanas sistēma amerikāņiem izklausās dīvaini un šausmīgi, taču daudzi cilvēki neapzinās, ka pašziņošana un uzvedības uzraudzība ciematos un kopienās ir bijusi Ķīnas kultūras sastāvdaļa uz visiem laikiem. Sociālā kredīta rādītājs to vienkārši automatizē. Jā, tas ir lielisks jautājums.
Es domāju, ko es teiktu, ja es aplūkotu idealizēto Ķīnas komunisma versiju un idealizēto Rietumu demokrātijas versiju, es izvēlētos Rietumu demokrātiju, jo es domāju, ka tur ir labāka iespēja brīvai ideju plūsmai un ikdienai. cilvēkiem, lai gūtu panākumus. Manuprāt, cilvēku stimulēšana individuālajiem un personīgajiem sasniegumiem ir lielisks veids, kā pacelt sabiedrību, palīdzēt sasniegt mūsu individuālo potenciālu.
Vai tas ir godīgs salīdzinājums, ņemot vērā virzienu, uz kuru pasaule šodien virzās ar AI? Vai mums būtu jāsalīdzina Ķīnas komunisma idealizētās versijas ar Rietumu demokrātiju vai abu sliktākajām versijām?
Tas ir lielisks jautājums, jo jūs varētu apgalvot, ka AI ekosistēmas daļas jau patiešām negatīvi ietekmē mūsu Rietumu demokrātijas ideālus. Acīmredzot viss, kas noticis ar Facebook, kalpo kā piemērs. Bet arī apskatiet, kas notiek ar anti-vaxxer kopienu. Viņi izplata pilnīgi nepareizu informāciju par vakcīnām un pamata zinātni. Mūsu amerikāņu tradīcijas saka, ka vārda brīvība, platformas ir platformas, mums ir jāļauj cilvēkiem izteikties. Problēma ar to ir tāda, ka algoritmi izdara izvēli par redakcionālo saturu, kas liek cilvēkiem pieņemt ļoti sliktus lēmumus un rezultātā bērni kļūst slimi.
Problēma ir tā, ka mūsu tehnoloģija ir kļuvusi arvien sarežģītāka, bet mūsu domāšana par to, kas ir vārda brīvība un kā izskatās brīvā tirgus ekonomika, nav kļuvusi tik izsmalcināta. Mēs mēdzam izmantot ļoti vienkāršas interpretācijas: runas brīvība nozīmē, ka visa runa ir brīva, ja vien tā nav pretrunā ar likumu par apmelošanu, un ar to viss beidzas. Ar to stāsts nebeidzas. Mums jāsāk izsmalcinātāka un inteliģentāka saruna par mūsu pašreizējiem likumiem, mūsu topošajām tehnoloģijām un to, kā mēs varam panākt, lai šie divi satiktos.
Citiem vārdiem sakot, jūs ticat, ka mēs attīstīsimies no pašreizējās vietas uz idealizētāku Rietumu demokrātijas versiju. Un jums tas būtu daudz labāk, nevis idealizētajam ķīniešu komunismam.
Jā, es ticu, ka tas ir iespējams. Manas milzīgās bažas ir par to, ka visi gaida, ka mēs nesteidzamies, un būs vajadzīga patiesa katastrofa, lai liktu cilvēkiem rīkoties, it kā vieta, kur esam nonākuši, nebūtu katastrofāla. Bet tas, ka masalas atkal ir Vašingtonas štatā, man šķiet ir katastrofāls iznākums. Tāpat arī tas, kas notika pēc vēlēšanām. Neatkarīgi no tā, kurā politiskā spektra pusē atrodaties, es nevaru iedomāties, ka kāds šodien domā, ka pašreizējais politiskais klimats ir labs mūsu nākotnei.
Tāpēc es pilnīgi ticu, ka ir ceļš uz priekšu. Bet mums ir jāsanāk kopā un jāpārvar plaisa starp Silīcija ieleju un līdzstrāvas zonu, lai mēs visi varētu vadīt laivu vienā virzienā.
Ko jūs iesakāt darīt valdībai, uzņēmumiem, universitātēm un individuālajiem patērētājiem?
AI attīstības ceļš ir problēma, un katrs no mums ir ieinteresēts. Tu, es, mans tētis, mans kaimiņš, puisis no Starbucks, kuram es šobrīd eju garām. Kas tad būtu jādara ikdienas cilvēkiem? Esiet vairāk informēts par to, kas un kā izmanto jūsu datus. Veltiet dažas minūtes, lai izlasītu darbu, ko sarakstījuši gudri cilvēki, un veltiet pāris minūtes, lai saprastu, par ko mēs patiesībā runājam. Pirms atkāpjaties no dzīves un sākat kopīgot savu bērnu fotoattēlus, dariet to informētā veidā. Ja jums ir labi, ko tas nozīmē un ko tas varētu nozīmēt vēlāk, labi, bet vispirms iegūstiet šīs zināšanas.
Uzņēmumi un investori nevar sagaidīt, ka produktu sasteigs atkal un atkal. Tas mūs sagatavo turpmākajām problēmām. Tādējādi viņi var veikt tādas darbības kā, piemēram, uzlabot darbā pieņemšanas procesus, ievērojami palielināt centienus, lai uzlabotu iekļaušanu, un pārliecināties, ka viņu darbinieki vairāk atspoguļo to, kā izskatās reālā pasaule. Viņi var arī iedarbināt dažas bremzes. Jebkurš ieguldījums, kas tiek veikts AI uzņēmumā vai projektā vai jebkurā citā, jāiekļauj arī finansējums un laiks tādu lietu pārbaudei kā risks un neobjektivitāte.
Universitātēm savās programmās ir jārada vieta hibrīdajiem grādiem. Tiem būtu jāstimulē CS studenti studēt salīdzinošo literatūru, pasaules reliģijas, mikroekonomiku, kultūras antropoloģiju un līdzīgus kursus citās nodaļās. Viņiem būtu jāatbalsta divu grādu programmas datorzinātnēs un starptautiskajās attiecībās, teoloģijā, politoloģijā, filozofijā, sabiedrības veselībā, izglītībā un tamlīdzīgās jomās. Ētiku nevajadzētu mācīt kā atsevišķu nodarbību, ko vienkārši atzīmēt sarakstā. Skolām ir jāmudina pat štata profesori savos kursos iepīt sarežģītas diskusijas par aizspriedumiem, risku, filozofiju, reliģiju, dzimumu un ētiku.
Viens no maniem lielākajiem ieteikumiem ir izveidot GAIA, ko es saucu par Globālo izlūkošanas palielināšanas aliansi. Šobrīd cilvēkiem visā pasaulē ir ļoti atšķirīga attieksme un pieejas attiecībā uz datu vākšanu un koplietošanu, to, ko var un vajadzētu automatizēt un kāda varētu izskatīties nākotne ar vispārīgākām viedām sistēmām. Tāpēc es domāju, ka mums ir jāizveido sava veida centrālā organizācija, kas varētu izstrādāt globālas normas un standartus, kaut kādas aizsargmargas, lai mākslīgā intelekta sistēmās iekļautu ne tikai amerikāņu vai ķīniešu ideālus, bet arī pasaules uzskatus, kas ir daudz reprezentatīvāki visiem.
Pats galvenais, mums ir jābūt gataviem domāt par to daudz ilgākā termiņā, nevis tikai pēc pieciem gadiem. Mums ir jābeidz teikt: Nu, mēs nevaram paredzēt nākotni, tāpēc neuztraucīsimies par to šobrīd. Tā ir taisnība, mēs nevaram paredzēt nākotni. Bet mēs noteikti varam veikt labāku plānošanas darbu.
Šī stāsta saīsinātā versija sākotnēji parādījās mūsu AI informatīvajā izdevumā The Algorithm. Lai tas tiktu tieši piegādāts jūsu iesūtnē, reģistrējieties šeit bez maksas.