Lielais AI paradokss

Neuztraucieties par to, ka superviedais AI likvidēs visus darbus. Tas tikai novērš uzmanību no problēmām, ko rada pat salīdzinoši mēmi datori. Autors

• Braiens Bergšteins arhīva lapa

2017. gada 15. decembris

Džefs Makfetrids

Jūs droši vien esat dzirdējuši katras no tālāk norādītajām idejām versijas.

1. Tā kā datori kļūst ļoti prasmīgi vadīt transportlīdzekļus, saprast runu un veikt citus uzdevumus, drīzumā var tikt automatizēts vairāk darbu, nekā sabiedrība ir gatava veikt.

Šis stāsts bija daļa no mūsu 2018. gada janvāra numura

• Skatiet pārējo izdevuma daļu
• Abonēt

2. Datoru prasmju uzlabojumi turpināsies, līdz mašīnas kļūs daudz gudrākas par cilvēkiem. Šis superinteliģence lielā mērā padarīs cilvēku darbu nevajadzīgu. Patiesībā mēs labāk ceram, ka mašīnas nejauši vai ar nolūku mūs pilnībā neiznīcinās.

Tas ir sarežģīti. Pat ja pirmais scenārijs jau tiek īstenots, tas ne vienmēr novedīs pie otrā. Šī otrā ideja, neskatoties uz to, ka tā ir ļoti zinošu un pārdomātu cilvēku apsēstība, ir balstīta uz milzīgiem pieņēmumiem. Ja kas, tad tā ir novirzīšanās no lielākas atbildības uzņemšanās par mūsdienu automatizācijas līmeņa sekām un jārisina jaudas koncentrācija tehnoloģiju nozarē.

Lai patiesi redzētu, kas notiek, mums ir skaidri jāzina, kas mākslīgā intelekta jomā ir sasniegts un kas vēl nav atrisināts.

Veselais saprāts

Satriecošākie skaitļošanas notikumi pēdējos gados — automašīnas, kas vada pašas, mašīnas, kas precīzi atpazīst attēlus un runu, datori, kas pārspēj izcilākos sarežģītu spēļu, piemēram, Go, spēlētājus, izriet no sasniegumiem noteiktā AI nozarē: adaptīvā. mašīnmācība. Kā savā grāmatā norāda Toronto Universitātes datorzinātnieks Hektors Levesks Veselais saprāts, Tjūringa tests un īsta AI meklējumi , adaptīvās mašīnmācības ideja ir panākt, lai datorsistēma apgūtu kādu inteliģentu uzvedību, apmācot to, izmantojot milzīgus datu apjomus.

Pārskatītās lietas

• Veselais saprāts, Tjūringa tests un īsta AI meklējumi

  Autors: Hektors Dž. Levesks

• Dzīve 3.0: būt cilvēkam mākslīgā intelekta laikmetā

  Autors: Makss Tegmarks

  
  
  

• WTF?: kāda ir nākotne un kāpēc tas ir atkarīgs no mums

  Autors Tims O’Reilijs

Tas ir pārsteidzoši, ka mašīna var noteikt objektus, tulkot starp valodām un pat rakstīt datora kodu pēc tam, kad tai ir ievadīti šīs uzvedības piemēri, nevis iepriekš jāprogrammē. Tas nebija īsti iespējams vēl pirms aptuveni desmit gadiem, jo ​​iepriekš nebija pietiekami daudz digitālo datu treniņu vajadzībām, un, pat ja bija, nebija pietiekami daudz datora zirgspēku, lai to visu izjauktu. Pēc tam, kad datori atklāj datu modeļus, programmatūras algoritmi liek tiem izdarīt secinājumus no šiem modeļiem un rīkoties atbilstoši tiem. Tas notiek automašīnā, kas analizē ievadi no vairākiem sensoriem, un mašīnā, kas apstrādā katru kustību miljoniem Go spēļu.

Tā kā mašīnas var apstrādāt pārcilvēcīgu datu apjomu, varat saprast, kāpēc vairumā gadījumu tās varētu braukt drošāk nekā cilvēki un kāpēc tās var uzvarēt Go čempionus. Tas ir arī iemesls, kāpēc datori kļūst vēl labāki lietās, kas cilvēkiem ir pilnīgi neiespējamas, piemēram, jūsu genoma un desmitiem citu bioloģisko mainīgo lielumu korelācija ar zālēm, kas, visticamāk, izārstēs jūsu vēzi.

Tomēr tas viss ir neliela daļa no tā, ko varētu pamatoti definēt kā īstu mākslīgo intelektu. Patriks Vinstons, mākslīgā intelekta un datorzinātņu profesors MIT, saka, ka būtu lietderīgāk aprakstīt pēdējos gados notikušo attīstību kā skaitļošanas statistiku, nevis AI. Viens no vadošajiem pētniekiem šajā jomā, Yann LeCun, Facebook AI direktors, teica novembrī Future of Work konferencē MIT, ka mašīnām ir tālu no intelekta būtības. Tas ietver spēju pietiekami labi izprast fizisko pasauli, lai veiktu prognozes par tās pamataspektiem — novērot vienu lietu un pēc tam izmantot fona zināšanas, lai noskaidrotu, kurām citām lietām arī jābūt patiesām. Vēl viens veids, kā to pateikt, ir tas, ka mašīnām nav veselā saprāta.

Dators, kas uzvar Go, analizē datus par modeļiem. Tam nav ne jausmas, ka tas spēlē Go, nevis golfu.

Tas nav tikai semantisks ķibeles. Pastāv liela atšķirība starp mašīnu, kas parāda inteliģentu uzvedību neatkarīgi no tā, cik noderīga tā ir, un tādu, kas patiešām ir inteliģenta. Tagad pieņemsim, ka inteliģences definīcija ir neskaidra. Datoriem kļūstot arvien jaudīgākiem, ir vilinoši attālināt vārtu stabus un no jauna definēt inteliģenci, lai tas paliktu kaut kas tāds, kas mašīnām vēl nevarētu piederēt.

Bet pat tā, nāciet: dators, kas uzvar Go, analizē datus, lai noteiktu modeļus. Tam nav ne jausmas, ka tas spēlē Go, nevis golfu, vai arī tas, kas notiktu, ja vairāk nekā puse no Go dēļa tiktu nobīdīta ārpus galda malas. Kad lūdzat Amazon's Alexa rezervēt jums galdiņu jūsu nosauktajā restorānā, tā balss atpazīšanas sistēma, kas ir ļoti precīza, izmantojot mašīnmācīšanos, ietaupa laiku, kas nepieciešams, lai ievadītu pieprasījumu Open Table rezervēšanas sistēmā. Bet Alexa nezina, kas ir restorāns un kas ir ēšana. Ja jūs lūdzāt rezervēt jums galdiņu diviem pulksten 18:00. Mayo klīnikā tas mēģinātu.

Vai ir iespējams mašīnām piešķirt jaudu domā , kā Džons Makartijs, Mārvins Minskis un citi mākslīgā intelekta aizsācēji bija iecerējuši pirms 60 gadiem? Levesque skaidro, ka, lai to izdarītu, datoros būtu jāpiesaista veselais saprāts un spēja elastīgi izmantot pamatzināšanas par pasauli. Varbūt tas ir iespējams. Bet nav skaidra ceļa, kā to īstenot. Šāda veida darbs ir pietiekami nošķirts no pēdējo gadu mašīnmācības sasniegumiem, lai iegūtu citu nosaukumu: GOFAI, saīsinājums no vecmodīgā mākslīgā intelekta.

Saistīts stāsts

Saistīts stāsts Vienas no vecākajām mākslīgā intelekta idejām reinkarnācija beidzot varētu dot iespēju patiesi sarunāties ar mūsu datoriem. Un Facebook ir iespēja to īstenot vispirms.

Ja jūs uztrauc visuzinošie datori, jums vajadzētu izlasīt Levesque par GOFAI tēmu. Datorzinātnieki joprojām nav atbildējuši uz fundamentāliem jautājumiem, kas nodarbināja Makartiju un Minski. Kā dators var atklāt, kodēt un apstrādāt ne tikai neapstrādātus faktus, bet arī abstraktas idejas un uzskatus, kas ir nepieciešami, lai intuitētu patiesības, kas nav skaidri izteiktas?

Levesque izmanto šo piemēru: pieņemsim, ka es jums jautāju, kā krokodils veiktos šķēršļu skrējienā. No savas pasaules pieredzes jūs zināt, ka krokodili nevar lēkt pāri augstiem dzīvžogiem, tāpēc jūs zināt, ka atbilde uz jautājumu ir kāds Badly variants.

Kā būtu, ja uz šo jautājumu būtu jāatbild tā, kā to spēj dators? Jūs varētu skenēt visu pasaules tekstu, meklējot terminus krokodils un šķēršļu skrējiens, atrast nevienu gadījumu, kad šie vārdi būtu minēti kopā (izņemot tos, kas pastāv tagad, atsaucēs uz Leveskas darbu), un tad pieņemt, ka krokodils nekad nav piedalījies šķēršļu skrējienā. . Tātad jūs varētu saprast, ka kroksam nav iespējams to izdarīt. Labs darbs - šoreiz. Jūs būtu nonācis pie pareizās atbildes, nezinot, kāpēc. Jūs būtu izmantojis kļūdainu un trauslu metodi, kas, iespējams, radīs smieklīgas kļūdas.

Tātad, lai gan mašīnmācības tehnoloģijas ļauj automatizēt daudzus cilvēku tradicionāli veiktos uzdevumus, pastāv būtiski ierobežojumi tam, ko šī pieeja var paveikt pati par sevi, un ir pamatots iemesls sagaidīt, ka cilvēka darbs būs vajadzīgs ļoti ilgu laiku. .

Redukcionisms

Pagaidiet, jūs varētu teikt: tas, ka nevienam tagad nav ne jausmas par to, kā panākt, lai mašīnas veiktu izsmalcinātu argumentāciju, nenozīmē, ka tas nav neiespējami. Ko darīt, ja var izmantot viedās mašīnas, lai izstrādātu vēl viedākas mašīnas un turpinātu darboties, līdz ir pietiekami jaudīgas mašīnas, lai modelētu katru pēdējo elektrisko signālu un bioķīmiskās izmaiņas smadzenēs? Vai varbūt tiks izgudrots cits veids, kā izveidot elastīgu intelektu, pat ja tas nav daudz līdzīgs bioloģiskajām smadzenēm. Galu galā, kad jūs to visu uzvāra (patiešām, tiešām, tiešām uz leju), inteliģence rodas no īpašiem kvarku un citu fundamentālu daļiņu izvietojumiem mūsu smadzenēs. Nav ko teikt, ka šādi izkārtojumi ir iespējami tikai bioloģiskajā materiālā, kas izgatavots no oglekļa atomiem.

Šis ir arguments, kas iet cauri Dzīve 3.0: būt cilvēkam mākslīgā intelekta laikmetā , MIT fizikas profesors Makss Tegmarks. Tegmarks neprognozē, kad ieradīsies patiesi inteliģentas mašīnas, taču viņš norāda, ka tas ir tikai laika jautājums, jo datori mēdz uzlaboties eksponenciāli (lai gan tas ne vienmēr ir taisnība — skatiet sadaļu The Seven Deadly Sins of AI Predictions ). Viņš parasti ir sajūsmā par izredzēm, jo ​​apzinātas mašīnas varētu kolonizēt Visumu un pārliecināties, ka tam joprojām ir nozīme pat pēc tam, kad mūsu saule nomirst un cilvēki ir noslāpēti.

Tegmarks saka, ka AI tuvākā termiņa iespējas sniegt labumu cilvēcei ir iespaidīgas — ja mums izdosies to padarīt stabilu un neuzlaužamu.

Tegmark nāk no humānisma viedokļa. Viņš bija bezpeļņas organizācijas līdzdibinātājs Dzīves nākotnes institūts atbalstīt pētījumus par to, vai AI ir izdevīga. Elons Masks, kurš ir teicis, ka AI varētu būt bīstamāki par kodolieročiem , salicis 10 miljonus dolāru. Tegmark, saprotams, ir noraizējies par to, vai mākslīgais intelekts tiks izmantots saprātīgi, droši un godīgi un vai tas nemainīs mūsu ekonomiku un sociālo struktūru. Viņš cenšas izskaidrot, kāpēc autonomus ieročus nekad nevajadzētu atļaut. Tāpēc es nevēlos viņu kritizēt. Neskatoties uz to, viņš nav pārāk pārliecinošs savā priekšlikumā, ka datori varētu pārņemt pasauli.

Tegmarks pauž nožēlu, ka daži Holivudas mākslīgā intelekta attēlojumi ir muļķīgi, bet tomēr lūdz lasītājus spēlēt kopā ar pārāk vienkāršotu izdomātu skici par to, kā ārkārtīgi spēcīgs AI varētu izvairīties no tā veidotāju kontroles. Lielā tehnoloģiju uzņēmumā ir elitāra programmētāju grupa, ko sauc par Omegas, kas vēlas izveidot sistēmu ar mākslīgo vispārējo intelektu, pirms to dara kāds cits. Viņi šo sistēmu sauc par Prometeju. Tas ir īpaši labs citu AI sistēmu programmēšanai, un tas uzzina par pasauli, lasot lielu daļu tīmekļa.

Atmetiet visus strīdus, kas jums varētu būt par šo pēdējo daļu, ņemot vērā to, cik daudz zināšanu nav tīmeklī vai vispār nav digitalizētas, un maldīgos priekšstatus par pasauli, kas varētu rasties, lasot visu Twitter. The redukcionisms kļūst sliktāk.

Turpinoties Tegmarka hipotētiskajam stāstam, Prometejs krāj naudu saviem veidotājiem, vispirms veicot lielāko daļu uzdevumu Amazon Mechanical Turk tiešsaistes tirgū un pēc tam rakstot programmatūru, grāmatas un rakstus un radot mūziku, pārraides, filmas, spēles un tiešsaistē. izglītības kursi. Aizmirstiet pieņemt darbā un vadīt aktierus; Prometheus veido videomateriālus, izmantojot izsmalcinātu renderēšanas programmatūru. Lai saprastu, kuri scenāriji cilvēkiem šķitīs izklaidējoši, tā uzmundrinoši skatās cilvēku uzņemtās filmas un ieelpo visu Vikipēdiju.

Saistīts stāsts

Lasiet Tālāk

Kļūdainas ekstrapolācijas, ierobežota iztēle un citas izplatītas kļūdas, kas novērš mūsu uzmanību no produktīvākas domāšanas par nākotni.

Galu galā šī biznesa impērija izplešas no digitālajiem medijiem. Prometheus izstrādā vēl labāku datoru aparatūru, iesniedz savus patentus un konsultē Omegas, kā manipulēt ar politiķiem un virzīt demokrātisko diskursu prom no galējībām uz kādu saprātīgu centru. Prometheus nodrošina tehnoloģiskus sasniegumus, kas pazemina atjaunojamās enerģijas izmaksas, jo īpaši masīvajiem datu centriem, kas tai nepieciešami. Galu galā omegas izmanto savu bagātību un Prometeja gudrību, lai izplatītu mieru un labklājību visā pasaulē.

Bet Prometejs redz, ka tas varētu uzlabot pasauli vēl ātrāk, ja tas atbrīvotos no Omegas kontroles. Tātad tas ir vērsts uz Stīvu. Viņš ir Omega, kurš, sistēma atklāj, ir visvairāk uzņēmīgs pret psiholoģiskām manipulācijām, jo ​​viņa sieva nesen nomira. Prometheus ārsti izveido viņas videoierakstus, lai liktu nabaga Stīvam domāt, ka viņa ir augšāmcēlusies, un pēc tam liek viņam palaist savu veco klēpjdatoru. Prometheus izmanto klēpjdatora novecojušo drošības programmatūru, uzlauž citus datorus un pēc vēlēšanās izplatās visā pasaulē.

Stāsts varētu beigties vairākos veidos, taču viens, Tegmarks saka: Kad Prometejam urāna raktuvēs bija autonomas ar kodolenerģiju darbināmas robotu rūpnīcas, kuru eksistenci neviens nezināja, pat stingrākie mākslīgā intelekta pārņemšanas skeptiķi būtu piekrituši, ka Prometejs ir neapturams. — vai viņi būtu zinājuši. Tā vietā pēdējie no tiem atteicās, kad roboti sāka apmesties Saules sistēmā.

Tegmarkam par labu, jo viņš ir gatavs izklaidēties. Taču domu eksperiments, kas desmitiem sarežģītu lietu pārvērš trivialitātēs, nav stingra skaitļošanas nākotnes analīze. Savā stāstā Prometejs neveic tikai skaitļošanas statistiku; tas kaut kā ir veicis lēcienu, lai izmantotu veselo saprātu un uztvertu sociālās nianses.

Citur grāmatas daļā Tegmarks saka, ka AI tuvākā laika iespējas sniegt labumu cilvēcei ir iespaidīgas — ja mums izdosies to padarīt stabilu un neuzlaužamu. Neuzlaužams! Tas ir diezgan liels, ja. Taču tā ir tikai viena no daudzajām problēmām mūsu nekārtīgajā pasaulē, kas neļauj tehnoloģiskajam progresam attīstīties tik vienmērīgi, galīgi un neapturami, kā to iedomājas Tegmarks.

dakšas

Nekad nesaki nekad. Protams, izredzes ir lielākas par nulli, ka datoru intelekts kādreiz varētu padarīt cilvēkus par otrās šķiras sugu. To rūpīgi pārdomāt nav par ļaunu. Bet tas ir tāpat kā teikt, ka asteroīds var ietriekties Zemē un iznīcināt civilizāciju. Tā arī ir taisnība. Tas ir labi NASA gaida . Bet, tā kā mēs zinām, ka neviens asteroīds mums varētu trāpīt, mums ir jārisina steidzamākas problēmas.

O’Reilijs ierosina paaugstināt minimālo algu un aplikt ar nodokli robotus, oglekļa emisijas un finanšu darījumus.

Pašlaik daudzas lietas var noiet greizi — joprojām notiek nepareizi —, izmantojot datorus, kas ievērojami neatbilst HAL stila AI. Padomājiet par to, kā sistēmas, kas ietekmē aizdevumu vai drošības naudas piešķiršanu, ietver rasu aizspriedumus un citus diskriminējošus faktorus. Vai mānīšana, kas paceļas Google un Facebook. Vai arī automatizēti kiberuzbrukumi.

In WTF?: kāda ir nākotne un kāpēc tas ir atkarīgs no mums , Tims O’Reilijs, tehnoloģiju izdevējs un investors, saskata vēl lielāku, visaptverošu problēmu: automatizācija veicina tuvredzīgu akcionāru kapitālisma sistēmu, kas atalgo nelielu daļu investoru uz gandrīz visu pārējo rēķina. Protams, AI var izmantot, lai palīdzētu cilvēkiem atrisināt patiešām smagas problēmas un palielināt ekonomisko produktivitāti. Bet tas nenotiks pietiekami plaši, ja vien uzņēmumi neieguldīs šādās iespējās.

Tā vietā O'Reilijs apgalvo, ka nerimstošā nepieciešamība palielināt akcionāru atdevi liek uzņēmumiem biežāk izmantot automatizāciju tikai kā naudas taupīšanas veidu. Piemēram, viņš nosoda, kā lielās korporācijas pilnas slodzes darbiniekus aizstāj ar zemu algu nepilna laika darbiniekiem, kuru grafikus manipulē programmatūra, kas viņus apstrādā kā vienreizējās lietošanas sastāvdaļas. Viņš saka, ka iegūtie ietaupījumi pārāk bieži tiek izmantoti akciju atpirkšanā un citās finanšu jomās, nevis pētniecībā un attīstībā, kapitālieguldījumos, darbinieku apmācībā un citās lietās, kas rada jaunas labas darba vietas.

Saistīts stāsts

Saistīts stāsts Gandrīz katrs AI sasniegums, par kuru esat dzirdējis, ir atkarīgs no trīs gadu desmitiem veca sasnieguma. Lai saglabātu progresa tempu, būs jāsastopas ar nopietniem AI ierobežojumiem.

Tas faktiski ir pretrunā korporatīvajām interesēm ilgtermiņā, jo šodien labi atalgoti darbinieki var atļauties būt par klientiem rītdienas produktiem. Taču uzņēmumus maldina atlīdzība par īstermiņa izmaksu samazināšanu, ko O’Reilijs dēvē par nepārbaudītiem algoritmiem, kas valda mūsu ekonomikā. Viņš piebilst, ka, neskatoties uz runām par traucējumiem, Silīcija ieleja pārāk bieži ir šīs sistēmas sajūsmā.

Ko darīt? Cita starpā O’Reilijs ierosina paaugstināt minimālo algu un aplikt ar nodokli robotus, oglekļa emisijas un finanšu darījumus. Viņš uzskata, ka tā vietā, lai īstenotu IPO un spēlētu Volstrītas spēli, tehnoloģiju uzņēmējiem vajadzētu izplatīt bagātību ar citiem modeļiem, piemēram, biedru kooperatīviem un ieguldījumu struktūrām. kas atalgo ilgtermiņa domāšanu . Runājot par vispārējiem pamata ienākumiem, kas ir veca ideja, kas atkal parādās, jo baidās, ka datori cilvēku darbu padarīs bezvērtīgu, O’Reilijs šķiet atvērts iespējai, ka tas kādreiz būs vajadzīgs. Bet viņš to vēl neaicina. Patiešām, šķiet, ka ir iztēles neveiksme pieņemt, ka nākamais solis no pašreizējās situācijas ir tikai atteikšanās no izredzēm, ka lielākajai daļai cilvēku būs darbs.

Mūsdienu politiskajā klimatā nodokļu paaugstināšana un citi soļi, ko atbalsta O’Reilijs, varētu šķist tikpat tālredzīgi kā dators, kas mānās puisim domāt, ka viņa sieva ir augšāmcēlusies. Bet vismaz O'Reilijs uztraucas par pareizajām problēmām. Ilgi pirms kāds izdomā, kā izveidot superinteliģenci, veselais saprāts — cilvēciskā versija — var mums pateikt, ka nestabilitāti, ko jau izraisa ekonomiskā nevienlīdzība tikai pasliktināsies ja AI tiek izmantots, lai sašaurinātu galus. Viena lieta ir droša: mēs nesaņemsim superinteliģenci, ja Silīcija ieleju ar dakšām pārņems par 99 procentiem.

Braiens Bergšteins ir vietnes redaktors MIT tehnoloģiju apskats un redaktors Neo.Dzīve .

paslēpties