211service.com
Jā, mēs esam noraizējušies par mākslīgā intelekta eksistenciālo risku
Pazīstamais mākslīgā intelekta pētnieks Orens Etcioni sūdzas par ziņām par iespējamiem ilgtermiņa riskiem, kas izriet no turpmākiem panākumiem mākslīgā intelekta izpētē (skatiet Nē, Eksperti nedomā, ka superinteliģentais AI ir drauds cilvēcei ). Norādījis ar pirkstu uz Oksfordas filozofu Niku Bostromu un viņa neseno grāmatu, Superinteliģence Etzioni sūdzas, ka Bostroma galvenais datu avots par cilvēka līmeņa intelekta parādīšanos ir aptaujas par AI pētnieku viedokļiem. Pēc tam viņš apseko AI pētnieku viedokļus, apgalvojot, ka viņa rezultāti atspēko Bostroma.
Ir svarīgi saprast, ka Etcioni pat nerisina iemeslu Superinteliģence ir bijusi viņa nosodītā ietekme: tajā ir skaidrs skaidrojums par to, kāpēc superinteliģentam AI var būt patvaļīgi negatīvas sekas un kāpēc ir svarīgi sākt risināt šo problēmu jau laikus. Bostroma nav pamato savu lietu ar prognozēm, ka pārcilvēciskas AI sistēmas ir nenovēršamas. Viņš raksta: “Šajā grāmatā nav ietverts arguments, ka mēs esam uz liela mākslīgā intelekta izrāviena sliekšņa vai ka mēs varam precīzi paredzēt, kad šāda attīstība varētu notikt.
Tādējādi, mūsuprāt, Etcioni raksts novērš lasītāja uzmanību no grāmatas pamatargumenta un virza ad hominem uzbrukumu Bostromam, aizbildinoties ar viņa aptaujas rezultātu apstrīdēšanu. Mēs uzskatām, ka ir nepieciešams labot ierakstu. Viens no mums (Rasels) pat piedalījās Etcioni aptaujā, lai redzētu, ka viņa atbilde ir pilnībā nepareizi interpretēta. Patiesībā, kā mūsu detalizēta analīze rāda, Etzioni aptaujas rezultāti pilnībā atbilst tiem, ko min Bostroms.
Kā tad Etcioni nonāk pie sava romāna noslēguma? Izstrādājot aptaujas instrumentu, kas ir zemāks uz Bostromu un tad nepareizi interpretējot rezultāti.
Raksta apakšvirsrakstā ir rakstīts: Ja jautāsiet cilvēkiem, kuriem tas patiešām būtu jāzina, jūs atklāsiet, ka tikai daži uzskata, ka AI apdraud cilvēci. Tātad lasītājs liek domāt, ka Etcioni uzdeva šo jautājumu cilvēkiem, kuriem tas patiešām būtu jāzina, savukārt Bostroms to nedarīja. Faktiski ir otrādi: Bostroms izdarīja jautājiet cilvēkiem, kuriem tas patiešām būtu jāzina, bet Etcioni vispār nevienam nejautāja. Bostroms aptaujāja 100 visvairāk citēto AI pētnieku. Vairāk nekā puse respondentu teica, ka viņi uzskata, ka pastāv ievērojama (vismaz 15 procenti) iespēja, ka cilvēka līmeņa mašīnu inteliģences ietekme uz cilvēci kopumā būs slikta vai ārkārtīgi slikta (eksistenciāla katastrofa). Etcioni aptauja, atšķirībā no Bostroma, nekādus jautājumus neuzdeva par draudiem cilvēcei.
Tā vietā viņš vienkārši uzdod vienu jautājumu par kad mēs sasniegsim superinteliģenci. Kā jau varēja paredzēt Bostroma dati, nedaudz vairāk nekā puse (67,5 procenti) Etcioni respondentu vairāk nekā 25 gadus ir smēlušies, lai sasniegtu superinteliģenci — galu galā vairāk nekā puse Bostroma respondentu minēja datumus, kas pārsniedz 25 gadus, ar tikai 50 procentu varbūtību. tikai cilvēka līmeņa intelekta sasniegšana. Viens no mums (Rasels) atbildēja uz Etcioni aptauju ar vairāk nekā 25 gadiem, un pats Bostroms par savām aptaujām raksta: Mans viedoklis ir tāds, ka ekspertu aptaujā uzrādītajiem vidējiem skaitļiem nav pietiekamas varbūtības masas vēlākos ierašanās datumos.
Tagad, izstrādājot aptauju, kurā respondenti varētu izvēlēties vairāk nekā 25 gadus, Etcioni izdara savu slazdu: viņš apgalvo, ka 25 gadi ir aiz paredzamā horizonta, un tādējādi secina, ka ne Rasels, ne pats Bostroms neuzskata, ka superinteliģentais AI ir drauds. cilvēcei. Tas būs pārsteigums Raselam un Bostromam, kā arī, domājams, daudziem citiem aptaujā iesaistītajiem respondentiem. (Patiesi, Etcioni virsraksts tikpat viegli varēja būt 75 procenti ekspertu, kas domā, ka superinteliģents AI ir neizbēgams.) Vai mums vajadzētu ignorēt katastrofālos riskus tikai tāpēc, ka lielākā daļa ekspertu domā, ka tie ir vairāk nekā 25 gadu attālumā? Pēc Etcioni loģikas mums vajadzētu arī ignorēt katastrofālos klimata pārmaiņu riskus un nosodīt tos, kas tos piesauc.
Pretēji Etcioni un dažu citu uzskatiem AI kopiena , norādot uz AI ilgtermiņa riskiem nē līdzvērtīgi apgalvojumam, ka superinteliģentais AI un ar to saistītie riski ir nenovēršami. To sarakstā, kuri norādījuši uz riskiem, ir tādi spīdekļi kā Alans Tjūrings, Norberts Vīners, I.J. Labi, un Mārvins Minskis. Pat Oren Etzioni ir atzina šos izaicinājumus . Cik mums zināms, neviens no tiem nekad neapgalvo, ka superinteliģents mākslīgais intelekts būtu nenovēršams. Tāpat, kā minēts iepriekš, Bostroms neiesaistījās Superinteliģence .
Pēc tam Etcioni atkārto apšaubāmo argumentu, ka likteņa un drūmuma prognozēs bieži vien netiek ņemti vērā iespējamie mākslīgā intelekta ieguvumi medicīnisku kļūdu novēršanā, autoavāriju samazināšanā un daudz ko citu. Arguments pat neattiecas uz Bostromu, kurš prognozē, ka panākumi mākslīgā intelekta kontrolē radīs līdzjūtīgu un priecīgu cilvēces kosmisko dotumu izmantošanu. Arguments arī ir muļķīgs. Tas ir tāpat kā strīdēties, ka kodolinženieri, kas analizē kodolspēkstaciju sabrukšanas iespējamību, neņem vērā iespējamos ieguvumus no lētas elektrības, un tāpēc, ka atomelektrostacijas kādu dienu varētu ražot patiešām lētu elektroenerģiju, mums nevajadzētu ne pieminēt, ne strādāt pie tā novēršanas. , sabrukuma iespēja.
Mūsu pieredze ar Černobiļu liecina, ka varētu būt neprātīgi apgalvot, ka spēcīga tehnoloģija nerada nekādus riskus. Var būt arī neprātīgi apgalvot, ka spēcīga tehnoloģija nekad nedarbosies. 1933. gada 11. septembrī lords Raterfords, iespējams, pasaulē izcilākais kodolfiziķis, izredzes iegūt enerģiju no atomiem raksturoja kā tikai mēness spīdumu. Mazāk nekā 24 stundas vēlāk Leo Szilards izgudroja neitronu izraisīto kodolķēdes reakciju; dažus gadus vēlāk sekoja detalizēti kodolreaktoru un kodolieroču projekti. Protams, labāk ir paredzēt cilvēka atjautību, nekā to nenovērtēt, labāk atzīt riskus, nekā tos noliegt.
Daudzi ievērojami AI eksperti ir atzinuši iespēju, ka AI rada eksistenciālu risku. Pretēji sagrozītajam plašsaziņas līdzekļos šim riskam nav jārodas spontānas ļaundabīgas apziņas dēļ. Drīzāk risks rodas no neparedzamības un iespējamās neatgriezeniskas optimizācijas procesa ieviešanas, kas ir viedāka nekā cilvēki, kuri norādījuši tā mērķus. Šo problēmu skaidri formulēja Norberts Vīners 1960. gadā, un mēs joprojām to neesam atrisinājuši. Aicinām lasītāju atbalstīt pašreizējos centienus to darīt.
Allans Dafo ir Jēlas universitātes politikas zinātnes docents.
Stjuarts Rasels ir datorzinātņu profesors Kalifornijas Universitātē Bērklijā.
Atbilde no Oren Etzioni, 2016. gada 2. novembris:
Es priecājos, ka profesori Dafo un Rasels un šķiet, ka es piekrītu trīs būtiskos jautājumos. Pirmkārt, mums vajadzētu atturēties no ad hominem uzbrukumiem. Šeit man ir jāpiedāvā atvainošanās: man nevajadzēja citēt anonīmo AAAI stipendiātu, kurš pielīdzināja doktoru Bostromu Donaldam Trampam. Es negribēju izteikt savu balsi šim salīdzinājumam; Es patiesi atvainojos Bostromam par šo nepareizo soli pa e-pastu, atvainošanos, ko viņš laipni pieņēma. Otrkārt, mums kā zinātniekiem ir jānovērtē apgalvojumi par AI risku pamatojoties uz datiem. Tas bija mans galvenais īss raksts , un rakstā tika piedāvāti unikāli dati par šo tēmu. Treškārt, mēs piekrītam arī tam, ka plašsaziņas līdzekļi ir nepareizi atspoguļojuši Bostroma darba ietekmi — tēma, kas rada lielas bažas, ko zināmā mērā mazināja Baltā nama ziņojums par AI . Protams, mēs atšķiras daudzās detaļās un argumentu sarežģītībā, taču laiks rādīs.