211service.com
Kā zināt, vai mākslīgais intelekts grasās iznīcināt civilizāciju
mehānisko kanārijputnu ilustrācija Tehnikas kundze
Vai mēs kādu rītu varētu pamosties, apmulsuši, ka ir parādījies ļoti spēcīgs AI ar postošām sekām? Grāmatas patīk Superinteliģence autors Niks Bostroms un Dzīve 3.0 Makss Tegmarks, kā arī jaunāki raksti , apgalvo, ka ļaundabīgais superinteliģence ir eksistenciāls risks cilvēcei.
Bet spekulēt var bezgalīgi. Labāk ir uzdot konkrētāku, empīriskāku jautājumu: kas mūs brīdinātu, ka superinteliģence patiešām ir aiz stūra?
Mēs varētu saukt šādus priekšvēstnešus par kanārijputniņiem mākslīgā intelekta ogļraktuvēs. Ja mākslīgā intelekta programma attīsta jaunas fundamentālas iespējas, tas ir līdzvērtīgs kanārijputnu sabrukumam: agrīns brīdinājums par mākslīgā intelekta sasniegumiem horizontā.
Vai slavenais Tjūringa tests varētu kalpot kā kanārijputniņš? Tests, ko 1950. gadā izgudroja Alans Tjūrings, liecina, ka cilvēka līmeņa AI tiks sasniegts, ja cilvēks nevar atšķirt sarunu ar cilvēku no sarunas ar datoru. Tas ir svarīgs pārbaudījums, bet tas nav kanārijputniņš; drīzāk tā ir zīme, ka cilvēka līmeņa AI jau ir ieradies. Daudzi datorzinātnieki uzskata, ka, ja šis brīdis pienāks, superinteliģence ātri sekos. Mums vajag vairāk starpposma posmu.
Vai AI veiktspēja tādās spēlēs kā Aiziet , pokers vai Zemestrīce 3 , kanārijputniņš? Tas nav. Tā sauktā mākslīgā intelekta lielākā daļa šajās spēlēs patiesībā ir cilvēks strādāt, lai formulētu problēmu un izstrādātu risinājumu. AlphaGo uzvara pār cilvēku Go čempioniem bija nopelns DeepMind talantīgajai cilvēku komandai, nevis mašīnai, kas tikai palaida cilvēku izveidoto algoritmu. Tas izskaidro, kāpēc ir nepieciešams smags darbs gadiem, lai AI panākumus pārvērstu no viena šaura izaicinājuma uz nākamo. Pat AlphaZero, kas iemācījās spēlēt pasaules klases Go dažu stundu laikā, kopš 2017. gada nav būtiski paplašinājis savu darbības jomu. Tādas metodes kā dziļa mācīšanās ir vispārīgas, taču to veiksmīgai pielietošanai konkrētajā uzdevumā ir nepieciešama plaša cilvēka iejaukšanās.
Plašāk runājot, mašīnmācība ir AI panākumu pamatā pēdējo desmit gadu laikā. Tomēr termins mašīnmācīšanās ir nepareizs nosaukums. Mašīnām piemīt tikai neliela daļa cilvēku bagātīgo un daudzpusīgo mācīšanās spēju. Teikt, ka mašīnas mācās, ir tas pats, kas teikt, ka pingvīnu mazuļi zina, kā makšķerēt. Realitāte ir tāda, ka pieauguši pingvīni peld, sagūsta zivis , sagremo to, ievelk knābī un ieliek kumosus bērnu mutē. AI arī ar karoti baro cilvēku zinātnieki un inženieri.
Pretstatā mašīnmācībai cilvēku mācīšanās personīgo motivāciju (es vēlos braukt, lai būtu neatkarīga no saviem vecākiem) kartē uz stratēģisku mācību plānu (Ņemiet vadītāja apmācību un praktizējieties nedēļas nogalēs). Cilvēks formulē konkrētus mācību mērķus (Uzlabojiet paralēlo stāvēšanu), apkopo un marķē datus (šoreiz bija nepareizs leņķis) un iekļauj ārēju atgriezenisko saiti un fona zināšanas (Instruktors paskaidroja, kā izmantot sānu spoguļus). Cilvēki identificē, veido un veido mācīšanās problēmas. Nevienu no šīm cilvēka spējām mašīnas pat attālināti neatkārto. Mašīnas var veikt pārcilvēciskus statistikas aprēķinus, taču tā ir tikai pēdējā mācīšanās jūdze.
Mašīnas var veikt pārcilvēciskus statistikas aprēķinus, taču tā ir tikai pēdējā mācīšanās jūdze.
Automātiskā mācīšanās problēmu formulēšana ir mūsu pirmā kanārijputniņa. Šķiet, ka tas ne tuvu nav miris.
Pašbraucošās automašīnas ir otrā kanārijputniņa. Tie ir tālākā nākotnē, nekā to paredz tādi pastiprinātāji kā Īlons Masks . AI var katastrofāli neizdoties netipiskās situācijās, piemēram, kad cilvēks ratiņkrēslā šķērso ielu. Braukšana ir daudz grūtāka nekā iepriekšējie AI uzdevumi, jo ir jāpieņem dzīvībai svarīgi, reāllaika lēmumi, kuru pamatā ir gan neparedzamā fiziskā pasaule, gan mijiedarbība ar vadītājiem, gājējiem un citiem. Protams, mums vajadzētu ieviest ierobežotas pašbraucošās automašīnas, tiklīdz tās samazina negadījumu skaitu, taču tikai tad, kad tiek sasniegta cilvēka līmeņa braukšana, var teikt, ka šī kanārijputniņa ir apgāzusies.
AI ārsti ir trešā kanārijputniņa. AI jau var analizēt medicīniskos attēlus ar pārcilvēcisku precizitāti, taču tā ir tikai šaura cilvēka ārsta darba daļa. AI ārstam būtu jāintervē pacienti, jāapsver komplikācijas, jākonsultējas ar citiem ārstiem un daudz ko citu. Tie ir izaicinoši uzdevumi, kas prasa izpratni par cilvēkiem, valodu un medicīnu. Šādam ārstam nebūtu jāmāna pacients, domājot, ka tas ir cilvēks, tāpēc tas atšķiras no Tjūringa testa. Bet tam vajadzētu tuvināt cilvēku ārstu spējas dažādos uzdevumu un neparedzētos apstākļos.
Un, lai gan pats Tjūringa tests nav labs kanārijputniņš, ierobežotas testa versijas varētu kalpot kā kanārijputniņi. Esošie AI nespēj izprast cilvēkus un viņu motivāciju vai pat tādus pamata fiziskus jautājumus kā Vai lielais strūklas lidmašīna ietilps pa logu? Mēs varam veikt daļēju Tjūringa testu, dažas minūtes sarunājoties ar AI, piemēram, Alexa vai Google Home, kas ātri atklāj viņu ierobežoto izpratni par valodu un pasauli. Apsveriet ļoti vienkāršu piemēru, kura pamatā ir datorzinātnieka Hektora Leveska piedāvātās Vinogradas shēmas. Es teicu Aleksai: Mana trofeja neietilpst manā rokas bagāžā, jo tā ir pārāk liela. Ko man darīt? Alexa atbilde bija, ka es to nezinu. Tā kā Alexa nevar spriest par objektu izmēriem, tā nevar izlemt, vai tas attiecas uz trofeju vai rokas bagāžu. Ja AI nevar saprast tā nozīmi, ir grūti noticēt, ka tas ir gatavs pārņemt pasauli. Ja Alexa spētu veidot būtisku dialogu par bagātīgu tēmu, tas būtu ceturtais kanārijputniņš.
Pašreizējie AI ir gudri gudrinieki: veiksmīgi izpilda šauru uzdevumus, piemēram, Go atskaņošanu vai MRI attēlu klasificēšanu kategorijās, taču tiem trūkst vispārīguma un daudzpusības, kas piemīt cilvēkiem. Katrs idiots zinātnieks tiek konstruēts manuāli un atsevišķi, un mēs esam desmitiem gadu attālumā no piecus gadus veca bērna daudzpusīgajām spējām. Turpretī manis piedāvātie kanārijputniņi norāda AI lauka lēciena punktus.
Oren Etzioni Pieklājības foto
Daži teorētiķi, piemēram, Bostroms, apgalvo, ka mums tomēr ir jāplāno notikumi ar ļoti zemu varbūtību, bet ar lielu konsekvenci, it kā tie būtu neizbēgami. Viņi saka, ka sekas ir tik dziļas, ka mūsu aplēses par to iespējamību nav svarīgas. Tas ir muļķīgs arguments: to var izmantot, lai attaisnotu gandrīz jebko. Tā ir mūsdienu versija 17. gadsimta filozofa Blēza Paskāla argumentam, ka ir vērts rīkoties tā, it kā pastāvētu kristiešu Dievs, jo pretējā gadījumā jūs riskējat ar mūžīgu elli. Viņš izmantoja kļūdas bezgalīgās izmaksas, lai argumentētu, ka konkrēta rīcība ir racionāla, pat ja tā ir balstīta uz ļoti maz ticamu pieņēmumu. Taču argumenti, kuru pamatā ir bezgalīgas izmaksas, var atbalstīt pretrunīgus uzskatus. Piemēram, padomājiet par antikristīgu Dievu, kurš sola mūžīgu elli par katru kristīgo rīcību. Tas arī ir ļoti maz ticams; tomēr no loģiskā viedokļa tā ir tikpat saprātīga likme kā ticēt Bībeles dievam. Šī pretruna liecina par nepilnībām argumentos, kuru pamatā ir bezgalīgas izmaksas.
Mans agrīnās brīdinājuma signālu jeb kanārijputnu katalogs ir drīzāk ilustratīvs, nevis visaptverošs, taču tas parāda, cik tālu mēs esam no cilvēka līmeņa AI. Ja un kad kanārijputniņš sabrūk, mums būs pietiekami daudz laika pirms cilvēka līmeņa AI parādīšanās, lai izstrādātu spēcīgus izslēgšanas slēdžus un identificētu sarkanās līnijas, kuras nevēlamies šķērsot AI. AI eshatoloģija bez empīriskām kanārijputniņiem novērš uzmanību no esošo problēmu risināšanas, piemēram, kā regulēt AI ietekmi uz nodarbinātību vai nodrošināt, ka tās izmantošana kriminālsodu vai kredītpunktu noteikšanai nediskriminē noteiktas grupas.
Kā teicis Endrjū Ngs, viens no pasaulē ievērojamākajiem mākslīgā intelekta ekspertiem, uztraukties par to, ka mākslīgais intelekts var pārvērsties par ļaunu, līdzinās bažām par pārapdzīvotību uz Marsa. Kamēr kanārijputniņi nesāks mirt, viņam ir pilnīga taisnība.
Orens Etcioni ir bezpeļņas Allena AI institūta izpilddirektors un Vašingtonas universitātes datorzinātņu profesors.