AI Doomsayer saka, ka viņa idejas gūst panākumus

Pēdējā gada laikā Oksfordas universitātes filozofijas profesors Niks Bostroms ir ieguvis redzamību brīdinājumam par iespējamiem riskiem, ko rada progresīvāki mākslīgā intelekta veidi. Tagad viņš saka, ka viņa brīdinājumi izpelnās to uzņēmumu uzmanību, kuri virza mākslīgā intelekta pētniecības robežas.

Niks Bostroms

Daudzi cilvēki, kas strādā pie AI, joprojām ir skeptiski vai pat naidīgi pret Bostroma idejām. Bet kopš viņa grāmatas par šo tēmu, Superinteliģence , parādījās pagājušajā vasarā, daži ievērojami tehnologi un zinātnieki, tostarp Īlons Masks, Stīvens Hokings un Bils Geitss, ir atkārtojuši dažas viņa bažas. Google pat izveido ētikas komiteju, lai pārraudzītu savu mākslīgā intelekta darbu.

Bostroms pagājušajā nedēļā tikās ar MIT tehnoloģiju apskats Sanfrancisko biroja vadītājs Toms Simonīts, lai apspriestu viņa centienus panākt, lai mākslīgā intelekta pētnieki apsvērtu viņu darba bīstamību (skatiet sadaļu Mūsu bailes no mākslīgā intelekta).

Kā jūs uzskatījāt, ka mākslīgais intelekts pasaulei ir aktuālāka problēma nekā, piemēram, kodolholokausts vai liela pandēmija?

Daudzas lietas var izraisīt katastrofas, bet salīdzinoši maz var faktiski apdraudēt visu Zemes apdzīvotās saprātīgās dzīves nākotni. Manuprāt, mākslīgais intelekts ir viens no lielākajiem, un šķiet, ka tas ir tāds, kurā neliela cilvēku skaita vai vienas papildu resursu vienības centieni var radīt nenozīmīgu atšķirību. Ar kodolkaru par to jau interesējas daudzas lielas, spēcīgas grupas.

Kā ar klimata pārmaiņām, kas tiek plaši uzskatītas par lielāko draudu cilvēcei šobrīd?

Tas ir ļoti, ļoti mazs eksistenciāls risks. Lai tas būtu viens, mūsu pašreizējiem modeļiem ir jābūt nepareiziem — pat sliktākie scenāriji [tikai] nozīmē, ka klimats dažās pasaules daļās būtu nedaudz nelabvēlīgāks. Tad mums vajadzētu būt nespējīgiem to novērst, izmantojot ģeoinženieru, kas arī šķiet maz ticams.

Dažas ētikas teorijas norāda, ka eksistenciālais risks ir daudz svarīgāks. Ņemot vērā visas lietas, eksistenciālā riska mazināšanai vajadzētu būt daudz lielākai nekā šodien. Pasaule tērē daudz vairāk, lai izstrādātu jaunas lūpu krāsas formas, nevis eksistenciālam riskam.

Ja kāds atnāktu pie jums un teiktu: Mans uzņēmums ir izstrādājis tehnoloģiju, kas, šķiet, varētu padarīt mākslīgo intelektu daudz jaudīgāku, ko jūs ieteiktu?

Pirmais ieteikums būtu iekšēja kompetence AI drošības izpētē. Viena no galvenajām lietām ir izveidot labas darba attiecības starp cilvēkiem, kuri strādā ar AI, un cilvēkiem, kuri domā par drošības jautājumiem. Vienīgais veids, kā var būt labs scenārijs, ir tad, ja šīs idejas tiek radītas un pēc tam īstenotas.

Šķiet, ka Google, Facebook un citi lielākie tehnoloģiju uzņēmumi ir vadošais progress mākslīgā intelekta jomā. Vai tu jau runā ar viņiem?

Es nevēlos minēt vārdus. Tie ir tie, kuriem ir liela interese par šo jomu. Es domāju, ka ir jēga, ka daži cilvēki domā par [AI drošību] tagad, un tad, kad lietas virzīsies uz priekšu, to var palielināt. Ir labi, ja tur ir sēkla, kāds, kas seko šīm lietām.

Kādi pētījumi šodien ir iespējami par kaut ko, kas tik tālu nav reāls?

Līdz šim iegūtais ir skaidrāka izpratne par to, kas ir problēma, un daži jēdzieni, ko var izmantot, lai domātu par šīm lietām. Uz papīra tie var neizskatīties daudz, taču iepriekš nebija iespējams pāriet uz nākamo posmu, kas veido tehniskās izpētes programmu.

Vai varat sniegt piemēru tehniskajam projektam, kas varētu būt par to?

Piemēram, vai jūs varētu izveidot AI motivācijas sistēmu [tā], lai AI nepretotos programmētājam, kas ierodas, lai mainītu savu mērķi? Ir vesela virkne lietu, kas varētu būt praktiski noderīgas, piemēram, boksa metodes — rīki, kas var saturēt AI, pirms tas ir gatavs izlaišanai.

Taču tas ir ļoti tālu no tām sistēmām, kuras, piemēram, Google pētnieki šodien veido.

Jā. Viens no izaicinājumiem ir veikt noderīgu darbu šajā jomā daudz pirms tam, kad jums faktiski ir sistēma, kurā tos varētu vai vajadzētu piemērot.

Vai mākslīgais intelekts, kas krietni atpaliek no cilvēka līmeņa, joprojām nevarētu radīt problēmas? Piemēram, ja valdība to izmanto kā ieroci, vai nejauši, ja to laiž vaļā finanšu tirgos?

Ir vesela klase nenovēršamu un mazāku problēmu, par kurām daži cilvēki saka, ka tās ir reālākas. Pastāv algoritmiskā tirdzniecība vai droni, vai automatizācija un tās ietekme uz darba tirgiem, vai sistēmas var apzināti vai neapzināti diskriminēt rases dēļ. Es nenoliedzu, ka šīs problēmas pastāv — es vienkārši domāju, ka pastāv papildu problēma, kuru pasaule varētu nerisināt, jo tā kļūst nopietna tikai tad, kad AI sasniedz noteiktu ļoti augstu līmeni.

Jūs uzmanīgi sakāt, ka neviens īsti nevar paredzēt, cik tuvu šis līmenis ir. Bet vai ir kādi īpaši sasniegumi, kas liecinātu, ka mēs kaut kur ejam?

Ļoti iespējams, ka būtu jāveic vairāki lieli sasniegumi, lai sniegtu vairāk veselā saprāta spriešanas spējas, vispārīgas mācīšanās spējas dažādās jomās un elastīgākas plānošanas iespējas.

Ir bijuši vismaz divi periodi, kad ažiotāžas burbuļiem laukā sekoja vilšanās periodi. Varētu būt, ka tagad esam trešā ažiotāža burbulī un esam sasnieguši robežu, ko var paveikt ar šīm jaunajām metodēm, un paies ilgs laiks, līdz nākamajai lielajai robežai. Bet tas varētu būt arī vilnis, kas iet līdz galam.

Vai jūs joprojām esat optimistisks par mūsu iespējām, ja tā notiks?

Mans ilgtermiņa skatījums ir tāds, ka, visticamāk, mēs nonākam sliktā vai ļoti labā vietā, nevis kaut kur, kas ir tik un tā. Cerams, ka tas izrādīsies lieliski.

paslēpties