Kā izveidot ļaundabīgu mākslīgo intelektu

Iespēja, ka ļaundabīgs mākslīgais intelekts var radīt nopietnus draudus cilvēcei, ir kļuvusi par karsti apspriestu jautājumu. Par briesmām ir brīdinājušas dažādas augsta līmeņa personas, sākot no fiziķa Stīvena Hokinga līdz tehnoloģiju uzņēmējam Elonam Maskam.

Tāpēc mākslīgā intelekta drošības joma kļūst par svarīgu disciplīnu. Datorzinātnieki ir sākuši analizēt neparedzētas sekas, ko rada slikti izstrādātas mākslīgā intelekta sistēmas, mākslīgā intelekta sistēmas, kas izveidotas ar kļūdainiem ētikas ietvariem vai tām, kurām nav kopīgas cilvēciskās vērtības.

Taču šajā jomā ir kāds būtisks izlaidums, saka neatkarīgi pētnieki Federiko Pistono un Romāns Jampolskis no Luisvilas Universitātes Kentuki štatā. Viņi saka, ka, cik mums zināms, nekas nav publicēts par to, kā izveidot ļaunprātīgu mašīnu.

Tā ir nopietna problēma, jo datoru drošības speciālistiem ir jāsaprot zvērs, ar kuru viņi saskaras, pirms viņi var cerēt to sakaut.

Mūsdienās Pistono un Yampolskiy cenšas to vismaz daļēji novērst, un galvenais, ko viņi norāda, ir tas, ka ļaundabīgs AI, visticamāk, parādīsies tikai noteiktās vidēs. Tāpēc viņi ir noteikuši nosacījumus, kādos varētu rasties ļaundabīga AI sistēma. Un viņu secinājumi radīs neērtu lasīšanu vienam vai diviem uzņēmumiem.

Tātad, kādas brīdinājuma zīmes norāda, ka varētu būt iespējams strādāt pie ļaundabīgas AI sistēmas? Pistono un Yampolskiy saka, ka, visticamāk, ir dažas skaidras pazīmes.

Viens no acīmredzamākajiem būtu pārraudzības paneļu trūkums AI sistēmu izstrādē. Ja grupa nolemtu izveidot ļaundabīgu mākslīgo intelektu, no tā izriet, ka globālās uzraudzības padomes komitejas pastāvēšanas novēršana palielinātu tās panākumu iespējamību, viņi saka.

Šāda grupa to dara, mazinot sava darba nozīmi un tā radītās briesmas un pat izplatot mulsinošu informāciju. Stratēģija ir izplatīt pretrunīgu informāciju, kas radītu šaubas sabiedrības iztēlē par mākslīgā vispārējā intelekta pētījumu briesmām un iespējām, viņi saka.

Vēl viena svarīga zīme būtu slēgta pirmkoda esamība aiz mākslīgā intelekta sistēmas. Kriptogrāfijas un datoru drošības ekspertu vidū ir labi zināms, ka slēgtā koda programmatūra un algoritmi ir mazāk droši nekā to bezmaksas un atvērtā koda ekvivalenti, saka Pistono un Yampolskiy. Nebrīvās programmatūras un aparatūras esamība pakļauj cilvēcei lielāku risku.

Tā vietā viņi saka, ka mākslīgo intelektu varētu izstrādāt, izmantojot atvērtā pirmkoda programmatūru, lai gan nav skaidrs, vai tas būtu drošāk. Atvērtā pirmkoda process ļauj lielākam skaitam cilvēku meklēt un novērst trūkumus. Taču tas nodrošina arī piekļuvi noziedzniekiem, teroristiem un tamlīdzīgiem cilvēkiem, kuri varētu izmantot programmatūru nelietīgiem mērķiem.

Mākslīgais intelekts pašlaik tiek attīstīts abos šajos veidos.

Slēgtā koda sistēmām ir bijuši labi reklamēti panākumi. Google AI sistēma nesen triumfēja pār cilvēci, piemēram, senajā spēlē Go. Facebook ir arī augsta līmeņa AI pētniecības grupa, lai gan tā ir bijusi mazāk veiksmīga.

Neviens uzņēmums nav bijis skaidrs, kā tiek pārvaldīti tā pētījumi. Piemēram, Google DeepMind meitasuzņēmums saka, ka tam ir AI ētikas padome, taču tā pastāvīgi ir atteikusies atklāt, kas tajā atrodas. Facebook tikai saka, ka bailes par AI ir pārspīlētas.

Atvērtā koda mākslīgā intelekta attīstība ir mazāk attīstīta. Taču pēdējā laikā tas ir sācis uzņemt apgriezienus, ko vismaz daļēji veicina bailes par komerciālajiem konkurentiem.

Šo centienu augstākais profils ir OpenAI — bezpeļņas mākslīgā intelekta organizācija, kas dibināta 2015. gadā ar mērķi attīstīt digitālo intelektu tādā veidā, kas, visticamāk, dos labumu visai cilvēcei, un to neierobežo nepieciešamība gūt finansiālu atdevi.

To atbalsta, cita starpā, tehnoloģiju uzņēmējs Elons Masks, kurš ir vairākkārt brīdinājis par mākslīgā intelekta radītajām briesmām, apsolot finansējumu līdz pat 1 miljardam USD. (Musks arī daļēji finansēja viena no šī pētījuma autoriem Romāna Jampolska darbu.)

Nav skaidrs, vai OpenAI palielinās vai samazinās ļaundabīgas AI sistēmas parādīšanās iespējas. Bet mērķis vismaz ir nodrošināt, lai viss, kas notiek, tiktu pilnībā atklāts.

Viens no trūkumiem šajā visā ir tas, ka AI sistēmu kiberdrošības prakse ir daudz mazāk attīstīta nekā parastajai programmatūrai.

Datoru drošības eksperti jau sen ir atzinuši, ka ļaunprātīga programmatūra rada ievērojamus draudus mūsdienu sabiedrībai. Daudzas drošībai svarīgas lietojumprogrammas — atomelektrostacijas, gaisa satiksmes vadība, dzīvības uzturēšanas sistēmas un tā tālāk — ir tikai nopietns konstrukcijas trūkums, kas novērš katastrofu. Situāciju pasliktina apzināti ļaunprātīgas programmatūras izstrādātāji — vīrusi, Trojas zirgi un tamlīdzīgi —, kas meklē un izmanto šīs nepilnības.

Lai to apkarotu, drošības eksperti ir izstrādājuši spēcīgu ekosistēmu, kas identificē trūkumus un novērš tos, pirms tos var izmantot. Viņi pēta ļaunprātīgu programmatūru un meklē veidus, kā to neitralizēt.

Viņiem ir arī saziņas sistēma šīs informācijas izplatīšanai savā kopienā, bet ne ārpus tās. Tas ļauj ātri novērst visus trūkumus, pirms izplatās zināšanas par tiem.

Taču līdzīga sistēma vēl nedarbojas efektīvi AI pētniecības pasaulē.

Tam var nebūt nozīmes, kamēr AI sistēmas ir salīdzinoši labdabīgas. Lielākā daļa mūsdienu AI ir vērsta uz tādām tēmām kā dabiskās valodas apstrāde, objektu atpazīšana un tādi uzdevumi kā braukšana.

Taču, ņemot vērā pēdējo gadu attīstības tempu, tas, visticamāk, ātri mainīsies. Svarīgs jautājums ir par to, kā cilvēki varētu cīnīties pret ļaundabīgo mākslīgo intelektu, kam var būt briesmīgas sekas cilvēcei. Tas ir jautājums, kuru tagad ir vērts apsvērt sīkāk.

Atsauce: arxiv.org/abs/1605.02817 : Neētisks pētījums: kā izveidot ļaundabīgu mākslīgo intelektu

paslēpties