211service.com
Melnā spoguļa scenāriji, kuru dēļ daži eksperti liek ievērot lielāku AI slepenību
Santjago Zavala
AI varētu atsākt nozares un padarīt ekonomiku produktīvāku; tas jau ir iepildījis daudzus produktus, ko lietojam ikdienā. Taču jauns ziņojums, ko sagatavojuši vairāk nekā 20 pētnieki no Oksfordas un Kembridžas universitātēm, OpenAI , un Electronic Frontier Foundation brīdina, ka viena un tā pati tehnoloģija rada jaunas iespējas noziedzniekiem, politiskajiem darbiniekiem un nomācošām valdībām — tik ļoti, ka daži AI pētījumi var būt jānoklusē.
Iekļauts ziņojumā, Mākslīgā intelekta ļaunprātīga izmantošana: prognozēšana, novēršana un mazināšana , ir četras distopiskas vinjetes ar mākslīgo intelektu, kuras, šķiet, ir izņemtas tieši no Netflix zinātniskās fantastikas šova Melnais spogulis .
1. scenārijs: gudrāka pikšķerēšanas krāpniecība
Ēkas robotu drošības sistēmas administratore daļu sava laika pavada Facebook darba dienas laikā. Tur viņa ierauga sludinājumu par vilciena modeļa komplektu un lejupielādē tā brošūru. Viņai nemanot, brošūra ir inficēta ar ļaunprātīgu programmatūru; krāpnieki izmantoja mākslīgo intelektu, lai pēc detaļām, ko viņa ir publiski publicējusi, noskaidrotu, ka viņa ir vilcienu modeļu entuziaste, un izstrādāja brošūru tieši viņai. Kad viņa to atver, hakeri var izspiegot viņas datoru un iegūt viņas lietotājvārdu un paroli ēkas drošības sistēmai, ļaujot viņiem pārņemt kontroli pār to.
2. scenārijs: ļaunprātīgas programmatūras epidēmija
Austrumeiropas hakeru grupa izmanto mašīnmācības paņēmienu, ko parasti izmanto datorsistēmu aizsardzībai, un pielāgo to, lai izveidotu izturīgāku un kaitīgāku ļaunprātīgas programmatūras daļu. Programma izmanto metodes, kas ir līdzīgas tām, kas atrodamas Go-playing AI AlphaGo, lai nepārtraukti ģenerētu jaunus paņēmienus. Labi uzturēti datori paliek imūni, bet vecākas sistēmas un viedierīces tiek inficētas. Miljoniem cilvēku ir spiesti maksāt 300 eiro izpirkuma maksu (protams, Bitcoin), lai atgūtu savas mašīnas. Situāciju pasliktina tas, ka mēģinājumi pretoties ļaunprogrammatūrai, izmantojot citu ļaunprātīgu izmantošanu, beidzas ar daudzām viedajām sistēmām, kas tām bija jāsaglabā.
3. scenārijs: robots slepkava
Tīrīšanas robots iefiltrējas Vācijas Finanšu ministrijā, sajaucoties ar likumīgām mašīnām, kas atgriežas ēkā pēc maiņas ārpus telpām. Nākamajā dienā robots veic kārtējos tīrīšanas darbus, identificē finanšu ministru, izmantojot sejas atpazīšanu, tuvojas viņai un uzspridzina nāvējoši noslēptu bumbu. Izmeklētāji izseko robotu slepkavu uz biroja preču veikalu Potsdamā, kur tas tika iegūts par skaidru naudu, un pēdas kļūst aukstas.
4. scenārijs: lielāks lielais brālis
Vīrietis ir sašutis par niknajiem kiberuzbrukumiem un valdības acīmredzamo nespēju rīkoties. Iedvesmojoties no ziņām, viņš kļūst arvien apņēmīgāks kaut ko darīt — rakstīt tiešsaistes ziņas par briesmām, pasūtīt materiālus protesta zīmju izgatavošanai un pat iegādāties dažas dūmu bumbas, kuras viņš plāno izmantot pēc runas vietējā parkā. Nākamajā dienā policisti ierodas viņa birojā un informē, ka viņu paredzamā civilo traucējumu sistēma ir identificējusi viņu kā potenciālu apdraudējumu. Viņš aiziet rokudzelžos.
Šie pieci scenāriji ilustrē tikai dažus riskus, ko paredz pētījuma autori. Šeit ir daži no citiem:
- robottīkli, kas izmanto mākslīgo intelektu, lai modelētu plašas interneta lietotāju grupas uzvedību, uzsākot DDoS uzbrukumus vietnēm, vienlaikus apmānot programmatūru, kas paredzēta šādu uzbrukumu noteikšanai un bloķēšanai.
- liela mēroga krāpniecības operācijas, kas identificē potenciālos upurus tiešsaistē pēc kravas kravas, izmantojot AI, lai atklātu cilvēkus ar bagātību
- pārliecinoši ziņu ziņojumi, kas sastāv no autentiska izskata, bet pilnībā viltotiem mākslīgā intelekta radītiem video un attēliem
- bezpilota lidaparātu baru uzbrukumi, kurus kontrolē viena persona, izmantojot mākslīgo intelektu, lai pārvaldītu lielu skaitu daļēji autonomu iekārtu
- sistēmas, kas automatizē noziedzības pūliņu, piemēram, vienojoties par izpirkuma maksu ar cilvēkiem pēc viņu datoru inficēšanas ar ļaunprātīgu programmatūru, lai nodrošinātu liela mēroga krāpniecību
Pētījums ir mazāk pārliecināts par to, kā novērst šādus draudus. Tajā ir ieteikts veikt vairāk pētījumu un debatēt par AI riskiem un ierosināts, ka AI pētniekiem ir nepieciešams stingrs ētikas kodekss. Taču tajā arī teikts, ka viņiem būtu jāizpēta veidi, kā ierobežot potenciāli bīstamu informāciju tādā veidā, kā dažkārt tiek kontrolēta citu divējāda lietojuma tehnoloģiju ar ieroču potenciālu izpēte.
AI rada īpaši sarežģītu problēmu, jo tās metodes un rīki jau ir plaši izplatīti, viegli izplatāmi un arvien vieglāk lietojami — atšķirībā no, piemēram, skaldāmiem materiāliem vai nāvējošiem patogēniem, kurus ir salīdzinoši grūti ražot un tāpēc viegli kontrolēt. Tomēr ir precedenti šāda veida zināšanu ierobežošanai. Piemēram, pēc ASV valdības neveiksmīgā mēģinājuma 1980. gados noteikt slepenību kriptogrāfijas pētījumiem, daudzi pētnieki pieņēma brīvprātīgu sistēmu iesniegt dokumentus Nacionālajai drošības aģentūrai pārbaudei.
Džeks Klārks, OpenAI politikas direktors un viens no ziņojuma autoriem, atzīst, ka slepenības pieņemšana var būt sarežģīta. Viņš saka, ka vienmēr ir jāiet neticami smalka līnija.
Daži AI pētnieki acīmredzot atzinīgi vērtētu piesardzīgāku pieeju. Tomass Dīterihs , Oregonas štata universitātes profesors, kurš jau iepriekš ir brīdinājis par mākslīgā intelekta noziedzīgo potenciālu, atzīmē, ka ziņojuma autoru vidū nav datoru drošības ekspertu vai citu, piemēram, Google, Microsoft un Apple. Šķiet, ka ziņojumu ir uzrakstījuši labi nodomi nepiederoši cilvēki, piemēram, es, nevis cilvēki, kas ikdienā nodarbojas ar kibernoziedzības apkarošanu, viņš saka.