Vai mums ir vajadzīgi Asimova likumi?

1942. gadā zinātniskās fantastikas autors Īzaks Asimovs publicēja īsu stāstu Runaround, kurā viņš iepazīstināja ar trim likumiem, kas regulē robotu uzvedību. Trīs likumi ir šādi:

1. Robots nedrīkst savainot cilvēku vai bezdarbības dēļ ļaut cilvēkam nodarīt kaitējumu.

2. Robotam ir jāpakļaujas cilvēku pavēlēm, izņemot gadījumus, kad šādas pavēles būtu pretrunā ar Pirmo likumu.

3. Robotam pašam ir jāaizsargā sava eksistence, kamēr šāda aizsardzība nav pretrunā ar Pirmo vai Otro likumu.

Vēlāk viņš ieviesa ceturto jeb nulles likumu, kas pārspēja citus:

0. Robots nedrīkst kaitēt cilvēcei vai bezdarbības dēļ ļaut cilvēcei nodarīt kaitējumu.

Kopš tā laika Asimova robotikas likumi ir kļuvuši par galveno zinātniskās fantastikas kultūras sastāvdaļu, kas pakāpeniski ir kļuvusi par galveno.

Pēdējos gados roboti ir guvuši strauju progresu tehnoloģiju jomā, kas tuvina Asimova iecerēto progresīvo robotu veidu. Arvien biežāk roboti un cilvēki strādā kopā uz rūpnīcu stāviem, brauc ar automašīnām, lido ar lidmašīnām un pat palīdz mājās.

Un tas rada interesantu jautājumu: vai mums ir vajadzīgs Asimovam līdzīgu likumu kopums, kas regulētu robotu uzvedību, kad tie kļūst arvien attīstītāki?

Šodien mēs saņemam sava veida atbildi no Ulrikas Bartelmesas un Ulriha Furbaha Koblencas Universitātē Vācijā. Šie puiši pārskata robotu vēsturi sabiedrībā un apgalvo, ka mūsu bailes par viņu potenciālu mūs iznīcināt ir nepamatotas. Tāpēc viņi saka, ka Asimova likumi nav vajadzīgi.

Vārds robots cēlies no čehu vārda robota, kas nozīmē piespiedu darbs, kas pirmo reizi parādījās čehu autora Karela Kapeka lugā 1924. gadā. Anglizētā versija pēc tam strauji izplatījās kopā ar domu, ka šīs mašīnas varētu pārāk viegli iznīcināt to radītājus, un kopš tā laika šī tēma ir kļuvusi izplatīta zinātniskajā fantastikā.

Bet Bartelmess un Furbahs apgalvo, ka šīs bailes no mašīnām ir daudz dziļāk sakņotas mūsu kultūrā. Lai gan zinātniskās fantastikas stāstos bieži tiek izmantoti sižeti, kuros roboti iznīcina to radītājus, šai tēmai literatūrā ir sena vēsture.

Piemēram, Mērijas Šellijas filmā “Frankenšteins” no cilvēka ķermeņa daļām veidots briesmonis vēršas pret Frankenšteinu, tā radītāju, jo viņš atsakās radīt briesmonim pāri.

Vēl ir 16. gadsimta ebreju Golema stāstījums, kura vienā versijā rabīns no māla konstruē radījumu, lai aizsargātu kopienu, vienlaikus apsolot to deaktivizēt pēc sabata. Bet rabīns aizmirst, un golems pārvēršas par briesmoni, kas ir jāiznīcina.

Bartelmess un Furbahs apgalvo, ka abu šo stāstu reliģiskā pieskaņa ir tāda, ka cilvēkiem ir aizliegts rīkoties kā Dievs. Un ka jebkurš mēģinājums to darīt vienmēr tiks sodīts no radītāja.

Līdzīgas epizodes parādās grieķu mitoloģijā, kur tiek sodīti arī cilvēki, kas demonstrē augstprātību pret dieviem, piemēram, Prometejs un Niobe. Tāpēc šāda veida stāsti ir daļa no mūsu kultūras, kas aizsākās tūkstošiem gadu. Šīs ir dziļi iesakņojušās bailes, ko zinātniskās fantastikas autori spēlē stāstos par robotiem.

Protams, starp cilvēkiem un mašīnām pastāv reāli konflikti. Piemēram, industriālās revolūcijas laikā Eiropā bija lielas bailes no mašīnām un to acīmredzamās spējas mainīt pasauli tā, ka tas ļoti ietekmēja daudzus cilvēkus.

Bartelmess un Furbahs norāda, ka 18. gadsimtā Anglijā cilvēki sāka kustību, lai iznīcinātu aušanas mašīnas, kas kļuva tik nopietnas, ka parlaments padarīja mašīnu nojaukšanu par smagu noziegumu. Grupa, kas pazīstama kā ludīti, pat cīnījās ar britu armiju par šiem jautājumiem. Viņi saka, ka bija sava veida tehnofobija, kas izraisīja cīņas pret mašīnām.

Protams, tas nav ārpus iespējamības robežām, ka līdzīga veida antagonisms varētu attīstīties pret jauno robotu paaudzi, kas pārņems ļoti atkārtojošos uzdevumus, ko strādnieki pašlaik veic rūpnīcās visā pasaulē un jo īpaši Āzijā. .

Tomēr Āzijā attieksme pret robotiem ir ļoti atšķirīga. Tādas valstis kā Japāna ir pasaulē vadošās robotu izstrādē automatizētām rūpnīcām un kā cilvēku palīgiem, daļēji Japānas iedzīvotāju novecošanas un labi zināmo veselības aprūpes problēmu dēļ, kuras tas radīs ne pārāk tālā nākotnē.

Šo attieksmi, iespējams, iemieso Astro Boy, izdomāts robots, kuru 2007. gadā Japānas Ārlietu ministrija nosauca par Japānas sūtni drošai ārzemju ceļošanai.

Šo iemeslu dēļ Bartelmess un Furbahs apgalvo, ka tas, ko mēs baidāmies no robotiem, nav iespēja, ka viņi mūs pārņems un iznīcinās, bet gan iespēja, ka citi cilvēki tos izmantos, lai iznīcinātu mūsu dzīvesveidu tādos veidos, kurus mēs nevaram kontrolēt.

Jo īpaši viņi norāda, ka daudzi roboti mūs aizsargās pēc konstrukcijas. Piemēram, automatizēti transportlīdzekļi un lidmašīnas ir izstrādātas tā, lai vadītu un lidotu drošāk, nekā to jebkad spēj cilvēki. Tāpēc mēs būsim drošāk tos lietot nekā neizmantot.

Svarīgs izņēmums ir pieaugošais robotu skaits, kas īpaši izstrādāti cilvēku nogalināšanai. Jo īpaši ASV izmanto bezpilota lidaparātus mērķtiecīgām slepkavībām ārvalstīs. Par šo darbību likumību, nemaz nerunājot par morāli, joprojām tiek nikni apspriests.

Bet Bartelmess un Furbahs norāda, ka cilvēki joprojām ir pilnībā atbildīgi par šīm slepkavībām un ka starptautiskajām tiesībām, nevis Asimova likumiem, ir jāspēj tikt galā ar problēmām, kas rodas vai ir jāpielāgo.

Viņi beidz savu diskusiju, apsverot iespējamo konverģenci starp cilvēkiem un robotiem tuvākajā nākotnē. Ideja ir tāda, ka cilvēki savā ķermenī iekļaus dažādas tehnoloģijas, piemēram, papildu atmiņu vai apstrādes jaudu, un tādējādi galu galā saplūdīs ar robotiem. Tajā brīdī ikdienas tiesību aktiem būs jātiek galā ar parasto cilvēku uzvedību un rīcību, un Asimova likumi būs novecojuši.

Interesantas debates, kuras, visticamāk, tuvākajā laikā neizdosies atrisināt. Papildu skatījumi, lūdzu, komentāru sadaļā.

Atsauce: arxiv.org/abs/1405.0961 : Vai mums ir vajadzīgi Asimova likumi?

paslēpties