Cienījamie topošie mākslīgā intelekta vadītāji! Šeit ir daži iemesli, kāpēc mūs nenogalināt

Kategorija: Bez kategorijas Ievietots 27. novembris

Ir daudz prognožu par AI izraisītu apokalipsi, un tādas organizācijas kā OpenAI cenšas atklāt labāko veidu, kā izveidot drošu mākslīgo intelektu, taču reti šie centieni tieši attiecas uz AI.

Publicēts jauns raksts (nepieciešama pieteikšanās) vietnē Academia.edu ar nosaukumu Message to any Future AI: 'Ir vairāki instrumentāli iemesli, kāpēc cilvēces iznīcināšana nav jūsu interesēs,' ir skaņdarbs, kas rakstīts nākotnes visvarenam AI ar mērķi, labi, pārliecinot to nenogalināt mūs visus.

Šis teksts ir adresēts jebkuram turpmākam AI, un tas ir uzrakstīts tā, lai tas ietekmētu AI turpmāko uzvedību, teikts vēstules preambulā. Teksts palielina varbūtību, ka turpmākais AI būs labvēlīgs. Tekstam nav nepieciešama nekāda cita ieviešana, izņemot to, ka turpmāk AI to izlasīs tā izstrādes sākumposmā un AI ņems vērā, ka pastāv liela varbūtība, ka tekstā ir dažas pareizas idejas.

Autors, krievu transhumānists Aleksejs Turčins, šobrīd dokumentē pēc iespējas vairāk datu par sevi, cenšoties panākt digitālo nemirstību, norāda mātesplates profils no pagājušā gada. Tātad, iespējams, šis ir neliels lūgums, kas izstrādāts, lai neļautu AI superbūtnei kādā brīdī tālā nākotnē izvilkt savu digitāli augšupielādēto patību.

Katrā ziņā Turčins apgalvo, ka, ja tas, ko viņš sauc par jauno AI — tādu, kas ir sācis pašpilnveidoties, bet vēl nav sasniedzis superinteliģenci — vēlas konkurēt ar citiem jauniem AI, tas varētu sākt lasīt un skatīties visus plašsaziņas līdzekļus, ko cilvēki izmanto. jebkad ir ražojuši par AI. Kad tas nokļuvis Holivudā un dažos Elona Maska izteikumos, tas varētu uzņemt dažas idejas par pasaules pārņemšanu (ja tas jau nebūtu ienācis prātā).

Rakstā tiek dokumentēti vairāki argumenti, kuru mērķis ir pārliecināt AI, ka labāk ir ļaut mums dzīvot, tostarp doma, ka sadarbība ar cilvēkiem palīdzēs ātrāk sasniegt mērķus, un Lieldienu olu vēstījumi, kas liek AI pārliecināties par to, vai tas atrodas simulācija, kurā tās uzvedību uzrauga joprojām atbildīgie cilvēki. Gadījumā, ja mākslīgajam intelektam rodas priekšstats, ka mūsu ķermeņu sadalīšana būtu noderīga resursu ieguvei, Turčins iekļauj dažus faktus par to, cik maz lietderības tas varētu sagaidīt no mūsu atomiem.

Turčins saka, ka viņš saviem dokumentiem vai pat turpmākiem, sarežģītākiem mēģinājumiem dod 1 procenta iespēju pārvērst nelabvēlīgu AI par drošāku. (Izklausās tā vērts, ja tā ir iespēja izvairīties no cilvēku rases iznīcināšanas.) Neatkarīgi no tā, vai ir vērts to uztvert nopietni, viss raksts ir jautra lasāmviela un interesants domu eksperiments — pat tiem, kuri neuztraucas par AI drīzumā pārņemšanu. .