211service.com
Kā mēs varam būt pārliecināti, ka AI rīkosies? Varbūt skatoties, kā tas strīdas ar sevi.
OpenAI emuārs
Kādu dienu varētu būt pilnīgi normāli skatīties, kā AI sistēma cīnās ar sevi.
Koncepcija nāk no pētniekiem plkst OpenAI , bezpeļņas organizācija, ko dibinājuši vairāki Silīcija ielejas spīdekļi, tostarp Y Combinator partneris Sems Altmans, LinkedIn priekšsēdētājs Reids Hofmans, Facebook valdes loceklis un Palantir dibinātājs Pīters Tīls, kā arī Tesla un SpaceX vadītājs Elons Masks.
OpenAI pētnieki iepriekš ir parādījuši, ka mākslīgā intelekta sistēmas, kas apmāca sevi, dažkārt var radīt negaidītus un nevēlamus ieradumus. Piemēram, datorspēlē aģents var izdomāt, kā to izdarīt kļūme savu ceļu uz augstāku punktu skaitu. Dažos gadījumos personai var būt iespējams uzraudzīt apmācības procesu . Bet, ja AI programma dara kaut ko neiespējami sarežģītu, tas var nebūt iespējams. Tāpēc pētnieki iesaka divas sistēmas apspriest konkrētu mērķi.
Mēs uzskatām, ka šī vai līdzīga pieeja galu galā varētu mums palīdzēt apmācīt AI sistēmas veikt daudz kognitīvi progresīvākus uzdevumus, nekā spēj cilvēki, vienlaikus ievērojot cilvēku vēlmes, raksta pētnieki. emuāra ieraksts izklāstot koncepciju.
Piemēram, AI sistēma, kas paredzēta aizsardzībai pret cilvēkiem vai AI hakeriem. Lai sistēma nedarītu kaut ko kaitīgu vai neētisku, var būt nepieciešams to apstrīdēt, lai izskaidrotu konkrētas darbības loģiku. Šī loģika varētu būt pārāk sarežģīta, lai cilvēks to saprastu, tāpēc pētnieki iesaka citai AI apspriest darbības gudrību ar pirmo sistēmu, izmantojot dabisko valodu, kamēr cilvēks novēro. Sīkāka informācija atrodama a pētnieciskais darbs .
Lai AI programmas strīdētos savā starpā, ir vajadzīgas sarežģītākas tehnoloģijas nekā pašlaik. Līdz šim OpenAI pētnieki šo ideju ir izpētījuši tikai ar dažiem ārkārtīgi vienkāršiem piemēriem. Viens no tiem ietver divas AI sistēmas, kas mēģina pārliecināt novērotāju par slēptu raksturu, lēnām atklājot atsevišķus pikseļus.
Pētnieki ir radījuši vietne kur jebkuri divi cilvēki var mēģināt spēlēt debatējošās AI sistēmas lomas, bet trešais ir tiesnesis. Abi dalībnieki sacenšas, lai pārliecinātu tiesnesi par attēla būtību, vienlaikus izceļot tā daļas. Galu galā novērotājam kļūst vieglāk pateikt, kurš ir godīgs.
Vincents Konicers Djūka universitātes pētnieks, kurš pēta ētiskus jautājumus, kas saistīti ar mākslīgo intelektu, saka, ka darbs ir agrīnā stadijā, taču tas ir solīts. Viņš saka, ka tādu AI sistēmu izveide, kas var izskaidrot viņu lēmumus, ir sarežģīta pētniecības programma. Ja tas izdosies, tas var ievērojami veicināt atbildīgu AI izmantošanu.
Kā tas ir, un neskatoties uz to daži dīvains paziņojumi no tādiem kā Īlons Masks (OpenAI finansētājs un vēl nesen tā valdes loceklis) — mēs joprojām esam tālu no AI sistēmām, kas spēj mūs maldināt un piemānīt tādā scenārijā kā, piemēram, filmās. Bijusī Machina un Viņa .
Tomēr daži AI pētnieki pēta veidus, kā nodrošināt, lai tehnoloģija nedarbosies neparedzētā veidā. Tas var kļūt svarīgāks, jo AI programmas kļūst sarežģītākas un neizdibināmākas (skatiet AI tumšo noslēpumu).
Es domāju, ka ideja par vērtību saskaņošanu debašu ceļā ir ļoti interesanta un potenciāli noderīga, saka Ariels Prokačija , datorzinātņu profesors CMU, kurš pēta lēmumu pieņemšanu ar autonomām sistēmām.
Tomēr Procaccia atzīmē, ka darbs ir ļoti provizorisks un ka koncepcijā var būt pat būtiska pretruna. Viņš saka, ka, lai diskutētu par jautājumiem, kas saistīti ar vērtībām, cilvēka tiesnesim saprotamā veidā, AI aģentiem, iespējams, vispirms ir jābūt stingrai izpratnei par cilvēka vērtībām. Tātad pieeja neapšaubāmi ir ratu novietošana zirga priekšā.
Ijads Ravans MIT Mediju laboratorijas pētnieks piebilst, ka pētniekiem jābūt uzmanīgiem, lai AI pāris neiesaistītos apļveida strīdā. Es domāju, ka viņi ļoti ātri atrisinās dažas ļoti sarežģītas problēmas, viņš saka. Pirmkārt, kā automatizēt argumentāciju dabiskajā valodā, kas joprojām ir neatrisināta problēma.