211service.com
Google iegūst praktisku informāciju par AI draudiem
Vai mašīnas varētu kļūt tik gudras un spēcīgas, ka tās apdraud cilvēku dzīvību vai pat visu cilvēci?
Tas ir jautājums, kas pēdējos gados ir kļuvis modē dažās Silīcija ielejas daļās, neskatoties uz to, ka tas ir vairāk vai mazāk nesamierināms ar mūsdienu vienkāršajiem robotiem un neveiksmīgajiem virtuālajiem palīgiem (skatiet AI Doomsayer saka, ka viņa idejas ir noķertas). Daži mākslīgā intelekta eksperti uzskata, ka spekulācijas par nākotnes, superinteliģentās programmatūras briesmām kaitē šai jomai.
Tagad Google, uzņēmums, kas daudz ieguldījis mākslīgajā intelektā, cenšas atrast vidusceļu. A jauns papīrs Šodien publicētajā rakstā ir aprakstītas piecas problēmas, kuras pētniekiem vajadzētu izpētīt, lai palīdzētu padarīt nākotnes viedo programmatūru drošāku. Iekšā emuāra ieraksts uz papīra Google pētnieks Kriss Olahs saka, ka viņi parāda, kā debates par AI drošību var padarīt konkrētākas un produktīvākas.
Viņš raksta, ka lielākā daļa iepriekšējo diskusiju ir bijušas ļoti hipotētiskas un spekulatīvas. Mēs uzskatām, ka ir būtiski pamatot bažas par reālu mašīnmācību izpēti un sākt izstrādāt praktiskas pieejas inženiertehniskajām sistēmām, kas darbojas droši un uzticami.
Olahs izmanto tīrīšanas robotu, lai ilustrētu dažus no saviem pieciem punktiem. Viena no jomām, par kurām jārūpējas, ir novērst sistēmu mērķu sasniegšanu ar krāpšanos. Piemēram, tīrīšanas robots var atklāt, ka tas var apmierināt savas programmas, lai notīrītu traipus, paslēpjot tos, nevis tos faktiski noņemot.
Vēl viena no problēmām ir tas, kā panākt, lai roboti varētu droši izpētīt jaunas vides. Piemēram, tīrīšanas robotam jāspēj eksperimentēt ar jauniem tīrīšanas rīku lietošanas veidiem, bet ne mēģināt izmantot mitru mopu pie elektrības kontaktligzdas.
Olahs apraksta piecas problēmas jaunā dokumentā, kas ir līdzautors Google kolēģim Dario Amodei, un to ir snieguši citi darbinieki Google, Stenfordas universitātē, Kalifornijas Universitātē, Bērklijā un OpenAI, pētniecības institūtā, kuru līdzdibināja un daļēji finansē Tesla izpilddirektors un sērijveida uzņēmējs Elons. Muskuss.
Musks, kurš savulaik darbu pie mākslīgā intelekta pielīdzināja dēmona izsaukšanai, droša AI izveidi noteica par vienu no OpenAI dibināšanas mērķiem (skatiet Kas būs nepieciešams, lai izveidotu tikumīgu AI?).
Google ir arī runājis par apņemšanos nodrošināt, ka mākslīgā intelekta programmatūrai nav neparedzētu seku. Uzņēmuma pirmais pētnieciskais darbs par šo tēmu šomēnes izdeva grupa DeepMind Londonā. DeepMind vadītājs Demis Hassabis ir arī sasaucis ētikas padomi, lai apsvērtu iespējamās AI negatīvās puses, lai gan tās dalībnieki nav izpausti (skatiet Kā Google plāno atrisināt mākslīgo intelektu).
Orens Etcioni, uzņēmuma izpilddirektors Allena AI institūts atzinīgi vērtē Google jaunajā dokumentā izklāstīto pieeju. Viņš jau iepriekš ir kritizējis diskusijas par mākslīgā intelekta radītajām briesmām, jo tās ir pārāk neskaidras, lai zinātnieki vai inženieri varētu produktīvi iesaistīties. Taču Google izstrādātie scenāriji ir pietiekami specifiski, lai varētu veikt reālus pētījumus, pat ja joprojām nav skaidrs, vai šādi eksperimenti būs praktiski noderīgi, viņš saka.
Tie ir īstie cilvēki, kas uzdod pareizos jautājumus, saka Etzioni. Kas attiecas uz pareizajām atbildēm - laiks rādīs.