211service.com
Tehnikas milži cīnās ar ētiskām bažām, ko radījis AI uzplaukums
Ar lielu jaudu nāk liela atbildība, un mākslīgā intelekta tehnoloģija kļūst daudz jaudīgāka. Uzņēmumi, kas ir avangardā mašīnmācības un mākslīgā intelekta izstrādē un ieviešanā, tagad sāk atklāti runāt par ētikas problēmām, ko rada viņu arvien viedākie darbi.
Mēs atrodamies mākslīgā intelekta pagrieziena punktā, sacīja Ēriks Horvics, Microsoft Research rīkotājdirektors. MIT tehnoloģiju apskats EmTech konference šonedēļ. Mums ir ētiska nepieciešamība izmantot AI, lai aizsargātu un saglabātu laika gaitā.
Horvics runāja kopā ar IBM un Google pētniekiem, pārdomājot līdzīgas problēmas. Viena no kopīgām bažām bija tāda, ka nesenie sasniegumi liek uzņēmumiem ieviest programmatūru tādās pozīcijās, kas ļoti tieši kontrolē cilvēkus, piemēram, veselības aprūpē.
Frančeska Rosi , IBM pētnieks, minēja piemēru par mašīnu, kas sniedz palīdzību vai biedrību gados vecākiem cilvēkiem. Viņa teica, ka šim robotam būs jāievēro kultūras normas, kas ir raksturīgas kultūrai un uzdevumam. [Un], ja jūs dislocētu ASV vai Japānā, šai rīcībai būtu jābūt ļoti atšķirīgai.
Iespējams, ka šādi roboti joprojām ir izejas ceļš, taču AI izvirzītie ētiskie izaicinājumi jau ir šeit. Tā kā uzņēmumi un valdības lēmumu pieņemšanā vairāk paļaujas uz mašīnmācības sistēmām, aklās zonas vai tehnoloģiju aizspriedumi var efektīvi novest pie noteikta veida cilvēku diskriminācijas.
Piemēram, ProPublica izmeklēšanā pagājušajā gadā tika atklāts, ka riska vērtēšanas sistēma, ko dažos štatos izmantoja, lai informētu par notiesāšanu krimināllietā. neobjektīvi pret melnajiem . Tāpat Horvics aprakstīja, kā emociju atpazīšanas pakalpojums, ko Microsoft izstrādāja uzņēmumiem, sākotnēji bija neprecīzs maziem bērniem, jo tas tika apmācīts, izmantojot fotoattēlu maisu, kas nebija pareizi atlasīts.
Maija Gupta, Google pētniece, aicināja nozari vairāk strādāt pie procesu izstrādes, lai nodrošinātu, ka algoritmu apmācībai izmantotie dati nav izkropļoti. Daudzas reizes šīs datu kopas tiek veidotas nedaudz automatizētā veidā, sacīja Gupta. Mums ir vairāk jādomā par to, vai mēs pietiekami daudz atlasām no mazākumtautību grupām, lai pārliecinātos, ka esam pastrādājuši pietiekami labu darbu?
Pagājušajā gadā akadēmiskajās aprindās un rūpniecībā ir veikti daudzi centieni izpētīt mašīnmācības un AI ētiskās problēmas. Kalifornijas Universitāte, Bērklija; Hārvarda; un visas Oksfordas un Kembridžas universitātes ir uzsākušas programmas vai institūtus, lai strādātu pie MI ētikas un drošības. 2016. gadā Amazon, Microsoft, Google, IBM un Facebook kopīgi nodibināja bezpeļņas organizāciju ar nosaukumu Partnerība AI jomā strādāt pie problēmas (Apple pievienojās janvārī).
Uzņēmumi arī veic individuālus pasākumus, lai izveidotu drošības pasākumus saistībā ar savu tehnoloģiju. Gupta uzsvēra Google pētījumu, kurā tiek pārbaudīti veidi, kā labot neobjektīvus mašīnmācīšanās modeļus vai novērst to novirzīšanos. Horvics aprakstīja Microsoft iekšējo mākslīgā intelekta ētikas padomi, kas nodēvēta par AETHER un kurā tiek ņemtas vērā tādas lietas kā jauni lēmumu pieņemšanas algoritmi, kas izstrādāti uzņēmuma mākoņpakalpojumiem. Lai gan šobrīd uzņēmums ir apdzīvots ar Microsoft darbiniekiem, nākotnē uzņēmums cer pievienot arī ārējās balsis. Google ir izveidojis savu AI ētikas padomi.
Iespējams, nav pārsteidzoši, ka uzņēmumi, kas veido šādas programmas, parasti apgalvo, ka tie novērš nepieciešamību pēc jauniem mākslīgā intelekta valdības regulējuma veidiem. Bet EmTech Horvics arī mudināja diskusiju par ārkārtējiem rezultātiem, kas dažiem cilvēkiem varētu likt secināt pretējo.
Februārī viņš sasauca semināru, kurā eksperti sīki izklāstīja, kā mākslīgais intelekts var kaitēt sabiedrībai, piemēram, jaucoties ar akciju tirgu vai vēlēšanu rezultātiem. Ja esat proaktīvs, varat nākt klajā ar iespējamiem rezultātiem un ieviest mehānismus, lai tos traucētu tagad, sacīja Horvics.
Šķiet, ka šāda veida runas satrauca dažus no tiem, ar kuriem viņš dalījās uz skatuves Sanfrancisko. Gupta no Google mudināja cilvēkus arī apsvērt, kā dažu lēmumu izņemšana no cilvēku rokām varētu padarīt pasauli morālāku nekā tagad.
Viņa teica, ka mašīnmācība ir kontrolējama, precīza un izmērāma ar statistiku. Ir tik daudz iespēju panākt lielāku taisnīgumu un ētiskākus rezultātus.