211service.com
AI ētikas kodeksa izveide būs grūtāka, nekā cilvēki domā
Varoon Mathur / AI tagad institūts
Pēdējo sešu gadu laikā Ņujorkas policijas departaments ir apkopojis milzīga datu bāze satur vismaz 17 500 personu vārdus un personas datus, kuras, pēc tās domām, ir iesaistītas noziedzīgās grupās. Šos centienus jau kritizējuši pilsoņu tiesību aktīvisti, kuri apgalvo, ka tie ir neprecīzi un rasistiski diskriminējoši.
'Tagad iedomājieties, kā apvienot sejas atpazīšanas tehnoloģiju ar tādas datu bāzes izstrādi, kas teorētiski pieņem, ka esat grupā,' sacīja Šerilina Ifila, NAACP Juridiskās aizsardzības fonda prezidente un padomniece. AI tagad simpozijs Ņujorkā pagājušajā otrdienā.
Juristi, aktīvisti un pētnieki uzsver ētikas un atbildības nepieciešamību AI sistēmu izstrādē un ieviešanā. Taču bieži vien netiek ņemti vērā daži sarežģīti jautājumi: kurš var definēt šo ētiku un kam tās būtu jāīsteno?
Šerilina Ifila (NAACP Legal Defense Fund), Timnita Gebru (Google) un Nikola Ozera (ACLU) sarunā AI Now 2018 simpozijā. Endrjū Federmens no AI Now institūta
Ne tikai sejas atpazīšana ir nepilnīga, studijas ir pierādījuši, ka vadošā programmatūra ir mazāk precīza tumšādainiem cilvēkiem un sievietēm. Pēc Ifill aplēsēm, policijas datubāzē ir no 95 līdz 99 procentiem afroamerikāņu, latīņamerikāņu un aziātu amerikāņu. “Mēs runājam par tādas […] cilvēku klases izveidi, kam ir sava veida krimināla zīme,” sacīja Ifils.
Tikmēr policijas departamenti visā ASV, Apvienotajā Karalistē un Ķīnā ir sākuši pieņemt sejas atpazīšanu kā līdzekli zināmu noziedznieku atrašanai. Jūnijā Dienvidvelsas policija atbrīvots paziņojumu, kas pamato tehnoloģiju izmantošanu tās sniegtā “sabiedriskā labuma” dēļ.
Patiešām, tehnoloģija bieži izceļ cilvēku atšķirīgos ētikas standartus, neatkarīgi no tā, vai tie ir naida runas cenzēšana vai izmantojot riska novērtēšanas rīkus uzlabot sabiedrisko drošību .
Mēģinot uzsvērt, cik atšķirīgi var būt cilvēku principi, MIT pētnieki izveidoja platformu ar nosaukumu Morālā mašīna lai apkopotu cilvēku viedokli par morālajiem lēmumiem, kas būtu jāievēro pašbraucošām automašīnām. Viņi lūdza miljoniem cilvēku no visas pasaules izsvērt klasiskās mūzikas variācijas. ratiņu problēma izvēloties, kam automašīnai jācenšas piešķirt prioritāti negadījumā. Rezultāti parāda milzīgas atšķirības dažādās kultūrās.
Ētikas standartu noteikšana arī ne vienmēr maina uzvedību. Jūnijā, piemēram, pēc Google piekrita lai pārtrauktu darbu pie Project Maven ar Pentagonu, tā izveidoja jaunu komplektu ētikas principiem vadīt tās iesaistīšanos turpmākajos AI projektos. Tikai mēnešus vēlāk daudzi Google darbinieki uzskata, ka šie principi ir atstāti malā, piedāvājot a 10 miljardu ASV dolāru Aizsardzības departamenta līgums . UZ nesenais pētījums Ziemeļkarolīnas štata universitāte arī atklāja, ka programmatūras inženieru lūgšana izlasīt ētikas kodeksu nemaina viņu uzvedību.
Filips Alstons, starptautisks tiesību zinātnieks no NYU Juridiskās augstskolas, piedāvā risinājumu ētikas neviennozīmīgajam un nepārprotamajam raksturam: mākslīgā intelekta izraisīto seku pārstrukturēšana cilvēktiesību jomā. '[Cilvēktiesības] ir iekļautas konstitūcijā,' tajā pašā konferencē sacīja Alstons. 'Tie ir iekļauti tiesību aktos; tos ir interpretējušas tiesas,' viņš teica. Ja mākslīgā intelekta sistēma atņem cilvēkiem pamattiesības, tad tam nevajadzētu būt pieņemamam, viņš teica.
Filips Alstons (NYU Juridiskā skola), Virdžīnija Eibenksa (Olbanijas universitāte, SUNY) un Vincents Sauterlends (NYU Rases, nevienlīdzības un tiesību centrs) uz simpozija skatuves. Endrjū Federmens no AI Now institūta
Alstons nav vienīgais, kurš ir nācis klajā ar šo risinājumu. Mazāk nekā nedēļu pirms simpozija Datu un sabiedrības pētniecības institūts publicēja a priekšlikums par starptautisko cilvēktiesību izmantošanu mākslīgā intelekta pārvaldībā. Ziņojumā ir iekļauti ieteikumi tehnoloģiju uzņēmumiem sadarboties ar pilsoņu tiesību grupām un pētniekiem un veikt cilvēktiesību ietekmes novērtējumus par savu AI sistēmu dzīves ciklu.
'Kamēr mēs nesāksim [cilvēktiesības] iesaistīt AI diskusijā,' piebilda Alstons, 'nav stingra enkura.'