211service.com
AI programmas mācās izslēgt dažas afroamerikāņu balsis
Balss saskarnes, tērzēšanas roboti un citas sistēmas diskriminē noteiktus minoritāšu dialektus. 2017. gada 16. augusts
Pārāk bieži cilvēki pieņem tūlītējus spriedumus, pamatojoties uz to, kā jūs runājat. Dažas AI sistēmas arī mācās būt aizspriedumiem pret dažiem dialektiem. Un, tā kā uz valodu balstītām mākslīgā intelekta sistēmām kļūst arvien izplatītākas, dažas minoritātes var automātiski tikt diskriminētas ar mašīnu palīdzību, brīdina pētnieki, kas pēta šo problēmu.
Ikviens, kam ir spēcīgs vai neparasts akcents, var zināt, kā tas ir, ja Siri vai Alexa viņu nesaprot. Tas ir tāpēc, ka balss atpazīšanas sistēmās runas satura parsēšanai tiek izmantota dabiskās valodas tehnoloģija, un tā bieži balstās uz algoritmiem, kas ir apmācīti, izmantojot piemēru datus. Ja nav pietiekami daudz konkrēta akcenta vai tautas valodas piemēru, šīs sistēmas var vienkārši nesaprast jūs (skatiet AI valodas problēmu).
Problēma var būt plašāka un kaitīgāka, nekā vairums cilvēku saprot. Dabiskās valodas tehnoloģija tagad nodrošina automatizētu mijiedarbību ar klientiem, izmantojot automatizētas tālruņu sistēmas vai tērzēšanas robotus. To izmanto sabiedriskās domas iegūšanai tīmeklī un sociālajos tīklos un rakstisku dokumentu pārmeklēšanai, lai iegūtu noderīgu informāciju. Tas nozīmē, ka pakalpojumi un produkti, kas veidoti uz valodu sistēmām, jau var būt netaisnīgi diskriminējoši pret dažām grupām.
Brendans O'Konors , Masačūsetsas Universitātes Amherstas docents un viens no viņa absolventiem, Su Lins Blodžets , aplūkoja valodas lietojumu Twitter. Izmantojot demogrāfisko filtrēšanu, pētnieki savāca 59,2 miljonus tvītu ar lielu varbūtību, ka tie satur afroamerikāņu slengu vai tautas valodu. Pēc tam viņi šajā datu kopā pārbaudīja vairākus dabiskās valodas apstrādes rīkus, lai noskaidrotu, kā viņi izturēsies pret šiem apgalvojumiem. Viņi atklāja, ka viens populārs rīks šīs ziņas klasificēja kā dāņu valodu ar augstu pārliecības līmeni.
Ja analizējat Twitter cilvēku viedokļus par politiķi un pat nedomājat, ko saka afroamerikāņi vai jauni pieaugušie, tas šķiet problemātiski, saka O’Konors.
Pāris arī pārbaudīja vairākas populāras uz mašīnmācībām balstītas API, kas analizē teksta nozīmi un noskaņojumu, un atklāja, ka arī šīm sistēmām ir problēmas. Ja iegādājaties noskaņojuma analizatoru no kāda uzņēmuma, jūs pat nezināt, kādi aizspriedumi tajā ir, saka O’Konors. Mums nav daudz revīzijas vai zināšanu par šīm lietām.
Viņš saka, ka problēma attiecas uz jebkuru sistēmu, kas izmanto valodu, tostarp meklētājprogrammas.
Atsevišķos ceturkšņos uzmanība tiek pievērsta AI algoritmu izmantošanas izraisītajam negodīgumam, jo šie algoritmi tiek izmantoti plašāk. Viens pretrunīgs iespējamās neobjektivitātes piemērs ir patentēts algoritms ar nosaukumu Compass, ko izmanto, lai izlemtu, vai ieslodzītajiem ir jāpiešķir nosacīti pirmstermiņa atbrīvošanas. Algoritma darbība nav zināma, bet pētījumiem liecina, ka tas ir neobjektīvs pret melnādainajiem ieslodzītajiem.
Tomēr daži eksperti saka, ka problēma var būt nopietnāka, nekā daudzi cilvēki zina, un tā ietekmē arvien lielāku lēmumu skaitu finanšu, veselības aprūpes un izglītības jomā (skatiet Neobjektīvi algoritmi ir visur un neviens, šķiet, nerūpējas).
UMass pētnieki iepazīstināja ar savu darbu seminārā, kas veltīts AI neobjektivitātes jautājuma izpētei. Pasākums Godīgums un pārredzamība mašīnmācībā šogad bija daļa no plašākas datu zinātnes konferences, taču 2018. gadā tā kļūs par atsevišķu konferenci. Solona baroki , Kornela docents un pasākuma līdzdibinātājs, saka, ka joma aug, un arvien vairāk pētnieku pēta AI sistēmu neobjektivitātes problēmu.
Kopīgs Gēls , Stenfordas universitātes docents, kurš pēta algoritmisko godīgumu un sabiedrisko politiku, saka, ka problēma ne vienmēr ir vienkārša. Viņš atzīmē, ka var būt pārāk vienkārši saukt algoritmus par neobjektīviem, jo tie var darboties pilnībā, kā paredzēts, sniedzot precīzas prognozes un vienkārši atspoguļojot plašākas sociālās novirzes. Labāk ir aprakstīt algoritma darbību, iemeslu, kādēļ tas to dara, un pēc tam izlemt, vai mēs to vēlamies darīt, saka Goels.