Google algoritms naida runas noteikšanai ir rasistiski neobjektīvs

Kategorija: Silikona ieleja Ievietots 13. augusts

AI sistēmas, kas paredzētas ļaunprātīga tiešsaistes satura pamanīšanai, daudz biežāk atzīmēs tvītus kā aizskarošus, ja tos ievietojuši cilvēki, kas identificējas kā afroamerikāņi.

Ziņas: Pētnieki izveidoja divas AI sistēmas un pārbaudīja tos ar vairāk nekā 100 000 tvītu datu kopām, ko cilvēki bija atzīmējuši ar apzīmējumiem, piemēram, aizskarošs, neviens vai naida runa. Viens no algoritmiem nepareizi atzīmēja 46% afroamerikāņu autoru neaizskarošo tvītu kā aizskarošu. Pārbaudes ar lielākām datu kopām, tostarp vienu, kas sastāv no 5,4 miljoniem tvītu, atklāja, ka afroamerikāņu autoru ziņas 1,5 reizes biežāk tika marķētas kā aizskarošas. Kad pētnieki pēc tam pārbaudīja Google Perspektīva AI rīks, ko uzņēmums ļauj ikvienam izmantot tiešsaistes diskusiju vadīšanai, viņi atklāja līdzīgus rasu aizspriedumus.

Grūti panākams līdzsvars: Masu apšaudes, ko ASV un Jaunzēlandē veic baltādaino pārākumu piekritēji, ir izraisījušas arvien lielākus politiķu aicinājumus sociālo mediju platformām darīt vairāk, lai izskaustu naida runu. Šie pētījumi uzsver, cik sarežģīts tas ir uzdevums. Tas, vai valoda ir aizskaroša, var būt atkarīgs no tā, kurš to saka un kurš to dzird. Piemēram, melnādains, kurš lieto vārdu N, ļoti atšķiras no baltā cilvēka, kas to lieto. Bet AI sistēmas nesaprot un pašlaik nevar saprast šo niansi.

Risks: Steidzoties izmantot programmatūru, lai automātiski izskaustu aizskarošu valodu, mēs riskējam apklusināt mazākumtautību balsis. Tiešsaistes satura regulēšana ir a traumējošs, grūts darbs , tāpēc tehnoloģiju uzņēmumi labprāt paļaujas uz AI sistēmām, nevis cilvēkiem (tās ir arī daudz lētākas). Šis pētījums parāda milzīgos riskus, kas raksturīgi šai pieejai.

Reģistrējieties šeit, lai saņemtu mūsu ikdienas biļetenu The Download, lai saņemtu jaunākās obligāti lasāmās ziņas no jauno tehnoloģiju pasaules.