Vai varat izveidot AI, kas nav spējīgs?

Dags Malonijs/Unsplash

Mākslīgajam intelektam ir labi zināma aizspriedumu problēma, jo īpaši attiecībā uz rasi un dzimumu. Iespējams, esat redzējuši dažus virsrakstus: sejas atpazīšanas sistēmas, kas nespēj atpazīt melnās sievietes , vai automatizēti personāla atlases rīki, kas pārlaist sieviešu kārtas kandidātes .

Bet, lai gan pētnieki ir centušies risināt dažas no visbriesmīgākajām problēmām, ir viena cilvēku grupa, kuru viņi ir ignorējuši: tie, kuriem ir invaliditāte. Paņemiet pašpiedziņas automašīnas. Viņu algoritmi paļaujas uz apmācību datiem, lai uzzinātu, kā izskatās gājēji, lai transportlīdzekļi tiem nesabrauktu virsū. Ja apmācības datos nav iekļauti cilvēki ratiņkrēslos, tehnoloģija var pakļaut šos cilvēkus dzīvībai bīstamām briesmām.

Šari Trevinam, IBM pieejamības vadības komandas pētniekam, tas ir nepieņemami. Kā daļa no a jauna iniciatīva , viņa tagad ir pētot jauni projektēšanas procesi un tehniskās metodes, lai mazinātu mašīnu aizspriedumus pret cilvēkiem ar invaliditāti. Viņa runāja ar mums par dažiem izaicinājumiem, kā arī par dažiem iespējamiem risinājumiem.

Šis ir rediģēts garuma un skaidrības labad.

Kāpēc godīgums pret cilvēkiem ar invaliditāti atšķiras no godīguma attiecībā uz citiem aizsargājamiem atribūtiem, piemēram, rasi un dzimumu?

Invaliditātes statuss ir daudz dažādāks un sarežģītāks tādos veidos, kā tas ietekmē cilvēkus. Daudzas sistēmas modelēs rasi vai dzimumu kā vienkāršu mainīgo ar nelielu skaitu iespējamo vērtību. Bet, runājot par invaliditāti, ir tik daudz dažādu formu un smaguma pakāpes. Daži no tiem ir pastāvīgi, daži ir īslaicīgi. Ikviens no mums var pievienoties šai kategorijai vai atstāt to jebkurā dzīves brīdī. Tā ir dinamiska lieta.

Apmēram vienam no pieciem cilvēkiem ASV pašlaik ir kāda veida invaliditāte. Tāpēc tas ir patiešām izplatīts, taču grūti to noteikt vienkāršā mainīgajā ar nelielu skaitu iespējamo vērtību. Varētu pastāvēt sistēma, kas diskriminē neredzīgos, bet ne nedzirdīgos. Tāpēc godīguma pārbaude kļūst daudz grūtāka.

Arī informācija par invaliditāti ir ļoti sensitīva. Cilvēki to izpauž daudz nelabprātāk nekā informāciju par dzimumu, vecumu vai rasi, un dažās situācijās šīs informācijas pieprasīšana ir pat nelikumīga. Tāpēc daudzkārt datos ir daudz mazāka iespēja uzzināt kaut ko par invaliditāti, kas personai var būt vai var nebūt. Tas arī padara daudz grūtāk noskaidrot, vai jums ir godīga sistēma.

Es gribēju jums par to jautāt. Kā cilvēki mēs nolēmām, ka labākais veids, kā izvairīties no invaliditātes diskriminācijas, ir neatklāt invaliditātes statusu. Kāpēc gan tas neattiektos uz mašīnmācības sistēmām?

Shari Trewin, IBM Accessibility Leadership komandas pētnieks ar IBM atbalstu

Jā, tas ir pirmais, par ko cilvēki domā: ja sistēma neko nezina par personu invaliditātes statusu, tas noteikti būs godīgi. Bet problēma ir tā, ka invaliditāte bieži ietekmē citus informācijas bitus, kas tiek ievadīti modelī. Piemēram, pieņemsim, ka esmu persona, kas izmanto ekrāna lasītāju, lai piekļūtu tīmeklim, un es veicu tiešsaistes darba pieteikuma pārbaudi. Ja šī testa programma nav labi izstrādāta un nav pieejama manam ekrāna lasītājam, man būs nepieciešams ilgāks laiks, lai pārvietotos pa lapu, pirms varu atbildēt uz jautājumu. Ja šis laiks netiek ņemts vērā, novērtējot mani, tad ikviens, kurš izmanto šo pašu rīku ar līdzīgu invaliditāti, ir sistemātiski neizdevīgā situācijā, pat ja sistēma nezina, ka esmu akls.

Tātad, ja invaliditātei ir tik daudz dažādu nianšu, vai tiešām ir iespējams panākt taisnīgumu?

Manuprāt, vispārīgāks izaicinājums AI kopienai ir tas, kā rīkoties ar novirzēm, jo ​​mašīnmācīšanās sistēmas — tās apgūst normas, vai ne? Tie ir optimizēti atbilstoši normām un nekādā veidā neizturas pret novirzēm. Bet bieži cilvēki ar invaliditāti neatbilst normai. Veids, kā mašīnmācīšanās vērtē cilvēkus pēc tā, kam viņi ir līdzīgi, pat ja tā, iespējams, nekad nav redzējusi nevienu līdzīgu jums, ir būtisks ierobežojums godīgai attieksmei pret cilvēkiem ar invaliditāti.

Daudz labāk darbotos metode, kas apvieno mašīnmācīšanos ar kādu papildu risinājumu, piemēram, loģiskiem noteikumiem, kas tiek ieviesti augstāk esošajā slānī. Ir arī dažas situācijas, kurās noteikti palīdzētu lielāka uzmanība daudzveidīgākas datu kopas apkopošanai. Daži cilvēki eksperimentē ar paņēmieniem, kuros jūs izņemat datu kodolu un mēģinat apmācīt novirzes. Citi eksperimentē ar dažādām mācīšanās metodēm, kuras varētu labāk optimizēt novirzēm, nevis normām.

Es domāju, ka tikai tad, kad sāc domāt par invaliditāti, tu sāc domāt par indivīdu daudzveidību un noviržu nozīmi. Ja jūsu datu kopā nav pietiekami daudz dzimumu dažādības, varat to labot. Nav tik vienkārši novērst invaliditātes dažādību.

Kā tikt pāri problēmai, ka cilvēki ir privāti attiecībā uz savu invaliditātes statusu?

Jā, lai pārbaudītu sistēmas godīgumu, jums ir nepieciešami daži dati. Un cilvēki ar invaliditāti, ja dati ir sociāls labums, taču tas ir personisks risks. Cilvēki ar invaliditāti bieži ir viegli identificējami pat anonīmos datos, jo viņi ir tik unikāli. Tātad, kā mēs to mazinām? Mēs joprojām to izdomājam.

Kādas ir jūsu lielākās bažas par šo problēmu?

Bieži vien mākslīgā intelekta sistēmas optimizē kaut ko tādu, kas nav to cilvēku labklājība, kurus ietekmē lēmumi. Šai ietekmei ir jābūt daudz izteiktākai projektēšanas procesā, lai mēs ne tikai ieviestu sistēmu, kas ņem vērā, cik daudz naudas mēs ietaupām vai cik efektīvi mēs apstrādājam cilvēkus. Mums ir nepieciešami jauni sistēmu mērīšanas veidi, kas ietver ietekmes uz galalietotājiem aspektu, īpaši, ja tā ir nelabvēlīgā situācijā esoša grupa.

Kā mēs to darītu?

Taisnīguma pārbaude ir viens no veidiem, kā novērtēt šo ietekmi. Cita lieta ir iekļaut nelabvēlīgā situācijā esošu grupu projektēšanas procesā un uzklausīt viņu bažas. Pat skaidri iekļaujot kādu metriku par ieinteresēto pušu apmierinātību, ko varētu izmērīt intervijās vai aptaujās — tā.

Kas ir tas, kas jūs sajūsmina šajā pētniecības jomā?

AI tehnoloģijas jau tagad maina pasauli cilvēkiem ar invaliditāti, nodrošinot viņiem jaunas iespējas, piemēram, lietojumprogrammas, kas norāda, kas atrodas jūsu redzes laukā, kad pavērsiet tālruni.

Es domāju, ka, ja mēs to darīsim pareizi, AI sistēmām ir reāla iespēja uzlabot iepriekšējās sistēmas, kas paredzētas tikai cilvēkiem. Mūsdienās sabiedrībā ir daudz cilvēku ar invaliditāti diskriminācijas, aizspriedumu un pārpratumu. Ja mēs varam atrast veidu, kā radīt AI sistēmas, kas novērš šāda veida aizspriedumus, mēs varam sākt mainīt attieksmi pret cilvēkiem ar invaliditāti un samazināt diskrimināciju.

paslēpties