211service.com
Kāpēc mums vajadzētu sagaidīt, ka algoritmi būs neobjektīvi?
Tehnoloģijas, ko virza algoritmi un mākslīgais intelekts, arvien vairāk parādās mūsu dzīvē, un tagad mēs regulāri saskaramies ar sarežģītu jautājumu: vai šīs programmas var būt neitrālas dalībnieces? Vai arī tie vienmēr atspoguļos zināmu cilvēku aizspriedumu pakāpi?
Putekļi pār Facebook populārāko tēmu sarakstu un tā iespējamā liberālā neobjektivitāte skāra tik nervu, ka Zvanīja ASV Senāts uzņēmumam jānāk klajā ar oficiālu skaidrojumu, un šonedēļ COO Šerila Sandberga sacīja, ka uzņēmums sāks darbu darbinieku apmācību identificēt un kontrolēt savas politiskās noslieces.
Tomēr tas ir tikai viens rezultāts no plašākas tendences, ko sauc Freds Benensons, Kickstarter bijušais datu vadītājs. matemātikas mazgāšana : mūsu tendence dievināt tādas programmas kā Facebook kā pilnīgi objektīvas, jo to pamatā ir matemātika.
Viena no iespējamām novirzēm izriet no fakta, ka daudzi programmētāji, kas veido šīs programmas, jo īpaši mašīnmācības eksperti, ir vīrieši. Nesenā Bloomberg raksts Microsoft pētniece Mārgareta Mičela tiek citēta, žēlojoties par briesmām, ko rada cilvēku jūra, kas uzdod jautājumus, kas ir būtiski šo programmu izveidē.
Bažas par šo problēmu ir radījušas jau kādu laiku, jo pētījumi atklāja pierādījumus par neobjektivitāti tiešsaistes reklāmās, darbā pieņemšanas un cenu noteikšanas stratēģijās, ko virza, iespējams, neitrāli algoritmi.
Vienā pētījums , Hārvardas profesore Latānija Svīnija aplūkoja Google AdSense reklāmas, kas tika parādītas, meklējot vārdus, kas saistīti ar baltajiem mazuļiem (Džofrijs, Džila, Emma) un vārdus, kas saistīti ar melnādainiem mazuļiem (DeŠons, Darnels, Džermeina). Viņa atklāja, ka reklāmas, kas satur vārdu arests, tika rādītas blakus vairāk nekā 80 procentiem melno vārdu meklēšanas gadījumu, bet mazāk nekā 30 procentiem balto vārdu meklēšanas gadījumu.
Svīnijs pauž bažas, ka veidi, kā Google reklāmas tehnoloģija saglabā rasu aizspriedumus, var mazināt melnādainas personas izredzes piedalīties konkursā neatkarīgi no tā, vai tas ir par balvu, randiņu vai darbu.
Īpaši uzmanīgiem jābūt tādām jomām kā kreditēšana un kreditēšana, kas tradicionāli ir cietušas no plaši pazīstamas cilvēku diskriminācijas.
Tiešsaistes aizdevējs ZestFinance, kura pamatā ir ideja, ka mašīnmācības programmas var paplašināt to cilvēku skaitu, kuri tiek uzskatīti par kredītspējīgiem, apskatot desmitiem tūkstošu datu punktu, apgalvo, ka tas ir labi orientēts uz diskriminējošas kreditēšanas draudiem. Lai aizsargātos pret diskrimināciju, ZestFinance ir izveidojis rīkus, lai pārbaudītu savus rezultātus.
Taču pastāv risks, ka neatpazīta novirze ne tikai algoritma programmēšanā, bet pat tajā ieplūstošajos datos var netīšām pārvērst jebkuru programmu par diskriminatoru. Patērētājiem, kuri nevar izpakot šo programmu sarežģītību, būs grūti zināt, vai pret viņiem ir bijusi godīga attieksme.
Algoritms un uz datiem balstīti produkti vienmēr atspoguļos to cilvēku dizaina izvēles, kuri tos izveidoja, Benensons paskaidroja nesenajā izdevumā Technical.ly Brooklyn, un ir bezatbildīgi pieņemt pretējo.
(Lasīt vairāk : Wall Street Journal , Tehniski.ly Brooklyn , Blumbergs , AI paceļas [PDF])