211service.com
Microsoft izveido orākulu neobjektīvu AI algoritmu uztveršanai
Noun Project | Andrejs Kirma | Ms. Tech
Microsoft izstrādā rīku, lai automātiski identificētu novirzes dažādos AI algoritmos. Tas ir līdz šim drosmīgākais mēģinājums automatizēt negodīguma atklāšanu, kas var iezagties mašīnmācībā, un tas varētu palīdzēt uzņēmumiem izmantot AI, netīši nediskriminējot noteiktus cilvēkus.
Lielie tehnoloģiju uzņēmumi sacenšas, lai pārdotu gatavās mašīnmācības tehnoloģijas, kurām var piekļūt, izmantojot mākoni. Tā kā arvien vairāk klientu izmanto šos algoritmus, lai automatizētu svarīgus spriedumus un lēmumus, neobjektivitātes problēma kļūs izšķiroša. Tā kā neobjektivitāte var viegli iezagties mašīnmācības modeļos, veidi, kā automatizēt negodīguma noteikšanu, varētu kļūt par vērtīgu AI rīku komplekta sastāvdaļu.
Tādas lietas kā caurspīdīgums, saprotamība un skaidrojumi šajā jomā ir pietiekami jaunas, tāpēc tikai dažiem no mums ir pietiekama pieredze, lai zinātu visu, kas mums būtu jāmeklē, un visus veidus, kā mūsu modeļos var slēpties neobjektivitāte. Bagātā Karuna , Microsoft vecākais pētnieks, kurš strādā pie novirzes noteikšanas informācijas paneļa.
Algoritmiskā novirze rada arvien lielākas bažas daudziem pētniekiem un tehnoloģiju ekspertiem (skatiet Neobjektivitātes algoritmu pārbaude ). Tā kā svarīgu lēmumu automatizēšanai tiek izmantoti algoritmi, pastāv risks, ka neobjektivitāte var kļūt automatizēta, izplatīta mērogā un upuriem to būs grūtāk pamanīt.
Caruna saka, ka Microsoft aizspriedumu uztverošais produkts palīdzēs AI pētniekiem atklāt vairāk negodīguma gadījumu, lai gan ne visus. Protams, mēs nevaram sagaidīt pilnību — vienmēr būs kāda novirze, kas netiks atklāta vai ko nevar novērst — mērķis ir darīt tik labi, cik varam, viņš saka.
Vissvarīgākais, ko uzņēmumi šobrīd var darīt, ir izglītot savu darbaspēku, lai viņi apzinātos neskaitāmos veidus, kādos var rasties un izpausties neobjektivitāte, un radīt rīkus, lai modeļus būtu vieglāk saprast un novirzīt vieglāk atklāt, piebilst Karuna.
Facebook savā ikgadējā izstrādātāju konferencē 2. maijā paziņoja par savu rīku neobjektivitātes noteikšanai. Tā rīks ar nosaukumu Fairness Flow automātiski brīdina, ja algoritms pieņem negodīgu spriedumu par kādu, pamatojoties uz viņa rasi, dzimumu vai vecumu. Facebook saka, ka tai bija nepieciešama godīguma plūsma, jo arvien vairāk cilvēku uzņēmumā izmanto AI svarīgu lēmumu pieņemšanai.
Bin Ju UC Berkeley profesors saka, ka Facebook un Microsoft rīki, šķiet, ir solis pareizajā virzienā, taču ar to var nepietikt. Viņa ierosina, ka lielajiem uzņēmumiem vajadzētu likt ārējiem ekspertiem pārbaudīt savus algoritmus, lai pierādītu, ka tie nav neobjektīvi. Kādam citam ir jāizpēta Facebook algoritmi — tie nevar būt noslēpums visiem, Ju saka.