Kongress vēlas aizsargāt jūs no neobjektīviem algoritmiem, dziļiem viltojumiem un citiem sliktiem AI

Simona Nirona

Pagājušajā trešdienā ASV likumdevēji iepazīstināja ar a jauns rēķins kas ir viens no valsts pirmajiem lielākajiem centieniem regulēt AI. Visticamāk, ka būs vēl.

Tas liecina par dramatiskām izmaiņām Vašingtonas nostājā pret vienu no šī gadsimta jaudīgākajām tehnoloģijām. Tikai pirms dažiem gadiem politikas veidotājiem nebija lielas vēlmes regulēt AI. Tagad, tā kā sekas, ja tas netiek darīts, kļūst arvien taustāmākas, neliels Kongresa kontingents virzās uz plašāku stratēģiju, lai ierobežotu tehnoloģiju.

Lai gan ASV šajā darbā nav viena — Apvienotā Karaliste, Francija , Austrālija un citi ir nesen izstrādājuši vai pieņēmuši tiesību aktus, lai liktu tehnoloģiju uzņēmumiem atbildēt par saviem algoritmiem — valstij ir unikāla iespēja veidot AI globālo ietekmi kā Silīcija ielejas mājvietai. Problēma Eiropā ir tāda, ka mēs neesam AI attīstības līderi, saka Benderts Zevenbergens, bijušais padomnieks tehnoloģiju politikas jomā Eiropas Parlamentā un tagad Prinstonas universitātes pētnieks. Mēs daudzos veidos esam AI tehnoloģiju saņēmēji. Mēs noteikti esam otrajā līmenī. Pirmais līmenis ir ASV un Ķīna.

Jaunais likumprojekts, ko sauc par Algoritmiskās pārskatatbildības likumu, paredz, ka lielajiem uzņēmumiem ir jāpārbauda savas mašīnmācīšanās sistēmas, lai konstatētu neobjektivitāti un diskrimināciju, un laicīgi veiktu korektīvus pasākumus, ja šādas problēmas tiktu atklātas. Tas arī prasītu šiem uzņēmumiem pārbaudīt ne tikai mašīnmācīšanos, bet arī visus procesus, kas saistīti ar sensitīviem datiem, tostarp personiski identificējamu, biometrisko un ģenētisko informāciju, lai novērstu privātuma un drošības riskus. Ja likumprojekts tiktu pieņemts, regulējošās pilnvaras tiktu nodotas ASV Federālās tirdzniecības komisijas, kas ir atbildīga par patērētāju aizsardzību un pretmonopola regulējumu, rokās.

Tiesību akta projekts ir pirmais produkts daudzu mēnešu diskusijām starp likumdevējiem, pētniekiem un citiem ekspertiem, lai aizsargātu patērētājus no MI negatīvās ietekmes, saka Mutale Nkonde, Datu un sabiedrības pētniecības institūta pētniece, kas bija iesaistīta procesā. Tas nāk, reaģējot uz vairākām augsta līmeņa atklāsmēm pagājušajā gadā, kas liecina, ka daudzos kontekstos var būt tālejošas algoritma novirzes. Tajos ietilpst Amazon iekšējais darbā pieņemšanas rīks kas sodīja sievietes kandidātes; komerciālas sejas analīzes un atpazīšanas platformas, kas ir daudz mazāk precīzas tumšākām sievietēm nekā gaišākiem vīriešiem; un galvenokārt nesen Facebook reklāmu ieteikumu algoritms, kas, iespējams, saglabā diskrimināciju nodarbinātības un mājokļu jomā neatkarīgi no reklāmdevēja noteiktās mērķauditorijas.

Saistīts stāsts

Saistīts stāsts Neobjektivitāte var iezagties daudzos padziļinātās mācīšanās procesa posmos, un datorzinātņu standarta prakse nav paredzēta, lai to atklātu.

AI ētikas un pētniecības kopienas locekļi jau ir atzinīgi novērtējuši likumprojektu kā svarīgu un pārdomātu soli cilvēku aizsardzībai pret tik neparedzētu atšķirīgu ietekmi. Lielisks pirmais solis, rakstīja Endrjū Selbsts, Data & Society tehnoloģiju un tiesību zinātnieks Twitter . Būtu nepieciešama dokumentācija, novērtējums un mēģinājumi risināt paredzētās ietekmes. Tas ir jauns, aizraujošs un neticami nepieciešams.

Tas arī nebūs vienīgais solis. Nkonde saka, ka priekšlikums ir daļa no plašākas stratēģijas, lai nākotnē ieviestu regulatīvo uzraudzību visiem AI procesiem un produktiem. Viņa saka, ka drīzumā, visticamāk, tiks pieņemts vēl viens likumprojekts, lai novērstu dezinformācijas izplatību, tostarp viltojumus, kas apdraud nacionālo drošību. Vēl viens rēķins Otrdien ieviestā direktīva aizliedz manipulatīvas dizaina metodes, ko tehnoloģiju giganti dažkārt izmanto, lai panāktu, ka patērētāji atsakās no saviem datiem. Tas ir daudzpusīgs uzbrukums, saka Nkonde.

Katrs rēķins ir apzināti paplašināts, aptverot dažādus AI produktus un datu procesus dažādās jomās. Viens no Vašingtonas izaicinājumiem ir tāds, ka var izmantot tādu tehnoloģiju kā sejas atpazīšana krasi atšķirīgi mērķi dažādās nozarēs , piemēram, tiesībaizsardzības jomā, automobiļu rūpniecībā un pat mazumtirdzniecībā. No regulējuma viedokļa mūsu produkti ir specifiski nozarei, saka Nkonde. Regulatori, kas skatās uz automašīnām, nav tie paši regulatori, kas skatās uz publiskā sektora līgumu slēgšanu, kuri nav tie paši regulatori, kas skatās uz ierīcēm.

Kongress cenšas būt pārdomāts par to, kā pārveidot tradicionālo normatīvo regulējumu, lai pielāgotos šai jaunajai realitātei. Taču būs sarežģīti to izdarīt, neuzspiežot visiem piemērotu risinājumu dažādos kontekstos. Tā kā sejas atpazīšana tiek izmantota tik daudzām dažādām lietām, būs grūti pateikt: 'Šie ir sejas atpazīšanas noteikumi,' saka Zevenbergens.

Nkonde paredz, ka šī regulējošā kustība galu galā radīs jaunu biroju vai aģentūru, kas īpaši koncentrējas uz progresīvām tehnoloģijām. Tomēr ceļā būs lieli šķēršļi. Lai gan aizsardzība pret dezinformāciju un manipulatīva datu vākšana ir guvusi abu partiju atbalstu, algoritmiskās pārskatatbildības likumprojektu sponsorē trīs demokrāti, kas samazina iespēju, ka to pieņems republikāņu kontrolēts Senāts un parakstīs prezidents Tramps. Turklāt pašlaik tikai nedaudziem Kongresa locekļiem ir pietiekami dziļa tehniskā izpratne par datiem un mašīnmācīšanos, lai regulējumam pievērstos atbilstoši niansēti. Šīs idejas un priekšlikumi šobrīd ir sava veida niša, saka Nkonde. Jums ir šie trīs vai četri locekļi, kas tos saprot.

Bet viņa joprojām ir optimistiska. Daļa no stratēģijas virzības uz priekšu ietver vairāku locekļu izglītošanu par jautājumiem un viņu iesaistīšanu. Viņa saka, ka, izglītojot viņus par to, kas ir ietverts šajos rēķinos, un kad rēķini saņems atbalstītājus, viņi arvien vairāk pārvietosies centrā, līdz tehnoloģiju nozares regulēšana būs bezjēdzīga.

Šis stāsts sākotnēji parādījās mūsu Webby nominētajā AI informatīvajā izdevumā The Algorithm. Lai tas tiktu tieši piegādāts jūsu iesūtnē, reģistrējieties šeit bez maksas.

paslēpties