IBM saka, ka vairs nedarbojas ar sejas atpazīšanu, jo tā tiek izmantota rasu profilēšanai

Kategorija: Mākslīgais intelekts Ievietots 09. jūnijs

Ziņas: IBM ir paziņojis, ka uzņēmums pārtrauks izstrādāt vai pārdot sejas atpazīšanas programmatūru, jo pastāv bažas, ka tehnoloģija tiek izmantota rasisma veicināšanai. Iekšā vēstule Kongresam IBM izpilddirektors Arvinds Krišna sacīja, ka tehnoloģiju gigants iebilst pret jebkādām tehnoloģijām, ko izmanto masveida novērošanai, rasu profilēšanai, kā arī cilvēktiesību un pamatbrīvību pārkāpumiem.

Viņš aicināja uz nacionālo dialogu par to, vai un kā ir lietderīgi sejas atpazīšanas tehnoloģiju izmantot vietējās tiesībaizsardzības iestādes. Vēstulē arī aicināts ieviest jaunus federālos noteikumus, lai apkarotu policijas pārkāpumus, un vairāk apmācību un izglītības pieprasītu prasmju iegūšanai, lai uzlabotu ekonomiskās iespējas krāsainiem cilvēkiem.

Nav jaunas bažas: Aktīvisti un eksperti gadiem ilgi ir norādījuši, ka sejas atpazīšanas sistēmas ir neobjektīvas, un pauž bažas par to. ļaunprātīgas izmantošanas iespējamība . Viņu bažas ir pamatotas: a nozīmīgs pētījums ASV Nacionālais standartu un tehnoloģiju institūts pagājušajā gadā apstiprināja, ka lielākā daļa sejas atpazīšanas algoritmu darbojas sliktāk uz nebaltām sejām.

Kā tas ir saņemts: IBM ir pirmais lielais tehnoloģiju uzņēmums, kas pilnībā atteicās no tehnoloģiju izstrādes. Lai gan ziņas ir plaši uztvertas pozitīvi tehnoloģiju darbinieki un jo īpaši kampaņas dalībnieki, kuri ir noraizējušies par sejas atpazīšanas izmantošanu, kritiķi ir norādījuši diez vai tas ir liels upuris, lai IBM aizietu no tirgus, kurā tas tik tikko varēja noturēties.

Neskatoties uz to, tas joprojām ir liels tehnoloģiju uzņēmums, kas ieņem neparasti stingru morālo nostāju par vienu no vispretrunīgākajām dienas tēmām. Tas ir īpaši savlaicīgi, ņemot vērā notiekošos protestus par policijas vardarbību un rasismu ASV un visā pasaulē. Taču nav skaidrs, vai tā paliks vienreizēja IBM veiktā izmaiņa vai solis, kas palīdz mudināt citus tehnoloģiju uzņēmumus rīkoties.