Neētisku datu kopu dzēšana nav pietiekami laba

Ms Tech | Pixabay

2016. gadā, cerot veicināt sejas atpazīšanas attīstību, Microsoft izlaida pasaulē lielāko seju datubāzi. To sauc par MS-Celeb-1M, tajā bija 10 miljoni attēlu ar 100 000 slavenību sejām. Tomēr slavenība bija brīvi definēta.

Trīs gadus vēlāk pētnieki Ādams Hārvijs un Džūls Lapleiss izpētīja datu kopu un atrada daudzus parastus cilvēkus, piemēram, žurnālistus, māksliniekus, aktīvistus un akadēmiķus, kuri uztur klātbūtni tiešsaistē savas profesionālās dzīves laikā. Neviens nebija devis piekrišanu tikt iekļautam, un tomēr viņu sejas bija atradušas ceļu datubāzē un ārpus tās; pētījumus, izmantojot seju kolekciju, veica uzņēmumi, tostarp Facebook, IBM, Baidu un SenseTime, viens no lielākajiem Ķīnas sejas atpazīšanas gigantiem, kas pārdod savu tehnoloģiju Ķīnas policijai.

Neilgi pēc Hārvija un Lapleisa izmeklēšanas un pēc saņemšanas žurnālistu kritika , Microsoft noņēma datu kopu, vienkārši norādot: Pētniecības izaicinājums ir beidzies. Taču bažas par privātumu, ko tas radīja, uzkavējas interneta mūžīgajā zemē. Un šis gadījums diez vai ir vienīgais.

Attēlu un teksta meklēšana tīmeklī savulaik tika uzskatīta par izgudrojošu stratēģiju reālās pasaules datu vākšanai. Tagad tādi likumi kā GDPR (Eiropas datu aizsardzības regula) un pieaugošās sabiedrības bažas par datu privātumu un uzraudzību ir padarījuši šo praksi juridiski riskantu un nepiedienīgu. Rezultātā AI pētnieki arvien vairāk ir atsaukuši šādā veidā izveidotās datu kopas.

Bet jauns pētījums parāda, ka tas ir maz devis, lai problemātiskie dati netiktu izplatīti un netiktu izmantoti. Autori izvēlējās trīs no visbiežāk citētajām datu kopām, kas satur sejas vai cilvēkus, no kurām divas bija atsauktas; viņi izsekoja veidus, kā katrs tika kopēts, izmantots un atkārtoti izmantots gandrīz 1000 dokumentos.

MS-Celeb-1M gadījumā kopijas joprojām pastāv trešo pušu vietnēs un atvasinātajās datu kopās, kas izveidotas virs oriģināla. Arī atvērtā pirmkoda modeļi, kas iepriekš apmācīti uz datiem, joprojām ir viegli pieejami. Datu kopa un tās atvasinājumi tika citēti arī simtiem rakstu, kas publicēti no sešiem līdz 18 mēnešiem pēc atsaukšanas.

DukeMTMC — datu kopa, kurā ir attēli ar cilvēkiem, kuri staigā Djūka universitātes pilsētiņā un tika izņemti tajā pašā mēnesī, kad MS-Celeb-1M, līdzīgi saglabājas atvasinātajās datu kopās un simtiem papīra citātu.

To vietu saraksts, kurās tiek saglabāti dati, ir daudz plašāks, nekā mēs sākotnēji domājām, saka Kenijs Pengs, Prinstonas otrā kursa students un pētījuma līdzautors. Un pat tas, pēc viņa teiktā, iespējams, ir nepietiekami novērtēts, jo citāti pētniecības dokumentos ne vienmēr atspoguļo veidus, kā datus varētu izmantot komerciāli.

Aptracis

Daļa no problēmas, saskaņā ar Prinstonas dokumentu, ir tā, ka tie, kas apkopo datu kopas, ātri zaudē kontroli pār saviem darbiem.

Vienam mērķim izlaistas datu kopas var ātri izvēlēties citām, kuras sākotnējie veidotāji nekad nebija paredzējuši vai iedomājušies. Piemēram, MS-Celeb-1M bija paredzēts, lai uzlabotu slavenību sejas atpazīšanu, bet kopš tā laika tas ir izmantots vispārīgākai sejas atpazīšanai un sejas iezīmju analīzei, atklāja autori. Tas ir arī pārmarķēts vai atkārtoti apstrādāts atvasinātās datu kopās, piemēram, Racial Faces in the Wild, kas grupē attēlus pēc rases, paverot durvis pretrunīgiem lietojumiem.

Saistīts stāsts

Tā mēs zaudējām kontroli pār savām sejām

Visu laiku lielākais sejas atpazīšanas datu pētījums parāda, cik lielā mērā dziļās mācīšanās pieaugums ir veicinājis privātuma zaudēšanu.

Pētnieku analīze arī liecina, ka marķētās sejas savvaļā (LFW), datu kopa, kas tika ieviesta 2007. gadā un pirmā, kas izmanto sejas attēli, kas nokasīti no interneta , ir mainījies vairākas reizes gandrīz 15 gadu lietošanas laikā. Lai gan tas sākās kā resurss tikai pētniecībai paredzētu sejas atpazīšanas modeļu novērtēšanai, tagad to izmanto gandrīz tikai, lai novērtētu sistēmas, kas paredzētas lietošanai reālajā pasaulē. Tas notiek, neskatoties uz brīdinājuma etiķeti datu kopas vietnē, kas brīdina par šādu izmantošanu.

Pavisam nesen datu kopa tika atkārtoti izmantota atvasinājumā ar nosaukumu SMFRD, kas katram attēlam pievienoja sejas maskas, lai pandēmijas laikā veicinātu sejas atpazīšanu. Autori atzīmē, ka tas varētu radīt jaunus ētikas izaicinājumus. Privātuma aizstāvji ir kritizējuši šādus pieteikumus, piemēram, par novērošanas veicināšanu un jo īpaši par to, lai valdība varētu identificēt maskās tērptus protestētājus.

Šis ir patiešām svarīgs dokuments, jo cilvēku acis parasti nav bijušas atvērtas datu kopu sarežģītībai un iespējamajam kaitējumam un riskiem, saka Mārgareta Mičela, mākslīgā intelekta ētikas pētniece un atbildīgas datu prakses vadītāja, kura nebija iesaistīta pētījums.

Viņa piebilst, ka ilgu laiku AI kopienas kultūra ir bijusi pieņemt, ka dati ir izmantojami. Šis raksts parāda, kā tas var radīt problēmas. Viņa saka, ka ļoti svarīgi ir pārdomāt dažādās vērtības, ko datu kopa kodē, kā arī vērtības, kuras kodē pieejamā datu kopa.

Labojums

Pētījuma autori sniedz vairākus ieteikumus AI kopienai, kas virzās uz priekšu. Pirmkārt, veidotājiem būtu skaidrāk jāpaziņo par savu datu kopu paredzēto izmantošanu, izmantojot gan licences, gan detalizētu dokumentāciju. Viņiem vajadzētu arī noteikt stingrākus ierobežojumus piekļuvei saviem datiem, iespējams, pieprasot pētniekiem parakstīt līguma noteikumus vai lūgt viņiem aizpildīt pieteikumu, jo īpaši, ja viņi plāno izveidot atvasinātu datu kopu.

Otrkārt, pētniecības konferencēm ir jānosaka normas par to, kā dati ir jāapkopo, jāmarķē un jāizmanto, un tām jārada stimuli atbildīgai datu kopas izveidei. NeurIPS, lielākā AI pētniecības konference, jau ietver labākās prakses un ētikas vadlīniju kontrolsarakstu.

Mičels iesaka to virzīt vēl tālāk. Kā daļa no projekts BigScience , AI pētnieku sadarbība, lai izstrādātu AI modeli, kas var parsēt un ģenerēt dabisko valodu saskaņā ar stingriem ētikas standartiem, viņa ir eksperimentējusi ar ideju izveidot datu kopu pārvaldības organizācijas — cilvēku komandas, kas ne tikai nodarbojas ar pārvaldību, uzturēšanu, un izmantot datus, bet arī strādāt ar juristiem, aktīvistiem un plašāku sabiedrību, lai pārliecinātos, ka tie atbilst juridiskajiem standartiem, tiek vākti tikai ar piekrišanu, un tos var noņemt, ja kāds izvēlas atsaukt personas informāciju. Šādas pārvaldības organizācijas nebūtu vajadzīgas visām datu kopām, bet noteikti izkoptiem datiem, kas varētu saturēt biometrisku vai personu identificējošu informāciju vai intelektuālo īpašumu.

Viņa saka, ka datu kopu vākšana un uzraudzība nav vienreizējs uzdevums vienam vai diviem cilvēkiem. Ja darāt to atbildīgi, tas sadalās daudzos dažādos uzdevumos, kuriem nepieciešama dziļa domāšana, dziļas zināšanas un dažādi cilvēki.

Pēdējos gados joma ir arvien vairāk virzījusies uz pārliecību, ka rūpīgāk atlasītas datu kopas būs galvenais, lai pārvarētu daudzas nozares tehniskās un ētiskās problēmas. Tagad ir skaidrs, ka ar atbildīgāku datu kopu izveidi gandrīz nepietiek. Tiem, kas strādā AI, ir arī jāuzņemas ilgtermiņa saistības tos uzturēt un ētiski izmantot.

paslēpties