Kā neļaut AI atpazīt jūsu seju pašbildēs

Ms Tech | Atbrīvojieties no šļakatām

Personīgo fotoattēlu augšupielāde internetā var justies kā atlaišana. Kurš vēl varēs tiem piekļūt, ko viņi ar tiem darīs un kādus mašīnmācīšanās algoritmus tie palīdzēs apmācīt?

Uzņēmums Clearview jau ir apgādāja ASV tiesībaizsardzības iestādes ar sejas atpazīšanas rīku, kas apmācīts, izmantojot miljoniem cilvēku fotoattēlus, kas iegūti no publiskā tīmekļa. Bet tas, visticamāk, bija tikai sākums. Ikviens, kam ir pamata kodēšanas prasmes, tagad var izstrādāt sejas atpazīšanas programmatūru, kas nozīmē vairāk nekā jebkad agrāk tehnoloģiju ļaunprātīgas izmantošanas iespējas, sākot no seksuālas uzmākšanās un rasu diskriminācijas līdz politiskai apspiešanai un reliģiskai vajāšanai.

Saistīts stāsts

Tā mēs zaudējām kontroli pār savām sejām

Visu laiku lielākais sejas atpazīšanas datu pētījums parāda, cik lielā mērā dziļās mācīšanās pieaugums ir veicinājis privātuma zaudēšanu.

Vairāki AI pētnieki atkāpjas un izstrādā veidus, kā nodrošināt, ka AI nevar mācīties no personas datiem. Divi no jaunākajiem tiek prezentēti šonedēļ vadošajā AI konferencē ICLR.

Man nepatīk, ka cilvēki atņem no manis lietas, kuras viņiem nevajadzētu būt, saka Emīlija Vengere no Čikāgas universitātes, kas izstrādāja viens no pirmajiem instrumentiem, lai to izdarītu , saukta Fawkes, ar saviem kolēģiem pagājušajā vasarā: Man šķiet, ka daudziem no mums vienlaikus bija līdzīga ideja.

Datu saindēšanās nav jauns. Tādas darbības kā uzņēmumu datu dzēšana par jums vai piesārņojošu datu kopu izveide ar viltotiem piemēriem var apgrūtināt uzņēmumiem precīzu mašīnmācīšanās modeļu apmācību. Taču šie centieni parasti prasa kolektīvu rīcību, kurā piedalās simtiem vai tūkstošiem cilvēku, lai panāktu ietekmi. Atšķirība no šīm jaunajām metodēm ir tāda, ka tās strādā ar vienas personas fotoattēliem.

Šo tehnoloģiju indivīds var izmantot kā atslēgu, lai bloķētu savus datus, saka Sāra Erfani no Melburnas universitātes Austrālijā. Tā ir jauna aizsardzības līnija cilvēku digitālo tiesību aizsardzībai mākslīgā intelekta laikmetā.

Slēpjas redzamā vietā

Lielākā daļa rīku, tostarp Fawkes, izmanto to pašu pamata pieeju. Viņi veic nelielas izmaiņas attēlā, ko ir grūti pamanīt ar cilvēka aci, bet izmet AI, liekot tam nepareizi noteikt, kurš vai ko tas redz fotoattēlā. Šis paņēmiens ir ļoti tuvu savdabīgam pretinieku uzbrukumam, kurā nelielas ievades datu izmaiņas var piespiest dziļās mācīšanās modeļus pieļaut lielas kļūdas.

Uzdāviniet Foksam vairākus pašbildes, un tas attēliem pievienos pikseļu līmeņa traucējumus, kas neļauj modernajām sejas atpazīšanas sistēmām identificēt, kas ir fotoattēlos. Atšķirībā no iepriekšējiem veidiem, kā to izdarīt, piemēram, mākslīgā intelekta viltus sejas krāsas nēsāšanas, tas atstāj attēlus cilvēkiem šķietami nemainīgus.

Vengers un viņas kolēģi pārbaudīja savu rīku pret vairākām plaši izmantotām komerciālām sejas atpazīšanas sistēmām, tostarp Amazon AWS Rekognition, Microsoft Azure un Face++, ko izstrādājis Ķīnas uzņēmums Megvii Technology. Nelielā eksperimentā ar datu kopu, kurā bija 50 attēli, Fawkes bija 100% efektīvs pret visiem tiem, neļaujot modeļiem, kas apmācīti uz pielāgotiem cilvēku attēliem, vēlāk atpazīt šo cilvēku attēlus jaunos attēlos. Apkopotie treniņu attēli neļāva instrumentiem precīzi attēlot šo cilvēku sejas.

Saistīts stāsts

NYPD izmantoja pretrunīgi vērtētu sejas atpazīšanas rīku. Lūk, kas jums jāzina.

Nesen publicētie e-pasta ziņojumi liecina, ka Ņujorkas policija plaši izmanto pretrunīgi vērtēto Clearview AI sejas atpazīšanas sistēmu un sniedz par to maldinošus paziņojumus.

Fawkes jau ir lejupielādēts gandrīz pusmiljonu reižu no vietnes projekta vietne . Viens lietotājs ir arī izveidojis tiešsaistes versija , padarot to vēl vieglāk lietojamu (lai gan Vengers negarantēs, ka trešās puses izmantos kodu, brīdinājums: jūs nezināt, kas notiek ar jūsu datiem, kamēr šī persona tos apstrādā). Vēl nav tālruņa lietotnes, taču nekas neliedz kādam to izveidot, saka Vengers.

Fawkes var neļaut jaunajai sejas atpazīšanas sistēmai jūs atpazīt — piemēram, nākamajai Clearview. Taču tas nesabotēs esošās sistēmas, kas jau ir apmācītas izmantot jūsu neaizsargātos attēlus. Tomēr tehnoloģija visu laiku uzlabojas. Vengers domā, ka rīks, ko izstrādājusi Valērija Čerepanova un viņas kolēģi Merilendas Universitātē, viena no ICLR komandām šonedēļ, varētu risināt šo problēmu.

Zvanīja LowKey , rīks paplašina Fawkes, piemērojot traucējumus attēliem, kuru pamatā ir spēcīgāka veida pretinieku uzbrukums, kas arī apmāna iepriekš apmācītus komerciālus modeļus. Tāpat kā Fawkes, LowKey ir pieejams arī tiešsaistē .

Erfani un viņas kolēģi ir pievienojuši vēl lielāku pavērsienu. Kopā ar Danielu Ma no Dīkina universitātes un pētniekiem Melburnas Universitātē un Pekinas Universitātē Pekinā Erfani ir izstrādājis veidu, kā attēlus pārvērst par ' neapgūstamus piemērus ”, kas efektīvi liek AI pilnībā ignorēt jūsu pašbildes. Manuprāt, tas ir lieliski, saka Vengers. Fawkes apmāca modeli, lai uzzinātu par jums kaut ko nepareizu, un šis rīks apmāca modeli, lai tas neko par jums uzzinātu.

Manis attēli, kas nokasīti no tīmekļa (augšpusē), tiek pārvērsti par neapgūstamiem piemēriem (apakšā), kurus sejas atpazīšanas sistēma ignorēs. (Pateicība Sārai Erfani, Danielam Ma un kolēģiem)

Atšķirībā no Fawkes un tā sekotājiem, neuzzināmi piemēri nav balstīti uz pretinieku uzbrukumiem. Tā vietā, lai ieviestu izmaiņas attēlā, kas liek AI kļūdīties, Ma komanda pievieno nelielas izmaiņas, kas liek mākslīgajam intelektam to ignorēt apmācības laikā. Kad attēls tiek parādīts vēlāk, tā novērtējums par tajā esošo nebūs labāks par nejaušu minējumu.

Neapgūstami piemēri var izrādīties efektīvāki par pretinieku uzbrukumiem, jo ​​pret tiem nevar apmācīt. Jo vairāk AI redz pretrunīgus piemērus, jo labāk tas tos atpazīst. Taču, tā kā Erfani un viņas kolēģi vispirms pārtrauc AI apmācību par attēliem, viņi apgalvo, ka tas nenotiks ar neapgūstamiem piemēriem.

Tomēr Vengers ir samierinājies ar notiekošo cīņu. Viņas komanda nesen pamanīja, ka Microsoft Azure sejas atpazīšanas pakalpojums vairs nav viltots ar dažiem viņu attēliem. Viņa saka, ka tas pēkšņi kaut kā kļuva izturīgs pret mūsu ģenerētajiem attēliem. Mēs nezinām, kas noticis.

Iespējams, ka Microsoft ir mainījis savu algoritmu, vai arī AI vienkārši ir redzējis tik daudz attēlu no cilvēkiem, kuri izmantoja Fawkes, ka iemācījās tos atpazīt. Jebkurā gadījumā Vengera komanda pagājušajā nedēļā izlaida sava rīka atjauninājumu, kas atkal darbojas pret Azure. Viņa saka, ka šīs ir vēl vienas kaķa un peles bruņošanās sacensības.

Vengeram šis ir stāsts par internetu. Viņa saka, ka tādi uzņēmumi kā Clearview izmanto tos, ko viņi uzskata par brīvi pieejamiem datiem, un izmanto tos, lai darītu visu, ko vēlas.

Regulējums varētu palīdzēt ilgtermiņā, taču tas netraucēs uzņēmumiem izmantot nepilnības. Viņa saka, ka vienmēr būs atšķirība starp to, kas ir juridiski pieņemams, un to, ko cilvēki patiesībā vēlas. Tādi rīki kā Fawkes aizpilda šo plaisu.

Dosim cilvēkiem spēku, kura viņiem agrāk nebija, viņa saka.

paslēpties