Facebook radioaktīvie dati izseko attēlus, kas izmantoti AI apmācīšanai

Kategorija: Mākslīgais intelekts Ievietots 06. februāris

Ziņas: Facebook AI Research komanda ir izstrādājusi veidu lai precīzi izsekotu, kuri attēli datu kopā tika izmantoti, lai apmācītu mašīnmācības modeli. Veicot nemanāmus attēlus, izveidojot sava veida ūdenszīmi, viņi varēja veikt nelielas atbilstošas ​​izmaiņas veidu, kā darbojas attēlu klasifikators, kas apmācīts uz šiem attēliem, nemazinot tā vispārējo precizitāti. Tas ļāva viņiem vēlāk saskaņot modeļus ar attēliem, kas tika izmantoti viņu apmācīšanai.

Kāpēc tas ir svarīgi: Facebook šo paņēmienu sauc par radioaktīviem datiem, jo ​​tas ir analoģisks radioaktīvo marķieru izmantošanai medicīnā, kas organismā parādās rentgena staros. Izceļot, kādi dati ir izmantoti AI apmācīšanai, modeļi kļūst pārredzamāki, atzīmējot iespējamos novirzes avotus, piemēram, modeli, kas apmācīts nereprezentatīvai attēlu kopai, vai atklājot, kad datu kopa tika izmantota bez atļaujas vai neatbilstošiem nolūkiem.

Nekļūdieties: Liels izaicinājums bija mainīt attēlus, nesalaužot iegūto modeli. Nelieli mākslīgā intelekta ievades pielāgojumi dažkārt var novest pie tā, ka tas pieļauj muļķīgas kļūdas, piemēram, bruņurupuci identificē kā ieroci vai sliņķi kā sacīkšu automašīnu. Facebook noteikti izstrādāja ūdenszīmes tā, lai tas nenotiktu. Komanda pārbaudīja savu tehniku ​​​​ImageNet, plaši izmantotā datu kopā ar vairāk nekā 14 miljoniem attēlu, un atklāja, ka tie var noteikt radioaktīvo datu izmantošanu ar augstu ticamības pakāpi konkrētam modelim pat tad, ja ir atzīmēti tikai 1% attēlu.