Jauns attēlu kopums, kas apmāna AI, varētu palīdzēt padarīt to drošāku pret hakeriem

fotogrāfija, kurā redzama sēne, spāre un vāvere, kas visi nepareizi marķēti kā kliņģeris, lūkas vāks un jūras lauva Unsplash: Florians Van Duins / Kšištofs Nīvolnijs / Pranijs Pareks

Mākslīgais intelekts lieliski spēj identificēt objektus attēlos, taču to joprojām ir diezgan viegli sajaukt. Pievienojiet dažus izvēlētus sitienus vai slāni kādam statiskam troksnim, kas nav redzams cilvēka acij, un jūs varat atslēgt attēlu atpazīšanas sistēmu, dažreiz radot nāvējošu efektu. Uzlīmju pievienošana apstāšanās zīmei var likt pašbraucošai automašīnai domāt, ka zīme ir, piemēram, 45 jūdzes stundā ātruma ierobežojums , savukārt uzlīmju pievienošana ceļam var likt Teslai izgriezties uz pretimbraucošās satiksmes joslu. (Labajā pusē tie paši paņēmieni var arī pasargāt jūs no novērošanas stāvokļa. Dažus laimē, bet daļu zaudē.)

Visi šie ir zināmi kā pretrunīgi piemēri, un pētnieki tagad cenšas izstrādāt veidus, kā aizsargāt AI sistēmas no tiem. Bet a papīrs pagājušajā gadā Google Brain un Princeton pētnieku grupa, tostarp viens no agrākajiem šīs tēmas pētniekiem Īans Gudfelovs, apgalvoja, ka jaunā stipendija ir pārāk teorētiska un palaida garām būtību.

Lai gan lielākā daļa pētījumu bija vērsta uz sistēmu aizsardzību pret īpaši izstrādātiem traucējumiem, viņi teica, ka hakeris, visticamāk, izvēlētos stingrāku rīku: pilnīgi atšķirīgu fotoattēlu, nevis trokšņa modeli, ko uzklāt uz esošā. Arī tas var izraisīt sistēmas nepareizu darbību.

Kritika pamudināja Denu Hendriksu, Kalifornijas Universitātes Bērklijas doktorantūras studentu, sastādīt jauna attēla datu kopa . Tajā ietvertos attēlus viņš sauc par dabiskiem pretrunīgiem piemēriem — bez īpašiem uzlabojumiem tie tik un tā apmāna sistēmu.

Tie ietver tādas lietas kā vāvere, ko izplatītas sistēmas nepareizi apzīmē kā jūras lauvu, vai spāre, ko tās nepareizi identificē kā kanalizācijas lūkas vāku. Viņš saka, ka pret šiem piemēriem ir daudz grūtāk aizsargāties. Sintētiskiem pretrunīgiem piemēriem ir jāzina visi AI sistēmas aizsardzības līdzekļi, lai tie būtu visefektīvākie. Turpretim dabiskie piemēri var darboties diezgan labi pat tad, ja šie aizsardzības līdzekļi mainās, viņš saka.

Hendrycks pagājušajā nedēļā Starptautiskajā mašīnmācības konferencē izlaida datu kopas agrīno versiju ar aptuveni 6000 attēliem. Viņš plāno pēc pāris nedēļām izdot galīgo versiju ar gandrīz 8000. Viņš plāno pētnieku kopienai izmantot datu kopu kā etalonu.

Citiem vārdiem sakot, nevis apmācīt attēlu atpazīšanas sistēmas tieši uz attēliem, bet gan tās vajadzētu rezervēt tikai testēšanai. Viņš saka, ka, ja cilvēki tikai apmācītu šo datu kopu, tas ir tikai šo piemēru iegaumēšana. Tas būtu datu kopas atrisināšana, bet ne uzdevums būt noturīgam pret jauniem piemēriem.

Loģikas uzlaušana, kas slēpjas pie dažkārt mulsinošajiem piemēriem radītajām kļūdām, var radīt elastīgākas sistēmas. Kā tas mulsina spāre gvakamole? Hendrikss joko. Nav pārāk skaidrs, kāpēc vispār tiek pieļauta kļūda.

paslēpties