Datorredzes algoritmus joprojām ir pārāk viegli apmānīt

Kategorija: Mākslīgais intelekts Ievietots 20. decembris

AI attēlu atpazīšana ir panākusi dažus satriecošus panākumus, taču, kā liecina jauni pētījumi, sistēmas joprojām var sabojāt, izmantojot piemērus, kas nekad nemaldinātu cilvēku.

Labsix, MIT studentu grupa, kas nesen piemānīja Google izstrādāto attēlu klasifikatoru, lai domātu a 3-D drukāts bruņurupucis bija šautene , izlaida a papīrs trešdien kurā ir aprakstīta cita tehnika, kas varētu apmānīt sistēmas vēl ātrāk. Tomēr šoreiz viņiem izdevās piemānīt melno kasti, kurā viņiem bija tikai daļēja informācija par to, kā sistēma pieņem lēmumus.

Komandas jaunais algoritms sākas ar attēlu, ko tā vēlas izmantot, lai apmānītu citu sistēmu (piemērā no viņu papīra tas ir suns), un pēc tam sāk mainīt pikseļus, lai attēls vairāk izskatītos pēc avota attēla. šajā gadījumā slēpotāji. Darbojoties, pretinieku algoritms izaicina attēlu atpazīšanas sistēmu ar attēla versijām, kas ātri pārvietojas teritorijā, kuru ikviens cilvēks atpazītu kā slēpotāju (skatiet gif attēlu iepriekš). Taču visu laiku algoritms uztur tikai pareizo sabotēto pikseļu kombināciju, lai sistēma domātu, ka tā skatās uz suni.

Pētnieki pārbaudīja savu metodi, izmantojot Google Cloud Vision API — tas ir labs pārbaudes gadījums, daļēji tāpēc, ka Google nav publicējis neko par datora redzes programmatūras darbību vai pat visas etiķetes, ko sistēma izmanto attēlu klasificēšanai. Komanda saka, ka viņi līdz šim ir mēģinājuši tikai sabojāt Google sistēmu, taču viņu tehnikai vajadzētu darboties arī citās attēlu atpazīšanas sistēmās.

Pie tā strādā daudz pētnieku pretdarbība pretrunīgie piemēri kā šis, bet gan drošībai kritiskiem lietojumiem, piemēram, autonomie transportlīdzekļi , mākslīgajam intelektam neuzticēsies, kamēr pretinieku uzbrukumi nebūs neiespējami vai vismaz daudz grūtāk tos veikt.