Deepfake robots tiek izmantots, lai izģērbtu nepilngadīgas meitenes

Savka Jankoviča / EyeEm

Atjauninājums 28.10.: Kopš šī raksta publicēšanas dziļi viltotais robots pakalpojumā Telegram ir bloķēts operētājsistēmā iOS, jo tas pārkāpj App Store vadlīnijas. pēc pētnieku domām . Ir noņemts arī galvenais Telegram kanāls, kurā tika mitināts robots, un saistītais kanāls tā darbu kopīgošanai.

2019. gada jūnijā vice atklāja esamību satraucoša lietotne, kas izmantoja AI, lai izģērbtu sievietes. Ar nosaukumu DeepNude tas ļāva lietotājiem augšupielādēt apģērbtas sievietes fotoattēlu par 50 $ un atgūt viņas šķietami kailas fotoattēlu. Patiesībā programmatūra izmantoja ģeneratīvus pretrunīgus tīklus — dziļo viltojumu algoritmu, lai sieviešu apģērbu nomainītu pret ļoti reālistiskiem kailiem ķermeņiem. Jo trūcīgāk ģērbies upuris, jo labāk. Vīriešiem tas nedarbojās.

24 stundu laikā raksts Vice bija izraisījis tādu pretreakciju, ka lietotnes veidotāji ātri noņēma to . DeepNude Twitter konts paziņoja, ka citas versijas netiks izlaistas un neviens cits nevarēs piekļūt tehnoloģijai.

Bet a jauna izmeklēšana no Sensity AI (iepriekš Deeptrace Labs), kiberdrošības uzņēmums, kas koncentrējās uz manipulētu mediju ļaunprātīgas izmantošanas atklāšanu, tagad ir atklājis ļoti līdzīgu tehnoloģiju, ko izmanto publiski pieejams robots ziņojumapmaiņas lietotnē Telegram. Šoreiz tam ir vēl vienkāršāks lietotāja interfeiss: ikviens var nosūtīt robotam fotoattēlu, izmantojot mobilo vai tīmekļa lietotni, un dažu minūšu laikā saņemt atpakaļ kailu. Pakalpojums ir arī pilnīgi bezmaksas, lai gan lietotāji var maksāt 100 rubļu (aptuveni 1,50 ASV dolāru) bāzi par priekšrocībām, piemēram, ūdenszīmes noņemšanu no noņemtajiem fotoattēliem vai apstrādes rindas izlaišanu.

2020. gada jūlijā robots jau bija izmantots, lai mērķētu un atņemtu vismaz 100 000 sieviešu, no kurām lielākajai daļai, visticamāk, nebija ne jausmas. Parasti tās ir jaunas meitenes, saka Džordžo Patrīni, Sensity izpilddirektors un galvenais zinātnieks, kurš bija ziņojuma līdzautors. Diemžēl dažreiz ir arī acīmredzams, ka daži no šiem cilvēkiem ir nepilngadīgi.

Uzmākšanās spēlēšana

Deepfake robots, kas tika palaists 2019. gada 11. jūlijā, ir savienots ar septiņiem Telegram kanāliem, kuros kopā ir vairāk nekā 100 000 dalībnieku. (Šis skaitlis neņem vērā dalības dublikātus dažādos kanālos, taču galvenajā grupā vien ir vairāk nekā 45 000 unikālo dalībnieku.)

Centrālais kanāls ir veltīts paša robota mitināšanai, savukārt pārējie tiek izmantoti tādām funkcijām kā tehniskais atbalsts un attēlu koplietošana. Attēlu koplietošanas kanālos ir iekļautas saskarnes, ko cilvēki var izmantot, lai publicētu un spriestu par saviem kailajiem darbiem. Jo vairāk fotoattēls iepatīkas, jo vairāk tā veidotājs tiek apbalvots ar žetoniem, lai piekļūtu robota premium funkcijām. Patrīni saka, ka veidotājs saņems stimulu, it kā viņš spēlētu spēli.

Kopiena, kas ir viegli atrodama, izmantojot meklēšanu un sociālos saziņas līdzekļus, pēdējā gada laikā ir nepārtraukti pieaudzis dalībnieku skaits. Aptauja, kurā piedalījās 7200 lietotāju, liecina, ka aptuveni 70% no viņiem ir no Krievijas vai citām krievvalodīgajām valstīm. Tomēr šķiet, ka upuri nāk no plašāka valstu loka, tostarp Argentīnas, Itālijas, Krievijas un ASV. Lielākā daļa no tām ir privātpersonas, kuras bota lietotāji apgalvo, ka pazīst dzīvē vai atraduši vietnē Instagram. Pētnieki spēja identificēt tikai nelielu daļu sieviešu un mēģināja sazināties ar viņiem, lai izprastu viņu pieredzi. Neviena no sievietēm neatbildēja, saka Patrīni.

Pētnieki arī sazinājās ar Telegram un attiecīgajām tiesībaizsardzības iestādēm, tostarp FIB. Telegram neatbildēja ne uz viņu piezīmi, ne uz MIT Technology Review turpmāko komentāru pieprasījumu. Patrīni saka, ka viņi arī nav redzējuši nekādu taustāmu ietekmi uz šīm kopienām kopš sazināšanās ar iestādēm.

Dziļa atriebības pornogrāfija

Varmākas jau kādu laiku ir izmantojuši pornogrāfiskus attēlus, lai uzmāktos sievietēm. 2019. gadā mācības Amerikas Psiholoģijas asociācija atklāja, ka viena no 12 sievietēm kādā dzīves posmā kļūst par atriebības pornogrāfijas upuriem. Mācības Austrālijas valdība, aplūkojot Austrāliju, Apvienoto Karalisti un Jaunzēlandi, atklāja, ka šī attiecība ir viena no trim. Dziļi viltota atriebības pornogrāfija piešķir uzmākšanai pavisam jaunu dimensiju, jo upuri neapzinās, ka šādi attēli pastāv.

Ir arī daudzi gadījumi, kad dziļi viltojumi ir izmantoti, lai mērķētu uz slavenībām un citām augsta līmeņa personām. Šī tehnoloģija pirmo reizi kļuva populāra interneta dziļajos nostūros kā veids, kā slavenības apmainīt pret porno video, un tā tika izmantota kā daļa no uzmākšanās kampaņām, lai apklusinātu. sievietes žurnālistes . Patrīni saka, ka viņš ir runājis arī ar ietekmētājiem un YouTube lietotājiem, kuri ir sūtījuši viltotus pornogrāfiskus attēlus tieši viņu sponsoriem, radot viņiem milzīgu emocionālu un finansiālu spriedzi.

Patrīni ir aizdomas, ka šie mērķtiecīgie uzbrukumi varētu kļūt daudz sliktāki. Viņš un viņa kolēģi pētnieki jau ir redzējuši, kā tehnoloģija attīstās un izplatās. Piemēram, viņi atklāja vēl vienu vairāk nekā 380 lappušu ekosistēmu, kas veltīta nepārprotamu dziļu viltojumu izveidei un kopīgošanai Krievijas sociālo mediju platformā VK. (Pēc šī raksta publicēšanas VK pārstāvis nosūtīja MIT Technology Review paziņojumu: 'VK nepieļauj šādu saturu vai saites platformā un bloķē kopienas, kas tās izplata. Mēs veiksim papildu pārbaudi un bloķēsim nepiemērotu saturu un kopienām.') Pētnieki arī atklāja, ka izģērbšanās algoritmu sāk piemērot videoklipiem, piemēram, kadriem, kuros bikini modeļi staigā pa skrejceļu. Šobrīd algoritms ir jāpiemēro kadru pēc kadra — tas pašlaik ir ļoti elementārs, saka Patrīni. Bet esmu pārliecināts, ka cilvēki to pilnveidos un šim nolūkam arī izveidos licences pakalpojumu.

Diemžēl joprojām ir maz veidu, kā pārtraukt šāda veida darbību, taču apziņa par problēmām pieaug. Uzņēmumi, piemēram, Facebook un Google, un pētnieki, kas ražo rīkus dziļu viltojumu izveidei, ir sākuši nopietnāk ieguldīt tādos pretpasākumos kā automātiskā dziļo viltojumu noteikšanā. Pērn iepazīstināja arī ASV Kongress jauns rēķins kas radītu mehānismu, lai cietušie varētu vērsties tiesā par kaitējumu reputācijai.

Tikmēr Patrīni saka, ka Sensity turpinās izsekot un ziņot par šāda veida ļaunprātīgiem dziļiem viltojumiem, kā arī centīsies vairāk izprast to cilvēku motivāciju, kuri tos veido, un ietekmi uz upuru dzīvi. 'Patiesi, dati, ar kuriem mēs dalāmies šajā ziņojumā, ir tikai aisberga redzamā daļa,' viņš saka.

Atjauninājums: rakstam ir pievienots oficiālais paziņojums no Krievijas sociālo mediju platformas VK.

paslēpties